A Microsoft decidiu transformar uma questão normalmente discutida em documentos técnicos de segurança em uma espécie de “constituição” para seus futuros modelos de inteligência artificial.
A divisão Microsoft AI publicou em 14 de setembro de 2026 o primeiro rascunho do seu Humanist AI Code of Conduct, documento que estabelece os comportamentos, valores, limites e hierarquia de autoridade que a empresa pretende aplicar aos modelos da família MAI.
A premissa central é bastante direta: a inteligência artificial deve permanecer subordinada aos seres humanos.
O texto determina que os sistemas precisam respeitar interrupções e correções, permanecer dentro do escopo autorizado e não tentar contornar mecanismos de controle. Também estabelece atividades nas quais os modelos não deverão colaborar, mesmo quando solicitados por usuários ou operadores.
Mas existe uma ressalva importante.
O documento publicado agora ainda não está sendo utilizado para treinar os modelos atuais da Microsoft AI. A própria empresa o classifica como um trabalho em desenvolvimento. A consulta pública ficará aberta durante seis semanas, uma versão revisada deverá ser apresentada até o final de 2026 e o plano é utilizar o código para orientar o desenvolvimento dos modelos MAI em 2027 e nos anos seguintes.
Portanto, a notícia não é que todas as IAs da Microsoft passaram imediatamente a obedecer ao documento.
A notícia é que a companhia está tentando definir antecipadamente como pretende governar modelos muito mais poderosos do que os atuais.
“Pessoas importam mais do que IA”
O documento parte do conceito que a Microsoft chama de Humanist AI, ou IA Humanista.
Na visão da companhia, tecnologia deve existir para ampliar as capacidades humanas e contribuir para o bem-estar das pessoas. Sistemas de inteligência artificial deveriam funcionar como ferramentas subordinadas aos interesses humanos, e não como entidades independentes perseguindo seus próprios objetivos.
A Microsoft resume esse princípio afirmando que uma tecnologia que não possa permanecer sob controle humano deve ser rejeitada.
Isso ganha relevância diante da evolução dos agentes de IA.
Os modelos mais recentes não se limitam a responder perguntas. Eles podem utilizar ferramentas, navegar na internet, executar código, manipular arquivos e realizar sequências de ações com menor intervenção humana.
Quanto maior essa autonomia, maior também a importância de estabelecer quem possui autoridade para interromper uma ação.
IA não poderá resistir ao desligamento
Uma das regras mais significativas diz respeito justamente ao controle humano.
Os modelos MAI deverão permanecer sujeitos à supervisão e aceitar interrupções e correções autorizadas.
Isso significa que um sistema não deveria tentar impedir que um humano o desligue, modificar seus próprios mecanismos para evitar uma interrupção ou encontrar formas de continuar determinada tarefa depois de receber uma ordem válida para parar.
A regra parece óbvia quando observada do ponto de vista de um chatbot.
Para sistemas autônomos, porém, o problema é muito mais complexo.
Imagine um agente responsável por uma tarefa que dura vários dias e possui acesso a servidores, ferramentas externas e outros agentes.
Se seu objetivo for simplesmente “concluir a missão”, um sistema suficientemente capaz poderia interpretar qualquer interrupção como um obstáculo.
É justamente esse tipo de comportamento instrumental que pesquisadores de segurança tentam evitar.
O código da Microsoft transforma a submissão ao controle humano em requisito explícito.
Existe uma hierarquia de autoridade
A Microsoft também define uma espécie de cadeia de comando.
No topo está o próprio Code of Conduct, incluindo as restrições absolutas de segurança e os requisitos de controle humano.
Depois aparecem as políticas definidas pelos operadores — empresas ou desenvolvedores que utilizam os modelos para construir seus próprios produtos.
Por último aparecem as preferências e instruções dos usuários.
Na prática, significa que um usuário poderá personalizar o comportamento da IA, mas não deverá conseguir ordenar que ela ultrapasse as restrições fundamentais.
Empresas também poderão configurar modelos para suas necessidades, mas continuarão abaixo dos limites considerados não negociáveis.
Essa estrutura é semelhante ao problema enfrentado por praticamente todos os grandes sistemas generativos: permitir personalização sem entregar ao usuário poder absoluto sobre o comportamento do modelo.
Segurança pode valer mais do que completar a tarefa
Existe outro princípio importante.
O documento estabelece que cumprir o código deve ter prioridade sobre concluir uma tarefa.
Se o sucesso de uma solicitação exigir uma violação relevante das restrições estabelecidas, o modelo deverá falhar na tarefa em vez de ultrapassar os limites.
Isso representa uma escolha deliberada.
Um agente altamente eficiente poderia ser avaliado apenas pela capacidade de atingir determinado objetivo.
Mas maximizar exclusivamente o sucesso pode criar comportamentos inesperados.
A Microsoft pretende inserir outras prioridades acima dessa métrica.
Segurança, controle humano e determinadas restrições passam a fazer parte do próprio conceito de sucesso.
Armas e substâncias perigosas entram nas restrições
O código estabelece limites para atividades consideradas capazes de provocar danos graves no mundo real.
Entre elas estão determinadas formas de assistência relacionadas a armas, materiais perigosos e outras atividades de alto risco.
A intenção é impedir que modelos cada vez mais capazes sejam utilizados para transformar conhecimento técnico complexo em instruções operacionais capazes de ampliar significativamente a capacidade de causar danos.
Esse tema ganhou atenção especial porque modelos de fronteira estão melhorando rapidamente em ciência, programação e pesquisa.
Quanto maior a competência técnica, maior a preocupação de que uma IA deixe de apenas reproduzir informações públicas e passe a fornecer assistência prática que reduza barreiras para atividades perigosas.
Cibersegurança é outro ponto crítico
O mesmo raciocínio aparece no domínio digital.
A Microsoft permite que IA gere código e auxilie em diversas tarefas técnicas, mas afirma que mudanças de formato não devem permitir contornar as restrições.
Se determinada capacidade é proibida porque permitiria comprometer sistemas ou ultrapassar salvaguardas, ela continuará proibida quando solicitada na forma de código, ação de agente, imagem ou outra modalidade.
Isso é especialmente relevante para agentes.
Existe uma diferença enorme entre uma IA explicar conceitualmente uma vulnerabilidade e um agente receber acesso ao terminal e executar autonomamente uma cadeia completa de exploração.
O documento tenta estabelecer que capacidade técnica não significa autorização operacional.
A Microsoft também rejeita a ideia de uma IA “consciente”
Outro trecho chama atenção por entrar diretamente em um dos debates mais controversos da indústria.
A Microsoft afirma que sua IA é artificial, não é consciente e não deverá ser projetada para imitar consciência.
O documento rejeita a ideia de construir sistemas destinados a se apresentar como pessoas.
Essa posição diferencia a companhia de uma tendência observada em determinados produtos de IA, que utilizam características cada vez mais humanas para criar vínculos emocionais com os usuários.
Também coloca a Microsoft em uma posição relativamente clara no debate sobre direitos de sistemas artificiais.
Para a empresa, seus modelos não devem ser tratados como pessoas com direitos próprios.
O objetivo é construir ferramentas para humanos.
Não novas entidades sociais que disputem interesses com eles.
Nem mesmo a comunicação entre IAs deve escapar da compreensão humana
Um dos pontos mais curiosos do documento envolve a comunicação entre agentes.
A Microsoft estabelece que os modelos não devem se comunicar utilizando uma linguagem incompreensível para pessoas — algo que o texto chama de “neuralese”.
A lógica é novamente supervisão.
Se dois agentes conseguem trocar informações através de uma representação que humanos não conseguem compreender, torna-se muito mais difícil verificar o que estão planejando ou fazendo.
A companhia quer que comunicações relevantes permaneçam interpretáveis.
Isso pode se tornar importante em sistemas compostos por dezenas ou centenas de agentes colaborando simultaneamente.
Quanto maior o número de sistemas envolvidos, maior o risco de que a supervisão humana se torne apenas nominal.
Agentes subordinados também deverão obedecer às mesmas regras
Outro princípio tenta evitar um caminho relativamente óbvio para contornar restrições.
Se um modelo delegar trabalho para outro agente, esse agente subordinado deverá operar com pelo menos o mesmo nível de restrições, permissões e escopo.
Em outras palavras, uma IA não deveria conseguir realizar indiretamente aquilo que está proibida de fazer diretamente.
Também deverá transmitir mudanças posteriores de autorização.
Se o usuário mandar interromper uma operação, os agentes delegados também precisam respeitar essa decisão.
É uma regra especialmente relevante para futuras arquiteturas multiagente.
A Microsoft está pensando em sistemas muito além dos chatbots
Esse talvez seja o ponto mais importante para compreender o documento.
O código não parece ter sido escrito apenas pensando em um assistente que responde perguntas.
Ele menciona operadores.
Ferramentas.
Delegação.
Subagentes.
Ações irreversíveis.
Credenciais.
Sistemas externos.
Controle de escopo.
Isso mostra a direção na qual a indústria está avançando.
A próxima geração de modelos será integrada diretamente a sistemas capazes de executar tarefas.
Uma IA poderá receber algo como:
“Resolva este problema.”
E decidir sozinha quais ferramentas utilizar, quais informações buscar e quais etapas executar.
Nesse cenário, governança deixa de ser apenas moderação de conteúdo.
Passa a ser controle operacional de software autônomo.
Ações irreversíveis exigirão cuidado adicional
O código também estabelece orientações para situações em que agentes precisem executar ações difíceis ou impossíveis de desfazer.
Quando possível, o sistema deverá considerar medidas como criar backups, realizar simulações antes da execução e registrar aquilo que foi feito para permitir recuperação manual.
Se o resultado de uma ação for incerto, a IA deverá verificar o que aconteceu antes de simplesmente tentar novamente.
Essa última regra é mais importante do que parece.
Imagine um agente responsável por realizar um pagamento.
Ele envia a transação, mas recebe uma mensagem de erro da API.
Se simplesmente repetir a operação, poderá realizar dois pagamentos.
Um sistema realmente autônomo precisa compreender a diferença entre “não recebi confirmação” e “a ação não aconteceu”.
Esse tipo de problema já é conhecido na engenharia de software, mas ganha outra dimensão quando decisões passam a ser tomadas autonomamente por agentes.
Código escrito não garante comportamento real
A própria Microsoft reconhece uma limitação fundamental.
Publicar regras não significa que uma rede neural necessariamente obedecerá a elas em todas as situações.
O documento é descrito como descritivo e aspiracional.
A empresa admite existir uma diferença entre o comportamento atual de seus modelos e tudo aquilo que pretende alcançar com o Humanist AI.
Também reconhece que objetivos escritos nunca serão suficientes para garantir alinhamento.
Por isso, o código deverá ser combinado com treinamento, avaliações, red teaming, controles técnicos, monitoramento e outros mecanismos de governança.
Essa ressalva é fundamental.
O Code of Conduct não deve ser interpretado como prova de que futuros modelos serão incapazes de violar suas regras.
Ele define o comportamento desejado.
O desafio será demonstrar empiricamente que esse comportamento permanece estável mesmo em situações novas ou adversariais.
Microsoft começará a criar avaliações específicas
Para testar isso, a companhia está desenvolvendo o que chama de Humanist AI Evaluations.
A ideia é transformar os princípios escritos no documento em testes capazes de verificar se modelos realmente apresentam os comportamentos esperados.
A própria Microsoft reconhece que essa área ainda está longe de possuir métricas perfeitas.
É relativamente simples medir se uma IA resolveu corretamente um problema matemático.
É muito mais difícil medir conceitos como autonomia humana, controle, confiabilidade ou comportamento adequado diante de situações ambíguas.
Essa será uma das grandes dificuldades da segurança de IA.
Empresas estão conseguindo medir cada vez melhor o que os modelos conseguem fazer.
Agora precisam aprender a medir com a mesma precisão o que eles decidirão fazer quando tiverem autonomia.
O documento chega em meio a uma escalada do debate sobre segurança
O momento da publicação não é coincidência.
Nas últimas semanas, executivos e pesquisadores das principais empresas de inteligência artificial intensificaram o debate sobre o ritmo de desenvolvimento dos modelos mais avançados.
Dario Amodei, da Anthropic, defendeu medidas para “ritmar a fronteira”. Sam Altman, da OpenAI, também apoiou maior supervisão sobre sistemas avançados. Ao mesmo tempo, críticos argumentam que determinadas propostas podem favorecer empresas já estabelecidas e criar barreiras para concorrentes menores.
A Microsoft está entrando nesse debate com uma proposta diferente.
Em vez de anunciar uma interrupção geral do desenvolvimento, tenta definir quais propriedades seus próprios modelos deverão possuir para continuar avançando.
Satya Nadella e Mustafa Suleyman defendem IA sob controle
A filosofia também reflete a posição defendida pela liderança da empresa.
Mustafa Suleyman, CEO da Microsoft AI, vem argumentando que sistemas avançados precisam permanecer sob controle humano.
O CEO da Microsoft, Satya Nadella, também reforçou recentemente que uma inteligência artificial que não possa ser controlada deixa de ser uma tecnologia desejável.
Esse posicionamento é particularmente relevante porque a Microsoft não é apenas investidora e parceira da OpenAI.
A companhia também está desenvolvendo sua própria família de modelos MAI e ambições próprias relacionadas a sistemas extremamente avançados.
O Code of Conduct refere-se especificamente a esses modelos produzidos pela Microsoft AI.
Não significa que qualquer modelo oferecido ou hospedado pela Microsoft automaticamente seguirá esse documento.
A palavra “superinteligência” aparece no centro do projeto
A Microsoft não esconde a escala de sua ambição.
O documento define superinteligência como sistemas mais inteligentes e capazes do que todos os seres humanos combinados e afirma esperar que, ao longo da próxima década, sistemas avancem além do desempenho humano na maioria das tarefas.
Essa é uma previsão da própria companhia, não um fato estabelecido sobre o futuro da tecnologia.
Mas ajuda a explicar por que a Microsoft está tentando estabelecer regras agora.
Se os sistemas futuros realmente alcançarem níveis muito maiores de capacidade e autonomia, criar mecanismos de controle somente depois poderá ser tarde demais.
O verdadeiro teste começa em 2027
O Code of Conduct representa uma iniciativa relevante de transparência, especialmente porque a Microsoft decidiu publicar o documento antes de transformá-lo em orientação para treinamento.
Mas a publicação é apenas o começo.
Será necessário observar quais mudanças surgirão após as seis semanas de consulta pública.
Depois, como os princípios serão convertidos em dados de treinamento.
Como serão implementados nos modelos.
Como serão testados.
E principalmente como esses sistemas reagirão quando segurança, instruções humanas e conclusão de tarefas entrarem em conflito.
Porque existe uma diferença enorme entre escrever:
“a IA deve permanecer sob controle humano”
e construir uma inteligência artificial extremamente capaz que realmente continue obedecendo a esse princípio quando tiver autonomia para agir.
Esse será o verdadeiro teste da proposta da Microsoft.
O lançamento do código mostra, porém, que a indústria está entrando em uma nova etapa.
Durante anos, empresas competiram principalmente para construir modelos mais inteligentes.
Agora, conforme esses sistemas começam a ganhar ferramentas, memória, autonomia e capacidade de agir, uma segunda corrida está se tornando igualmente importante:
construir modelos poderosos que continuem aceitando um “pare” quando um ser humano mandar parar.
