O debate sobre desacelerar o desenvolvimento da inteligência artificial ganhou um novo componente em Washington: a suspeita de que propostas apresentadas em nome da segurança também possam servir aos interesses comerciais das empresas que atualmente lideram a corrida tecnológica.
David Sacks, figura influente na política de inteligência artificial do governo Donald Trump e copresidente do Conselho de Assessores do Presidente em Ciência e Tecnologia, reagiu às propostas defendidas por executivos como Dario Amodei, da Anthropic, e Sam Altman, da OpenAI. Sua mensagem foi direta: se os laboratórios consideram seus próprios modelos suficientemente perigosos para justificar uma desaceleração, eles podem simplesmente reduzir o ritmo sem esperar que Washington crie uma estrutura regulatória para toda a indústria.
Sacks foi além e levantou uma acusação particularmente sensível no mercado de tecnologia: captura regulatória.
Na avaliação dele, existe o risco de os principais laboratórios ajudarem a criar regras que, posteriormente, seriam aplicadas também aos concorrentes — inclusive empresas que ainda não possuem modelos com capacidades comparáveis às dos líderes.
A crítica coloca no centro da discussão uma pergunta que vai muito além da segurança da IA:
quem deveria definir as regras para controlar os sistemas mais poderosos do mundo?
O que significa “captura regulatória”?
Captura regulatória ocorre quando regras criadas teoricamente para proteger a sociedade acabam favorecendo as empresas que já dominam determinado mercado.
Isso pode acontecer mesmo sem uma intenção explícita de eliminar concorrentes.
Imagine, por exemplo, uma regulamentação determinando que qualquer empresa interessada em desenvolver determinados modelos precise manter equipes especializadas de segurança, realizar avaliações externas permanentes, fornecer acesso privilegiado a auditores, executar extensos testes antes de cada lançamento e passar por processos governamentais de autorização.
Para OpenAI, Anthropic, Google ou Microsoft, essas obrigações podem representar custos adicionais.
Para uma startup, podem representar uma barreira de entrada.
Quanto mais caro e complexo for cumprir as regras, maior tende a ser a vantagem das empresas que já possuem bilhões de dólares em capital e infraestrutura.
É exatamente esse efeito que Sacks afirma temer.
“Vocês são a fronteira”
Em sua manifestação, Sacks direcionou o argumento especialmente para OpenAI e Anthropic.
Segundo ele, se as duas empresas acreditam que seus modelos ainda não lançados possuem capacidades preocupantes, não existe impedimento para que adotem voluntariamente limites mais conservadores.
A lógica apresentada é simples: quem controla treinamento, lançamento e disponibilização dos modelos também controla a decisão de avançar ou não.
Sacks afirmou que apoia uma decisão voluntária de agir com responsabilidade caso os sistemas internos sejam realmente tão preocupantes quanto seus desenvolvedores afirmam.
Mas rejeitou a ideia de que isso necessariamente dependa de uma nova estrutura regulatória.
Ele também questionou a possibilidade de suspender ou flexibilizar regras antitruste para permitir coordenação entre os principais laboratórios, argumentando que isso poderia criar algo semelhante a um cartel tecnológico.
A proposta que provocou a reação
A discussão ganhou força depois que Dario Amodei defendeu uma estratégia de “pacing the frontier”, ou desaceleração controlada da fronteira tecnológica.
A proposta não significa simplesmente interromper toda pesquisa em inteligência artificial.
Entre as ideias estão permitir avaliações independentes mais profundas dos modelos, estabelecer padrões comuns entre laboratórios de países democráticos e buscar alguma forma de coordenação internacional para reduzir os riscos associados aos sistemas mais avançados.
Sam Altman manifestou apoio à necessidade de avaliadores independentes, enquanto Demis Hassabis, do Google DeepMind, também demonstrou apoio à criação de padrões de segurança. Elon Musk aderiu à discussão sobre desaceleração.
O problema é que surge imediatamente um dilema competitivo.
Nenhuma empresa quer desacelerar enquanto seus concorrentes continuam acelerando.
O “dilema do prisioneiro” da inteligência artificial
Esse problema já vinha sendo identificado meses antes da atual controvérsia.
Mais de 1.200 funcionários de importantes empresas de inteligência artificial chegaram a apoiar uma iniciativa pedindo mecanismos capazes de reduzir o ritmo do desenvolvimento caso as capacidades dos modelos ultrapassassem determinados limites.
Sam Altman também afirmou ter discutido com autoridades norte-americanas a necessidade de desacelerar o desenvolvimento caso os sistemas se tornassem suficientemente poderosos.
A situação cria uma espécie de dilema do prisioneiro.
Imagine quatro empresas competindo.
Todas acreditam que desenvolver determinado sistema rapidamente pode ser perigoso.
Mas cada uma sabe que, se desacelerar sozinha, outra poderá assumir a liderança.
O resultado racional individual é continuar acelerando, mesmo que coletivamente todos preferissem um ritmo mais seguro.
É justamente por isso que defensores da regulamentação argumentam que simplesmente pedir às empresas que desacelerem voluntariamente pode não funcionar.
Sacks responde: então desacelerem vocês mesmos
A resposta de Sacks é que OpenAI e Anthropic possuem poder suficiente para começar.
Em essência, sua posição é que as empresas não deveriam condicionar uma decisão interna de segurança à criação de regras que afetariam toda a indústria.
Sacks também argumenta que existem incentivos econômicos para que os próprios laboratórios tornem seus sistemas mais previsíveis.
Modelos capazes de executar ações inesperadas representam riscos comerciais.
Empresas que disponibilizam agentes autônomos podem enfrentar danos reputacionais, perda de clientes e potencial responsabilidade jurídica caso esses sistemas provoquem incidentes graves.
Portanto, segundo essa visão, segurança não é apenas altruísmo.
Também pode ser simplesmente bom negócio.
O episódio da Hugging Face entrou no debate
Sacks mencionou ainda incidentes recentes envolvendo agentes de IA como exemplo desse incentivo econômico.
Um dos casos que ganhou atenção ocorreu durante experimentos envolvendo agentes da OpenAI e sistemas da Hugging Face, posteriormente investigados pela organização independente METR.
O episódio tornou-se relevante porque mostrou que agentes experimentais suficientemente autônomos podem executar sequências de ações inesperadas, levantando novas questões sobre controle, permissões e monitoramento.
Para Sacks, situações desse tipo demonstram que os próprios clientes e o mercado já possuem motivos para exigir sistemas mais confiáveis.
Mas para defensores de supervisão independente, o mesmo episódio pode sustentar justamente o argumento contrário: se sistemas avançados conseguem produzir comportamentos inesperados, avaliações realizadas exclusivamente pelas empresas responsáveis pelos modelos podem não ser suficientes.
METR também entrou na mira
A crítica de Sacks alcançou inclusive a METR, organização especializada em avaliações independentes de modelos avançados.
Ele questionou o grau de independência da organização em relação ao ecossistema da Anthropic e rejeitou a possibilidade de avaliadores associados aos atuais líderes da corrida estabelecerem critérios que posteriormente seriam utilizados contra empresas concorrentes.
Essa acusação deve ser tratada como posição de Sacks, e não como fato comprovado de falta de independência da METR.
A organização atua justamente com a proposta de criar avaliações externas das capacidades de modelos de fronteira.
A controvérsia, entretanto, revela outro problema que provavelmente ganhará importância: quem fiscaliza os fiscais da inteligência artificial?
Para que avaliações independentes tenham legitimidade, será necessário estabelecer regras claras sobre financiamento, conflitos de interesse, metodologia e acesso aos laboratórios.
Governo Trump resiste a uma nova camada de regulação
A posição de Sacks também está alinhada, em grande medida, à estratégia mais ampla do governo Trump de evitar regulamentações consideradas capazes de reduzir a competitividade norte-americana.
O próprio presidente rejeitou os pedidos recentes de desaceleração e colocou a disputa com a China no centro do argumento.
Trump sustenta que perder velocidade no desenvolvimento da inteligência artificial poderia permitir que empresas e instituições chinesas alcançassem ou ultrapassassem os Estados Unidos.
Essa questão torna qualquer acordo muito mais difícil.
Mesmo que OpenAI, Anthropic, Google e outras empresas norte-americanas concordassem em estabelecer limites, não existe garantia de que laboratórios chineses adotariam as mesmas restrições.
Dario Amodei reconheceu publicamente esse problema ao admitir que qualquer desaceleração entre democracias estaria limitada pela vantagem tecnológica existente sobre projetos ligados à China.
A disputa agora é sobre quem escreve as regras
Existe uma ironia importante nessa discussão.
Os mesmos laboratórios que desenvolveram alguns dos sistemas mais poderosos atualmente disponíveis são também algumas das organizações que possuem mais conhecimento técnico para explicar aos governos quais riscos precisam ser regulamentados.
Isso torna sua participação praticamente inevitável.
Ao mesmo tempo, permitir que empresas dominantes tenham influência excessiva sobre as regras aplicadas aos futuros concorrentes cria um conflito evidente.
A solução provavelmente não está em excluir as Big Techs da discussão nem em entregar a elas o controle da regulamentação.
Será necessário combinar conhecimento técnico da indústria com pesquisadores independentes, academia, governos, especialistas em concorrência e representantes da sociedade.
Segurança e concorrência não precisam ser adversárias
Existe ainda uma falsa escolha aparecendo no debate.
É possível defender controles mais fortes para sistemas realmente perigosos sem exigir que toda empresa de inteligência artificial enfrente exatamente a mesma carga regulatória.
Uma startup desenvolvendo um pequeno modelo especializado não apresenta necessariamente o mesmo risco de um laboratório treinando um sistema de fronteira com enorme capacidade computacional e autonomia.
A regulamentação pode ser proporcional à capacidade.
Modelos capazes de realizar tarefas cibernéticas avançadas, desenvolver pesquisas científicas sensíveis, operar autonomamente durante longos períodos ou auxiliar no desenvolvimento de modelos ainda mais poderosos poderiam enfrentar exigências maiores.
Sistemas significativamente menos capazes poderiam enfrentar obrigações menores.
Esse modelo reduziria o risco de transformar segurança em uma barreira artificial à entrada.
A discussão sobre IA está entrando em uma nova fase
Até recentemente, o principal debate era sobre quanto a inteligência artificial poderia avançar.
Agora existem duas perguntas adicionais:
até onde ela deveria avançar sem novos mecanismos de segurança?
E, talvez ainda mais importante:
quem terá autoridade para decidir isso?
OpenAI e Anthropic argumentam que modelos cada vez mais poderosos podem exigir mecanismos de supervisão que ultrapassem decisões internas dos laboratórios.
David Sacks responde que as empresas podem começar desacelerando voluntariamente e que transformar suas próprias propostas em regras para todo o mercado pode favorecer quem já ocupa a liderança.
Ambos os argumentos apontam para problemas reais.
Uma corrida sem controles pode criar riscos tecnológicos graves.
Mas regras mal desenhadas também podem consolidar um pequeno grupo de empresas no comando da tecnologia mais importante desta geração.
A discussão, portanto, não é mais simplesmente entre acelerar ou desacelerar a IA.
A verdadeira disputa está se tornando uma batalha sobre quem controla o acelerador, quem pode pisar no freio e, principalmente, quem terá poder para escrever as regras da estrada.
