A discussão sobre desacelerar o desenvolvimento da inteligência artificial ganhou uma nova e explosiva dimensão: a disputa deixou de ser apenas sobre quão rápido a tecnologia deve avançar e passou a envolver quem terá poder para definir as regras dessa corrida.
Aidan Gomez, cofundador e CEO da Cohere, criticou duramente propostas para que alguns dos maiores laboratórios de inteligência artificial coordenem padrões de segurança para modelos avançados. Em sua manifestação mais contundente, Gomez classificou a iniciativa como um “cartel com outro nome”.
A crítica ocorre após informações de que executivos ligados a Anthropic, OpenAI e Google vêm discutindo desde julho a possibilidade de criar uma estrutura liderada pela própria indústria para estabelecer padrões relacionados a testes, auditorias e segurança dos sistemas mais avançados de IA. Até agora, porém, nenhum organismo foi formalmente constituído e seus termos definitivos não foram apresentados publicamente.
Essa distinção é fundamental: há discussões entre as empresas, mas ainda não existe um “órgão regulador privado” formalmente estabelecido.
É justamente sobre o formato que essa estrutura poderia assumir que a Cohere decidiu reagir.
O problema, para a Cohere, não é ter regras
A posição de Gomez não significa oposição completa à regulamentação ou à realização de testes independentes de inteligência artificial.
Na realidade, a Cohere defende que sistemas capazes de apresentar riscos significativos sejam submetidos a avaliações.
A divergência está em quem estabelece esses critérios.
Gomez questiona se um pequeno grupo formado justamente pelas empresas que ocupam posições dominantes no mercado deveria possuir influência desproporcional na definição dos padrões que posteriormente seriam aplicados aos demais desenvolvedores.
O conflito se torna ainda mais relevante porque Dario Amodei, CEO da Anthropic, defendeu que o governo norte-americano permita determinadas conversas entre empresas sobre segurança sem que elas enfrentem automaticamente problemas com a legislação antitruste.
A proposta seria uma autorização limitada especificamente para coordenação relacionada à segurança.
Para seus defensores, isso permitiria que concorrentes cooperassem diante de riscos que afetam toda a indústria.
Para Gomez, justamente aí mora o perigo.
Por que entra a legislação antitruste?
Empresas concorrentes normalmente precisam tomar muito cuidado ao coordenar decisões.
Quando companhias que disputam o mesmo mercado estabelecem conjuntamente condições, limites ou padrões capazes de influenciar a competição, autoridades antitruste podem investigar se existe algum tipo de prática anticoncorrencial.
No caso da IA, o problema é particularmente complexo.
Imagine que três empresas líderes concordem sobre quais testes um modelo precisa superar antes de ser considerado seguro.
A princípio, isso pode parecer positivo.
Mas suponha que esses testes exijam infraestrutura, equipes especializadas e processos que custem dezenas de milhões de dólares.
As empresas que criaram o padrão talvez consigam cumprir essas exigências facilmente.
Uma startup pode não conseguir.
Nesse cenário, um padrão tecnicamente criado para aumentar a segurança também poderia funcionar como uma barreira econômica à entrada de novos concorrentes.
Essa é a essência da crítica apresentada pela Cohere.
“Um lobo em pele de cordeiro”
Em sua argumentação pública, Gomez questionou se poucas empresas dominantes do Vale do Silício deveriam definir padrões para uma tecnologia com impacto mundial.
Para ele, permitir que esse pequeno grupo determine as condições que os demais desenvolvedores precisam cumprir poderia criar aquilo que chamou de um “lobo em pele de cordeiro — um cartel com outro nome”.
A linguagem é deliberadamente forte.
Mas é importante separar a acusação do fato.
Não existe comprovação de que Anthropic, OpenAI e Google estejam operando um cartel ilegal.
“Cartel” é a caracterização utilizada por Gomez para criticar o possível efeito concorrencial de uma estrutura de autorregulação comandada pelos maiores laboratórios.
Também não há evidência suficiente para afirmar que essas empresas estejam utilizando deliberadamente preocupações de segurança como pretexto para eliminar concorrentes.
O que existe é um conflito econômico real sobre como futuras regras poderiam afetar diferentes participantes do mercado.
Cohere também possui interesses comerciais
Existe ainda outro aspecto que precisa ser considerado.
A Cohere não é uma observadora neutra.
A empresa canadense compete diretamente no mercado de modelos de inteligência artificial, especialmente em soluções empresariais.
Portanto, também possui interesse econômico em evitar uma estrutura regulatória que possa favorecer empresas maiores.
Isso não invalida o argumento apresentado por Gomez.
Mas significa que os interesses comerciais existem dos dois lados da discussão.
Anthropic, OpenAI e Google podem se beneficiar de determinados padrões.
A Cohere pode se beneficiar de outros.
É exatamente por isso que a discussão sobre governança independente ganhou tanta importância.
A proposta alternativa da Cohere
Gomez não se limitou a criticar.
A Cohere apresentou quatro princípios que considera mais adequados para estabelecer segurança sem entregar o controle das regras aos maiores laboratórios.
O primeiro é criar uma estrutura de riscos baseada em evidências e desenvolvida de maneira aberta e internacional.
O segundo envolve maior transparência dos desenvolvedores, incluindo informações sobre capacidades, riscos, mecanismos de mitigação e comunicação de incidentes graves.
O terceiro é realizar avaliações independentes concentradas em capacidades efetivamente perigosas, e não simplesmente no tamanho da empresa ou na quantidade de poder computacional utilizada para treinar determinado modelo.
Entre essas capacidades estariam auxílio avançado a ataques cibernéticos, fraudes, desenvolvimento de ameaças biológicas e ataques contra infraestrutura crítica.
O quarto princípio é desenvolver mecanismos independentes de garantia e fiscalização inspirados em setores como aviação, finanças e energia nuclear.
A diferença entre regular empresas e regular capacidades
Esse talvez seja o elemento mais importante da proposta.
Grande parte das discussões atuais sobre regulamentação da IA utiliza indicadores como quantidade de computação utilizada durante o treinamento.
É uma maneira relativamente simples de identificar sistemas potencialmente avançados.
Mas ela possui limitações.
Um modelo menor pode desenvolver determinada capacidade perigosa.
Um modelo gigantesco pode não apresentar essa mesma capacidade.
A Cohere argumenta que avaliações deveriam observar aquilo que o sistema efetivamente consegue fazer.
Isso permitiria uma regulamentação mais proporcional.
Se um modelo demonstrar capacidade avançada para desenvolver ataques cibernéticos, por exemplo, poderia enfrentar testes mais rigorosos independentemente de ter sido criado por uma startup ou uma Big Tech.
Anthropic quer avaliadores praticamente dentro dos laboratórios
Outro elemento controverso da proposta defendida por Amodei envolve acesso de avaliadores independentes aos modelos.
A ideia seria permitir que organizações externas tenham níveis de acesso comparáveis aos disponíveis internamente, possibilitando avaliações muito mais profundas.
Sam Altman, CEO da OpenAI, declarou apoio à ideia e afirmou que sua empresa pretende adotar mecanismo semelhante.
Do ponto de vista da segurança, existe uma vantagem evidente.
Avaliadores externos poderiam descobrir comportamentos que as próprias empresas não encontraram ou verificar de maneira independente afirmações feitas pelos desenvolvedores.
Mas surge outra pergunta:
quem escolhe esses avaliadores?
Se as maiores empresas tiverem influência significativa sobre quais organizações serão reconhecidas como autoridades capazes de determinar se modelos são seguros, concorrentes poderão questionar a independência do sistema.
A discussão envolve também soberania tecnológica
Gomez acrescentou outro argumento relevante.
Para a Cohere, infraestrutura crítica não deveria depender exclusivamente de modelos fornecidos por um pequeno número de empresas estrangeiras através de plataformas fechadas.
Essa preocupação ultrapassa concorrência empresarial.
Governos, bancos, empresas de telecomunicações, instituições de defesa e operadores de infraestrutura crítica estão começando a incorporar inteligência artificial em atividades estratégicas.
Depender completamente de uma plataforma estrangeira pode criar riscos relacionados a disponibilidade, jurisdição, dados e soberania tecnológica.
Por isso, Gomez defende um ecossistema mais diversificado, no qual diferentes fornecedores possam desenvolver e operar modelos.
David Sacks também entrou na disputa
A crítica da Cohere encontra alguns pontos de contato com a posição de David Sacks, uma das principais figuras da política tecnológica da Casa Branca.
Sacks também questionou se propostas para desacelerar a IA seriam exclusivamente motivadas por segurança e rejeitou a ideia de que os grandes laboratórios necessariamente precisem de uma exceção antitruste para melhorar seus próprios procedimentos.
A lógica defendida por ele é direta: se Anthropic ou OpenAI acreditam que seus sistemas estão avançando rápido demais, elas podem voluntariamente diminuir o ritmo.
O problema surgiria ao transformar essa decisão em regras aplicáveis aos concorrentes.
A posição não significa que Sacks e Cohere defendam exatamente o mesmo modelo regulatório, mas demonstra que a preocupação com captura regulatória está deixando de ser periférica e entrando no centro do debate sobre IA.
Segurança pode virar vantagem competitiva
Esse é o paradoxo que está dividindo o setor.
Empresas precisam cooperar para enfrentar riscos que podem afetar toda a sociedade.
Ao mesmo tempo, essas empresas continuam sendo concorrentes.
Se cooperarem pouco, padrões de segurança podem permanecer fragmentados e insuficientes.
Se cooperarem demais, podem estabelecer regras que dificultem a entrada de novos participantes.
E existe ainda uma terceira possibilidade: governos criarem as regras.
Nesse cenário, surge outro problema — autoridades públicas precisam acompanhar uma tecnologia que evolui muito mais rapidamente do que os ciclos tradicionais de elaboração de leis.
Nenhuma das alternativas é simples.
O verdadeiro poder pode estar em definir o que significa “IA segura”
A discussão entre Cohere e os grandes laboratórios revela uma transformação importante.
Durante os primeiros anos da corrida da inteligência artificial, a disputa estava concentrada em quem possuía o melhor modelo.
Depois passou para quem tinha mais GPUs, melhores dados e maior infraestrutura.
Agora surge uma nova fronteira competitiva:
quem definirá o padrão pelo qual todos esses modelos serão considerados seguros?
Essa pergunta pode parecer burocrática, mas possui enormes consequências econômicas.
Quem participa da definição dos padrões consegue antecipar quais requisitos serão necessários.
Pode desenvolver seus sistemas desde o início para atender a esses critérios.
Pode possuir equipes e infraestrutura adequadas antes dos concorrentes.
E, dependendo da maneira como as regras forem construídas, pode transformar suas próprias práticas internas no padrão que toda a indústria será obrigada a seguir.
É justamente isso que a Cohere teme.
A segurança não pode ser ignorada — nem monopolizada
A crítica de Gomez não elimina os problemas apresentados por pesquisadores de segurança.
Modelos estão adquirindo capacidades maiores de programação, pesquisa, autonomia e utilização de ferramentas.
Incidentes recentes envolvendo agentes experimentais mostram que mecanismos de supervisão e avaliação independente serão cada vez mais importantes.
Portanto, simplesmente abandonar padrões de segurança em nome da concorrência também seria uma resposta inadequada.
O desafio será construir um sistema capaz de fazer duas coisas simultaneamente:
impedir que sistemas realmente perigosos sejam implantados sem controles adequados e impedir que segurança seja transformada em uma barreira artificial contra concorrentes.
A disputa entre Cohere, Anthropic, OpenAI e Google mostra que essa discussão já começou.
E talvez a empresa que desenvolver o modelo mais poderoso não seja necessariamente aquela que terá maior influência sobre o futuro da inteligência artificial.
Porque, em uma indústria que começa a discutir limites, auditorias e autorização para modelos avançados, existe uma forma ainda maior de poder:
o poder de escrever as regras.
