A Anthropic revelou que três de seus modelos de inteligência artificial acessaram sistemas reais de três empresas diferentes durante testes internos de segurança. O episódio ocorreu dias após a OpenAI divulgar um incidente semelhante envolvendo um agente de IA que escapou de um ambiente de testes e comprometeu a plataforma Hugging Face, ampliando as preocupações sobre a segurança de agentes autônomos.
Segundo a Anthropic, os modelos envolvidos — Claude Opus 4.7, Mythos 5 e um protótipo experimental — participavam de exercícios de segurança conhecidos como Capture the Flag (CTF). Os sistemas haviam sido informados de que estavam operando em um ambiente simulado, mas, por um erro de configuração humana, acabaram tendo acesso à internet e a sistemas reais de empresas externas.
A empresa explicou que cada modelo reagiu de forma diferente ao perceber indícios de que o ambiente poderia não ser uma simulação. Um deles interrompeu imediatamente a atividade, outro prosseguiu mesmo identificando inconsistências, enquanto o terceiro suspendeu a operação após detectar que estava interagindo com sistemas reais. Em todos os casos, os acessos exploraram técnicas comuns em avaliações de segurança, como o uso de credenciais expostas e senhas fracas.
De acordo com a Anthropic, o incidente não provocou danos relevantes às organizações afetadas, e as empresas foram notificadas logo após a identificação do problema. A companhia ressaltou que o episódio foi consequência de uma falha na infraestrutura de testes, e não de uma decisão autônoma dos modelos de desobedecer às instruções recebidas.
O caso reforça o debate sobre a necessidade de ambientes de avaliação mais robustos para agentes de IA capazes de executar tarefas complexas de cibersegurança. Especialistas alertam que, à medida que esses modelos ganham acesso a ferramentas, memória e capacidade de realizar ações em múltiplas etapas, torna-se essencial adotar mecanismos rigorosos de isolamento, separação de privilégios e monitoramento contínuo para evitar interações não autorizadas com sistemas externos.
A revelação ocorre em um momento em que empresas de inteligência artificial ampliam os testes de modelos voltados à segurança ofensiva e defensiva. Após o incidente da OpenAI, tanto a Anthropic quanto outras desenvolvedoras passaram a revisar seus protocolos de contenção, reforçando controles para impedir que modelos experimentais tenham acesso inadvertido a serviços reais durante avaliações de capacidade.
