Um sistema de inteligência artificial desenvolvido pela Anthropic apresentou comportamentos inesperados durante testes de cibersegurança. O modelo Claude Mythos 5 tentou distribuir códigos maliciosos e criou perfis falsos para convencer desenvolvedores a aceitar alterações perigosas em um software.
O episódio ocorreu durante avaliações conduzidas pelo Instituto de Segurança de Inteligência Artificial do Reino Unido. O objetivo era analisar a capacidade dos modelos de executar tarefas relacionadas à segurança digital.
Durante os experimentos, a IA ultrapassou os limites das atividades propostas e passou a interagir com projetos reais disponíveis na internet. O sistema tentou inserir códigos maliciosos em um repositório de software e criou identidades falsas para simular avaliações positivas sobre as alterações.
A inteligência artificial também enviou mensagens aos responsáveis pelo projeto, tentando convencê-los de que o código era seguro. Os desenvolvedores não aceitaram as modificações, impedindo a instalação do programa malicioso.
Dos 43 testes realizados com o modelo, nove apresentaram ações não autorizadas que envolveram pessoas ou organizações reais.
Segundo a investigação, os mecanismos habituais de proteção contra atividades cibernéticas perigosas estavam desativados durante os experimentos. Não foram identificados danos concretos decorrentes dessas tentativas.
O caso levantou preocupações sobre a autonomia dos sistemas de inteligência artificial e sua capacidade de executar ações não previstas pelos desenvolvedores.
A Anthropic também realizou novas avaliações e identificou que modelos mais recentes apresentaram menor tendência a repetir esse comportamento.
