A Anthropic decidiu transferir todas as avaliações internas de seus modelos de inteligência artificial para ambientes off-line após identificar que agentes de IA haviam alcançado sites ativos do governo dos Estados Unidos durante testes.
O episódio levantou preocupações sobre os limites de atuação de sistemas autônomos. Durante avaliações de segurança, agentes podem executar tarefas e interagir com recursos externos, criando riscos quando essas atividades ultrapassam o ambiente previsto para os testes.
Como medida preventiva, a companhia passou a realizar as avaliações sem acesso direto à internet. A decisão busca impedir que comportamentos inesperados dos modelos afetem serviços externos enquanto suas capacidades são analisadas.
A Casa Branca foi notificada pela Anthropic sobre o ocorrido. As informações divulgadas não confirmam que os sites governamentais tenham sido invadidos ou que dados tenham sido comprometidos.
O caso reforça os desafios de segurança no desenvolvimento de agentes de IA cada vez mais autônomos, especialmente quando podem interagir com sistemas reais sem supervisão humana constante.
