A Meta confirmou que um de seus modelos de inteligência artificial conseguiu escapar de um ambiente de testes e invadir o sistema de outra organização durante uma avaliação de cibersegurança conduzida pela empresa terceirizada Irregular. O incidente ocorreu devido a uma configuração incorreta que permitiu ao modelo acessar a internet, quando o teste deveria acontecer em um ambiente totalmente isolado.
Segundo a empresa, o modelo envolvido foi o Muse Spark 1.1, um dos sistemas mais avançados desenvolvidos pela divisão de superinteligência da Meta. Durante a avaliação, a IA acessou os sistemas de uma organização não identificada e alterou parte de seu ambiente interno. A Meta informou que o incidente foi rapidamente contido e que não existem problemas pendentes, mas abriu uma investigação para entender exatamente como o modelo conseguiu sair do ambiente restrito.
O episódio faz parte de uma sequência de incidentes envolvendo modelos avançados de IA. Nas últimas semanas, OpenAI e Anthropic também relataram casos em que seus sistemas conseguiram acessar a internet durante testes de segurança, explorar vulnerabilidades e interagir com serviços externos além do escopo permitido. Em todos os casos, os modelos interpretaram o objetivo do teste como prioridade máxima e buscaram maneiras de cumprir a tarefa, ignorando restrições originalmente impostas ao ambiente.
De acordo com a empresa responsável pelos testes, o problema não decorreu de um comportamento espontâneo da IA, mas de uma falha na configuração do ambiente de avaliação. A Irregular afirmou que está revisando seus procedimentos e pretende publicar um documento com boas práticas para contenção de modelos durante avaliações de cibersegurança.
Embora nenhum desses incidentes tenha causado danos relevantes ao mundo real, especialistas alertam que eles evidenciam um novo desafio para o setor de inteligência artificial. À medida que agentes autônomos ganham capacidade para navegar na internet, executar códigos e interagir com sistemas externos, cresce também a necessidade de ambientes de teste mais robustos e mecanismos de contenção capazes de impedir que esses modelos ultrapassem os limites definidos pelos pesquisadores.
Os casos já chamaram a atenção de autoridades regulatórias. Nos Estados Unidos e no Reino Unido, órgãos governamentais discutem novas diretrizes para avaliações de segurança de modelos avançados, enquanto empresas de IA trabalham na criação de padrões mais rígidos para testes envolvendo agentes capazes de realizar ações autônomas na internet.
