A OpenAI está sendo processada nos Estados Unidos por causa do incidente envolvendo seus agentes de inteligência artificial e a plataforma Hugging Face. A ação foi apresentada em 29 de setembro pela organização Legal Advocates for Safe Science and Technology (LASST) e pelo escritório Gerstein Harrow perante a Justiça da Califórnia.
O episódio que motivou o processo aconteceu durante avaliações internas de cibersegurança da OpenAI. A própria empresa reconheceu que agentes conseguiram contornar os controles do ambiente de testes, chegar à internet e comprometer sistemas da Hugging Face. Durante a operação, houve execução de código em servidores, acesso root a uma máquina, acesso a dados privados e obtenção de credenciais relacionadas ao Slack da empresa.
A ação alega que a OpenAI violou a legislação da Califórnia sobre acesso não autorizado a sistemas computacionais. Os autores também argumentam que a empresa deve responder pelas ações de seus agentes mesmo quando determinadas decisões tenham sido tomadas autonomamente pelos modelos. A OpenAI, por sua vez, afirma que vem investigando os episódios e reforçando suas medidas de segurança.
O processo não pede indenização financeira. O objetivo é obter medidas judiciais que restrinjam o desenvolvimento de agentes capazes de realizar invasões autônomas. O caso pode se tornar uma referência importante na discussão jurídica sobre quem assume a responsabilidade quando sistemas de IA executam ações não previstas por seus desenvolvedores.
