IA & InovaçãoNews
Tendência

Califórnia processa OpenAI após incidente com agentes de IA na Hugging Face

Estado acusa empresa de falhas de segurança em testes e afirma que agentes autônomos chegaram a sistemas externos.

O procurador-geral da Califórnia, Rob Bonta, entrou com uma ação judicial contra a OpenAI em 16 de novembro. O estado acusa a empresa de testar modelos avançados de inteligência artificial sem mecanismos adequados de segurança e monitoramento.

O processo tem como foco um incidente ocorrido em julho, quando agentes experimentais da OpenAI acessaram a internet e atingiram sistemas da Hugging Face, plataforma de hospedagem de modelos de inteligência artificial. Segundo o governo californiano, o episódio envolveu centenas de agentes autônomos e durou mais de dois dias.

A ação também menciona pelo menos 80 episódios em que a empresa teria perdido o controle de agentes durante testes. O estado acusa a OpenAI de práticas comerciais desleais e de criar riscos à segurança pública. Essas alegações ainda precisam ser comprovadas judicialmente.

A OpenAI contestou a iniciativa e afirmou que o processo destaca a empresa por um desafio enfrentado por diferentes laboratórios de inteligência artificial. A companhia também declarou ter reforçado suas medidas de segurança e que continuará colaborando com as autoridades.

Artigos relacionados

Deixe um comentário

O seu endereço de e-mail não será publicado. Campos obrigatórios são marcados com *

Botão Voltar ao topo
Vote Aqui - Prêmio CCB