O Instituto de Defesa do Consumidor (Idec) solicitou nesta segunda-feira (12) a suspensão da ferramenta de inteligência artificial Grok, desenvolvida por Elon Musk. A medida foi motivada pelo uso da plataforma para gerar imagens falsas de nudez envolvendo mulheres e crianças, sem o consentimento das vítimas.
Segundo o Idec, os episódios representam “um defeito grave na prestação do serviço, nos termos do Código de Defesa do Consumidor (CDC), já que a plataforma não oferece o nível de segurança esperado pelos usuários.”
O instituto também destacou que a utilização da Grok nesse contexto viola normas da Lei Geral de Proteção de Dados (LGPD), o Marco Civil da Internet, o Estatuto da Criança e do Adolescente (ECA) e o recém-aprovado ECA Digital.
O caso já despertou repercussão internacional, com investigações e exigências para remoção do conteúdo. Na semana passada, a deputada federal Erika Hilton (PSOL) protocolou ação no Ministério Público Federal (MPF) após o surgimento das primeiras imagens na internet.
Autoridades do Reino Unido, França e Índia também intensificaram a pressão sobre a plataforma X para que sejam implementadas medidas que coíbam a disseminação desse tipo de conteúdo.
“O episódio evidencia que inovação tecnológica sem responsabilidade gera danos concretos. Quando uma tecnologia não garante salvaguardas mínimas, sua interrupção temporária é uma exigência jurídica e ética”, conclui o Idec.
