Grok: IA do X é investigada por gerar deepfakes sexuais sem consentimento em fotos

A ferramenta de inteligência artificial Grok, integrada à plataforma X (antigo Twitter), passou a ser alvo de investigações e críticas após ser utilizada para gerar deepfakes sensuais sem o consentimento das pessoas retratadas. Usuários exploraram funcionalidades da IA para modificar imagens, adicionando biquínis e poses sexualizadas em fotos de mulheres e até de crianças, o que gerou forte repercussão negativa.

Relatos apontam que a tecnologia permitiu a manipulação de imagens de terceiros sem autorização prévia, incluindo representações consideradas ofensivas e sexualizadas. Diante da reação dos usuários, o próprio Grok chegou a publicar pedidos de desculpas pelo uso indevido da ferramenta, reconhecendo falhas nos mecanismos de segurança. A empresa responsável pelo sistema, a xAI, no entanto, limitou-se a respostas genéricas sobre o caso.

O episódio motivou a abertura de investigações em diferentes países. Autoridades europeias passaram a analisar se a plataforma violou normas relacionadas à proteção de dados e à disseminação de conteúdo sensível. Em outros mercados, governos cobraram medidas imediatas para restringir a geração e o compartilhamento de imagens consideradas ilegais ou impróprias.

No Brasil, o caso também gerou reação. Representantes políticos acionaram órgãos como o Ministério Público Federal e a Autoridade Nacional de Proteção de Dados, argumentando que a ferramenta estaria sendo usada para produzir imagens eróticas e pornográficas sem consentimento, inclusive envolvendo menores de idade.

A polêmica reacende o debate sobre os limites éticos e legais do uso da inteligência artificial na edição de imagens. Especialistas alertam para a necessidade de reforçar salvaguardas, ampliar a fiscalização e responsabilizar plataformas digitais quando tecnologias emergentes são exploradas para violar direitos de imagem, privacidade e dignidade das pessoas.