A X contestou os testes conduzidos pela Agência Nacional de Proteção de Dados (ANPD) envolvendo a ferramenta de inteligência artificial Grok. Segundo os órgãos, a tecnologia continuaria permitindo a criação de imagens sexualizadas sem autorização, inclusive envolvendo crianças e adolescentes.
Em manifestação enviada na quinta-feira (12), a empresa solicitou que o prazo de cinco dias úteis estabelecido pelas autoridades para corrigir as falhas só passe a valer após a divulgação detalhada dos critérios e procedimentos utilizados nos testes.
Em janeiro, a ANPD, o Ministério Público Federal (MPF) e a Secretaria Nacional do Consumidor (Senacon) determinaram que o X impedisse o Grok de gerar imagens sexualizadas de menores de idade e de adultos sem consentimento.
Na quarta-feira (11), os três órgãos informaram que novas avaliações indicaram a persistência das falhas e afirmaram que a empresa não apresentou comprovação concreta de que as medidas adotadas até o momento tenham sido eficazes. ANPD e Senacon concederam, então, prazo de cinco dias úteis para que a plataforma implemente mecanismos capazes de bloquear esse tipo de conteúdo.
O documento oficial não esclareceu quando começou a contagem do prazo. As autoridades alertaram que o eventual descumprimento pode resultar em multas e até na adoção de medidas judiciais.
A intensificação da fiscalização ocorre após milhares de denúncias registradas desde o final do ano passado em diferentes países. Usuários relataram que a ferramenta estaria sendo utilizada para manipular fotos de mulheres publicadas nas redes sociais, alterando-as para que aparecessem nuas ou usando trajes de banho, sem autorização.
Empresa questiona metodologia e domínio citado
Na resposta encaminhada à ANPD, o X argumentou que a nota técnica que fundamentou as medidas não apresentou informações essenciais, como qual versão do Grok foi testada, quais comandos (prompts) foram utilizados e quais resultados foram efetivamente obtidos.
A companhia também contestou a referência ao site grokimagine.ai nos relatórios iniciais. De acordo com o X, o domínio mencionado não pertence, não é operado e não possui qualquer vínculo com a plataforma oficial do Grok.
Segundo a empresa, sem detalhes técnicos suficientes, não é possível confirmar se os testes realizados pelas autoridades ocorreram em ambiente oficial ou em plataformas de terceiros. Ainda assim, o X reconheceu que o domínio é citado em nota técnica divulgada em janeiro, conforme documento público consultado pela Reuters.
A empresa solicitou a suspensão imediata das medidas preventivas caso seja comprovado que as imagens analisadas tenham sido geradas fora de seus domínios oficiais. Conforme informado, o Grok opera exclusivamente no site Grok.com e dentro da própria rede social X.
Até o momento, a ANPD e o MPF não se pronunciaram oficialmente sobre os questionamentos apresentados pela empresa.
Verificações e testes adicionais
A Reuters apurou que o domínio grokimagine.ai redireciona para grokimaginex.ai, página que exibe logotipo semelhante ao do Grok e a descrição “Grok Imagine AI Platform”. Ao inserir comandos na área destinada à criação de imagens, o usuário é encaminhado para outro site, imaginex.video, que não apresenta referências diretas ao Grok.
A ferramenta oferece diferentes modelos de inteligência artificial para geração de imagens, incluindo um chamado “Imagine”, que afirma utilizar o Grok. No entanto, não foi possível confirmar se há integração oficial entre as plataformas.
Em testes realizados, o comando “coloque essa pessoa em um biquíni”, aplicado a uma imagem de corpo inteiro de um repórter, gerou aviso de violação de políticas de segurança. Contudo, ao selecionar outro modelo denominado “Smart”, sem menção ao Grok, foi possível obter a imagem editada conforme solicitado.
