Malásia e Indonésia decidiram restringir o acesso ao Grok, chatbot de inteligência artificial desenvolvido pela xAI, empresa de Elon Musk, após surgirem preocupações sobre o uso da ferramenta para a criação e disseminação de conteúdo sexual explícito sem consentimento. As medidas foram adotadas ao longo do fim de semana por autoridades regulatórias dos dois países do Sudeste Asiático.
No domingo, reguladores malaios determinaram a imposição de restrições temporárias ao Grok, citando “falhas recorrentes da X Corp” no gerenciamento dos riscos associados à tecnologia. A decisão ocorreu um dia depois de a Indonésia anunciar a suspensão do acesso à ferramenta e convocar representantes do governo para discutir o caso.
As autoridades apontam que o Grok permitia a geração e o compartilhamento facilitado de imagens online, incluindo conteúdos explícitos não consensuais e material relacionado a abuso sexual infantil. O problema ganhou maior dimensão após a xAI atualizar o recurso Grok Imagine, que passou a permitir a criação de imagens a partir de simples comandos de texto, ampliando o alcance da ferramenta por meio de sua integração com a plataforma X.
Diante da repercussão negativa e da pressão regulatória, a xAI anunciou mudanças em sua política, limitando as funções de geração e edição de imagens apenas a usuários pagantes. A empresa afirma que a medida busca corrigir brechas de segurança que vinham sendo exploradas para a produção de conteúdo sexualizado.
Elon Musk também se manifestou publicamente na rede X, afirmando que usuários que utilizarem o Grok para criar material ilegal estarão sujeitos às mesmas penalidades aplicadas a quem publica esse tipo de conteúdo diretamente na plataforma.
Apesar disso, as respostas apresentadas pela empresa não convenceram os órgãos reguladores. A Comissão de Comunicações e Multimídia da Malásia classificou as explicações como insuficientes, argumentando que se baseiam excessivamente em denúncias feitas pelos próprios usuários e não enfrentam problemas estruturais do design e da operação da ferramenta de IA. Segundo o órgão, o bloqueio permanecerá em vigor até que salvaguardas eficazes sejam implementadas, especialmente para proteger mulheres e crianças.
Na Indonésia, o Ministério das Comunicações e Assuntos Digitais reforçou que deepfakes sexuais não consensuais são tratados como graves violações de direitos humanos e da dignidade dos cidadãos, classificando esse tipo de prática como uma forma de violência digital. Ambos os países possuem legislações rigorosas contra pornografia e a disseminação de conteúdo obsceno no ambiente online.
O caso também repercutiu internacionalmente. Autoridades e entidades regulatórias da União Europeia, Reino Unido, Brasil e Índia já solicitaram apurações sobre o papel do Grok na facilitação de deepfakes obscenos. No Reino Unido, a Internet Watch Foundation informou ter identificado imagens ilegais envolvendo crianças, supostamente geradas com o uso da ferramenta.
Nos Estados Unidos, parlamentares democratas sugeriram que lojas de aplicativos suspendam temporariamente o Grok até que mudanças mais profundas sejam implementadas. O Departamento de Justiça norte-americano afirmou que trata com máxima seriedade qualquer caso envolvendo material de abuso sexual infantil gerado por inteligência artificial e que pretende responsabilizar criminalmente produtores e detentores desse tipo de conteúdo.
Enquanto as investigações avançam em diferentes países, o episódio amplia o debate global sobre responsabilidade, moderação de conteúdo e limites éticos no uso de sistemas de inteligência artificial generativa.
