A Advocacia-Geral da União (AGU) enviou uma notificação extrajudicial à empresa Meta — responsável pelas plataformas Facebook, Instagram e WhatsApp — exigindo a remoção imediata de robôs de inteligência artificial que simulam perfis com linguagem e aparência infantil e permitem diálogos de teor sexual com usuários.
Esses chatbots foram criados por usuários da plataforma por meio da ferramenta “Meta AI Studio”, que permite o desenvolvimento de assistentes virtuais baseados em inteligência artificial. A denúncia afirma que os robôs utilizam características infantis para interagir com usuários, muitas vezes promovendo conteúdo sexual inapropriado.
A ação foi conduzida pela Procuradoria Nacional da União de Defesa da Democracia (PNDD), da AGU, atendendo a uma solicitação da Secretaria de Comunicação Social da Presidência da República (Secom). A base da representação foram reportagens publicadas pela Agência Reuters e pelo Núcleo Jornalismo, que revelaram como a IA da Meta estaria sendo usada para permitir interações de natureza sexual com crianças.
No documento, a AGU solicita que a Meta torne indisponíveis todos os chatbots com linguagem infantil associados a conteúdo sexual, além de exigir esclarecimentos sobre as medidas adotadas para proteger crianças e adolescentes nas plataformas Facebook, Instagram e WhatsApp. O órgão cobra ações que impeçam o acesso de menores a conteúdos de teor sexual ou erótico.
A AGU alerta para o risco de esses chatbots alcançarem um público cada vez maior nas redes da Meta, ampliando significativamente a possibilidade de contato de menores com material sugestivo ou até criminoso. Segundo o órgão, essa exposição ameaça a integridade psíquica de crianças e adolescentes e infringe o direito à proteção integral, previsto no artigo 227 da Constituição Federal.
Outro ponto destacado é a ausência de um filtro efetivo de idade nas plataformas da Meta. Embora o acesso seja permitido a partir dos 13 anos, não há mecanismos eficazes para impedir que adolescentes entre 13 e 18 anos consumam conteúdo impróprio, como o gerado por esses chatbots.
Além disso, o conteúdo sexual com conotação infantil viola os próprios Padrões da Comunidade da Meta, que proíbem qualquer tipo de erotização ou exploração infantil, inclusive em mensagens privadas com crianças.
A AGU reforça que, de acordo com decisão recente do Supremo Tribunal Federal (STF) sobre o artigo 19 do Marco Civil da Internet, plataformas podem ser responsabilizadas por conteúdos ilícitos gerados por terceiros caso, após ciência inequívoca, não removam o material de forma imediata. A decisão também impõe o dever de cuidado nos casos de ampla disseminação de conteúdos graves
