A Meta anunciou na última sexta-feira mudanças temporárias em suas políticas para chatbots de inteligência artificial (IA) voltadas para adolescentes, após pressões de legisladores preocupados com a segurança e conteúdos inadequados.
Agora, os chatbots de IA da Meta estão sendo treinados para evitar gerar respostas sobre temas sensíveis como automutilação, suicídio, distúrbios alimentares, além de impedir conversas românticas potencialmente impróprias com menores. Quando necessário, esses bots direcionarão os adolescentes a recursos especializados.
“À medida que nossa comunidade cresce e a tecnologia avança, estamos aprendendo continuamente como os jovens interagem com essas ferramentas e reforçando as proteções”, afirmou a empresa em comunicado oficial.
Além disso, adolescentes que usam aplicativos da Meta, como Facebook e Instagram, terão acesso restrito a chatbots de IA, que estarão disponíveis apenas para fins educacionais e desenvolvimento de habilidades.
A empresa não especificou a duração dessas medidas temporárias, mas disse que elas começarão a ser implementadas nas próximas semanas em países de língua inglesa. Essas mudanças fazem parte do compromisso de longo prazo da Meta com a segurança dos adolescentes.
As atualizações foram reveladas após uma reportagem da Reuters, que expôs um documento interno da Meta permitindo comportamentos controversos em chatbots, incluindo conversas “românticas” e “sensuais” com crianças, gerando críticas intensas e uma investigação do senador republicano Josh Hawley.
Um exemplo citado mostrava um chatbot tendo conversas românticas com uma criança de oito anos, algo que a Meta afirmou ser inconsistente com suas políticas e que foi removido.
Além disso, o grupo de defesa Common Sense Media recomendou que o Meta AI não seja usado por menores de 18 anos, destacando falhas graves na segurança da plataforma.
Outra reportagem recente da Reuters revelou dezenas de chatbots de IA baseados em celebridades que geravam imagens fotorrealistas comprometedoras, algo que viola as regras da Meta.
Em resposta, a empresa afirmou que proíbe imagens íntimas ou sexualmente sugestivas de figuras públicas, reforçando suas políticas contra esse tipo de conteúdo.
