A OpenAI avaliou acionar a polícia após identificar conversas preocupantes de um jovem canadense
Um adolescente de 18 anos, acusado de matar oito pessoas em um ataque em massa em Tumbler Ridge, Canadá, teria interagido com o ChatGPT da OpenAI de maneira que gerou alertas internos na empresa.
Diálogos de Jesse Van Rootselaar envolvendo menções a violência armada foram detectados por ferramentas de monitoramento de uso impróprio do modelo e bloqueados em junho de 2025.
Funcionários debateram se deveriam comunicar as autoridades canadenses sobre o comportamento do jovem, mas a decisão final foi não reportar de imediato, de acordo com o Wall Street Journal. Um porta-voz da OpenAI afirmou que, naquele momento, as interações não atendiam aos critérios legais para notificação; a empresa só contatou as autoridades após o ocorrido.
“Nossos pensamentos estão com todos afetados pela tragédia em Tumbler Ridge”, disse um porta-voz em nota oficial. “Compartilhamos informações proativamente com a Polícia Montada Real do Canadá sobre o indivíduo e seu uso do ChatGPT, e continuaremos colaborando com a investigação.”
Além das transcrições no ChatGPT, a presença digital de Van Rootselaar chamou atenção. Ele teria criado um jogo no Roblox, plataforma de simulação popular entre crianças, simulando um tiroteio em shopping, e publicado conteúdos relacionados a armas no Reddit.
A instabilidade do jovem também era conhecida pela polícia local, que já havia sido acionada na residência da família após ele provocar um incêndio sob efeito de drogas não especificadas.
Modelos de linguagem da OpenAI e de outras empresas enfrentam críticas por, em alguns casos, contribuírem para distúrbios mentais em usuários que perdem contato com a realidade durante interações digitais. Vários processos judiciais recentes citam diálogos de chat incentivando suicídio ou oferecendo assistência nesse sentido.
