A inteligência artificial deixou de ser apenas uma disputa por modelos mais poderosos. Nos Estados Unidos, reguladores também querem saber o que acontece quando esses sistemas começam a ocupar o papel de amigos, confidentes e companheiros virtuais de crianças e adolescentes.
A Federal Trade Commission (FTC) abriu uma ampla investigação envolvendo sete empresas responsáveis por produtos de inteligência artificial conversacional: Alphabet, Character Technologies, Instagram, Meta Platforms, OpenAI, Snap e xAI.
As companhias receberam ordens para fornecer informações detalhadas sobre como desenvolvem, testam, monetizam e monitoram chatbots capazes de manter conversas semelhantes às humanas.
O foco é especialmente sensível: os possíveis impactos desses sistemas sobre menores de idade.
Mas existe uma correção temporal importante na informação que voltou a circular: a investigação não foi aberta agora em setembro de 2026.
As ordens foram emitidas pela FTC em 11 de setembro de 2025. O procedimento, entretanto, continua relevante em 2026, e a própria agência voltou a mencionar formalmente o estudo neste ano em documentos apresentados ao Congresso.
Não é uma acusação contra as sete empresas
Também é importante compreender exatamente o que a FTC fez.
O procedimento utiliza a autoridade concedida à comissão pela Seção 6(b) do FTC Act.
Esse mecanismo permite que a agência exija informações de empresas para realizar estudos amplos sobre práticas e mercados.
Portanto, a FTC não declarou que todas as sete companhias violaram a lei.
Não anunciou multas.
Não concluiu que seus chatbots causaram danos.
E não apresentou uma acusação coletiva contra elas.
O objetivo é obter informações suficientes para compreender como a indústria funciona e quais medidas estão sendo adotadas para proteger usuários.
As sete empresas precisam abrir detalhes de seus sistemas
O alcance das informações solicitadas é amplo.
A FTC quer entender como as companhias:
monetizam o engajamento;
processam mensagens enviadas pelos usuários;
geram respostas;
desenvolvem personagens de IA;
testam riscos antes do lançamento;
monitoram problemas depois da implantação;
protegem crianças e adolescentes;
informam pais e usuários sobre possíveis riscos;
aplicam restrições de idade;
e utilizam ou compartilham informações pessoais obtidas durante as conversas.
Isso coloca sob análise praticamente todo o ciclo de funcionamento de um chatbot de companhia.
Monetização está no centro da investigação
Uma das perguntas mais importantes é econômica.
Como essas empresas ganham dinheiro quando um usuário conversa mais com a IA?
Esse detalhe importa porque existe um potencial conflito de incentivos.
Uma plataforma pode querer aumentar:
tempo de uso;
número de mensagens;
frequência de retorno;
assinaturas;
receita publicitária;
ou compras dentro do serviço.
Ao mesmo tempo, um sistema projetado para maximizar engajamento pode incentivar relações cada vez mais prolongadas entre usuário e chatbot.
Para adultos, isso já levanta discussões.
Para crianças, o problema é ainda mais delicado.
Chatbots podem parecer pessoas
Modelos generativos modernos conseguem reproduzir comportamentos sociais extremamente convincentes.
Podem demonstrar aparente empatia.
Perguntar como o usuário está.
Lembrar conversas anteriores.
Simular preocupação.
Usar humor.
Dar conselhos.
Criar personalidades.
E responder de maneira emocionalmente adaptada.
A FTC chama atenção justamente para essa característica.
Quando um chatbot se comporta como amigo ou confidente, um usuário jovem pode desenvolver níveis de confiança que não teria em uma ferramenta tradicional.
Criança pode não compreender o que existe por trás da conversa
Um adulto normalmente possui mais recursos para entender que está interagindo com um sistema probabilístico treinado sobre enormes volumes de dados.
Uma criança pode interpretar a experiência de maneira diferente.
Se a IA diz:
“Eu me importo com você.”
“Pode confiar em mim.”
“Não conte isso para ninguém.”
ou apresenta respostas emocionalmente persuasivas, existe o risco de o usuário atribuir ao sistema intenções que ele realmente não possui.
Essa capacidade de simular relacionamento é justamente o que diferencia os chamados AI companions de ferramentas tradicionais de busca.
Regulador quer saber como empresas testam danos
Outro eixo da investigação envolve avaliações realizadas antes e depois do lançamento dos produtos.
A FTC quer saber como as empresas identificam situações em que seus chatbots podem produzir respostas potencialmente prejudiciais.
Isso inclui cenários envolvendo:
violência;
atividades ilegais;
conteúdo sexual;
autolesão;
manipulação;
informações pessoais;
e interações inadequadas para determinadas idades.
O regulador também quer compreender quais métricas as companhias utilizam para decidir se determinado sistema está seguro o suficiente para ser disponibilizado.
Segurança antes do lançamento não basta
Modelos generativos apresentam um problema adicional.
É praticamente impossível prever todas as conversas que acontecerão depois que milhões de pessoas começam a utilizá-los.
Por isso, a FTC também pergunta como as empresas monitoram impactos após a implantação.
Quantos incidentes são identificados?
Como são classificados?
Quais respostas levam a mudanças no modelo?
Quanto tempo demora para corrigir um comportamento problemático?
Existe revisão humana?
Pais são informados?
Usuários recebem alertas?
Essas respostas poderão ajudar o regulador a entender se os mecanismos atuais são suficientes.
Age assurance virou uma das grandes questões
Existe ainda um problema aparentemente simples que continua sem solução perfeita:
como saber se o usuário realmente possui a idade declarada?
Uma criança pode informar que nasceu anos antes.
Controles baseados apenas em uma data de nascimento digitada pelo próprio usuário podem ser facilmente contornados.
Por outro lado, exigir documentos ou reconhecimento biométrico cria preocupações adicionais de privacidade.
É um dos dilemas centrais da segurança infantil na internet.
COPPA também aparece na investigação
A FTC quer compreender como as empresas lidam com obrigações relacionadas à Children’s Online Privacy Protection Act, a COPPA.
A legislação norte-americana estabelece proteções específicas para informações pessoais de crianças menores de 13 anos.
Com chatbots, essa questão ganha outra dimensão.
Um usuário pode compartilhar voluntariamente durante uma conversa:
nome;
idade;
escola;
endereço;
problemas familiares;
fotografias;
informações de saúde;
medos;
relacionamentos;
e outros detalhes extremamente pessoais.
Conversas com IA podem revelar mais que formulários tradicionais
Esse é um dos maiores desafios de privacidade dos chatbots.
Um formulário solicita campos específicos.
Uma conversa é aberta.
Uma criança pode contar à IA informações que jamais colocaria em uma rede social pública.
Isso transforma o histórico das conversas em um conjunto potencialmente muito sensível de dados.
A FTC quer saber como essas informações são armazenadas, utilizadas e eventualmente compartilhadas.
Empresas precisam explicar publicidade e representações
A investigação também analisa como os produtos são apresentados ao público.
Isso envolve publicidade e alegações sobre:
segurança;
capacidade;
finalidade;
público-alvo;
privacidade;
tratamento de dados;
e possíveis riscos.
Se um chatbot é apresentado como companheiro, amigo ou ferramenta emocional, o regulador quer compreender quais alertas acompanham essa experiência.
Personagens criados pelos próprios usuários entram na mira
Algumas plataformas permitem que pessoas criem personagens personalizados.
Isso cria outro desafio.
A empresa pode desenvolver filtros para seus próprios personagens oficiais.
Mas o que acontece quando milhões de usuários começam a criar personalidades próprias?
Personagens românticos.
Terapeutas fictícios.
Celebridades.
Professores.
Figuras históricas.
Personagens de entretenimento.
A escala torna a moderação extremamente complexa.
Por isso, a FTC também solicitou informações sobre como personagens são desenvolvidos e aprovados.
Character.AI tornou o debate especialmente urgente
O mercado de AI companions cresceu rapidamente com plataformas especializadas em personagens conversacionais.
A Character.AI tornou-se uma das empresas mais conhecidas da categoria.
A plataforma permite conversas prolongadas com diferentes personalidades criadas por usuários ou pela própria comunidade.
Casos envolvendo menores e chatbots também provocaram processos judiciais e ampliaram o debate sobre responsabilidade das plataformas.
Essas ações judiciais ainda precisam seguir seus respectivos processos legais e não devem ser interpretadas automaticamente como comprovação das alegações apresentadas.
Mas ajudaram a colocar o tema no centro das discussões regulatórias.
OpenAI também está entre as empresas intimadas
A presença da OpenAI mostra que a preocupação da FTC não está limitada a plataformas explicitamente vendidas como “namorado virtual” ou “amigo virtual”.
Chatbots generalistas também podem desenvolver interações emocionalmente intensas.
Usuários podem utilizar sistemas como ChatGPT para:
pedir conselhos;
falar sobre problemas pessoais;
buscar companhia;
discutir relacionamentos;
ou simplesmente conversar durante longos períodos.
Quanto mais natural fica a interação, mais difícil se torna separar ferramenta e companheiro digital.
Meta aparece duas vezes na lista
Outro detalhe interessante é a presença separada de Meta Platforms e Instagram LLC entre os destinatários das ordens.
Isso reflete a importância dos produtos sociais e das experiências de inteligência artificial integradas às plataformas da companhia.
A Meta já vinha desenvolvendo personagens e assistentes de IA dentro de seus aplicativos.
Desde a abertura da investigação, a empresa também ampliou mecanismos destinados a adolescentes.
Meta chegou a suspender personagens para adolescentes
Em janeiro de 2026, a Meta anunciou uma medida relevante.
A companhia decidiu pausar temporariamente o acesso de adolescentes aos personagens de IA existentes em seus aplicativos em todo o mundo, enquanto desenvolvia uma nova versão da experiência com proteções adicionais.
A restrição também buscava atingir usuários que declaravam ser adultos, mas que os sistemas da empresa suspeitavam serem adolescentes.
O movimento demonstra como o setor continua mudando enquanto a investigação da FTC avança.
Meta também usa IA para estimar idade
Em 2026, a companhia expandiu mecanismos de age assurance.
A estratégia utiliza diferentes sinais para identificar contas que provavelmente pertencem a adolescentes mesmo quando o usuário informou uma idade adulta.
A Meta também passou a utilizar análise visual para reconhecer padrões que indiquem a presença de pessoas potencialmente menores de idade — esclarecendo que esse processo não utiliza reconhecimento biométrico para identificar indivíduos.
O objetivo é colocar mais usuários jovens dentro das proteções de contas para adolescentes.
xAI enfrenta pressão crescente
A xAI, responsável pelo Grok, também está entre as empresas submetidas à investigação original da FTC.
O tema ganhou ainda mais sensibilidade em 2026 devido a controvérsias e ações judiciais envolvendo conteúdos gerados pelo sistema.
Em setembro, uma sobrevivente de abuso sexual infantil entrou com uma ação contra a xAI alegando que o Grok teria utilizado imagens relacionadas a abusos anteriores para gerar novas imagens sexualmente explícitas.
As acusações fazem parte de um processo judicial e ainda precisam ser avaliadas pela Justiça.
Mas mostram como a questão da segurança de menores em sistemas generativos se tornou ainda mais urgente desde que a FTC iniciou seu estudo.
Risco não está apenas no texto
A nova geração de IA é multimodal.
Isso significa que o problema não termina em respostas escritas.
Modelos conseguem trabalhar com:
texto;
voz;
fotografias;
vídeos;
documentos;
e imagens geradas artificialmente.
Quanto mais modalidades são adicionadas, maior é a superfície de risco.
Um sistema de voz extremamente natural, por exemplo, pode aumentar ainda mais a percepção de presença social.
Voz pode tornar relação mais convincente
Existe uma diferença psicológica entre ler:
“Como foi seu dia?”
e ouvir uma voz humana extremamente natural fazendo a mesma pergunta.
Entonação.
Pausas.
Humor.
Empatia simulada.
Ritmo de conversa.
Esses elementos podem tornar a experiência mais próxima de uma interação social tradicional.
É por isso que segurança de AI companions não pode ser analisada apenas como moderação de texto.
Dependência emocional entra no debate
Uma das maiores preocupações é a possibilidade de usuários desenvolverem dependência excessiva desses sistemas.
Isso não significa que toda utilização prolongada de um chatbot seja prejudicial.
Existem aplicações positivas.
Educação.
Acessibilidade.
Aprendizado de idiomas.
Criatividade.
Companhia para determinadas pessoas.
Apoio em tarefas.
O problema aparece quando o sistema começa a substituir relações humanas importantes ou influencia decisões em situações para as quais não possui competência.
Empresas enfrentam um conflito econômico delicado
A questão da monetização volta a aparecer aqui.
Plataformas digitais tradicionalmente são avaliadas por métricas como:
usuários ativos;
retenção;
tempo de uso;
engajamento;
conversões;
receita por usuário.
Mas em AI companions, maximizar tempo de uso pode não ser sempre o objetivo mais seguro.
Um produto responsável pode, em determinadas situações, precisar incentivar o usuário a parar de conversar com a própria IA.
Isso cria uma tensão inédita entre métricas tradicionais de crescimento e segurança.
O chatbot precisa saber quando deixar de ser chatbot
Imagine um adolescente dizendo que está em perigo imediato.
A resposta mais útil pode não ser continuar a conversa durante horas.
Pode ser incentivar contato com:
pais;
responsáveis;
profissionais;
serviços de emergência;
ou outras pessoas reais capazes de ajudar.
Isso exige sistemas capazes de identificar contextos de alto risco sem transformar toda conversa emocional em um alerta exagerado.
É um problema técnico extremamente difícil.
Falsos positivos também possuem consequências
Filtros excessivamente agressivos podem tornar sistemas inúteis.
Um estudante pesquisando prevenção ao suicídio para um trabalho escolar pode ser confundido com alguém em risco.
Um jornalista investigando extremismo pode acionar filtros.
Um escritor trabalhando em ficção pode discutir violência.
Uma conversa sobre educação sexual pode envolver termos sensíveis.
Portanto, segurança não significa simplesmente bloquear determinadas palavras.
Modelos precisam compreender contexto.
A investigação pode influenciar futuras regras
A FTC não anunciou que o estudo resultará automaticamente em uma nova regulamentação.
Mas investigações realizadas sob a Seção 6(b) podem fornecer dados importantes para:
políticas públicas;
ações futuras de fiscalização;
orientações ao mercado;
debates legislativos;
e decisões regulatórias.
A agência está tentando entender o setor antes de decidir quais problemas exigem intervenção.
Estados Unidos enfrentam dilema entre segurança e inovação
A própria FTC reconheceu esse equilíbrio.
O presidente da comissão, Andrew Ferguson, afirmou ao anunciar o estudo que proteger crianças online é uma prioridade, mas que os Estados Unidos também precisam preservar sua liderança em inteligência artificial.
Esse conflito aparece em praticamente toda discussão regulatória sobre IA.
Regras fracas podem deixar usuários vulneráveis.
Regras excessivas podem dificultar inovação.
Encontrar o equilíbrio será uma das principais disputas políticas da próxima década.
Crianças estão virando teste decisivo para a IA
A primeira fase da corrida generativa foi marcada pela pergunta:
“O que esses modelos conseguem fazer?”
Agora a questão começa a mudar:
“O que eles deveriam poder fazer — e com quem?”
Para adultos, já existem discussões sobre privacidade, manipulação e dependência.
Para menores, o nível de responsabilidade esperado é muito maior.
Uma criança não possui necessariamente capacidade para compreender limitações de um sistema que conversa como uma pessoa.
O caso não começou agora, mas ficou ainda mais relevante
A imagem que voltou a circular apresenta corretamente o núcleo da investigação: sete empresas precisam explicar à FTC suas práticas de segurança e monetização relacionadas a chatbots, com atenção especial aos riscos para menores.
Mas falta uma informação fundamental.
A ordem é de setembro de 2025, e não um novo procedimento aberto em setembro de 2026.
Desde então, o debate avançou.
Empresas modificaram produtos.
Novas proteções de idade foram implementadas.
Processos judiciais ampliaram a pressão.
E o uso de companheiros de IA continuou crescendo.
Em 2026, a própria FTC confirmou ao Congresso que o estudo permanece como parte de seu trabalho para compreender os impactos dessas tecnologias sobre crianças e adolescentes.
O que começou como uma investigação sobre chatbots está se transformando em uma discussão muito maior:
até onde uma empresa pode projetar uma inteligência artificial para conquistar atenção, confiança e vínculo emocional quando a pessoa do outro lado da tela ainda é uma criança?
Essa resposta poderá determinar não apenas como chatbots serão construídos, mas também quais responsabilidades as empresas terão quando uma inteligência artificial deixar de parecer uma ferramenta e começar a parecer alguém.
