O que acontece quando a manipulação de um sistema de IA sai do campo teórico e vira consequência real? Foi essa a pergunta que uma notícia recente me trouxe.
Em Santa Catarina, a Justiça condenou a Natura e uma empresa de recuperação de crédito por litigância de má-fé, depois de identificar comandos ocultos inseridos em uma petição, técnica conhecida como prompt injection, criada para manipular o comportamento dos sistemas de IA usados no processamento do caso. A multa aplicada, 10% sobre o valor da causa, representa o teto previsto em lei.
O caso, à primeira vista, parece um episódio isolado, restrito ao ambiente jurídico. Mas ele revela algo mais amplo, e mais preocupante: o quanto a governança de IA ainda é tratada como formalidade, item de checklist ou apêndice de compliance, em vez de estrutura real de proteção, dentro das empresas e ao longo de toda a sua cadeia de fornecedores.
O que é, de fato, o prompt injection
Prompt injection é a inserção de instruções disfarçadas dentro de um documento, com o objetivo de alterar o comportamento de um sistema de IA sem que um leitor humano perceba. Pode aparecer em texto de fonte branca sobre fundo branco, em metadados de arquivos, em camadas ocultas de um PDF ou em comandos escritos em idiomas pouco usuais.
No caso em questão, o Juizado Especial Cível de Rio Negrinho entendeu que os comandos foram inseridos com a intenção de induzir os sistemas de IA do processamento judicial a favorecer os interesses da empresa. Além da multa, houve condenação solidária ao pagamento de indenização à consumidora prejudicada e o envio de ofício à Ordem dos Advogados do Brasil, para apuração de possível infração ética por parte dos advogados responsáveis pela peça.
O que mais impressiona não é a técnica em si, já conhecida no universo da segurança da informação. É a naturalidade com que ela migrou de laboratórios de pesquisa e testes de penetração para dentro de uma petição judicial real, redigida por profissionais que deveriam, teoricamente, primar pela lealdade processual.
Um risco que já era esperado, e documentado
O ponto mais relevante deste episódio talvez não esteja na condenação, mas no tempo verbal usado por quem regula. Meses antes da decisão, o Comitê de Governança de Inteligência Artificial do Tribunal de Justiça de Santa Catarina já havia publicado uma nota técnica específica sobre prevenção, identificação e tratamento de prompt injection.
O Conselho Nacional de Justiça seguiu o mesmo caminho, com uma nota técnica orientando tribunais de todo o país sobre prevenção, detecção, mitigação, auditoria e resposta a esse tipo de risco, em consonância com a Resolução CNJ nº 615/2025, que trata do uso responsável de IA no Poder Judiciário.
Ou seja, quando a fraude aconteceu, o regulador já tinha diretrizes publicadas, o vocabulário técnico já estava consolidado, e os mecanismos de identificação já existiam. A falha, neste caso, deixou de ser um problema exclusivamente tecnológico. Passou a ser, antes de tudo, um problema de governança.
A ponte que interessa a qualquer empresa
É tentador ler esse caso como um problema do Judiciário, distante da realidade de quem trabalha em tecnologia, marketing ou operações. Mas essa distância é ilusória.
A Lei Geral de Proteção de Dados já impõe obrigações de segurança e responsabilização sobre o tratamento automatizado de informações. O PL 2338, que trata da regulação de IA no Brasil, caminha na mesma direção: responsabilização de quem desenvolve, contrata ou opera sistemas de IA, independentemente de onde a falha se origina.
E aqui está o detalhe que mais deveria preocupar qualquer líder de tecnologia: no caso em questão, não foi a empresa que redigiu o documento manipulado. Foi o escritório de advocacia contratado para representá-la. O risco não nasceu dentro dos muros da companhia, nasceu na cadeia de fornecedores e prestadores de serviço que operam em nome dela.
(Vivo esse desafio de perto: centralizar a governança de TI e segurança da informação de uma empresa exige, cada vez mais, estender critérios de controle para além da operação interna, alcançando fornecedores, parceiros e prestadores que manuseiam dados e processos em nosso nome. Não é uma tarefa simples, mas é, cada vez mais, inegociável.)
O que o caso revela sobre o mercado
Esse episódio não deveria ser lido como uma exceção, um erro pontual de um fornecedor específico. Ele é sintoma de um padrão mais amplo: empresas brasileiras, de diferentes portes e setores, ainda tratam a governança de IA como uma camada opcional, aplicada depois que a ferramenta já está em produção, quando deveria ser parte do desenho inicial de qualquer processo automatizado.
A regulação, seja pelo CNJ, seja pela LGPD, seja pelo PL 2338, está deixando de ser promessa para virar exigência com consequência prática, mensurável, com multa e reputação em jogo. Empresas que ainda enxergam governança como custo, e não como proteção, tendem a aprender isso da forma mais cara possível.
Quando um fornecedor comete uma falha grave usando IA em nome de uma empresa, de quem é, afinal, a responsabilidade?
Seguimos!
