O princípio do não repúdio constitui um dos fundamentos essenciais da Segurança da Informação, pois permite associar uma ação, comunicação, transação ou decisão digital a determinado agente, reduzindo a possibilidade de negação posterior de autoria, envio, recebimento, aprovação ou execução. Em ambientes digitais tradicionais, esse princípio é usualmente sustentado por mecanismos como assinaturas digitais, certificados eletrônicos, carimbos de tempo, registros de auditoria e controles de integridade. Não obstante, o Não Repúdio possibilita um nível de confiança com elementos de validação dos demais pilares de Autenticidade, Confidencialidade, Responsabilização (Accountability), Rastreabilidade, auditoria entre outros. Entretanto, a disseminação da Inteligência Artificial, especialmente da IA generativa, amplia significativamente a complexidade do tema.
O emprego da IA generativa trouxe novos desafios à comprovação de autoria e responsabilidade, uma vez que textos, imagens, áudios, vídeos, códigos e decisões podem ser produzidos, alterados ou simulados por sistemas automatizados. Nesse cenário, o não repúdio, nos moldes atuais, não proporciona o entendimento de “quem assinou?”, por exemplo, mas passa a ter um novo desafio em proporcionar questões mais amplas, como “quem instruiu o sistema?”, ou “qual modelo produziu a saída?”, outrossim “houve revisão humana?”, e/ou “a evidência foi preservada?” e “é possível reconstruir a cadeia de decisão?”.
Tal mudança de paradigma, encontra-se alinhada ao debate acerca da governança de IA, que enfatiza a necessidade de documentação, rastreabilidade, supervisão humana, gerenciamento de riscos e auditabilidade ao longo do ciclo de vida dos sistemas inteligentes IA RMF 1.0 (NIST, 2024). Da mesma forma, o AI Act da União Europeia estabelece obrigações proporcionais ao risco dos sistemas de IA, com destaque para transparência, documentação técnica, governança de dados, supervisão humana e responsabilização dos agentes envolvidos no desenvolvimento e uso de sistemas de IA (UNIÃO EUROPEIA, 2024).
Portanto, o não repúdio na era da Inteligência Artificial deve ser compreendido como uma propriedade ampliada da confiança digital. Esse princípio não se limita simplesmente à uma mera comprovação de uma assinatura ou de um acesso, contudo envolve a capacidade institucional, técnica e jurídica de demonstrar a origem, a integridade, o contexto e a responsabilidade por atos praticados com apoio ou mediação de sistemas inteligentes.
Fundamentos do não repúdio em ambientes digitais
O não repúdio está relacionado à produção de evidências confiáveis que permitam demonstrar que determinada ação ocorreu, que seu conteúdo permaneceu íntegro e que é possível vinculá-la a um agente responsável. Para tanto, depende da articulação entre autenticidade, integridade, rastreabilidade e responsabilização.
A autenticidade permite confirmar a identidade do agente envolvido na ação. A integridade assegura que o conteúdo ou registro não foi alterado de forma indevida após sua criação, assinatura, transmissão ou armazenamento. A rastreabilidade permite reconstruir a sequência de eventos associados à ação, enquanto a responsabilização estabelece a possibilidade de atribuir consequências ao agente humano, organizacional ou sistêmico envolvido.
Em ambientes digitais convencionais, esses elementos costumam ser implementados por meio de criptografia assimétrica, assinaturas digitais, certificados digitais, algoritmos de hash, trilhas de auditoria e políticas de controle de acesso. Todavia, quando a ação passa a ser mediada por IA, a comprovação de autoria exige evidências adicionais, como registros de prompts, respostas geradas, versões de modelos, parâmetros utilizados, bases de conhecimento consultadas, ferramentas acionadas e intervenções humanas realizadas. Sendo assim, o não repúdio não deve ser confundido com autenticação, sendo-o um pilar compreensivo de todos que o utilizam, contudo, a autenticação confirma, em determinado momento, a identidade de um usuário ou sistema! Já o não repúdio, por sua vez, exige um conjunto mais robusto de evidências capaz de sustentar a autoria, a integridade e a responsabilidade sobre um ato digital. Em sistemas que suportam, interagem com APIs, utilizam modelos de IA, essa distinção torna-se ainda mais relevante, pois um usuário autenticado pode delegar tarefas a agentes automatizados, e tais agentes podem interagir com outros sistemas, produzir saídas e executar ações com diferentes níveis de autonomia, por conseguinte, temos o desafio de como proporcionar o não repúdio para uma cadeia de agentes autônomos e com controles “desafiadores”.
IA generativa e a crise da autoria digital
A IA generativa e/ou com modelo de agentes, provocou uma crise contemporânea da autoria digital, parte do desafio trazido a luz por meio desse artigo. Os modelos capazes de gerar automação, textos, imagens, áudios, vídeos e códigos em linguagem natural tornam mais difícil distinguir entre conteúdo humano, conteúdo automatizado e conteúdo híbrido. Essa característica afeta diretamente o não repúdio, pois enfraquece formas tradicionais de atribuição de autoria baseadas apenas na aparência, no estilo ou na posse de determinado arquivo.
No caso de documentos corporativos, relatórios, pareceres, comunicações executivas e respostas automatizadas, a autoria pode resultar de uma combinação entre instruções humanas, geração algorítmica, revisão manual e integração com sistemas externos. Nesse contexto, a responsabilidade não pode ser atribuída apenas ao conteúdo final, mas deve considerar a cadeia de produção que levou à sua criação.
NIST observa que sistemas de IA generativa apresentam riscos específicos relacionados à confiança, à segurança, à privacidade, à confiabilidade das saídas, ao uso indevido e à necessidade de governança ao longo do ciclo de vida da tecnologia (NIST, 2024). Consequentemente, organizações que utilizam IA generativa em processos críticos devem estabelecer mecanismos de registro e validação capazes de demonstrar como determinado conteúdo foi produzido, por quem foi solicitado, qual sistema foi utilizado e se houve revisão humana.
A crise da autoria digital também se manifesta no uso indevido de IA para produzir evidências falsas. Conteúdos sintéticos podem simular decisões, ordens, mensagens, imagens ou gravações atribuídas a pessoas reais. Assim, o não repúdio contemporâneo deve ser apoiado em evidências estruturadas de origem e integridade, e não apenas na aparência de autenticidade de um documento ou mídia.
Deepfakes, evidências sintéticas e negação plausível
Os deepfakes representam um dos principais desafios atuais ao não repúdio. Por meio de técnicas generativas, é possível criar ou alterar imagens, vídeos e áudios com elevado grau de realismo, simulando falas, expressões, gestos e identidades. A literatura recente aponta que os avanços em modelos generativos, especialmente em arquiteturas baseadas em difusão e abordagens multimodais, ampliaram a capacidade de criação de mídias sintéticas convincentes, dificultando a identificação por usuários comuns e até por mecanismos automatizados em determinados contextos (AMERINI et al., 2024; CROITORU et al., 2024).
Esse fenômeno gera dois efeitos relevantes para a Segurança da Informação. O primeiro é o risco de fraude, pois mídias sintéticas podem ser utilizadas para engenharia social, falsificação de instruções, manipulação reputacional ou obtenção indevida de acesso. O segundo é a chamada negação plausível: mesmo conteúdos autênticos podem ser contestados sob a alegação de terem sido produzidos por IA. Como resultado, gravações de voz, vídeos, imagens e mensagens deixam de ser, isoladamente, evidências suficientes de autoria ou veracidade.
A ENISA identifica que o cenário de ameaças cibernéticas permanece fortemente influenciado por ataques contra disponibilidade, ransomware, ameaças contra dados e técnicas de manipulação, contexto no qual a IA pode potencializar ataques de engenharia social e ampliar a escala de operações maliciosas (ENISA, 2024). Dessa forma, controles de não repúdio precisam ser reforçados por autenticação multifator, validação por canais independentes, assinatura digital de documentos críticos, verificação de identidade em múltiplas camadas e preservação segura de trilhas de auditoria.
Portanto, em ambientes expostos a deepfakes, a confiança não deve se apoiar exclusivamente na percepção humana ou em ferramentas de detecção. Embora a perícia de mídias sintéticas seja uma área de pesquisa relevante, estudos recentes indicam que detectores podem apresentar dificuldades de generalização diante de novos métodos de geração, especialmente quando testados contra conteúdos fora de distribuição ou produzidos por técnicas ainda não observadas (CROITORU et al., 2024). O não repúdio, nesse cenário, exige evidências preventivas de proveniência, integridade e contexto.
Agentes autônomos de IA e responsabilização
A evolução dos agentes autônomos de IA amplia o desafio da responsabilização digital. Esses agentes podem executar tarefas em nome de usuários ou organizações, tais como consultar bases de dados, redigir documentos, interagir com clientes, acionar APIs, executar comandos, gerar código, classificar riscos, recomendar decisões ou automatizar fluxos operacionais.
Quando uma ação é realizada por um agente de IA, torna-se necessário reconstruir a cadeia de delegação e execução. Essa cadeia deve indicar quem autorizou o agente, quais permissões foram concedidas, quais instruções foram fornecidas, quais ferramentas foram acionadas, quais dados foram acessados, qual modelo foi utilizado, quais resultados foram produzidos e se houve validação humana antes da execução final. O AI Act estrutura obrigações para diferentes atores do ecossistema de IA, como provedores, implantadores, importadores, distribuidores e outros operadores, adotando abordagem baseada em risco e exigindo documentação, supervisão e mecanismos de controle em determinados contextos (UNIÃO EUROPEIA, 2024). Essa lógica regulatória reforça a necessidade de rastreabilidade e atribuição de responsabilidades ao longo da cadeia de desenvolvimento, implantação e uso dos sistemas.
Em termos de não repúdio, a organização deve evitar que agentes de IA atuem como “caixas-pretas operacionais”, não obstante, o mesmo fenômeno ocorria ou ocorre no processamento de SaaS em nuvem, com a cultura de “segurança” em elementos de Cloud Computing, logo, temos um novo elemento que amplia a “caixa preta”. A ausência de logs detalhados, auditorias consistentes, versionamento de modelos, controle de permissões e registros de validação humana pode impedir a comprovação de quem ou o que originou determinada decisão. Em incidentes envolvendo transferências financeiras, alterações contratuais, respostas regulatórias, mudanças em sistemas ou decisões sensíveis, essa lacuna pode comprometer a apuração de responsabilidades. Sem contar com o desafio em termos uma cadeia de custódia para investigação forense! Tema bem interessante a ser corroborado em um próximo artigo.
Segurança de LLMs, prompt injection e integridade das instruções
As aplicações baseadas em grandes modelos de linguagem introduzem riscos específicos para o não repúdio, especialmente quando conectadas a ferramentas, bases de dados, sistemas corporativos ou fluxos automatizados. Nessas arquiteturas, o modelo pode receber instruções de múltiplas fontes, processar documentos, executar ações e produzir respostas que influenciam decisões humanas ou automatizadas.
Entre os principais riscos está a injeção de prompt, técnica pela qual entradas maliciosas procuram alterar o comportamento previsto do modelo, ignorar instruções anteriores, revelar informações indevidas ou executar ações não autorizadas. Pesquisas recentes demonstram que ataques de prompt injection representam ameaça relevante para aplicações integradas a LLMs e que defesas tradicionais, como simples filtragem de entrada e saída, podem ser insuficientes em muitos contextos (SUO, 2024; LIU et al., 2024).
OWASP, ao atualizar sua lista de riscos para aplicações com LLMs, destaca que a adoção ampla desses modelos em processos internos, atendimento, automação e operações corporativas amplia a superfície de ataque e exige controles específicos de segurança, como validação de entradas, limitação de permissões, monitoramento de ferramentas e proteção contra manipulação de contexto (OWASP, 2025). Sob a perspectiva do não repúdio, o problema central é garantir a integridade das instruções e a confiabilidade da cadeia de decisão. Se um modelo recebe uma instrução maliciosa e executa uma ação, a organização precisa ser capaz de demonstrar qual entrada foi processada, quais regras foram aplicadas, qual ferramenta foi acionada e porque a ação foi permitida. Sem essa trilha, torna-se difícil distinguir erro operacional, ataque externo, mau uso interno ou falha de governança.
Uma abordagem relevante nesse contexto é a assinatura ou validação de instruções sensíveis, de modo que o sistema consiga diferenciar comandos autorizados de instruções manipuladas ou inseridas por terceiros. A proposta de prompts assinados, por exemplo, busca associar instruções sensíveis a usuários autorizados, fortalecendo a capacidade de distinguir fontes confiáveis de entradas potencialmente adversariais (SUO, 2024). Embora ainda em evolução, esse tipo de abordagem dialoga diretamente com o princípio do não repúdio, pois procura preservar autoria e integridade no nível das instruções fornecidas ao modelo.
Auditabilidade, governança e evidências em sistemas de IA
O não repúdio na era da IA depende diretamente da auditabilidade dos sistemas. A auditabilidade pode ser compreendida como a capacidade de examinar, reconstruir e avaliar o funcionamento de um sistema ao longo de seu ciclo de vida, incluindo concepção, desenvolvimento, treinamento, implantação, operação, monitoramento e descontinuação. Estudos recentes sobre auditoria de IA apontam que a auditabilidade exige medidas organizacionais e técnicas distribuídas em diferentes fases do ciclo de vida, envolvendo documentação, governança de dados, validação de modelos, monitoramento de desempenho, gestão de riscos, explicabilidade, controles de acesso e preservação de evidências (MÄNTYMÄKI et al., 2024). Assim, o não repúdio não pode ser tratado apenas como um controle criptográfico; ele deve ser compreendido como resultado de um sistema de governança que torna as ações verificáveis.
Em aplicações com IA, evidências relevantes incluem registros de entrada e saída, versões de modelos, parâmetros de inferência, fontes de dados, bases vetoriais consultadas, chamadas de ferramentas, permissões utilizadas, decisões humanas, justificativas de aprovação e logs de exceção. Esses elementos permitem reconstruir a cadeia decisória e demonstrar se uma ação foi humana, automatizada ou híbrida. A governança também deve definir responsabilidades entre áreas técnicas, jurídicas, de segurança, risco, auditoria e negócio. Caso contrário, a organização pode dispor de registros técnicos, mas não conseguir convertê-los em evidências úteis para fins de investigação, auditoria ou responsabilização. O não repúdio exige, portanto, que a evidência seja não apenas registrada, mas também preservada, compreensível, íntegra, contextualizada e juridicamente defensável.
Aspectos jurídicos e regulatórios
O não repúdio possui dimensão jurídica, pois se relaciona à validade de atos eletrônicos, à prova de autoria, à integridade documental e à responsabilização por decisões digitais. Com a IA, esse debate se torna mais complexo porque a ação contestada pode decorrer de uma combinação entre vontade humana, automação, recomendação algorítmica e execução por agentes digitais.
O AI Act da União Europeia, publicado em 2024, representa um marco regulatório relevante ao estabelecer um modelo de obrigações baseado em riscos para sistemas de IA. O regulamento busca promover uma IA centrada no ser humano e confiável, ao mesmo tempo em que impõe exigências relacionadas a governança, transparência, documentação técnica, supervisão humana e controle de sistemas de maior risco (UNIÃO EUROPEIA, 2024). Embora o regulamento não use o não repúdio como conceito central, suas exigências reforçam a necessidade de evidências verificáveis sobre desenvolvimento, implantação e operação de sistemas inteligentes. Na perspectiva acadêmica, análises recentes do AI Act indicam que o regulamento consolida uma estrutura complexa de accountability, transparência e deveres distribuídos entre atores da cadeia de IA, embora sua aplicação prática ainda dependa de interpretação, harmonização e maturidade institucional (SILVA, 2024; HO-DAC, 2024). Essa discussão é diretamente relevante para o não repúdio, pois a responsabilização exige saber quem controla o sistema, quem o disponibiliza, quem o utiliza e quem se beneficia de sua decisão.
No Brasil, embora normas estruturantes sobre assinaturas eletrônicas e ICP-Brasil sejam anteriores a 2024, a discussão atual sobre IA exige reinterpretar mecanismos tradicionais de prova digital à luz de novos riscos. Em especial, organizações precisam estabelecer políticas internas para uso de IA, preservação de evidências, assinatura de documentos relevantes, validação de comunicações críticas e registro de decisões automatizadas ou assistidas por IA.
Conclusão
O não repúdio permanece como um princípio fundamental da Segurança da Informação, malgrado seu significado se expande de forma relevante na era da Inteligência Artificial. Em ambientes digitais tradicionais, tal conceito estava principalmente associado à comprovação de autoria, integridade e validade de ações eletrônicas. Em ambientes mediados por IA, temos o envolvimento de novos modelos de validação de dados como: origem algorítmica, cadeia de decisão, supervisão humana, integridade de instruções, versionamento de modelos e preservação de evidências sintéticas ou híbridas.
No que tange a IA generativa, os deepfakes, os agentes autônomos e as aplicações baseadas em LLMs, tornam-se cada vez mais difíceis de distinguir ou termos uma validação que distinga: ações humanas, automatizadas e fraudulentas. Como consequência, as organizações precisam fortalecer mecanismos de rastreabilidade, autenticação, auditoria e governança. Logo, a confiança digital dependerá cada vez menos da aparência de autenticidade e cada vez mais da capacidade de demonstrar, de forma técnica e juridicamente defensável, como uma ação foi produzida, autorizada, executada e preservada.
Finalmente, compreende-se de que o não repúdio, no contexto atual, significa reconhecer de que a Segurança da Informação não se limita à proteção contra acessos indevidos, mas a novas capacidades de sustentar evidências, atribuir responsabilidades, preservar integridade, documentar decisões e garantir que, mesmo diante de sistemas inteligentes e conteúdos sintéticos. Isto posto, o emprego do Não Repúdio como Princípio, assim como a sua aplicação concreta no cenário da IA exige instrumentos tecnológicos, processuais e jurídicos, a serem aprimorados em um ambiente cada vez mais difuso e pouco controlado no que tange ao encadeamento de dados.
