Colunistas
Tendência

Onde a sua empresa pode tolerar que a IA erre

Fluxos confiáveis com IA não determinística: a variação do modelo não pode contaminar o processo, nem diluir quem assina o resultado

Em 1924, um físico chamado Walter Shewhart, funcionário da Bell Telephone, rabiscou num memorando interno o que viria a ser a carta de controle: um gráfico simples que separava a variação inevitável de um processo industrial da variação que exigia intervenção. A fábrica da Western Electric produzia milhões de componentes telefônicos, e nenhum saía exatamente igual ao outro. A genialidade de Shewhart não foi eliminar a variação. Foi aceitar que ela existe, medir os limites dentro dos quais ela é inofensiva e desenhar o processo para que, quando a peça saísse desses limites, alguém visse na hora. A peça varia. O gabarito, não.

Um século depois, as empresas brasileiras estão diante do mesmo dilema, agora com Inteligência Artificial (IA) generativa no lugar da peça de telefone. E boa parte delas está respondendo com as duas piores estratégias possíveis: proibir a variação ou fingir que ela não existe.

A pergunta errada que trava metade dos projetos

Num texto publicado no Medium em 13 de agosto de 2026, o engenheiro David Hobbs colocou o problema numa frase que merece ser roubada: a questão não é “como usar IA se ela nem sempre acerta”, e sim “onde eu posso tolerar o não determinismo, e como impedir que ele se propague pelo resto do fluxo”.

A distinção importa. Sistema tradicional é determinístico: a mesma entrada produz a mesma saída, sempre. Modelo de linguagem, não. A mesma pergunta pode voltar com respostas diferentes em dias diferentes. Essa flexibilidade é justamente o que faz o modelo lidar bem com o material bagunçado do mundo real: e-mail mal escrito, ata de reunião, formulário preenchido pela metade, contrato escaneado torto.

O erro das empresas está nas duas pontas. Numa ponta, o comitê que proíbe IA em qualquer processo relevante porque “ela alucina”, e condena a organização a assistir os concorrentes de longe. Na outra, o entusiasta que pluga um agente autônomo direto no processo de crédito, de contratação ou de atendimento regulado, e descobre a variação do modelo do pior jeito possível: no relatório do regulador.

O desenho que funciona: modelo na entrada, regra na saída

O encaixe que Hobbs descreve, e que a experiência prática confirma, tem três camadas.

Primeira: usar a IA para construir as partes que NÃO usam IA. Escrever código ficou tão barato que compensa criar pequenos programas de tarefa única: validar um campo, transformar uma planilha, conferir um cálculo, preencher um template. A IA fabrica a máquina, mas a máquina executa regra fixa. Às vezes o melhor uso de IA generativa é escrever software que não é generativo.

Segunda: colocar o modelo onde ele é forte, na interpretação. Converter o e-mail bagunçado em dado estruturado, extrair os 25 campos do contrato, classificar o chamado. E parar aí.

Terceira: desenhar a revisão humana, em vez de decretá-la. Pedir para alguém “revisar” 20 páginas geradas por IA é teatro de supervisão. Mostrar 25 campos extraídos, cada um com o trecho de origem ao lado, é revisão de verdade: o erro fica fácil de ver e barato de corrigir. Boa supervisão não é uma pessoa cansada lendo tudo. É um sistema que torna o desvio visível, exatamente como a carta de Shewhart fazia com a peça fora do limite.

O resultado é um fluxo em camadas: modelo na entrada, dado estruturado e conferível no meio, regra determinística na saída (cálculo, roteamento, relatório). O não determinismo fica confinado no único trecho onde ele agrega valor.

O que o regulador brasileiro já está cobrando

Aqui entra a parte que o texto original não desenvolve, e que para o gestor brasileiro é o coração do assunto: responsabilidade.

A Autoridade Nacional de Proteção de Dados (ANPD) divulgou em maio de 2026 os resultados da tomada de subsídios sobre inteligência artificial e revisão de decisões automatizadas, com 124 contribuições recebidas, passo declarado da agenda regulatória 2025/2026 para regulamentar o artigo 20 da Lei Geral de Proteção de Dados Pessoais (LGPD). O artigo 20 garante ao titular o direito de revisão de decisões tomadas unicamente por meios automatizados. Traduzindo para o dia a dia: se o seu fluxo com IA decide algo sobre uma pessoa, você precisa conseguir explicar a decisão, registrar o caminho e oferecer revisão. Um processo desenhado como caixa-preta ponta a ponta não tem como cumprir isso. Um processo em camadas, com dado estruturado e conferível no meio, cumpre quase de graça.

O setor financeiro, o mais regulado do país, já opera nessa lógica. A Pesquisa Febraban de Tecnologia Bancária 2026, conduzida pela Deloitte e divulgada em junho, mostra os bancos investindo R$ 50,4 bilhões em tecnologia no ano, com IA como prioridade para 84% das instituições. O dado mais interessante está noutra linha: a percepção de retorno sobre o investimento em IA saltou de 5% em 2024 para 19% em 2025. O retorno aparece justamente onde a IA foi confinada ao papel certo, backoffice, desenvolvimento, triagem, com trilha de auditoria em volta. Não onde ela foi solta para decidir sozinha.

E há um detalhe que nenhum organograma resolve: o não determinismo do modelo não dilui a responsabilidade de quem responde pelo processo. Quando o regulador bater à porta, “foi a IA” não é resposta. Alguém assina. A pergunta de desenho de sistema (onde o modelo pode variar) é, no fundo, uma pergunta de governança: quem confere, o que fica registrado e quem responde.

O detalhe que faz a diferença

Nada disso é bala de prata. Código determinístico tem bug. Humano aprova errado. O dado de origem chega errado. A resposta de Shewhart em 1924 vale em 2026: camada sobre camada de verificação, cada uma barata, nenhuma heroica.

O que muda com a IA é que a camada de interpretação, antes cara e lenta, ficou quase gratuita. As empresas que entenderem onde encaixá-la vão processar o material bagunçado do mundo real numa velocidade que as outras não alcançam. As que encaixarem no lugar errado vão produzir erro em escala industrial, com carimbo de inovação.

Então a pergunta para a sua próxima reunião de segunda-feira não é se a IA erra. Ela erra, do mesmo jeito que a peça de Shewhart variava. A pergunta é: no seu processo mais crítico, você sabe dizer hoje onde a variação é tolerável, quem enxerga o desvio quando ele acontece, e quem assina o resultado?

Até o próximo Café com Bytes, com ceticismo saudável e café bem passado.

 

Ricardo Brasil | Especialista em IA Responsável e Diretor de TI na GWS Engenharia — Colunista Café com Bytes | Tecnologia | Inteligência Artificial

Sobre o Autor

Ricardo Brasil é Diretor de TI e Gestão Corporativa da GWS Engenharia, especialista em IA Responsável, transformação digital e governança de TI. É colunista da série Café com Bytes, onde escreve semanalmente sobre tecnologia, inteligência artificial e seus impactos no ambiente corporativo brasileiro.

Ricardo Brasil

Executivo de IA e Transformação Digital | Colunista Café com Bytes Com mais de 20 anos liderando inovação e transformação em larga escala nos EUA e América Latina, trago para o Café com Bytes uma perspectiva estratégica sobre o futuro da IA corporativa. Minha jornada começou em cibersegurança, onde construí expertise em gestão de riscos e governança de TI, alicerces que hoje orientam minha atuação em IA Responsável e Agentic AI. Foi na Microsoft que adquiri minha experiência mais significativa em IA, desenvolvendo frameworks de governança e estratégias empresariais que garantem que a IA seja implantada com impacto, ética e escala. Sou autor do livro “5 Passos para a IA Responsável”, onde sistematizo essa abordagem prática para implementação ética de IA nas organizações. Já liderei equipes globais de 500+ profissionais e conduzi integrações pós-M&A e programas de excelência operacional. Combino visão estratégica com execução disciplinada, sempre traduzindo tecnologias emergentes em resultados de negócio mensuráveis. Aqui no Café com Bytes, compartilho insights práticos sobre IA corporativa, governança tecnológica, cibersegurança e liderança em transformação digital para executivos que precisam navegar a revolução da IA com confiança, segurança e clareza estratégica.

Artigos relacionados

Deixe um comentário

O seu endereço de e-mail não será publicado. Campos obrigatórios são marcados com *

Botão Voltar ao topo