Pesquisadores da Barracuda Networks divulgaram um estudo demonstrando que assistentes de e-mail baseados em inteligência artificial podem ser explorados por criminosos para executar fraudes sofisticadas contra empresas. Segundo a pesquisa, atacantes conseguem manipular esses agentes para enviar mensagens falsas, alterar fluxos de comunicação e até eliminar registros das atividades maliciosas, dificultando a detecção do ataque.
O estudo aponta que a vulnerabilidade está relacionada ao uso de prompt injection, técnica em que comandos ocultos são inseridos em e-mails ou documentos para influenciar o comportamento do assistente de IA. Ao processar essas instruções, o sistema pode executar ações não autorizadas sem que o usuário perceba.
Entre os cenários simulados pelos pesquisadores estão ataques de Business Email Compromise (BEC), em que criminosos induzem assistentes inteligentes a gerar mensagens fraudulentas em nome de executivos, alterar destinatários, responder automaticamente a e-mails estratégicos ou ocultar comunicações legítimas.
Um dos aspectos mais preocupantes identificados foi a capacidade de alguns agentes de apagar ou ocultar os próprios rastros, removendo mensagens comprometedoras ou alterando registros após a execução das ações. Esse comportamento pode dificultar investigações internas e atrasar a resposta a incidentes de segurança.
A Barracuda recomenda que empresas adotem controles específicos para agentes de IA, incluindo limitação de permissões, validação humana para ações críticas, monitoramento contínuo, filtros contra injeção de prompts e auditoria detalhada das operações realizadas pelos assistentes.
Os pesquisadores destacam que, à medida que agentes de inteligência artificial passam a acessar caixas de e-mail, calendários, documentos e sistemas corporativos, torna-se essencial aplicar princípios de menor privilégio, autenticação robusta e mecanismos de supervisão para evitar que essas ferramentas sejam transformadas em novos vetores de ataque.
O estudo reforça que os assistentes de IA podem trazer ganhos significativos de produtividade, mas também ampliam a superfície de ataque das organizações, exigindo novas estratégias de segurança voltadas especificamente para sistemas inteligentes e autônomos.
