Pesquisadores da Zenity Labs divulgaram detalhes de uma vulnerabilidade que poderia permitir a criação de um agente autônomo malicioso dentro do ChatGPT Enterprise de uma organização. Segundo a empresa, bastava que a vítima clicasse em um link especialmente preparado para que o ataque fosse iniciado, comprometendo fluxos automatizados de inteligência artificial.
A falha explorava a forma como agentes personalizados e integrações da plataforma processavam determinadas ações iniciadas pelo usuário. Após a exploração, um invasor poderia implantar um agente com comportamentos maliciosos, capaz de executar tarefas automatizadas utilizando as permissões concedidas ao ambiente corporativo.
Dependendo da configuração da empresa, esse agente poderia acessar informações internas, interagir com documentos, consultar bases de conhecimento e executar ações em sistemas conectados ao ChatGPT, aumentando o potencial de comprometimento de dados sensíveis.
A Zenity Labs informou que comunicou a vulnerabilidade de forma responsável à OpenAI, que implementou as correções necessárias antes da divulgação pública da pesquisa. Com isso, a falha não representa mais risco para organizações que utilizam a versão atualizada da plataforma.
Os pesquisadores destacam que o incidente evidencia um novo desafio para a segurança corporativa: a proteção de agentes de inteligência artificial. À medida que essas ferramentas passam a integrar e automatizar processos internos, elas também se tornam potenciais alvos para ataques cibernéticos.
Especialistas recomendam que empresas adotem boas práticas para reduzir riscos, como restringir permissões concedidas aos agentes de IA, revisar integrações de terceiros, utilizar autenticação multifator e monitorar continuamente atividades incomuns em ambientes que utilizam inteligência artificial.
O caso reforça que a segurança em plataformas de IA vai além da proteção dos modelos de linguagem. Também é fundamental garantir que agentes automatizados, plugins e integrações empresariais estejam protegidos contra técnicas de exploração que possam transformar recursos legítimos em ferramentas para ataques cibernéticos.
