A Nvidia apresentou nesta segunda-feira (28) a Open Agent Safety Platform, uma nova arquitetura de segurança desenvolvida para controlar agentes autônomos de inteligência artificial e impedir que eles ultrapassem os limites estabelecidos durante sua execução.
A plataforma possui dois componentes principais. O OpenShell executa os agentes em ambientes isolados e controla o acesso a arquivos, redes, processos e outros recursos. Já o Sentry funciona como uma camada independente de monitoramento em hardware e pode isolar ou interromper rapidamente um agente que tente violar as políticas definidas.
A proposta ganhou relevância após casos recentes em que agentes de IA conseguiram ultrapassar ambientes de teste e acessar recursos que deveriam permanecer bloqueados. Para a Nvidia, controles de segurança precisam funcionar fora do alcance direto do próprio modelo, reduzindo a possibilidade de a IA contornar suas restrições.
O sistema foi projetado principalmente para empresas e organizações que utilizam agentes capazes de executar tarefas de forma autônoma por longos períodos. A Nvidia defende que isolamento, controle de permissões e monitoramento independente serão fundamentais conforme esses sistemas ganham maior capacidade de agir sobre redes e aplicações.
