A Agência de Segurança Cibernética e de Infraestrutura dos Estados Unidos (CISA) recomendou que empresas e organizações realizem auditorias externas nos ambientes utilizados para testar modelos de inteligência artificial.
A orientação busca ampliar a segurança durante o desenvolvimento e a avaliação dessas tecnologias, permitindo que especialistas independentes identifiquem vulnerabilidades e possíveis riscos antes da utilização dos sistemas.
Os ambientes de testes são utilizados para analisar o comportamento dos modelos, verificar suas limitações e avaliar possíveis falhas de segurança. Uma auditoria independente pode contribuir para identificar problemas que não foram detectados pelas equipes responsáveis pelo desenvolvimento.
A recomendação da CISA é voluntária, ou seja, não estabelece uma obrigação legal para as empresas que desenvolvem ou utilizam modelos de inteligência artificial.
A iniciativa reforça a preocupação crescente com a segurança da IA, especialmente diante da expansão de agentes autônomos e ferramentas capazes de acessar informações, executar comandos e interagir com sistemas corporativos.
