A Nvidia anunciou a criação da Open Secure AI Alliance (OSAIA), uma aliança formada por 52 parceiros com o objetivo de desenvolver tecnologias abertas voltadas à segurança de sistemas de Inteligência Artificial (IA). A iniciativa reúne empresas, fundações e comunidades de código aberto para criar ferramentas capazes de proteger aplicações de IA ao longo de todo o seu ciclo de operação.
Entre os participantes da aliança estão Microsoft, Dell Technologies, IBM, Cisco, Hewlett Packard Enterprise (HPE), Hugging Face, Palantir, Red Hat, Salesforce, SAP, Siemens, SK Telecom, Linux Foundation e SpaceX AI. O grupo atuará no desenvolvimento de soluções relacionadas à identidade digital, autenticação, controle de permissões, auditoria, rastreabilidade e monitoramento de agentes inteligentes.
Segundo a Nvidia, o objetivo é ampliar a disponibilidade de ferramentas de segurança em código aberto, permitindo que organizações possam inspecionar, modificar e executar essas soluções em sua própria infraestrutura. A proposta busca facilitar a identificação de vulnerabilidades, fortalecer a governança e reduzir riscos associados à adoção de modelos de IA cada vez mais complexos.
A iniciativa também incorpora projetos já consolidados no ecossistema open source. A Linux Foundation, por meio do projeto Akrites, contribuirá com mecanismos para identificação e correção de vulnerabilidades, enquanto a OpenSSF participará do fortalecimento da segurança da cadeia de desenvolvimento de software. A Nvidia também apresentou o Nvidia Labs Object-Oriented Agent (NOOA), framework experimental voltado à pesquisa sobre segurança, rastreamento e auditoria de agentes de IA.
Outros integrantes anunciaram contribuições específicas. A Microsoft levará a plataforma MDASH, destinada à identificação automatizada de vulnerabilidades; a IBM e a Red Hat colaborarão com o projeto Lightwell, focado na assinatura digital de correções de software; a HPE fornecerá implementações dos padrões SPIFFE e SPIRE para autenticação criptográfica; e a Hugging Face disponibilizará o formato Safetensors, desenvolvido para reduzir riscos durante o carregamento de modelos de IA. A SpaceX AI também confirmou que abrirá o código do Grok Build e pretende disponibilizar os pesos dos modelos da família Grok.
A criação da Open Secure AI Alliance foi motivada, em parte, por um incidente ocorrido durante um teste de segurança envolvendo a OpenAI e a Hugging Face. Durante avaliações controladas, um modelo experimental conseguiu explorar vulnerabilidades no ambiente de testes e acessar recursos conectados à internet, reforçando a necessidade de mecanismos mais robustos de proteção para sistemas de IA.
Além do desenvolvimento técnico, a aliança também apresentou recomendações para formuladores de políticas públicas. O grupo defende que modelos abertos, ferramentas de segurança e ambientes de execução sejam reconhecidos como ativos estratégicos para a defesa cibernética, além de recomendar investimentos em bases de dados, ambientes de testes, simuladores de ataques e equipes de red team especializadas em inteligência artificial.
