As empresas estão cada vez mais focadas em como podem usar a Inteligência Artificial, mas também estão preocupadas com sua exposição aos riscos de segurança cibernética alimentados por IA. Ambas as estruturas são do NIST e possibilitam visões importantes para organizações que almejam mitigar riscos no emprego da IA.
Conforme destacado no artigo:https://cafecombytes.com.br/2025/07/28/governanca-de-seguranca-da-informacao-com-bases-no-nist-csfv2-cis-controls-v8-e-iso-27001-27002-e-27701-como-a-governanca-pode-auxiliar-na-maturidade-controle-de-auditoria-e-mitigacao-de-riscos/, o NIST fornece uma visão holística e com recursos destinados a ajudar os CISO e gerentes de segurança a proteger suas tecnologias.
Já o NIST Artificial Intelligence Risk Management Framework (RMF) se concentram em riscos de segurança cibernética direcionados a sistemas de Inteligência Artificial, embora compartilhem alguns pontos em comum, ambos possuem diferença na forma de registrar os temas e os controles relacionados ao foco destacado em especial ao AI RMF.
A seguir revisitaremos o NIST CSF v2 e na sequencial do IA RMF.
O que é o NIST CSF?
O NIST Cybersecurity Framework (NIST CSF) foi desenvolvido pelo National Institute of Standards and Technology dos Estados Unidos, sendo um framework aberto os conceitos podem ser acessados por meio do link (https://nvlpubs.nist.gov/nistpubs/CSWP/NIST.CSWP.29.pdf).
A sua uma estrutura é bem ampla com a visão estratégica para gerenciamento de riscos cibernéticos, dessa forma, amplamente reconhecida pela sua flexibilidade, adaptabilidade e aplicação em organizações de todos os tamanhos e setores. O seu principal objetivo é fornecer um modelo estrutura em um ciclo ao qual temas relacionados a Segurança da Informação de maneira compreensível e com visão de entendimento continuado de risco organizacionais.
A estrutura é composta por funções centrais que representam o ciclo de vida da cibersegurança: Governança, Identificar, Proteger, Detectar, Responder e Recuperar. Essas funções, que formam um ciclo iterativo de melhoria contínua, permitem que as organizações criem, mantenham e ajustem políticas e controles técnicos e administrativos de forma eficiente, com base no grau de maturidade e nos riscos reais de seu ambiente.
A função “Governança” traz ações que vinculam com as políticas corporativas, direcionamentos e regras que geram ações as demais funções. Na sequencial, função, “Identificar”, relaciona o gerenciamento de ativos, pessoas, dados e sistemas que são críticos para a operação organizacional, bem como das ameaças, vulnerabilidades e impactos possíveis. Já a função “Proteger” está conexa às ações e tecnologias que procuram defender os ativos, assim como proporcionar os controles de acesso, a proteção de dados e a conscientização dos colaboradores. A próxima função e a Detectar que relaciona a importância do monitoramento contínuo e da prontidão para identificar rapidamente um incidente de segurança. A penúltima função, o NIST corrobora os tens de “Responder” com definições de procedimentos para reagir a incidentes de forma coordenada, reduzindo danos e comunicando as partes envolvidas. Por fim, a função “Recuperar” envolve a restauração dos sistemas e ativos afetados, visando o retorno à operação normal e a incorporação de aprendizados para evitar futuras ocorrências.
O CSF era uma ferramenta flexível e repetível para ajudar organizações de todos os tipos e tamanhos a gerenciar a segurança cibernética usando as seguintes funções:
Govenrnance – Governança;
Identify – Identificação;
Protect – Proteção;
Detect – Decteção;
Respond – Resposta;
Recover – Recuperação;
O CSF 2.0, atualizado em 2024, adicionou uma sexta função – governar – ao guia. O objetivo é dar às organizações uma maneira de configurar recursos de governança, risco e conformidade (GRC) que tornem o gerenciamento de riscos um processo repetível e mensurável de cima para baixo.
O que é o AI RMF?
NIST lançou o AI Risk Management Framework (AI RMF) em 2023 para, em parte, “cultivar a confiança do público no design, desenvolvimento, uso e avaliação de tecnologias e sistemas de IA”.
O AI RMF usa as quatro funções a seguir para ajudar os CISOs e gerentes de segurança a organizar e se comunicar sobre o risco de IA:
Govern – Governança: estabelece a base organizacional para lidar com riscos de IA.
Objetivo: Criar políticas, processos, cultura e responsabilidades que assegurem que a IA seja utilizada de forma ética, segura e em conformidade com leis e regulamentos.
Exemplo prático: definir papéis de responsabilidade (quem aprova modelos, quem audita, quem valida dados), estabelecer políticas de uso aceitável de IA para criação de comitês de ética em IA para o treinamento da mesma, ou mesmo o uso de modelos de terceiros.
Benefício: Garante que a organização tenha uma postura proativa e transparente, reduzindo riscos legais, de imagem e regulatórios.
Map – Mapeamento: procura identificar, classificar e entender os sistemas de IA utilizados e seus contextos.
Objetivo: Mapear dados, modelos, algoritmos, fornecedores, riscos potenciais e impactos associados.
Exemplo prático: avaliação pretérita de um modelo de IA para mapeamento da origem dos dados, se possuem algum tipo de vício, como o modelo foi treinado, quais sistemas dependem do mesmo e quem será impactado por uma decisão automatizada.
Benefício: transparência sobre riscos específicos (por exemplo, privacidade, segurança, viés algorítmico), permitindo que a gestão seja baseada em fatos.
Manage – Gerenciamento: Trata-se da implementação de controles e medidas de mitigação para reduzir os riscos mapeados.
Objetivo: avaliar os riscos em níveis aceitáveis e garantir que a IA funcione conforme esperado ao longo de seu ciclo de vida.
Exemplo prático: definir os processos de monitoramento desses modelos em produção, aplicar técnicas de explicabilidade (XAI- Explainable Artificial Intelligence), implementar controles de segurança (como proteção contra os ataques cibernéticos), definir políticas de atualização e revisão de modelos. Obs: IA Explicável – XAI incluem modelos interpretáveis por design (como árvores de decisão e regressão linear), métodos pós-modelo (LIME e SHAP) para explicar caixas-pretas e técnicas de visualização para apresentar graficamente o funcionamento dos modelos.
Benefício: Permite que a organização controle riscos ativos e emergentes, garantindo resiliência e continuidade do negócio mesmo diante de falhas ou ataques em sistemas de IA.
Measure – Mensuração: estabelece métricas, indicadores e processos de avaliação contínua do desempenho e dos riscos de IA.
Objetivo: Garantir que os riscos sejam quantificados, monitorados e comunicados de forma consistente.
Exemplo prático: Criar KPIs de risco de IA, como métricas de acurácia, vieses detectados, taxa de incidentes, número de falhas de conformidade; realizar auditorias técnicas e testes de robustez.
Benefício: Transforma a gestão de riscos de IA em um processo mensurável e objetivo, permitindo que líderes tomem decisões com base em evidências.
Essas funções visam estabelecer recursos de GRC (Governança Risco e Conformidade) dentro de uma organização no que se refere aos sistemas de IA.
Embora o CSF e o AI RMF tenham objetivos semelhantes, o AI RMF tem um escopo ligeiramente diferente. O AI RMF se concentra em empresas que desenvolvem software de IA. Como tal, é voltado para o projeto, desenvolvimento, implantação, teste, avaliação, verificação e validação de sistemas de IA.
A maioria das organizações, no entanto, não são desenvolvedores de software; em vez disso, eles usam a IA como uma ferramenta para se tornarem mais eficazes ou eficientes. Para esse fim, as organizações que implementam o AI RMF precisam adotar uma abordagem diferente da que fazem com o CSF. Isso não é necessariamente uma má notícia. Ambas as estruturas foram projetadas para serem flexíveis em sua implementação e ainda fornecer uma base sólida para gerenciar riscos.
Como utilizar ambas as estruturas
O ponto de interseção entre CSF e do AI RMF são suas respectivas funções de governança, isto é, pode-se adotar as categorias ou subcategorias em ambas as estruturas para gerenciar riscos de uma perspectiva baseada em princípios.
Com a minha sugestão pessoal, pode-se adotar o seguinte mapeamento:
AI RMF Governança (Governance) correlaciona no NIST CSF em: Governança (GV);
AI RMF Mapeamento (Map) correlaciona no NIST CSF em: Identificação (ID);
AI RMF Gerenciamento (Manage) correlaciona no NIST CSF em: Proteger (PR), Responder (RS), Recuperar (RC);
AI RMF Mensuração (Measure) correlaciona no NIST CSF em: Detectar (DE), apoiar Responder (RS);
Sugere-se a criação de comitê para discussão dos risco do uso da IA na perspectiva de mapeamento dos temas que possam gerar perigo na utilização dessas novas ferramentas. Não obstante, a avaliação – mensuração do uso se tornar fundamental, incluindo assistentes de IA, ChatGPT, Dall-E ou outros sistemas generativos.
Outrossim, realize um alinhamento entre os sistemas de IA aos riscos de IA identificados. Pode-se empregar uma planilha simples que permite à organização gerenciar riscos e ativos. Na sequência, o comitê poderá decidir quais ações poderão ser realizadas para mitigação de riscos aos ativos. Esta etapa depende do contexto e da disposição de risco da organização. Ademais, o uso de conscientização dos funcionários passa a ter um caráter obrigatório, visto que há inúmeras IA generativas disponíveis e os treinamentos acentuam a boa conduta para não vazamento de dados de forma não intencional.
Por fim, o NIST CSF e o AI RMF são excelentes recursos para organizar e comunicar um portfólio de riscos tecnológicos. Ambas as estruturas são fundamentais e com a aplicação destes controles, as organizações poderão ter êxito na implementação das novas tecnologias que aceleram a produtividade e trazem novos horizontes aos serviços e negócios.
