NIST AI RMF na prática: como aplicar Govern, Map, Measure e Manage

O NIST AI Risk Management Framework (AI RMF 1.0), publicado em janeiro de 2023 e expandido com o Generative AI Profile (NIST AI 600-1) em julho de 2024, é o framework voluntário mais influente do mundo para gestão de riscos de Inteligência Artificial. Diferente da ISO 42001 (norma certificável de gestão), o NIST AI RMF é um framework metodológico que ensina como identificar, avaliar e tratar riscos específicos de IA.

Este artigo mostra como aplicar as 4 funções do RMF (Govern, Map, Measure, Manage) na prática, como o GAI Profile estende o framework para IA generativa, e como integrar com ISO 42001 e regulações como AI Act.

Visão geral: as 4 funções do NIST AI RMF

O framework organiza-se em 4 funções inter-relacionadas, executadas de forma cíclica:

• GOVERN, cultura, políticas e responsabilidades de gestão de risco de IA
• MAP, contexto, propósito e categorização do sistema de IA
• MEASURE, análise quantitativa e qualitativa de riscos identificados
• MANAGE, priorização e tratamento de riscos com base em medições

Cada função desdobra-se em categorias e subcategorias total de 19 categorias e 72 subcategorias na versão 1.0, mais as adições do GAI Profile.

GOVERN, A base de tudo

Sem governança, as outras três funções viram exercício técnico isolado. GOVERN endereça:

• Políticas, processos e práticas de gestão de risco de IA
• Estrutura organizacional: papéis, responsabilidades, accountability
• Diversidade, equidade e inclusão na equipe que constrói/governa IA
• Cultura de risco e abertura para reportar problemas
• Engajamento com partes interessadas internas e externas
• Inventário de sistemas de IA e mapeamento de fornecedores/terceiros

Na prática: política corporativa de IA, comitê multidisciplinar, AI Owner por sistema, integração com ERM (Enterprise Risk Management), procedimento de comunicação de incidentes.

MAP, Contextualizar antes de medir

Erro comum: pular para "medir o viés do modelo" sem antes entender contexto, propósito e impacto. MAP exige documentar:

• Contexto de uso (quem usa, para quê, em que ambiente)
• Propósitos e benefícios esperados
• Categorização do sistema (uso geral, propósito específico, decisão automatizada, suporte à decisão)
• Impactos potenciais (positivos e negativos) sobre indivíduos, grupos, sociedade, meio ambiente
• Premissas, limitações conhecidas e dependências
• Caminhos de feedback e revisão humana

MEASURE, Análise rigorosa

MEASURE traduz risco abstrato em métrica concreta. Categorias incluem:

• Performance e robustez (acurácia, generalização, desempenho fora da distribuição)
• Segurança (resistência a ataques adversariais, prompt injection, envenenamento)
• Resiliência (degradação graciosa, fallback, recuperação)
• Viés e equidade (métricas de paridade, calibração por grupo, testes intersecionais)
• Transparência e explicabilidade (model cards, datasheets, explicações de decisão)
• Privacidade (vazamento via inversão de modelo, membership inference, k-anonimato)
• Confiabilidade ao longo do tempo (drift, degradação)

Ferramental: bibliotecas como AIF360, Fairlearn, ART (Adversarial Robustness Toolbox), Captum, datasets de eval específicos por domínio. Importante: medir é só metade, registrar evidência é a outra metade. Auditor não aceita "rodamos o teste"; aceita "rodamos, aqui está o resultado, aqui está a versão do dataset, aqui está a assinatura do responsável".

MANAGE, Decidir e tratar

Com risco mapeado e medido, MANAGE conduz priorização e tratamento:

• Priorização baseada em impacto x probabilidade x reversibilidade
• Decisão de tratamento: aceitar, mitigar, transferir, evitar
• Implementação de controles (técnicos, organizacionais, contratuais)
• Monitoramento contínuo de risco residual
• Resposta a incidentes específica de IA
• Comunicação a partes interessadas e reguladores quando aplicável
• Atualização cíclica baseada em aprendizado e mudanças de contexto

Generative AI Profile (NIST AI 600-1)

Publicado em julho de 2024, o GAI Profile estende o RMF para IA generativa. Catálogo de 12 riscos específicos de GenAI:

• CBRN Information (uso para material químico, biológico, radiológico, nuclear)
• Confabulation (alucinação)
• Dangerous, Violent, or Hateful Content
• Data Privacy
• Environmental Impacts
• Harmful Bias and Homogenization
• Human-AI Configuration
• Information Integrity
• Information Security
• Intellectual Property
• Obscene, Degrading, and/or Abusive Content
• Value Chain and Component Integration

Para cada risco, o GAI Profile sugere ações específicas distribuídas pelas funções Govern/Map/Measure/Manage.

NIST AI RMF + ISO 42001: melhor juntos

A combinação ideal:

• ISO 42001 → estrutura de gestão (cláusulas + Anexo A)
• NIST AI RMF → metodologia de risco (Govern/Map/Measure/Manage)
• ISO/IEC 23894 → guia de gestão de risco de IA, complementar e referenciada pela 42001
• OECD AI Principles → moldura ética alta
• OWASP LLM Top 10 / MITRE ATLAS → camada técnica de ameaças

Quem quer entender as diferenças e complementaridades em profundidade pode ler nossa página dedicada: ISO 42001 vs NIST AI RMF.

Como começar a aplicar amanhã

Semana 1–2

• Selecionar 1 sistema de IA piloto
• Workshop de MAP: contexto, propósito, impactos, partes interessadas
• Documentar em template de model card / system card

Semana 3–6

• MEASURE: rodar avaliações de viés, robustez, segurança aplicáveis
• Compilar evidências em formato auditável

Semana 7–10

• MANAGE: priorizar riscos, definir controles, atribuir responsáveis
• Implementar quick wins, planejar mitigações de longo prazo

Em paralelo (contínuo)

• GOVERN: comitê, política, integração com ERM, cultura

Onde a VGrid entra

A VGrid implementa o NIST AI RMF de forma integrada à ISO 42001 e ao programa de governança/segurança da empresa, com auditoria de IA independente como camada adicional quando necessário. Solicite um diagnóstico para receber recomendação prática de onde começar.