Glossário de IA Corporativa

Sistemas de IA que executam tarefas com autonomia.

Agentes autônomos que tomam decisões, acessam ferramentas, consomem APIs e executam ações encadeadas com supervisão humana variável. Exigem governança proporcional à autonomia, com controles de autorização, blast radius e auditoria.

Conformidade aplicada à IA.

Adequação a normas, regulações e contratos sobre uso de IA, ISO/IEC 42001, EU AI Act, PL 2338, LGPD aplicada à IA, regulações setoriais e cláusulas contratuais B2B sobre IA.

Estrutura corporativa para uso governado de IA.

Conjunto de políticas, papéis, responsabilidades, controles, riscos, evidências e melhoria contínua que permite à empresa usar IA de forma segura, rastreável e alinhada ao negócio. Base normativa principal: ISO/IEC 42001. Em português é chamada indistintamente de Governança de IA ou Governança Algorítmica.

Gestão de riscos próprios de IA.

Identificação, avaliação, tratamento, monitoramento e revisão de riscos específicos de sistemas de IA, viés, desempenho, segurança, privacidade, dependência de fornecedor, deriva de modelo. Referenciais: NIST AI RMF e ISO/IEC 23894.

Segurança aplicada a sistemas de IA.

Disciplina que trata de ameaças próprias de IA, prompt injection, data poisoning, model extraction, jailbreak, vazamento via LLM, abuso de agente autônomo, integrada à cibersegurança corporativa.

Tendência sistemática de modelos.

Distorção sistemática em treino, dado, métrica ou aplicação que gera resultado desproporcional para subgrupos. Não existe modelo sem viés, existe modelo com viés conhecido, documentado, monitorado e mitigado.

Manipulação de dados de treino.

Ataque que insere ou altera dados de treinamento ou fine-tuning para distorcer o comportamento do modelo. Pode causar resultado errado em situação específica, viés intencional ou backdoor lógica.

Avaliação de impacto à proteção de dados.

Documento exigido pela LGPD para tratamentos de alto risco. Em IA, DPIA é frequentemente obrigatório, descreve dados, finalidade, base legal, riscos, salvaguardas e responsáveis.

Lei europeia de IA.

Regulação da União Europeia que classifica sistemas de IA por risco (proibido, alto risco, risco limitado, mínimo) e impõe obrigações proporcionais. Afeta empresas brasileiras com operação, cliente ou exportação para a UE.

Fairness, Accountability, Transparency, Ethics.

Framework de IA responsável que organiza ética em quatro dimensões operáveis: justiça, responsabilização, transparência e princípios éticos aplicados como controle.

Sinônimo corporativo de Governança de IA.

Termo equivalente a Governança de IA (AI Governance), com ênfase na dimensão algorítmica das decisões automatizadas: modelos preditivos, sistemas de recomendação, IA generativa e agentes autônomos. A VGrid trata os dois termos como sinônimos em escopo corporativo, ancorados na ISO/IEC 42001, no NIST AI RMF e no FATE Framework.

Resposta inventada por LLM.

Resposta gerada por LLM que parece plausível mas é factualmente incorreta, citações inventadas, jurisprudência inexistente, dados errados. Risco material em uso jurídico, clínico, financeiro e técnico.

Norma de gestão de risco em IA.

Norma internacional de orientação para gestão de risco aplicada a IA, complementar à ISO 31000 e à ISO/IEC 42001.

Norma de Sistema de Gestão de IA.

Primeira norma internacional certificável de Sistema de Gestão de IA (AIMS). Define requisitos de governança, política, papéis, riscos, controles, evidências e melhoria contínua. Pode ser certificada por organismo acreditado independente.

LGPD no contexto de sistemas de IA.

Aplicação concreta da LGPD a tratamento de dados pessoais por IA, base legal, finalidade, minimização, retenção, direito de revisão de decisão automatizada, DPIA específica e tratamento de dado sensível.

Large Language Model.

Modelo de linguagem de grande escala treinado em vastos volumes de texto. Base de produtos como ChatGPT, Claude, Gemini, Copilot. Consumido via plataforma pública, API corporativa ou modelo próprio.

Documentação técnica de um modelo.

Documento que descreve propósito, dados de treino, métricas, limitações, casos de uso aceitáveis e contraindicações de um modelo. Sustenta auditoria, due diligence e exigência regulatória.

Framework americano de risco de IA.

Framework do National Institute of Standards and Technology (EUA) para gestão de risco em IA, com funções Govern, Map, Measure, Manage. Referencial técnico amplamente adotado.

Projeto brasileiro de regulação de IA.

Projeto de lei em tramitação no Congresso Nacional que estabelece princípios, classificação por risco, direitos e obrigações sobre o uso de IA no Brasil. A VGrid trabalha com adequação preventiva.

Manipulação de instrução em LLM.

Ataque que insere instruções maliciosas em entradas de LLM (direta ou indiretamente via documento, e-mail, página) para alterar comportamento, vazar dado ou executar ação não autorizada.

Retrieval-Augmented Generation.

Arquitetura que combina LLM com recuperação de informação de base própria, permitindo respostas ancoradas em conteúdo corporativo controlado. Reduz alucinação e exige governança específica de dado e acesso.

Software como Dispositivo Médico.

Software autônomo classificado como dispositivo médico. Sistemas de IA com função clínica frequentemente entram nesse regime, com exigências da ANVISA sobre risco, ciclo de vida e atualização contínua.

Uso de IA fora do controle corporativo.

Adoção de ferramentas de IA por colaboradores ou áreas sem avaliação formal de TI, segurança, privacidade ou compliance, copilotos, LLMs públicos, plugins, agentes externos.

Controle humano sobre decisão de IA.

Capacidade real de um humano qualificado revisar, contestar, pausar ou substituir a decisão de um sistema de IA. Para ser real, exige autoridade, critério, tempo e canal, não apenas presença formal.

IA confiável.

Termo guarda-chuva que reúne os atributos esperados de IA responsável: lícita, ética, robusta, segura, transparente, explicável, auditável e supervisionada. Operacionalizado por frameworks como FATE, NIST AI RMF e ISO/IEC 42001.