Avaliar um fornecedor de IA não é o mesmo que avaliar um fornecedor de software tradicional. Mesmo quando o modelo é robusto, três dimensões mudam radicalmente o risco: como o fornecedor usa os dados que você envia, como o modelo decide e o que acontece quando ele erra. Sem due diligence específica para IA, contratos enterprise viram passivo regulatório e operacional.
Por que fornecedores de IA exigem análise específica?
Em SaaS tradicional, os dados ficam onde foram colocados. Em fornecedores de IA, os dados podem alimentar o modelo, atravessar subprocessadores, ser usados para fine-tuning ou influenciar respostas para outros clientes. Além disso, o output do modelo afeta decisões reais sobre pessoas, contratos e operações, o que aciona obrigações regulatórias como LGPD, EU AI Act e PL 2338.
A pergunta-chave deixou de ser "este fornecedor é seguro?". Passou a ser "como este fornecedor governa, treina, registra e responde pelo modelo que vai operar dentro da minha empresa?".
Quais dimensões avaliar?
1. Uso dos dados para treinamento
O fornecedor utiliza inputs do cliente para treinar ou melhorar modelos? Existe opt-out por padrão? O opt-out é contratual ou apenas configurável na interface? Como isso é auditável?
2. Subprocessadores e localização
Quais subprocessadores entram na cadeia (cloud provider, fornecedor do modelo base, integrações). Onde os dados são processados. Existe transferência internacional? Há cláusulas adequadas sob LGPD?
3. Logs e auditabilidade
O fornecedor entrega logs auditáveis de prompts, respostas e decisões? Por quanto tempo retém? O cliente consegue exportar para o próprio SIEM ou trilha de auditoria?
4. Decisão automatizada e explicabilidade
O modelo toma decisões com efeito jurídico ou impacto significativo? Há mecanismo de explicação? Há revisão humana documentada? Como o titular exerce direito à revisão (Art. 20 da LGPD)?
5. Segurança do modelo e do contexto
Quais controles existem contra prompt injection, jailbreaks, vazamento via contexto e abuso de agentes. Veja OWASP LLM Top 10.
6. Vieses e qualidade
O fornecedor documenta testes contra vieses, datasets de avaliação, métricas de qualidade e taxa de alucinação. Existe model card ou system card público?
7. Incidentes e SLA
Como o fornecedor reporta incidentes envolvendo modelo, dados ou abuso. Qual o tempo de notificação contratual. Há plano de resposta documentado.
8. Conformidade regulatória
O fornecedor declara conformidade ou adequação a frameworks aplicáveis (ISO/IEC 42001, NIST AI RMF, ISO 27001, SOC 2, GDPR, LGPD). As declarações têm evidência objetiva ou são marketing?
9. Cláusulas contratuais específicas
Cláusulas que merecem revisão jurídica: uso de dados, opt-out, propriedade do output, responsabilidade por output, indenização, sublicenciamento, alterações unilaterais no modelo e descontinuação.
Checklist de avaliação de fornecedor de IA
- O fornecedor usa dados do cliente para treinar modelos?
- Há opção de opt-out, e ela é contratual?
- Onde os dados são processados e por quais subprocessadores?
- Existem logs auditáveis de prompts, respostas e decisões?
- O modelo toma decisão automatizada com impacto significativo?
- Há documentação técnica de risco (model card, system card, DPIA)?
- Há testes documentados contra vieses?
- Há controles contra prompt injection, jailbreaks e abuso de agentes?
- Há SLA claro para incidentes envolvendo o modelo?
- O fornecedor entrega evidências de conformidade (ISO, SOC, LGPD)?
- O contrato cobre uso de dados, output e descontinuação do modelo?
- Há cláusula sobre mudanças unilaterais no modelo base?
Tabela de classificação de risco do fornecedor
| Tipo de uso | Risco | Profundidade da due diligence |
|---|---|---|
| Produtividade individual (sem dados sensíveis) | Baixo | Avaliação simplificada de política e termos |
| Tratamento de dados pessoais ou confidenciais | Médio a alto | Avaliação completa, contrato com cláusulas específicas, DPIA |
| Decisão automatizada sobre pessoas | Alto | Due diligence completa, AIPD, revisão humana, evidência |
| Agentes autônomos com permissão de ação | Alto a crítico | Due diligence completa, ambiente isolado, monitoramento contínuo |
Como integrar a due diligence ao programa de governança?
- Inclua avaliação de IA no processo de onboarding de fornecedores.
- Mantenha um inventário vivo de fornecedores de IA, com risco e dono.
- Reavalie fornecedores críticos a cada 12 meses ou após mudança relevante no modelo.
- Conecte os achados ao registro de riscos do AIMS (ISO/IEC 42001).
- Documente a decisão de aprovação ou reprovação para servir como evidência.
FAQ
Preciso fazer due diligence para ferramentas gratuitas?
Sim, principalmente porque ferramentas gratuitas costumam ter os termos mais permissivos quanto ao uso de dados para treinamento. O risco contratual e regulatório é, muitas vezes, maior.
O fornecedor garante 100% de segurança?
Nenhum fornecedor sério garante isso. O que se exige é controle proporcional, documentação, transparência e mecanismos auditáveis. Promessas absolutas são sinal de alerta.
Como tratar SaaS com IA embarcada que não vendem como produto de IA?
Os mesmos critérios se aplicam. Se a funcionalidade usa modelo (mesmo de terceiros), a due diligence precisa cobrir uso de dados, subprocessador e logs.
O contrato padrão do fornecedor é suficiente?
Raramente. Em geral, é preciso adendo específico para uso de dados, opt-out de treinamento, logs e responsabilidade pelo output.
Quem deve assinar a aprovação final?
Idealmente o comitê de governança de IA, com pareceres formais de TI, segurança, jurídico e privacidade. Em fornecedores críticos, a decisão sobe para a diretoria.
Conteúdo produzido pela equipe da VGrid, consultoria brasileira especializada em monitoramento corporativo, insider risk, DLP, governança operacional e conformidade.