Em 2024 e 2025, a pergunta dominante nos times de segurança foi: "AI Security é uma nova disciplina ou é só cibersegurança aplicada a sistemas com IA?". A resposta honesta de quem atua em ambas: os dois. Há fundamentos comuns que se mantêm, e há ameaças, superfícies de ataque e mitigações genuinamente novas, que exigem capacitação específica.
Este artigo separa, sem mistério, o que muda e o que se mantém. Útil para CISOs decidindo investimento em capacitação, gestores avaliando se precisam de novo time, e arquitetos planejando defesa de sistemas com IA.
O que se mantém da cibersegurança tradicional
Sistemas com IA continuam sendo software rodando em infraestrutura. Tudo que vale para qualquer aplicação corporativa continua valendo:
- Identidade e acesso (IAM, MFA, princípio do menor privilégio)
- Hardening de infraestrutura (servidores, contêineres, rede)
- Gestão de vulnerabilidade (libs, dependências, patches)
- DevSecOps (SAST, DAST, SCA, secrets scanning)
- Logging, SIEM, SOC, resposta a incidentes
- Criptografia em trânsito e em repouso
- Segregação de ambientes (dev/homologação/produção)
- Backup, continuidade de negócio, disaster recovery
Falhar em qualquer um desses fundamentos compromete a aplicação de IA antes mesmo de qualquer ameaça específica de IA aparecer. Não existe AI Security boa em cima de cibersegurança fraca.
O que muda: as 5 grandes diferenças
1. Nova superfície de ataque: o próprio modelo
Em uma aplicação tradicional, a superfície é: rede + servidor + aplicação + dados. Em uma aplicação com IA, adiciona-se: dataset + processo de treinamento + modelo treinado + inferência + prompt + outputs. Cada elo vira alvo.
2. Atacante manipula entrada para alterar comportamento
Em sistemas tradicionais, input validation lida com SQL injection, XSS, command injection. Em sistemas com LLM, surge prompt injection atacante usa linguagem natural para fazer o modelo desviar do propósito. E pior: pode ser indireto (instruções escondidas em documentos que o LLM processa).
3. O output do modelo precisa ser tratado como input não confiável
Tradicionalmente, output da aplicação ia direto para o usuário ou outro sistema. Com LLM, o output pode ser texto controlado adversarialmente, e gerar XSS, SSRF, RCE quando passado a outros componentes. Veja o item LLM05 no OWASP LLM Top 10.
4. Agentes autônomos com poder de ação
Sistemas tradicionais executam o que o desenvolvedor escreveu. Agentes de IA decidem qual ferramenta chamar, em que ordem, com quais argumentos. Erro ou manipulação no raciocínio do agente vira ação no mundo real: deletar dados, transferir dinheiro, mandar e-mail. Aprofunde em Agentic AI Security.
5. Ameaças à própria propriedade do modelo
Model theft (extração via queries massivas), data poisoning (envenenamento do dataset), backdoors em modelos open-source, membership inference (descobrir se um dado específico foi usado em treino), categorias inexistentes na cibersegurança tradicional.
Cibersegurança tradicional protege a aplicação de quem a usa de forma adversária. AI Security adiciona: protege o modelo, os dados de treino e o comportamento do agente, também de quem o usa de forma adversária.
Os frameworks que importam para AI Security
- OWASP Top 10 for LLM Applications (2025), vulnerabilidades específicas de aplicações com IA generativa
- MITRE ATLAS, táticas, técnicas e procedimentos (TTPs) de adversários contra sistemas de IA
- NIST AI RMF + GAI Profile, gestão de risco com cobertura de AI Security
- ISO/IEC 42001, exige controles de segurança no Anexo A
- ISO/IEC 27090 (em desenvolvimento), orientação específica de cibersegurança para IA
- EU AI Act art. 15, exige cibersegurança apropriada para sistemas de alto risco
Como integrar AI Security ao programa de cibersegurança
Passo 1, Não criar silo
AI Security não é "novo time paralelo". É extensão do programa de cibersegurança existente, com pessoas treinadas nas novidades. CISO continua sendo CISO. SOC continua sendo SOC. Adicionam-se runbooks, casos de uso e ferramental.
Passo 2, Atualizar threat modeling
STRIDE, PASTA, VAST continuam válidos, mas precisam incluir cenários específicos de IA. Há extensões publicadas e bibliotecas de exemplos. Faça threat modeling para cada aplicação com IA antes do go-live.
Passo 3, Adicionar testes específicos no SDLC
- Testes automatizados de prompt injection em CI
- Avaliações de robustez (entradas adversariais)
- Verificação de model card e datasheet antes de promoção a produção
- Pentest com escopo OWASP LLM antes de exposição externa
Passo 4, Estender SIEM e SOC
- Casos de uso para detecção de prompt injection
- Anomalia em uso de tokens (model extraction, denial of wallet)
- Acessos suspeitos a endpoints de inferência
- Comportamento anômalo de agentes autônomos
Passo 5, Capacitar e exercitar
Treinamento para devs, SOC, red team. Exercícios de tabletop com cenários de incidente de IA. Red team com escopo expandido para LLMs e agentes.
Perfil profissional que está surgindo
O mercado começa a formar profissionais híbridos: AI Security Engineer (combina ML + segurança ofensiva), AI Red Teamer, AI Risk Analyst. Não significa que CISOs precisam contratar todos imediatamente, mas precisam ter ao menos um ponto focal interno + parceria com consultoria especializada para fechar o gap.
Como a VGrid integra AI Security e cibersegurança
A VGrid trata AI Security como camada do programa de cibersegurança, com Lead Implementer ISO 42001 + experiência em ISO 27001/27701 + capacidade de pentest e segurança ofensiva. Atuamos via avaliações de AI Security, integração com CISO as a Service e governança contínua.
Solicite um diagnóstico para entender como integrar AI Security ao seu programa de segurança existente, sem criar silo desnecessário e sem deixar lacuna de cobertura.
Conteúdo produzido pela equipe da VGrid, consultoria brasileira especializada em monitoramento corporativo, insider risk, DLP, governança operacional e conformidade.