Por Pedro Sonda, dooop
Para preparar a empresa para incidentes de IA, monte um plano com seis elementos: (1) definição do que é um incidente de IA e escala de gravidade; (2) canal de relato acessível e sem punição; (3) papéis e comitê de resposta; (4) roteiros por tipo de incidente; (5) regras de comunicação interna, com afetados e com autoridades, incluindo obrigações legais; e (6) simulações periódicas. Os roteiros devem cobrir cinco tipos de incidente: erro com impacto em pessoas ou clientes, vazamento de dados, manipulação do sistema, vieses e discriminação, e falha de fornecedor. Sempre que possível, integre o plano ao de incidentes de segurança que a empresa já tem.
Atualizado em outubro de 2026.
Este conteúdo não substitui orientação jurídica ou de segurança da informação.
O que é um incidente de IA
A OCDE define incidente de IA como um evento em que o desenvolvimento, o uso ou o mau funcionamento de sistemas de IA leva, direta ou indiretamente, a dano real; quando o dano é apenas plausível, trata-se de um risco (hazard) (OCDE). A distinção ajuda a empresa a registrar também os quase-incidentes, que ensinam sem causar dano.
Por que se preparar
| Fato | Fonte |
|---|---|
| 13% das organizações relataram violação de modelos ou aplicações de IA, e 8% não sabiam se haviam sido comprometidas; entre os incidentes de segurança ligados à IA, 60% levaram a dados comprometidos e 31% a interrupção de operações | IBM, 2025 |
| A Air Canada foi responsabilizada por informação errada dada pelo chatbot do seu site | ABA Business Law Today, 2024 |
| Funcionários da Samsung enviaram código sensível ao ChatGPT, e a empresa restringiu o uso de IA generativa | CNBC, 2023 |
| A LGPD exige que o controlador comunique à ANPD e ao titular incidente de segurança que possa acarretar risco ou dano relevante (art. 48) | LGPD |
Interpretação: incidentes com IA já acontecem em empresas de todos os portes, e alguns trazem obrigações legais de comunicação. Descobrir quem decide e o que fazer durante o incidente custa caro.
Framework dooop: os 6 elementos do plano
| Elemento | O que definir |
|---|---|
| 1. Definição e gravidade | O que conta como incidente e quase-incidente; escala (por exemplo: baixa, média, alta, crítica) com exemplos |
| 2. Canal de relato | Como qualquer pessoa relata; garantia de não punição para relatos de boa-fé |
| 3. Papéis e comitê | Quem coordena; quem pode suspender sistemas; quem decide comunicação; contatos fora do horário |
| 4. Roteiros por tipo | Passos de contenção, investigação e correção para cada um dos 5 tipos |
| 5. Comunicação | Mensagens para equipes, afetados, clientes, autoridades e imprensa; prazos legais |
| 6. Simulações e aprendizado | Exercícios ao menos anuais; revisão do plano após cada incidente relevante |
Framework dooop: os 5 tipos de incidente
| Tipo | Exemplo genérico | Primeiras ações |
|---|---|---|
| 1. Erro com impacto | Assistente informa condição errada a clientes | Suspender ou ativar revisão total; identificar afetados; corrigir; veja O que fazer quando a IA toma uma decisão errada? |
| 2. Vazamento de dados | Dados de clientes inseridos em ferramenta não aprovada; assistente expõe documentos restritos | Conter; avaliar dados expostos; avaliar comunicação à ANPD e titulares; veja Como lidar com dados confidenciais em ferramentas de IA |
| 3. Manipulação | Conteúdo malicioso leva um agente a executar ação indevida | Parar o agente; reverter ações; revisar limites; veja Como estabelecer limites para agentes de inteligência artificial |
| 4. Vieses e discriminação | Resultados sistematicamente piores para um grupo | Suspender o uso afetado; analisar; revisar decisões tomadas |
| 5. Falha de fornecedor | Mudança de modelo altera o comportamento; indisponibilidade | Acionar processo alternativo; acionar o fornecedor; veja Como governar fornecedores de inteligência artificial |
Como fazer uma simulação
- Escolha um cenário realista (por exemplo, assistente de atendimento informando prazo errado a centenas de clientes).
- Reúna o comitê e conduza a discussão em tempo real: quem é avisado, quem decide suspender, o que se comunica.
- Registre as lacunas: contatos desatualizados, decisões sem dono, mensagens inexistentes.
- Atualize o plano em até 30 dias.
O que fazer agora
- Defina a escala de gravidade com exemplos dos usos de IA da empresa.
- Nomeie quem pode suspender cada sistema de risco moderado ou alto.
- Agende a primeira simulação com o comitê de resposta.
Para estruturar a preparação para incidentes de IA, conheça a frente de Governança de IA da dooop.
Perguntas frequentes
Precisamos de um plano separado para IA? Não necessariamente. Muitas empresas incorporam os tipos de incidente de IA ao plano de incidentes de segurança e de privacidade que já existe, acrescentando os roteiros específicos.
Todo erro de IA deve ser registrado como incidente? Erros pequenos, corrigidos na revisão, entram nas métricas de qualidade. Erros que chegam a clientes, afetam pessoas, dados ou dinheiro devem ser registrados como incidentes. Quase-incidentes também merecem registro.
Como incentivar o relato? Garantindo que relatos de boa-fé não gerem punição, respondendo rapidamente e mostrando o que mudou depois de cada relato.
Leia também
Sobre a dooop
A dooop é uma consultoria de Caxias do Sul (RS) que prepara lideranças e organizações para transformar inteligência artificial em capacidade de negócio, com estratégia, governança e capacitação.
Conversar com a dooop
Compartilhe seu contexto, suas restrições e a decisão que sua organização precisa avaliar.
Conteúdo de Pedro Sonda. Leve os critérios desta leitura para uma conversa sobre a decisão da sua organização.