Por Pedro Sonda, dooop
Quando a IA toma uma decisão errada, a empresa deve seguir seis passos: conter (suspender ou limitar o uso para que o erro não se repita), corrigir para quem foi afetado, comunicar com transparência, investigar a causa, prevenir a repetição e registrar o aprendizado. A empresa responde pelo erro, e não a ferramenta. A investigação costuma encontrar uma de cinco causas: problema nos dados, limitação do modelo, uso fora do escopo previsto, falha na revisão humana ou manipulação do sistema. Responder bem a um erro preserva confiança; tentar atribuí-lo à "máquina" costuma destruí-la.
Atualizado em outubro de 2026.
Este conteúdo não substitui orientação jurídica.
O que casos reais mostram
| Caso | O que aconteceu | Fonte |
|---|---|---|
| Air Canada (2024) | O chatbot informou uma regra de reembolso errada; a empresa argumentou que o chatbot seria responsável por si, e o tribunal a condenou a indenizar o cliente | ABA Business Law Today, 2024 |
| Deloitte Austrália (2025) | Um relatório entregue ao governo continha referências com erros atribuídos ao uso de IA generativa; a empresa devolveu parte do valor e entregou versão revisada | The Register, 2025 |
| Klarna (2025) | Depois de automatizar boa parte do atendimento com foco em custo, a empresa reconheceu queda de qualidade e passou a reinvestir em atendimento humano | Customer Experience Dive, 2025 |
Interpretação: erros de IA geram responsabilidade financeira, contratual e reputacional. Os casos que terminam melhor são aqueles em que a empresa assume, corrige e muda o processo.
Framework dooop: a resposta em 6 passos
| Passo | O que fazer | Prazo indicativo |
|---|---|---|
| 1. Conter | Suspender o sistema, limitar o uso ou ativar revisão humana total até entender o problema | Horas |
| 2. Corrigir para os afetados | Identificar quem foi afetado e reverter ou compensar o efeito | Dias |
| 3. Comunicar | Informar os afetados e, se cabível, autoridades, com clareza sobre o que aconteceu e o que está sendo feito | Conforme gravidade e exigências legais |
| 4. Investigar | Encontrar a causa, e não apenas o sintoma | Dias a semanas |
| 5. Prevenir | Mudar dados, configuração, escopo, revisão humana ou o próprio uso | Semanas |
| 6. Registrar e aprender | Documentar o incidente, as decisões e as mudanças; compartilhar o aprendizado | Ao final |
Passo 2 em detalhe: o direito de revisão
Quando a decisão afeta uma pessoa com base em tratamento automatizado de dados pessoais, a LGPD garante o direito de solicitar revisão (art. 20) (LGPD). Ter um canal de contestação ativo antes do erro facilita muito o passo 2.
Framework dooop: as 5 causas de erro
| Causa | Como reconhecer | Prevenção típica |
|---|---|---|
| 1. Dados | Informação de origem errada, desatualizada ou incompleta | Corrigir a fonte; definir dono dos dados |
| 2. Limitação do modelo | Resposta plausível, mas inventada ou errada em um tipo de caso | Restringir o uso a tarefas em que o desempenho foi testado; revisão humana |
| 3. Uso fora do escopo | Sistema usado para algo diferente do previsto | Delimitar o escopo; bloquear usos não previstos |
| 4. Falha na revisão humana | Revisão prevista, mas feita às pressas ou não feita | Redesenhar a revisão; reduzir volume por revisor; registro |
| 5. Manipulação | Entrada maliciosa levou a comportamento indevido | Controles de segurança; limitar ações e acessos |
A causa 4 é frequente e pouco discutida: quando a IA acerta na maioria das vezes, a revisão humana tende a virar carimbo. Veja Como criar mecanismos de revisão humana para IA.
O que não fazer
- Culpar a ferramenta publicamente ou perante o cliente.
- Corrigir o caso individual e não investigar a causa.
- Esconder o erro de quem foi afetado.
- Desligar a IA para sempre sem avaliar se o problema era de desenho ou de uso.
O que fazer agora
- Defina quem pode suspender cada sistema de IA de risco moderado ou alto.
- Crie um canal de contestação para pessoas afetadas por decisões com IA.
- Prepare um modelo de comunicação para erros com impacto em clientes.
A preparação completa para incidentes está em Como preparar a empresa para incidentes relacionados à IA. Para estruturar a governança que reduz e trata erros, conheça a frente de Governança de IA da dooop.
Perguntas frequentes
A empresa sempre responde pelo erro da IA? Perante clientes e terceiros, em regra, a empresa que usa a IA responde pelo resultado. A divisão com fornecedores depende de contratos e do caso concreto, e deve ser avaliada com assessoria jurídica.
Todo erro de IA é um incidente? Não. Erros pequenos, corrigidos na revisão, fazem parte da operação e devem ser medidos. Erros que chegam a clientes, afetam pessoas, dinheiro ou dados devem ser tratados como incidentes.
Devemos informar que o erro foi causado por IA? Transparência sobre a causa costuma preservar a confiança, desde que acompanhada do que a empresa fez para corrigir e prevenir. O que não se deve fazer é usar a IA como desculpa.
Leia também
Sobre a dooop
A dooop é uma consultoria de Caxias do Sul (RS) que prepara lideranças e organizações para transformar inteligência artificial em capacidade de negócio, com estratégia, governança e capacitação.
Conversar com a dooop
Compartilhe seu contexto, suas restrições e a decisão que sua organização precisa avaliar.
Conteúdo de Pedro Sonda. Leve os critérios desta leitura para uma conversa sobre a decisão da sua organização.