Por Pedro Sonda, dooop
Não. Cada aplicação de IA precisa de controles proporcionais ao seu risco. A forma prática é combinar um piso de cinco controles que vale para todos os usos (ferramenta aprovada, regra de dados, responsável, registro no inventário e canal de incidentes) com controles adicionais conforme o tipo de aplicação: ferramentas de produtividade, assistentes com dados internos, sistemas que apoiam decisões sobre clientes ou pessoas e agentes que executam ações. Controle igual para tudo é ruim nos dois sentidos: sufoca usos simples e protege mal os críticos.
Atualizado em outubro de 2026.
O custo do controle errado
| Dado | Fonte |
|---|---|
| Uma em cada cinco organizações relatou violação de dados ligada a shadow AI (uso de IA não autorizado); alto uso de shadow AI esteve associado a custos de violação cerca de US$ 670 mil maiores | IBM, 2025 |
| Entre as organizações que relataram violação de modelos ou aplicações de IA, 97% não tinham controles de acesso adequados para IA | IBM, 2025 |
| 54% dos trabalhadores usariam ferramentas de IA mesmo sem autorização | BCG, 2025 |
| A lista de riscos da OWASP para aplicações com modelos de linguagem inclui "agência excessiva", quando o sistema recebe mais autonomia ou permissões do que precisa | OWASP, 2025 |
Interpretação: controle de menos em usos críticos gera violações; controle de mais em usos simples empurra as pessoas para ferramentas não autorizadas, que geram violações também. Proporcionalidade não é afrouxar: é colocar o rigor onde ele protege.
Framework dooop: o piso universal de 5 controles
Todo uso de IA, por mais simples que seja, deve ter:
| # | Controle | Por quê |
|---|---|---|
| 1 | Ferramenta aprovada | Garante condições contratuais e de segurança mínimas |
| 2 | Regra de dados | Define o que pode e o que não pode ser inserido |
| 3 | Responsável | Alguém responde pelo resultado |
| 4 | Registro no inventário | A empresa sabe que o uso existe |
| 5 | Canal de incidentes | Erros chegam a quem pode corrigir |
Framework dooop: controles por tipo de aplicação
| Família de controle | Ferramenta de produtividade | Assistente com dados internos | Sistema que apoia decisões sobre clientes ou pessoas | Agente que executa ações |
|---|---|---|---|---|
| Aprovação | Política de uso | Responsável pela governança | Comitê de IA | Comitê de IA |
| Dados e acesso | Regra de dados | Acesso limitado aos documentos necessários | Avaliação de proteção de dados | Permissões mínimas, por ação |
| Testes | Não exigido | Testes com perguntas reais | Testes de desempenho e de vieses por grupo | Testes em ambiente controlado, inclusive de cenários de abuso |
| Revisão humana | Do próprio usuário | Por amostragem | Antes da decisão final | Aprovação humana para ações acima de limites |
| Transparência | Interna, quando relevante | Interna | Para as pessoas afetadas | Para quem interage com o agente |
| Registro e monitoramento | Não exigido | Registro de uso | Registro das decisões e indicadores de qualidade | Registro de todas as ações e alertas |
| Contingência | Não exigida | Desligar a ferramenta | Processo alternativo sem IA | Botão de parada e reversão de ações |
A classificação em níveis de risco, que define a intensidade dentro de cada tipo, está em Como definir níveis de risco para diferentes usos de IA. Para agentes em particular, veja Como estabelecer limites para agentes de inteligência artificial.
Um exemplo de proporcionalidade
O AI Act europeu segue lógica semelhante: proíbe algumas práticas, impõe obrigações extensas a sistemas de alto risco, exige transparência de sistemas como chatbots e deixa sem obrigações específicas a maioria dos usos de risco mínimo (AI Act, resumo).
Sinais de desproporção
| Sinal | Problema |
|---|---|
| Aprovação de uma ferramenta de texto leva meses | Controle excessivo em uso simples |
| Mesmo formulário para resumo de reunião e para análise de crédito | Falta de níveis |
| Sistema que responde a clientes sem registro nem revisão | Controle insuficiente em uso crítico |
| Agente com acesso amplo a sistemas "para facilitar" | Agência excessiva |
O que fazer agora
- Garanta o piso universal para todos os usos do inventário.
- Classifique cada uso em um dos quatro tipos de aplicação.
- Compare os controles atuais com a matriz e corrija primeiro os usos críticos sem controle.
Para desenhar controles proporcionais e operáveis, conheça a frente de Governança de IA da dooop.
Perguntas frequentes
Controle proporcional não abre brechas? Não, se o piso universal for respeitado e a classificação for revisada. O maior risco costuma estar nos usos críticos com controle insuficiente, e não nos usos simples com controle leve.
Quem decide o tipo de aplicação? O dono do uso propõe e o responsável pela governança confirma. Na dúvida, aplica-se o tipo mais exigente até a avaliação.
Uma ferramenta pode mudar de tipo? Sim. Uma ferramenta de produtividade que passa a usar dados de clientes ou a executar ações muda de tipo, e os controles precisam acompanhar.
Leia também
- Governança de IA sem burocracia: como controlar sem impedir inovação
- Como criar mecanismos de revisão humana para IA
Sobre a dooop
A dooop é uma consultoria de Caxias do Sul (RS) que prepara lideranças e organizações para transformar inteligência artificial em capacidade de negócio, com estratégia, governança e capacitação.
Conversar com a dooop
Compartilhe seu contexto, suas restrições e a decisão que sua organização precisa avaliar.
Conteúdo de Pedro Sonda. Leve os critérios desta leitura para uma conversa sobre a decisão da sua organização.