IA recomenda ou executa? Como decidir no produto

Quando uma funcionalidade de inteligência artificial sugere a próxima ação, o dilema de produto começa antes da automação. Sugerir muda a decisão de alguém. Executar muda o estado do produto. O critério é o impacto se a ação estiver errada, incompleta ou fora de contexto.

IA recomenda ou executa conforme dinheiro, acesso, dados, comunicação externa, experiência do cliente e reversibilidade entram em jogo.

Quando a IA deve recomendar e quando pode executar

Recomendar e executar são decisões de produto diferentes.

Quando a IA recomenda, ela produz uma sugestão, uma justificativa, um resumo, uma próxima etapa ou uma comparação para alguém decidir. A ação ainda passa por uma pessoa, por uma regra de negócio ou por outro mecanismo de controle.

Quando a IA executa, ela altera o estado do produto. Pode enviar uma mensagem, acionar uma ferramenta, registrar uma alteração, atualizar uma permissão, abrir um chamado, disparar um processo ou modificar uma configuração.

Essa diferença parece simples, mas muda a governança da funcionalidade. Uma busca com IA que resume informações pode errar de um jeito. Um agente que usa ferramentas para alterar cadastros, enviar comunicações ou movimentar etapas de um fluxo erra de outro.

A Anthropic distingue fluxos com caminhos predefinidos de agentes que decidem dinamicamente seu processo e uso de ferramentas, além de recomendar começar pela solução mais simples e acrescentar complexidade quando necessário, em seu texto sobre padrões de agentes. Essa distinção ajuda a separar duas perguntas: qual raciocínio a IA precisa fazer e quais consequências ela pode produzir.

Para liderança de produto, a pergunta não é “a IA consegue?”. A pergunta é: “qual é o dano aceitável se ela fizer a ação certa na hora errada, com contexto insuficiente ou para o usuário errado?”.

Esse critério conversa com decisões anteriores de estratégia. Um produto pode ter uma boa oportunidade de IA, como discutido em como criar uma estratégia de inteligência artificial conectada ao negócio, e ainda assim precisar limitar sua autonomia em produção.

Classifique o impacto antes de discutir autonomia

Autonomia não deve ser decidida para a funcionalidade inteira. Deve ser decidida para cada ação que a IA pode sugerir ou realizar.

Uma mesma funcionalidade pode combinar três níveis: recomendar, executar com confirmação e executar automaticamente. O erro comum é tratar tudo como “assistente” ou tudo como “agente”. Na prática, a unidade de risco é a ação.

Antes de escolher o nível de autonomia, classifique o impacto da ação:

Ela altera valor, cobrança, desconto, crédito, consumo de recurso ou qualquer efeito econômico para o cliente ou para a empresa?
Ela expõe, modifica ou remove dados sensíveis do usuário, da organização ou de terceiros?
Ela muda permissões, acessos, papéis, integrações ou configurações de segurança?
Ela envia comunicação externa, especialmente para clientes, parceiros ou usuários finais?
Ela afeta a experiência de outro usuário que não participou da decisão?
Ela cria obrigação operacional difícil de desfazer?
Ela pode ser revertida com baixo esforço e baixo dano relacional?

Quanto mais respostas positivas houver, mais a IA deve permanecer no papel de recomendação ou exigir confirmação explícita.

A reversibilidade merece atenção própria. Uma ação reversível não é apenas aquela que tem um botão “desfazer”. Ela precisa poder ser desfeita sem gerar ruído relevante para o cliente, sem acionar uma cadeia operacional difícil de interromper e sem criar perda de confiança.

Por isso, “executar automaticamente” é menos sobre confiança abstrata no modelo e mais sobre contenção: escopo estreito, limite claro, permissão compatível, trilha de auditoria e critério de parada.

Use recomendação quando o erro exige julgamento

A IA deve recomendar quando a ação depende de julgamento contextual que não cabe inteiramente no dado disponível.

Isso acontece quando há ambiguidade de intenção. Um usuário pede “ajuste essa conta” e a IA não sabe se deve corrigir um cadastro, alterar uma configuração, abrir um chamado ou sugerir uma conversa com o cliente. Também acontece quando os dados estão incompletos, quando há exceções de negócio, quando objetivos entram em conflito ou quando alguém precisará explicar a decisão depois.

Aprovação humana, nesse caso, não é um remendo. É desenho de experiência.

Uma boa recomendação reduz carga cognitiva sem transferir responsabilidade de forma invisível. Ela mostra o que a IA entendeu, quais evidências usou, qual ação sugere e quais incertezas permanecem. O usuário decide com mais contexto, não apenas carimba uma ação opaca.

A engenharia de contexto também entra aqui. A Anthropic define engenharia de contexto como seleção e manutenção das informações disponíveis ao modelo durante a inferência, incluindo instruções, ferramentas, dados externos e histórico, dentro de uma janela limitada. Se a decisão depende de informação que não está nessa janela ou não está disponível com confiabilidade, a IA deve pedir dados, recomendar caminhos ou parar.

Há uma frase útil para revisar o desenho: se a pessoa responsável não conseguir entender por que a IA sugeriu aquilo, a funcionalidade não está pronta para transformar a sugestão em execução.

Essa lógica se conecta à maturidade organizacional. Como explorado em maturidade em IA, maturidade não é ter o modelo mais sofisticado. É saber onde a organização tem contexto, governança e capacidade de operar a decisão.

Permita execução quando a ação é limitada e reversível

A IA pode executar quando a ação tem baixo impacto, escopo delimitado, entrada verificável e mecanismos claros de contenção.

Isso não significa que a ação seja trivial. Significa que o produto foi desenhado para limitar dano. A IA pode, por exemplo, organizar uma fila, aplicar uma etiqueta interna, preencher um rascunho, sugerir uma categorização com baixa consequência, atualizar um campo operacional reversível ou acionar uma rotina que já tem validações próprias.

Para execução direta, algumas condições mínimas precisam existir:

a ferramenta acionada pela IA faz apenas o que aquela ação permite;
a permissão da IA nunca ultrapassa a permissão do usuário ou do contexto autorizado;
a entrada necessária é verificável antes da execução;
existe trilha de auditoria para saber o que foi feito, quando e com qual contexto;
há limite de frequência, público, escopo ou volume;
o produto sabe o que fazer quando faltar contexto;
existe forma prática de desfazer, pausar ou restringir a ação.

Quanto maior a autonomia, mais estreitas devem ser as ferramentas. Um agente de IA com acesso amplo a ferramentas genéricas pode parecer flexível, mas também aumenta a superfície de erro. Muitas vezes, um fluxo predefinido com pontos claros de decisão entrega uma experiência mais confiável do que um agente livre para decidir tudo.

Esse ponto é especialmente relevante para produtos SaaS, porque ações pequenas podem ganhar escala rapidamente. Uma recomendação errada afeta a pessoa que a leu. Uma execução errada pode afetar muitos usuários antes de ser percebida.

Matriz de decisão: recomendar, confirmar ou executar

Use este checklist para cada ação que a IA pode sugerir ou realizar. A decisão vale para a ação específica, não para a funcionalidade inteira.

A ação altera algo de alto impacto?

Se a ação altera dinheiro, permissão, dado sensível, comunicação externa ou um estado difícil de reverter, a IA deve recomendar ou pedir confirmação explícita.

Se não altera, avance para os próximos critérios.

O usuário entende o que será feito?

Se o usuário consegue revisar a ação antes da execução, a confirmação pode ser aceitável. Se a interface esconde a consequência real, mantenha como recomendação ou redesenhe a experiência.

Confirmação só é controle quando a pessoa entende o que está confirmando.

A ação pode ser desfeita com baixo custo?

Se o erro pode ser corrigido sem impacto relevante para o cliente e sem esforço operacional desproporcional, a execução automática pode ser considerada. Se desfazer exige retrabalho, comunicação sensível ou intervenção de várias áreas, exija confirmação.

A IA tem contexto suficiente no momento da inferência?

Se a IA dispõe das informações necessárias e elas estão dentro do contexto usado para decidir, a ação pode seguir para teste controlado. Se depende de informação ausente, ambígua ou desatualizada, a IA deve pedir dados, recomendar alternativas ou interromper.

Existe limite para impedir dano em escala?

Se há limite de escopo, frequência, valor, público, permissão ou volume, a execução pode ser liberada com contenção. Se a ação pode se propagar sem barreira operacional, não libere execução automática.

Há meta de confiabilidade e revisão?

Se existe uma meta de confiabilidade e um processo para pausar, limitar ou ampliar a autonomia, a funcionalidade pode entrar em operação com monitoramento. Se ninguém sabe qual falha exige intervenção, a decisão ainda é prematura.

A regra prática é direta: impacto alto, baixa reversibilidade, contexto insuficiente ou ausência de limite operacional mantêm a IA em recomendação. Impacto moderado com revisão clara do usuário permite execução com confirmação. Impacto baixo, ação reversível, limite operacional e monitoramento permitem considerar execução automática.

Um caso fictício em atendimento B2B

Imagine, de forma fictícia, um SaaS de atendimento B2B que usa IA para apoiar equipes de sucesso do cliente.

A IA lê o histórico de interações, resume o caso, identifica tópicos recorrentes e sugere uma resposta para o analista. Nesse ponto, ela está recomendando. O risco existe, porque o resumo pode omitir contexto, mas a pessoa responsável revisa antes de agir.

A mesma IA pode preencher um rascunho de mensagem. Ainda não enviou nada. Ela economiza tempo, mas mantém a decisão com o usuário. Se a interface mostrar claramente o destinatário, o conteúdo e a razão da sugestão, o produto pode permitir execução com confirmação para enviar a mensagem.

Agora mude a ação. A IA propõe conceder um desconto, alterar o plano do cliente, encerrar uma conta, mudar o responsável pelo atendimento ou enviar uma comunicação sensível sobre falha recorrente. Mesmo que a sugestão pareça razoável, essas ações têm impacto econômico, operacional e relacional. Nesse caso, a IA deve recomendar e explicar. A execução precisa de confirmação explícita e, em alguns casos, de uma regra adicional do produto.

Há ações que poderiam ser candidatas à execução automática. Aplicar uma etiqueta interna de baixa consequência, ordenar uma fila de análise ou anexar um resumo ao registro do atendimento podem ser ações aceitáveis, desde que reversíveis, auditáveis e limitadas.

Os efeitos desse desenho são hipóteses a medir, não resultados garantidos. A equipe pode esperar redução de retrabalho em algumas etapas, melhor consistência de registro ou menor tempo de preparação do atendimento. Mas precisa observar incidentes, reversões, pedidos de suporte e sinais de uso indevido antes de ampliar a autonomia.

Esse exemplo também mostra por que a decisão não deve ser binária. A funcionalidade é uma só. As ações têm riscos diferentes.

Como revisar a decisão depois que a funcionalidade entra em uso

O nível de autonomia deve mudar com evidência operacional. Isso não significa presumir que todo feedback retreina o modelo automaticamente. Significa usar o uso real para revisar permissões, limites e pontos de confirmação.

A Microsoft descreve sua plataforma ExP como uma forma de incorporar experimentação ao ciclo de desenvolvimento, validar hipóteses, medir impacto e iterar produtos, conforme a página da Microsoft Research. Para uma funcionalidade com IA, essa lógica ajuda a separar descoberta, hipótese e experimento. Primeiro, a equipe observa o problema. Depois, formula uma hipótese testável. Só então mede se a mudança melhora a ação desejada sem aumentar risco indevido.

A revisão precisa dizer quais falhas exigem pausa, restrição ou volta para confirmação. O Google SRE define objetivos de nível de serviço como metas de confiabilidade que orientam decisões de engenharia, com acordo sobre metas, uso de orçamento de erro e processo de revisão. Em um produto com IA, a adaptação prática é definir quais falhas exigem pausar, restringir ou voltar a pedir confirmação.

A revisão pode observar:

ações executadas e revertidas;
confirmações recusadas pelo usuário;
casos em que a IA pediu contexto adicional;
incidentes ou reclamações ligados à ação;
uso fora do padrão esperado;
etapas em que o usuário ignora a recomendação;
situações em que a ferramenta acionada pela IA foi limitada pelo produto.

Esses sinais não servem para provar que a IA “aprendeu”. Servem para decidir se o produto está pronto para manter, reduzir ou ampliar autonomia.

Aqui vale uma disciplina simples: registre a decisão de autonomia por ação. Para cada ação, indique o impacto, a reversibilidade, o contexto necessário, a ferramenta acionada, o limite operacional, o modo de revisão e o critério de pausa. Isso evita que a autonomia vire uma propriedade vaga da funcionalidade inteira.

O fechamento operacional é registrar a autorização por ação antes de liberar execução. Se o erro exige julgamento, a IA recomenda. Se o usuário precisa revisar a consequência, ela executa com confirmação. Se a ação é limitada, reversível e monitorada, ela pode executar automaticamente.

Essa autorização precisa nomear a ação, o contexto, o limite e o critério de interrupção.

Se quiser discutir essa decisão no contexto da sua empresa, converse com a dooop.

Leituras para continuar

Fontes

PRÓXIMA DECISÃO

Conversar sobre a aplicação na empresa

Conversa sobre o contexto da empresa de software

Conteúdo de dooop. O cadastro permite relacionar esta pauta à jornada do leitor e acompanhar o interesse pelo tema.