Como desenhar aprovação humana em produtos com IA

Aprovação humana em um produto com IA precisa permitir uma decisão informada sobre uma ação concreta. O usuário deve compreender o que será feito, em qual objeto, com quais informações e consequências relevantes. Colocar um botão de confirmação no fim do fluxo não resolve esse desenho se a pessoa não consegue conferir a proposta ou escolher uma alternativa. A aprovação deve fazer parte do contrato de funcionamento da tarefa.

Defina qual decisão precisa de aprovação

Comece pela ação, não pela tela. A pessoa está aprovando um texto, uma alteração de estado, o envio de uma informação ou uma sequência de operações? Um pedido amplo como “autorizar o assistente” pode esconder decisões que deveriam ser examinadas separadamente.

Descreva o alcance da aprovação e sua duração. Se a proposta mudar, a confirmação anterior ainda é válida? Se surgir um novo destinatário ou um efeito adicional, será necessário apresentar a mudança novamente? Essas condições precisam estar definidas antes da implementação.

A Anthropic sobre agentes distingue fluxos predefinidos de sistemas que escolhem dinamicamente passos e ferramentas. Em um produto que delega essa escolha, a proposta deste guia é manter explícita a fronteira entre o que pode ser preparado e o que exige decisão da pessoa.

Mostre a informação que altera a escolha

A tela de aprovação deve apresentar o objeto da ação, a alteração proposta e a evidência pertinente. Para uma atualização, mostrar o estado atual e o estado proposto pode ajudar a conferir a mudança. Para uma comunicação, destinatário e conteúdo são partes essenciais da decisão.

Evite ocupar a interface com detalhes técnicos que não ajudam a avaliar a ação. A origem de uma informação pode ser relevante; o nome de um componente interno pode não ser. Ofereça acesso a detalhes quando eles permitirem investigar uma dúvida real.

Um roteiro de conferência inclui:

• O que vai acontecer depois da confirmação.
• Qual informação sustenta a proposta.
• Quais incertezas permanecem relevantes.
• O que a pessoa pode editar ou recusar.
• Como o produto informará conclusão, falha ou necessidade de nova decisão.

Preserve alternativas úteis ao usuário

Uma pessoa deve conseguir recusar sem perder todo o trabalho quando isso não for necessário. Pode ser útil editar a proposta, solicitar informação adicional, salvar um rascunho ou seguir pelo fluxo manual.

Essas alternativas precisam corresponder ao funcionamento real. Se o produto oferece “editar”, a alteração precisa ser incorporada ao que será executado. Se oferece “cancelar”, deve explicar o estado final da tarefa quando alguma etapa já tiver ocorrido.

Considere também a informação que ficou indisponível. Se a confirmação depende de um dado que não pôde ser consultado, o produto não deve esconder essa ausência atrás de uma mensagem genérica de confiança. A decisão pode ser interromper a ação, pedir complementação ou apresentar uma proposta restrita.

Exemplo fictício: aprovar uma atualização de projeto

Imagine um sistema em que a IA sugere atualizar o responsável e o estado de uma atividade com base em mensagens recentes. A tela mostra a atividade, os valores atuais, os valores propostos e os trechos que motivaram a sugestão.

A pessoa percebe que uma mensagem descrevia apenas uma possibilidade. Ela pode manter o responsável atual e aceitar somente a atualização do estado, se o produto permitir essa decisão separada. A execução deve corresponder ao conjunto efetivamente confirmado.

Depois, o sistema informa quais alterações foram concluídas e quais não puderam ser aplicadas. O exemplo não afirma que essa interface elimina erros. Ele mostra como tornar examináveis a proposta, a escolha e o resultado.

Não confunda confirmação com execução concluída

A autorização registra uma decisão. A execução pode falhar, ser interrompida ou encontrar uma condição diferente. Defina como o usuário acompanhará esse estado e como a equipe investigará uma contestação.

Registre a proposta apresentada, o que foi confirmado, as alterações feitas antes da confirmação e o resultado observado. A profundidade do registro deve acompanhar a necessidade de investigação e as regras de tratamento de dados da organização.

Quando a ação não puder ser repetida sem risco de duplicidade ou outro efeito indesejado, o caminho de recuperação precisa ser definido por engenharia e produto. A interface deve refletir esse caminho, em vez de convidar a pessoa a tentar novamente sem informação suficiente.

Avalie se a aprovação ajuda a decidir

Teste a experiência com tarefas e dúvidas representativas. Observe se as pessoas conseguem identificar o objeto da ação, explicar o efeito e localizar a informação necessária para discordar. Tempo de confirmação, sozinho, não demonstra compreensão.

A Microsoft ExP descreve a ligação entre hipótese, medição e iteração. A hipótese de interface pode ser que uma apresentação mais clara ajude a detectar uma proposta inadequada sem criar esforço desnecessário. O efeito deve ser observado; não atribua segurança ao simples acréscimo de uma etapa.

Antes de liberar o fluxo, use uma proposta correta, uma ambígua e uma que deveria ser recusada. Confira se a interface permite decisões diferentes e se a execução respeita o que foi confirmado. É essa correspondência que a aprovação precisa sustentar no produto.

Se quiser discutir essa decisão no contexto da sua empresa, converse com a dooop.

Leituras para continuar

• Inteligência no produto: como evoluir um software com IA
• Como decidir se o produto precisa de múltiplos agentes
• Como escolher uma funcionalidade de IA para o produto

Fontes

• Anthropic: padrões de agentes
• Microsoft: plataforma de experimentação

Para continuar esta leitura

• Como integrar ferramentas externas a um agente de produto