Humano no circuito: quais decisões de IA ainda precisam de aprovação

Automatizar uma tarefa economiza tempo, mas também acelera erros. A expressão human in the loop descreve processos em que uma pessoa revisa ou autoriza etapas importantes antes que a IA produza um efeito real.

Nem toda tarefa precisa do mesmo controle

Organizar documentos por assunto é diferente de rejeitar um candidato, cancelar um pedido ou responder uma reclamação delicada. O nível de supervisão deve acompanhar o impacto e a dificuldade de reverter a ação.

Decisões que merecem aprovação

• Envio de mensagens públicas ou para grandes listas.
• Alteração de preços, pagamentos e concessão de crédito.
• Contratação, demissão ou avaliação de pessoas.
• Exclusão de arquivos e mudanças de acesso.
• Orientações jurídicas, médicas ou financeiras.
• Qualquer ação baseada em informação incompleta.

Revisão humana precisa ser real

Colocar um botão “aprovar” não basta se o operador não entende a decisão ou não tem tempo para analisar. Mostre a fonte, os critérios, o grau de incerteza e o que acontecerá depois do clique.

Evite centenas de aprovações repetitivas, porque a pessoa passa a confirmar automaticamente. Use limites: revise amostras de baixo risco e exija autorização individual para exceções ou valores altos.

Crie critérios de escalonamento

O sistema deve encaminhar casos quando faltam dados, há conflito entre fontes, o cliente demonstra insatisfação ou a consequência ultrapassa um limite. Também precisa permitir que o funcionário interrompa o fluxo.

Registre para aprender

Guarde a recomendação da IA, a decisão humana e o resultado. Esses registros revelam onde o modelo erra e quais regras precisam mudar. Não use o histórico apenas para culpar pessoas; ele deve melhorar o processo.

Automação com saída segura

Quando o sistema falha, o negócio precisa continuar. Defina como voltar ao atendimento manual, quem recebe o alerta e como corrigir ações já iniciadas.

Manter um humano no circuito não significa desconfiar de toda tecnologia. Significa reconhecer que eficiência e responsabilidade precisam crescer juntas. A melhor automação é aquela que sabe quando parar e pedir ajuda.

Fonte: NIST AI RMF