Marcus Andrey Estudo
Read in English Biblioteca

Framework · IA e design · 4 min de leitura

Human-in-the-loop (humano no circuito)

A IA propõe, uma pessoa com nome decide e continua responsável. Use para definir pontos claros de revisão, aprovação e desfazer, tanto no trabalho com IA do seu time quanto nos recursos de IA que você desenha.

  1. 1 Sugerir
    Pessoa
    Decide e age
    Por exemplo
    "Estes 3 embarques podem perder o prazo de corte"
  2. 2 Rascunhar
    Pessoa
    Revisa, edita e confirma
    Por exemplo
    Um formulário aduaneiro preenchido a partir de uma fatura digitalizada
  3. 3 Agir com aprovação
    Pessoa
    Aprova o plano antes de ele rodar
    Por exemplo
    "Remarcar 12 embarques. Aprovar?"
  4. 4 Agir e informar
    Pessoa
    Define limites, acompanha, pode desfazer
    Por exemplo
    Remarca sozinho abaixo de um limite de custo, com resumo diário
  5. 5 Autônomo
    Pessoa
    Define objetivos e políticas
    Por exemplo
    Raramente certo para operações reguladas

Em todo nível, uma pessoa com nome continua responsável.

Níveis de autonomia da IA: escolha pelo risco, e suba um nível só quando houver evidência de que é seguro.

Use quando

  • O seu time usa IA em entregas reais e você precisa deixar claro quem aprova o trabalho feito com IA.
  • Um time de produto quer acrescentar um recurso ou agente de IA a um app interno, como um que remarca pedidos ou preenche formulários.
  • Algo gerado por IA deu errado, e ninguém sabe ao certo quem era o responsável.

Como usar

  1. Dê nome a quem é dono da decisão. Para cada tarefa ou recurso com apoio de IA, anote a pessoa ou o papel que decide e continua responsável. No seu time, é o designer que entrega o trabalho; num produto, é o usuário ou o papel que aprova a ação. Resultado: um dono com nome por tarefa ou recurso.
  2. Posicione na escala de autonomia. Decida se a IA deve sugerir, rascunhar, agir com aprovação, agir e informar, ou agir sozinha. Avalie o custo de um erro, se ele pode ser revertido e as exigências de conformidade. Comece mais baixo do que você acha. Resultado: um nível por tarefa, com o motivo.
  3. Desenhe os pontos de aprovação. Para ações de risco, acrescente uma etapa explícita: pré-visualizar, depois confirmar, depois desfazer. Mostre o plano antes de uma ação com várias etapas ("vou fazer estas 5 etapas") e um diff antes de mudanças em lote. Resultado: pontos de aprovação marcados no fluxo ou no processo.
  4. Facilite a correção. Dê aos usuários um jeito simples de rejeitar, editar ou desfazer, e registre o motivo para que as correções voltem como aprendizado. Mantenha uma trilha de auditoria de quem ou o que fez o quê, quando e com base em quê. Resultado: padrões de desfazer, editar e dar feedback no design.
  5. Suba só com evidência. Revise as taxas de aceitação e de correção e os erros introduzidos. Aumente o nível de autonomia só quando os dados mostram que é seguro, e baixe de novo se surgirem erros. Resultado: uma data de revisão e as medidas que você vai olhar.

Exemplo prático

Uma ferramenta interna de operações logísticas planeja um agente que remarca embarques quando um navio atrasa. O time usa a escala de autonomia para decidir, caso a caso:

Caso Nível Dono da decisão Aprovação e desfazer
Sinalizar embarques que podem perder o prazo de corte Sugerir Operador O operador decide e age
Remarcar até 12 embarques para o próximo navio Agir com aprovação Operador Pré-visualização do plano: "Remarcar 12 embarques. Aprovar?" Desfazer por 24 horas
Remarcar quando a diferença de custo está abaixo de um limite definido Agir e informar O líder do time define o limite Resumo diário; toda ação pode ser desfeita
Mudar contratos de clientes Não automatizado Gerente de conta Fora do escopo do agente

Depois de um mês, a taxa de correção do caso "agir com aprovação" está baixa e estável, então o time discute aumentar o limite do "agir e informar". Eles não automatizam o caso dos contratos, porque o custo de um erro é alto demais.

Cuidado com

  • "A IA decidiu." Se ninguém tem nome, ninguém é responsável. Toda ação de IA precisa de um dono que consiga explicá-la.
  • Cansaço de aprovação. Pedir que as pessoas confirmem cada passinho as treina a clicar em "Aprovar" sem ler. Coloque aprovações onde está o risco e agrupe o resto.
  • Sem desfazer de verdade. Um botão de confirmar sem desfazer torna todo erro permanente. Desenhe o caminho de recuperação, não só o caminho feliz.
  • Autonomia por padrão. Os times aumentam a autonomia porque o modelo consegue. Suba um nível por vez, e só com evidência.

Modelo

Copie isto para a especificação do recurso ou para o documento de fluxo de IA do seu time, uma linha por tarefa ou ação de IA.

Tarefa / ação de IA:
Dono da decisão (pessoa ou papel):
Nível de autonomia:  Sugerir / Rascunhar / Agir com aprovação / Agir e informar / Autônomo
Por que este nível:  Custo do erro:        Reversível?:        Conformidade:

Ponto de aprovação:  (onde, e o que a pessoa vê: pré-visualização, plano, diff)
Desfazer:            (como, e por quanto tempo)
Feedback:            (como as correções são registradas)
Trilha de auditoria: (o que fica registrado)

Medidas:             taxa de aceitação · taxa de correção · erros introduzidos
Revisar em:          Decisão de subir ou descer:

Os links "Ver na Amazon" são de afiliado: como associado, recebo por compras qualificadas, sem custo a mais para você.

Salvo só neste dispositivo.

↑ ↓ para mover · Enter para abrir · Esc para fechar