Marcus Andrey Estudo
Read in English Biblioteca

IA para UX · Passo 5 · 8 min de leitura

Design agêntico

Como desenhar recursos de IA e agentes em que as pessoas possam confiar: o espectro de autonomia, princípios para IA que age em nome das pessoas, os padrões de interface que tornam agentes visíveis e controláveis, e o aviso de que cada padrão depende.

Um recurso de IA sugere; um agente age. Quando o software começa a fazer coisas pelas pessoas (reservar, arquivar, mudar dados, mandar mensagens), a pergunta de design muda. Deixa de ser "a resposta é boa?" e passa a ser "as pessoas sabem o que ele está fazendo, conseguem parar e conseguem desfazer?". Esta nota é sobre desenhar para isso: quanta autonomia dar, que princípios mantêm as pessoas no comando e que padrões de interface tornam um agente visível.

Seis sinais de ferrovia, um para cada tipo de aviso que um agente de IA manda para a tela: começou, passo, dado mudou, usando ferramenta, precisa de aprovação, erro. Cada um é um estado que o designer precisa desenhar. Aponte para um sinal para levantá-lo. Ilustração: Marcus Andrey, desenhada com Hairline (MIT, Lucas Marques).

O que você vai conseguir fazer depois de ler:

  • Escolher um nível de autonomia para um recurso de IA com base no risco, não no que é tecnicamente possível
  • Aplicar oito princípios para IA que age em nome das pessoas
  • Usar os principais padrões de interface para agentes, e dizer qual aviso cada um precisa receber do agente
  • Planejar uma pesquisa que teste se as pessoas confiam num agente na medida certa

1. Dois sentidos de "design agêntico"

  1. Desenhar para agentes: a experiência de recursos de IA e agentes dentro de um produto, por exemplo um assistente que remarca entregas quando um caminhão quebra.
  2. Desenhar com agentes: designers dirigindo agentes de IA que fazem trabalho de design em várias etapas. Veja Gerando design com Claude Code e Construindo um roteiro de agentes de IA para o seu time de UX.

Esta nota trata principalmente do primeiro. A definição de trabalho do NN/g ajuda: um agente de IA é um sistema que persegue um objetivo planejando e executando ações com ferramentas, com alguma independência (NN/g).

A cabine de um avião de transporte C-141C, com telas, controles de piloto automático e dois manches.
A aviação desenha para níveis de automação há décadas: o piloto automático voa, a tripulação define os objetivos, acompanha os instrumentos e pode assumir a qualquer momento. Foto: TSgt Lance Cheung, Força Aérea dos EUA, Wikimedia Commons, domínio público.

2. Um espectro de autonomia

1Sugerir

A IA recomenda; a pessoa decide e age.

"Estas 3 entregas podem atrasar"
2Rascunhar

A IA prepara; a pessoa revisa, edita, confirma.

Um formulário preenchido a partir de uma nota escaneada
3Agir com aprovação

A IA planeja e age depois que a pessoa aprova.

"Reagendar 12 entregas. Aprova?"
4Agir e relatar

A IA age dentro de limites e relata; a pessoa pode desfazer.

Reagenda quando a diferença de custo é pequena, com resumo diário
5Autônomo

A IA age e se corrige; as pessoas definem metas e regras.

Raramente adequado para trabalho de alto risco
Cinco níveis de autonomia. Escolha pelo risco e pela confiança conquistada, não pelo que é tecnicamente possível. Diagrama: Marcus Andrey, CC BY 4.0.

Regra de design: escolha o nível pelo risco (custo de um erro, se dá para desfazer, exposição legal) e pela confiança conquistada, não pela possibilidade técnica. Só suba um nível com evidência de que é seguro.


3. Oito princípios

  1. Deixe claro o papel da IA. O que ela pode e não pode fazer, e de onde vêm as informações dela.
  2. Mostre a confiança e os motivos. "Tirado da nota fiscal, página 2; não tenho certeza sobre o código fiscal." Veja Desenhando para a incerteza.
  3. Mantenha as pessoas no comando. Pré-visualizar, confirmar, desfazer. Pontos claros em que uma pessoa assume. Veja Human-in-the-loop (humano no circuito).
  4. Desenhe para o erro. Correção fácil, e correções que voltam para o sistema. Erros são um quando, não um se.
  5. Mostre o progresso e o estado em tarefas longas: o que está feito, o que vem depois, o que precisa de mim.
  6. Mantenha um registro de auditoria: quem ou o que fez o quê, quando, com base em quê.
  7. Encaixe no trabalho que as pessoas já fazem. Um chatbot raramente é a melhor resposta; um padrão melhor, uma ação em lote ou uma sugestão no próprio campo muitas vezes é. Veja Interfaces conversacionais e generativas.
  8. Passe a tarefa adiante com cuidado. Quando o agente trava ou fica em dúvida, ele passa a tarefa para uma pessoa com contexto, e não deixa ninguém num beco sem saída.

Esses princípios ecoam as 18 Guidelines for Human-AI Interaction (diretrizes para a interação entre pessoas e IA) da Microsoft Research (Amershi et al., CHI 2019), ainda o checklist mais conhecido da área.


4. Padrões de interface, e o aviso de que cada um depende

Um agente só pode ser bem mostrado se ele conta para a tela o que está fazendo. Cada padrão abaixo depende de um tipo específico de aviso (um "evento") vindo do agente. Se o time de engenharia não manda esse aviso, o padrão não pode ser construído. A próxima aula, Interfaces conversacionais e generativas, explica esses avisos em detalhe.

PadrãoIndicador de progresso

O que está feito, o que vem, o que precisa de mim.

Precisa de: começou · passo começou/terminou
PadrãoPrévia do plano

"Vou fazer estes 5 passos."

Precisa de: o plano, antes de qualquer ação
PadrãoSugestão no lugar e diff

Um valor alterado, marcado, com aceitar e recusar.

Precisa de: dado mudou
PadrãoCitação de fontes

De onde veio uma resposta.

Precisa de: uso de ferramenta e o resultado
PadrãoDiálogo de aprovação

Um ponto de decisão claro antes de uma ação arriscada.

Precisa de: precisa de aprovação (interrupção)
PadrãoRegistro de atividade

O que o agente fez, quando e por quê.

Precisa de: atividade e o histórico da execução
PadrãoDesfazer

Deixar tudo como estava.

Precisa de: um retrato do estado anterior
PadrãoLimite e mensagem de erro

"Não consigo fazer isso porque…", com alternativas.

Precisa de: erro, com o motivo
Padrões de interface para agentes e o aviso de que cada um depende. Se o agente não manda o aviso, o padrão não tem como existir. Diagrama: Marcus Andrey, CC BY 4.0.

5. Pesquisa e avaliação

  • Testes Mágico de Oz (Wizard-of-Oz) antes de construir: uma pessoa faz o papel do agente nos bastidores para testar a interação.
  • Teste com falhas realistas: inclua sugestões erradas de propósito e veja se as pessoas percebem. O NN/g descobriu que chatbots de IA tendem a desestimular a conferência de erros (NN/g). Veja viés de automação.
  • Meça aceitação, correção, tempo economizado, erros introduzidos e confiança ao longo do tempo. Veja Medindo recursos de IA e Evals para designers.

6. O lado da governança

  • Na UE, IA que distribui tarefas com base no comportamento individual ou em traços pessoais, ou que monitora e avalia trabalhadores, é um uso de alto risco pelo AI Act, com obrigações a partir de 2 de dezembro de 2027, conforme a alteração (Anexo III). Sinalize esses agentes cedo. Veja Governança de IA e proteção de dados.
  • Transparência: as pessoas precisam ser avisadas quando estão interagindo com IA, a não ser que isso seja óbvio (Artigo 50, desde 2 de agosto de 2026).

7. Vocabulário

Termo Significado
Agente de IA Um sistema que persegue um objetivo planejando e executando ações com ferramentas
Nível de autonomia Quanto a IA faz sem perguntar
Human-in-the-loop (humano no circuito) Uma pessoa revisa ou aprova em pontos-chave
Pré-visualização do plano (plan preview) Mostrar os passos que um agente pretende seguir, antes de agir
Registro de auditoria (audit trail) Um registro do que foi feito, por quem ou pelo quê, e por quê

8. Experimente (sem código)

  1. Escolha uma ideia de agente no seu produto ("remarcar minhas entregas quando um caminhão quebrar").
  2. Coloque essa ideia no espectro de autonomia (seção 2) e escreva por quê.
  3. Esboce três estados: a pré-visualização do plano, o momento de aprovação e o registro de atividades depois que tudo terminou.
  4. Para cada estado, escreva o aviso que o agente precisa mandar para que ele exista (seção 4).

Perguntas para refletir: quais ações do seu produto você nunca deixaria um agente fazer sem aprovação? O que um usuário precisaria ver para confiar nele um nível a mais?


9. Se você lidera um time

  • Garanta que todo recurso de IA tenha um designer envolvido desde o começo.
  • Acrescente padrões de IA ao design system: chip de sugestão, selo de confiança, pré-visualização do plano, registro de atividades.
  • Crie um checklist de revisão de recursos de IA a partir dos princípios acima.
  • Combine uma linguagem comum com produto e engenharia: nível de autonomia, risco, reversibilidade, auditoria, avisos.

Checklist

Para saber mais

Livros, cursos e vídeos para ir mais fundo (em inglês)

Os links dos livros são de afiliado da Amazon: como associado, recebo por compras qualificadas, sem custo a mais para você.

Relacionadas

Interfaces conversacionais e generativas · Desenhando para a incerteza · Evals para designers · Medindo recursos de IA · Human-in-the-loop (humano no circuito) · Calibração de confiança · Governança de IA e proteção de dados

Salvo só neste dispositivo.

↑ ↓ para mover · Enter para abrir · Esc para fechar