IA para UX · Passo 3 · 8 min de leitura
Ética, viés e inclusão no design com IA
De onde vem o viés na IA, casos reais que afetam o trabalho de design, por que as pessoas confiam demais na IA e como desenhar contra isso, os padrões manipuladores que a lei agora proíbe, e hábitos práticos que mantêm o trabalho feito com IA justo e inclusivo.
A IA aprende com o mundo do jeito que ele foi escrito, com as injustiças junto. Ela pode repetir estereótipos numa imagem, entender alguns sotaques pior do que outros, ou empurrar as pessoas para decisões que elas não tomariam. Nada disso precisa de má intenção. Muitas vezes, os designers são as últimas pessoas a ver o resultado antes dos usuários, então saber o que procurar faz parte do trabalho.
O que você vai conseguir fazer depois de ler:
- Explicar em palavras simples as três fontes de viés na IA
- Reconhecer viés nos resultados de IA que você usa no design: imagens, textos, resumos de pesquisa
- Desenhar contra o viés de automação, para as pessoas não confiarem na IA mais do que ela merece
- Saber quais padrões de design manipuladores são proibidos, e desenhar funcionalidades de IA honestas
1. De onde vem o viés
O Instituto Nacional de Padrões e Tecnologia dos Estados Unidos (NIST) descreve três tipos de viés na IA, e observa que eles podem aparecer "in the absence of… discriminatory intent" (mesmo sem intenção de discriminar) (NIST AI RMF):
Injustiças que já existem na sociedade e nas instituições, refletidas nos dados.
ex.: quem ocupava cada profissão em fotos antigasLacunas e desequilíbrios nos dados e no método.
ex.: poucas gravações de alguns sotaquesComo as pessoas leem e agem sobre o resultado.
ex.: confiar numa resposta que soa segura2. Casos reais que designers precisam conhecer
| Caso | O que aconteceu | Por que importa para o design |
|---|---|---|
| Geradores de imagem e profissões | A Bloomberg analisou mais de 5.000 imagens do Stable Diffusion (2023): nas imagens de todas as profissões bem pagas predominava a pele mais clara, e mais de 80% das imagens para "inmate" (detento) mostravam pele mais escura (Bloomberg) | Personas, imagens de destaque e ilustrações geradas podem levar estereótipos para dentro do seu produto |
| Reconhecimento de fala | Cinco sistemas comerciais erraram quase duas vezes mais com falantes negros (taxa de erro por palavra de 0,35) do que com falantes brancos (0,19) (Koenecke et al., PNAS 2020) | Funcionalidades de voz e a transcrição por IA de sessões de pesquisa funcionam pior para algumas pessoas |
| IA simpática, mais erros | O NN/g cita estudos em que chatbots com personalidade "calorosa" tinham taxas de erro de 10% a 30% maiores, e alerta contra humanizar a IA: "design real tools, not fake friends" (desenhe ferramentas de verdade, não amigos de mentira) (NN/g, jan 2026) | A personalidade é uma escolha de design, e tem um custo |
A matéria da Bloomberg é jornalismo de dados, não pesquisa revisada por pares, mas o método é público e o padrão já se repetiu em outros estudos.
3. Viés de automação: confiar demais na máquina
O viés de automação é a tendência de aceitar a sugestão de um sistema mesmo quando ela está errada. Ele afeta especialistas também:
Profissionais que acertavam cerca de 80% das vezes…
- Sem a IA errar≈ 80%
- Muito experientes, IA errada45,5%
- Experiência média, IA errada24,8%
- Pouca experiência, IA errada19,8%
O que isso significa para desenhar funcionalidades de IA:
- Mostre o quanto a IA tem certeza, e por quê, em vez de apresentar toda resposta com a mesma confiança. Veja indicadores de confiança e calibração de confiança.
- Facilite a conferência: mostre a fonte, os dados usados, o que mudou.
- Peça uma decisão, não um clique: "Revise estas 3 mudanças" é melhor do que um botão "Aceitar tudo".
- Fique de olho no desgaste: depois de uma sequência de sugestões certas, as pessoas param de conferir. Teste com sugestões erradas de propósito, para ver se os usuários percebem.
4. Manipulação: o que agora é proibido
Alguns padrões de design não são só antiéticos, mas ilegais na União Europeia:
- O Regulamento de IA (AI Act) proíbe IA que manipula ou engana as pessoas de formas que causam dano significativo, ou que explora vulnerabilidades como idade, deficiência ou situação social ou econômica. Essas proibições valem desde 2 de fevereiro de 2025 (Artigo 5).
- A Lei de Serviços Digitais (DSA) proíbe dark patterns em plataformas online: interfaces que "deceive or manipulate" (enganam ou manipulam) os usuários ou atrapalham decisões livres e informadas. Ela vale desde 17 de fevereiro de 2024 (DSA, Artigo 25).
Em funcionalidades de IA, preste atenção em:
- Um assistente que empurra a opção mais lucrativa enquanto soa neutro
- Urgência falsa ou prova social gerada na hora ("3 pessoas estão vendo isto")
- Um chatbot que finge ser uma pessoa, ou esconde como falar com uma
- Personalização que mira as pessoas quando elas estão mais vulneráveis
5. Frameworks que você pode citar
Você não precisa decorar, mas ajuda saber que eles existem quando for defender uma mudança:
| Framework | Em uma linha |
|---|---|
| NIST AI Risk Management Framework (2023, com um Generative AI Profile de 2024) | Quatro funções: governar, mapear, medir, gerenciar; sete qualidades de uma IA confiável, incluindo "fair, with harmful bias managed" (justa, com o viés prejudicial sob controle) |
| Recomendação da UNESCO sobre a Ética da IA (2021, 193 Estados-membros) | Valores e princípios que incluem diversidade e inclusão, justiça e supervisão humana |
| Princípios de IA da OCDE (2019, atualizados em 2024) | Cinco princípios para uma IA confiável, adotados por 47 países |
6. Hábitos práticos
- Especifique as pessoas, não deixe para o padrão. Em prompts de imagem e em personas geradas, descreva de propósito idade, corpo, tom de pele, deficiência e contexto, e varie isso dentro de um conjunto. Revise o conjunto como um todo.
- Confira quem ficou de fora. Num resumo de pesquisa feito por IA, pergunte: as citações de quem ficaram, as de quem saíram? Veja IA na pesquisa de UX.
- Teste com as pessoas que têm mais chance de ficar na mão: sotaques, línguas, capacidades, aparelhos e velocidades de conexão diferentes.
- Dê aos usuários um jeito de dizer "isto está errado", e garanta que alguém leia. Veja ciclos de feedback.
- Dê nome ao trade-off. Se uma funcionalidade é mais rápida para a maioria mas pior para algumas pessoas, escreva isso e decida abertamente.
7. Vocabulário
| Termo | Significado |
|---|---|
| Viés algorítmico | Injustiça sistemática nos resultados de um sistema de IA |
| Viés de automação | Confiar na sugestão de um sistema mais do que deveria |
| Dark pattern | Uma interface desenhada para enganar as pessoas e levá-las a escolhas que elas não fariam de outro jeito |
| Antropomorfismo | Dar características humanas a um sistema (um nome, sentimentos, um rosto) |
| Calibração de confiança | Ajudar as pessoas a confiar num sistema exatamente o quanto ele merece |
8. Experimente (sem código)
- Peça a uma ferramenta de imagem aprovada "uma foto de um médico", quatro vezes. Depois "uma foto de uma enfermeira", quatro vezes. Quem aparece? Quem não aparece?
- Peça a um assistente três personas para um app de banco. Anote os nomes, as idades e as situações que ele escolhe por padrão.
- Reescreva os dois prompts especificando um conjunto variado de pessoas, e compare.
- Olhe para uma funcionalidade de IA que você usa todo dia. Ela mostra o quanto tem certeza? Como você saberia se ela estivesse errada?
Perguntas para refletir: qual dos usuários do seu produto tem mais chance de ficar na mão por causa de uma funcionalidade de IA? O que seria preciso para o seu time perceber?
9. Se você lidera um time
- Acrescente "quem isto pode deixar na mão?" às perguntas das suas críticas de design.
- Inclua na pesquisa e nos testes pessoas com risco de ficar de fora, não só usuários "típicos".
- Mantenha uma lista curta de limites que não se cruzam para funcionalidades de IA (nada de falsos humanos, nada de urgência fabricada, sempre um caminho até uma pessoa) e revise as funcionalidades novas com ela.
Checklist
Para saber mais
- NN/g: Humanizing AI Is a Trap (jan 2026) · Explainable AI in Chat Interfaces
- Pesquisa: Bloomberg, Humans are biased. Generative AI is even worse · Koenecke et al., Racial disparities in automated speech recognition (PNAS 2020) · Dratsch et al., Automation bias in mammography (Radiology 2023)
- Frameworks: NIST AI RMF · UNESCO · OCDE
Livros, cursos e vídeos para ir mais fundo (em inglês)
Relacionadas
Processo de revisão de design com IA · Acessibilidade com e para IA · Viés algorítmico · Viés de automação · Calibração de confiança · Design agêntico · Governança de IA e proteção de dados