IA para UX · Passo 3 · 9 min de leitura
Governança de IA e proteção de dados
O que todo designer deveria saber no fim de 2026 sobre usar IA com dados reais e projetar recursos de IA: o básico de proteção de dados, classes de dados e ferramentas aprovadas, o calendário do Regulamento de IA (AI Act) da UE com as mudanças de 2026, os direitos dos trabalhadores, e uma governança que você pode colocar no próprio design.
A maioria dos riscos de IA no trabalho de design são riscos de dados. Uma gravação de pesquisa colada na ferramenta errada, uma lista de clientes usada para "testar" um prompt, um recurso de IA que dá notas a funcionários sem ninguém perceber. Nada disso precisa de má intenção; basta um momento sem perguntar. Esta nota te dá as perguntas a fazer, e as regras por trás delas.
O que você vai conseguir fazer depois de ler:
- Aplicar o básico de proteção de dados a ferramentas de IA e a dados de pesquisa
- Usar classes de dados e uma lista de ferramentas aprovadas para decidir o que pode ir para onde
- Ler o calendário do Regulamento de IA da UE e saber que partes dizem respeito a designers
- Reconhecer quando um recurso de IA mexe com direitos dos trabalhadores ou com usos de alto risco
- Colocar transparência, supervisão e registro (logging) nos recursos de IA que você projeta
1. Proteção de dados: ainda é a base
Na UE e em muitos países com leis parecidas, o Regulamento Geral sobre a Proteção de Dados (RGPD/GDPR) vale para ferramentas de IA como para qualquer outro tratamento de dados pessoais:
| Princípio | O que significa no trabalho com IA | RGPD |
|---|---|---|
| Uma finalidade e uma base legal | Saber por que esses dados vão para essa ferramenta, e com qual fundamento jurídico | Art. 5, 6 |
| Minimização dos dados | Usar o mínimo de dados necessário; anonimizar ou pseudonimizar antes de usar IA | Art. 5 |
| Um contrato com o operador (subcontratante, no texto europeu) | O fornecedor trata os dados em seu nome, com um acordo por escrito (muitas vezes chamado de DPA) | Art. 28 |
| Uma avaliação de impacto para tratamento de risco | Tecnologia nova usada com dados pessoais em grande escala pode exigir uma avaliação de impacto sobre a proteção de dados (DPIA) | Art. 35 |
| Limites às decisões automatizadas | As pessoas têm direitos quando decisões sobre elas são tomadas exclusivamente por meios automatizados | Art. 22 |
Gravações de pesquisa pedem cuidado especial: rostos, vozes e nomes são dados pessoais. Eles viram dados biométricos de "categoria especial" quando são tratados para identificar alguém (RGPD).
"Training opt-out" (recusa ao treino) não é um termo do RGPD, e sim uma configuração do contrato: se o fornecedor pode usar o seu conteúdo para melhorar os modelos dele. Confira isso em toda ferramenta.
2. Classes de dados e ferramentas aprovadas
Combine um conjunto simples de classes de dados com o seu encarregado de proteção de dados e a segurança da informação, e depois ligue cada ferramenta aprovada às classes que ela pode receber:
Diretrizes publicadas, documentos públicos.
Qualquer ferramenta aprovadaEspecificações, documentação do design system, notas anonimizadas.
Só ferramentas empresariais aprovadasNomes de clientes, transações, preços, planos não lançados.
Só ferramentas aprovadas para isso; prefira dados anonimizadosGravações, transcrições, dados de funcionários.
Ferramentas aprovadas especificamente; anonimize antes; envolva o DPOA lista de ferramentas aprovadas é a espinha dorsal na prática. Para cada ferramenta, ela diz: qual plano ou contrato (planos para consumidor e planos empresariais têm termos de dados muito diferentes), quais classes de dados são permitidas, se o treino com o seu conteúdo está desligado, onde os dados são tratados, e quem é o responsável interno pela ferramenta. Contas pessoais em planos para consumidor nunca devem receber dados de trabalho.
3. O Regulamento de IA da UE, com as mudanças de 2026
O Regulamento de IA (Regulamento (UE) 2024/1689) foi alterado pelo Omnibus Digital sobre IA (Digital Omnibus on AI, Regulamento (UE) 2026/1744), em vigor desde 27 de julho de 2026, que mudou várias datas:
IA manipuladora e exploratória proibida; organizações devem apoiar o letramento em IA da equipe.
Regras para quem faz os modelos: documentação, política de direitos autorais, resumo do treino.
Avisar interação com IA e rotular deepfakes (Artigo 50).
Acaba a carência da marcação legível por máquina; imagens íntimas não consentidas proibidas.
Incluindo recrutamento e gestão ou avaliação de trabalhadores (Anexo III).
IA de alto risco em produtos cobertos pela legislação de segurança da UE (Anexo I).
O que mais diz respeito a designers:
- Letramento em IA (Artigo 4), desde fevereiro de 2025: organizações que usam IA precisam "take measures to support the development of AI literacy" (tomar medidas para apoiar o desenvolvimento do letramento em IA do seu pessoal; o texto oficial em português diz "literacia") (Art. 4). A mudança de 2026 deixou a regra mais branda (não se exige um nível específico), mas ela continua sendo uma obrigação. Um caminho de aprendizado para o time, como este curso, é uma medida concreta.
- Transparência (Artigo 50), desde 2 de agosto de 2026: avise as pessoas quando elas estão interagindo com IA, e rotule deepfakes. A marcação legível por máquina de conteúdo de IA, feita pelos fornecedores, tem um período de carência até 2 de dezembro de 2026 para sistemas que já estão no mercado (orientações da Comissão; perguntas frequentes).
- Usos de alto risco (Anexo III), a partir de 2 de dezembro de 2027: incluem IA para recrutamento (por exemplo, triagem de currículos ou portfólios) e para distribuir tarefas ou monitorar e avaliar trabalhadores (Anexo III). Se você projeta um recurso assim, ele vai precisar de gestão de risco rigorosa, supervisão humana e documentação.
- As regras para modelos de IA de finalidade geral, desde agosto de 2025, dizem respeito principalmente a quem faz os modelos (OpenAI, Anthropic, Google, Mistral…), não a designers que usam as ferramentas deles.
4. Direitos dos trabalhadores
Introduzir uma IA que muda o jeito como as pessoas trabalham, ou que pode monitorá-las, muitas vezes exige informar ou consultar os funcionários:
- Em toda a UE: antes de colocar em uso um sistema de IA de alto risco no local de trabalho, os empregadores precisam informar os representantes dos trabalhadores e os trabalhadores afetados (Regulamento de IA, Artigo 26(7)).
- A Alemanha é um exemplo rigoroso: os conselhos de empresa (Betriebsrat) decidem junto sobre a introdução de equipamentos técnicos feitos para monitorar comportamento ou desempenho, precisam ser informados com antecedência sobre processos de trabalho planejados "including the use of AI" (incluindo o uso de IA), e podem chamar um especialista em IA (BetrVG §87, §90, §80).
- Portugal exige que os empregadores informem os trabalhadores sobre os parâmetros, critérios e regras dos algoritmos que afetam contratação, condições de trabalho ou monitoramento (Lei 13/2023).
Pergunte aos times de RH e jurídico o que vale nos lugares onde o seu time e os seus usuários trabalham.
5. Governança no próprio design
As regras viram realidade na interface. Quando você projeta um recurso de IA:
- Transparência: diga quando as pessoas estão falando com uma IA e quando um conteúdo foi gerado por IA. Veja IA para content design.
- Supervisão humana: aprovar, substituir a decisão e desfazer. Obrigatória para sistemas de alto risco, boa prática em qualquer lugar. Veja Human-in-the-loop (humano no circuito) e Design agêntico.
- Registro (logging): mantenha um histórico de auditoria que sirva à prestação de contas sem virar vigilância dos funcionários.
- Explicações ajustadas a cada papel: o que um operador, um gestor e um auditor precisam saber é diferente (NN/g).
6. Vocabulário
| Termo | Significado |
|---|---|
| Dados pessoais | Qualquer informação sobre uma pessoa identificável |
| Encarregado de proteção de dados (DPO) | A pessoa responsável pela proteção de dados numa organização |
| Acordo de tratamento de dados (DPA) | O contrato pelo qual um fornecedor trata os seus dados |
| DPIA | Uma avaliação de impacto sobre a proteção de dados, feita antes de um tratamento de risco |
| Responsável pela implantação (deployer) | Pelo Regulamento de IA, uma organização que usa um sistema de IA |
| IA de alto risco | Usos listados pelo Regulamento de IA que exigem salvaguardas rigorosas |
7. Experimente (sem código)
- Liste as ferramentas de IA que você usou na semana passada e, para cada uma, o tipo de dado que você deu a ela.
- Classifique esses dados com as quatro classes da seção 2.
- Para cada ferramenta, descubra: ela está na lista aprovada da sua organização? Qual plano? O treino com o seu conteúdo está desligado?
- Anote uma mudança que você vai fazer (outra ferramenta, anonimizar antes, uma pergunta para a TI).
Perguntas para refletir: quais dos seus materiais de pesquisa você nunca colaria numa ferramenta de IA? Algum recurso que você está projetando distribui trabalho entre pessoas ou avalia pessoas?
8. Se você lidera um time
- Consiga a lista de ferramentas aprovadas e as classes de dados com a segurança da informação e o encarregado de proteção de dados; se não existir, ajude a criar.
- Escreva uma página de diretrizes de uso de IA do time e peça uma revisão. Veja diretrizes de uso de IA.
- Combine quando declarar o uso de IA nas entregas (o PACED framework da NN/g, adaptado ao trabalho de design).
- Envolva os representantes dos trabalhadores junto com o RH antes de fluxos de IA para o time inteiro.
- Guarde um registro das atividades de letramento em IA como evidência para o Artigo 4.
- Sinalize qualquer recurso que mexa com contratação, distribuição de tarefas ou desempenho como potencialmente de alto risco.
Checklist
Para saber mais
- Leis da UE: AI Act (consolidated) · Digital Omnibus on AI · Commission AI Act page · Article 50 guidelines · GDPR
- Não oficial, mas útil: AI Act Explorer and timeline (Future of Life Institute)
- NN/g: Crafting AI Explanations for Every Role · PACED
Livros, cursos e vídeos para ir mais fundo (em inglês)
Relacionadas
Diretrizes de uso de IA · Direitos autorais e imagens geradas por IA · Ética, viés e inclusão · IA na pesquisa de UX · Panorama de ferramentas de IA · Design agêntico · Dados pessoais em prompts