Marcus Andrey Estudo
Read in English Biblioteca

IA para UX · Passo 3 · 9 min de leitura

Governança de IA e proteção de dados

O que todo designer deveria saber no fim de 2026 sobre usar IA com dados reais e projetar recursos de IA: o básico de proteção de dados, classes de dados e ferramentas aprovadas, o calendário do Regulamento de IA (AI Act) da UE com as mudanças de 2026, os direitos dos trabalhadores, e uma governança que você pode colocar no próprio design.

A maioria dos riscos de IA no trabalho de design são riscos de dados. Uma gravação de pesquisa colada na ferramenta errada, uma lista de clientes usada para "testar" um prompt, um recurso de IA que dá notas a funcionários sem ninguém perceber. Nada disso precisa de má intenção; basta um momento sem perguntar. Esta nota te dá as perguntas a fazer, e as regras por trás delas.

O que você vai conseguir fazer depois de ler:

  • Aplicar o básico de proteção de dados a ferramentas de IA e a dados de pesquisa
  • Usar classes de dados e uma lista de ferramentas aprovadas para decidir o que pode ir para onde
  • Ler o calendário do Regulamento de IA da UE e saber que partes dizem respeito a designers
  • Reconhecer quando um recurso de IA mexe com direitos dos trabalhadores ou com usos de alto risco
  • Colocar transparência, supervisão e registro (logging) nos recursos de IA que você projeta

1. Proteção de dados: ainda é a base

Na UE e em muitos países com leis parecidas, o Regulamento Geral sobre a Proteção de Dados (RGPD/GDPR) vale para ferramentas de IA como para qualquer outro tratamento de dados pessoais:

Princípio O que significa no trabalho com IA RGPD
Uma finalidade e uma base legal Saber por que esses dados vão para essa ferramenta, e com qual fundamento jurídico Art. 5, 6
Minimização dos dados Usar o mínimo de dados necessário; anonimizar ou pseudonimizar antes de usar IA Art. 5
Um contrato com o operador (subcontratante, no texto europeu) O fornecedor trata os dados em seu nome, com um acordo por escrito (muitas vezes chamado de DPA) Art. 28
Uma avaliação de impacto para tratamento de risco Tecnologia nova usada com dados pessoais em grande escala pode exigir uma avaliação de impacto sobre a proteção de dados (DPIA) Art. 35
Limites às decisões automatizadas As pessoas têm direitos quando decisões sobre elas são tomadas exclusivamente por meios automatizados Art. 22

Gravações de pesquisa pedem cuidado especial: rostos, vozes e nomes são dados pessoais. Eles viram dados biométricos de "categoria especial" quando são tratados para identificar alguém (RGPD).

"Training opt-out" (recusa ao treino) não é um termo do RGPD, e sim uma configuração do contrato: se o fornecedor pode usar o seu conteúdo para melhorar os modelos dele. Confira isso em toda ferramenta.


2. Classes de dados e ferramentas aprovadas

Combine um conjunto simples de classes de dados com o seu encarregado de proteção de dados e a segurança da informação, e depois ligue cada ferramenta aprovada às classes que ela pode receber:

PúblicoPúblico

Diretrizes publicadas, documentos públicos.

Qualquer ferramenta aprovada
InternoInterno

Especificações, documentação do design system, notas anonimizadas.

Só ferramentas empresariais aprovadas
ConfidencialConfidencial

Nomes de clientes, transações, preços, planos não lançados.

Só ferramentas aprovadas para isso; prefira dados anonimizados
PessoalPessoal e sensível

Gravações, transcrições, dados de funcionários.

Ferramentas aprovadas especificamente; anonimize antes; envolva o DPO
Quatro classes de dados para o trabalho de design, e em quais ferramentas de IA cada uma pode entrar. Combine as suas com o encarregado de dados. Diagrama: Marcus Andrey, CC BY 4.0.

A lista de ferramentas aprovadas é a espinha dorsal na prática. Para cada ferramenta, ela diz: qual plano ou contrato (planos para consumidor e planos empresariais têm termos de dados muito diferentes), quais classes de dados são permitidas, se o treino com o seu conteúdo está desligado, onde os dados são tratados, e quem é o responsável interno pela ferramenta. Contas pessoais em planos para consumidor nunca devem receber dados de trabalho.


3. O Regulamento de IA da UE, com as mudanças de 2026

O Regulamento de IA (Regulamento (UE) 2024/1689) foi alterado pelo Omnibus Digital sobre IA (Digital Omnibus on AI, Regulamento (UE) 2026/1744), em vigor desde 27 de julho de 2026, que mudou várias datas:

fev 2025Proibições e letramento

IA manipuladora e exploratória proibida; organizações devem apoiar o letramento em IA da equipe.

ago 2025Modelos de uso geral

Regras para quem faz os modelos: documentação, política de direitos autorais, resumo do treino.

ago 2026Transparência

Avisar interação com IA e rotular deepfakes (Artigo 50).

dez 2026Marcação e nova proibição

Acaba a carência da marcação legível por máquina; imagens íntimas não consentidas proibidas.

dez 2027Usos de alto risco

Incluindo recrutamento e gestão ou avaliação de trabalhadores (Anexo III).

ago 2028Produtos regulados

IA de alto risco em produtos cobertos pela legislação de segurança da UE (Anexo I).

A linha do tempo do AI Act da UE, com as mudanças do Digital Omnibus on AI (Regulamento 2026/1744). Autoridades públicas têm até ago 2030 para alguns sistemas de alto risco. Diagrama: Marcus Andrey, CC BY 4.0.

O que mais diz respeito a designers:

  • Letramento em IA (Artigo 4), desde fevereiro de 2025: organizações que usam IA precisam "take measures to support the development of AI literacy" (tomar medidas para apoiar o desenvolvimento do letramento em IA do seu pessoal; o texto oficial em português diz "literacia") (Art. 4). A mudança de 2026 deixou a regra mais branda (não se exige um nível específico), mas ela continua sendo uma obrigação. Um caminho de aprendizado para o time, como este curso, é uma medida concreta.
  • Transparência (Artigo 50), desde 2 de agosto de 2026: avise as pessoas quando elas estão interagindo com IA, e rotule deepfakes. A marcação legível por máquina de conteúdo de IA, feita pelos fornecedores, tem um período de carência até 2 de dezembro de 2026 para sistemas que já estão no mercado (orientações da Comissão; perguntas frequentes).
  • Usos de alto risco (Anexo III), a partir de 2 de dezembro de 2027: incluem IA para recrutamento (por exemplo, triagem de currículos ou portfólios) e para distribuir tarefas ou monitorar e avaliar trabalhadores (Anexo III). Se você projeta um recurso assim, ele vai precisar de gestão de risco rigorosa, supervisão humana e documentação.
  • As regras para modelos de IA de finalidade geral, desde agosto de 2025, dizem respeito principalmente a quem faz os modelos (OpenAI, Anthropic, Google, Mistral…), não a designers que usam as ferramentas deles.

4. Direitos dos trabalhadores

Introduzir uma IA que muda o jeito como as pessoas trabalham, ou que pode monitorá-las, muitas vezes exige informar ou consultar os funcionários:

  • Em toda a UE: antes de colocar em uso um sistema de IA de alto risco no local de trabalho, os empregadores precisam informar os representantes dos trabalhadores e os trabalhadores afetados (Regulamento de IA, Artigo 26(7)).
  • A Alemanha é um exemplo rigoroso: os conselhos de empresa (Betriebsrat) decidem junto sobre a introdução de equipamentos técnicos feitos para monitorar comportamento ou desempenho, precisam ser informados com antecedência sobre processos de trabalho planejados "including the use of AI" (incluindo o uso de IA), e podem chamar um especialista em IA (BetrVG §87, §90, §80).
  • Portugal exige que os empregadores informem os trabalhadores sobre os parâmetros, critérios e regras dos algoritmos que afetam contratação, condições de trabalho ou monitoramento (Lei 13/2023).

Pergunte aos times de RH e jurídico o que vale nos lugares onde o seu time e os seus usuários trabalham.


5. Governança no próprio design

As regras viram realidade na interface. Quando você projeta um recurso de IA:

  • Transparência: diga quando as pessoas estão falando com uma IA e quando um conteúdo foi gerado por IA. Veja IA para content design.
  • Supervisão humana: aprovar, substituir a decisão e desfazer. Obrigatória para sistemas de alto risco, boa prática em qualquer lugar. Veja Human-in-the-loop (humano no circuito) e Design agêntico.
  • Registro (logging): mantenha um histórico de auditoria que sirva à prestação de contas sem virar vigilância dos funcionários.
  • Explicações ajustadas a cada papel: o que um operador, um gestor e um auditor precisam saber é diferente (NN/g).

6. Vocabulário

Termo Significado
Dados pessoais Qualquer informação sobre uma pessoa identificável
Encarregado de proteção de dados (DPO) A pessoa responsável pela proteção de dados numa organização
Acordo de tratamento de dados (DPA) O contrato pelo qual um fornecedor trata os seus dados
DPIA Uma avaliação de impacto sobre a proteção de dados, feita antes de um tratamento de risco
Responsável pela implantação (deployer) Pelo Regulamento de IA, uma organização que usa um sistema de IA
IA de alto risco Usos listados pelo Regulamento de IA que exigem salvaguardas rigorosas

7. Experimente (sem código)

  1. Liste as ferramentas de IA que você usou na semana passada e, para cada uma, o tipo de dado que você deu a ela.
  2. Classifique esses dados com as quatro classes da seção 2.
  3. Para cada ferramenta, descubra: ela está na lista aprovada da sua organização? Qual plano? O treino com o seu conteúdo está desligado?
  4. Anote uma mudança que você vai fazer (outra ferramenta, anonimizar antes, uma pergunta para a TI).

Perguntas para refletir: quais dos seus materiais de pesquisa você nunca colaria numa ferramenta de IA? Algum recurso que você está projetando distribui trabalho entre pessoas ou avalia pessoas?


8. Se você lidera um time

  • Consiga a lista de ferramentas aprovadas e as classes de dados com a segurança da informação e o encarregado de proteção de dados; se não existir, ajude a criar.
  • Escreva uma página de diretrizes de uso de IA do time e peça uma revisão. Veja diretrizes de uso de IA.
  • Combine quando declarar o uso de IA nas entregas (o PACED framework da NN/g, adaptado ao trabalho de design).
  • Envolva os representantes dos trabalhadores junto com o RH antes de fluxos de IA para o time inteiro.
  • Guarde um registro das atividades de letramento em IA como evidência para o Artigo 4.
  • Sinalize qualquer recurso que mexa com contratação, distribuição de tarefas ou desempenho como potencialmente de alto risco.

Checklist

Para saber mais

Livros, cursos e vídeos para ir mais fundo (em inglês)

Relacionadas

Diretrizes de uso de IA · Direitos autorais e imagens geradas por IA · Ética, viés e inclusão · IA na pesquisa de UX · Panorama de ferramentas de IA · Design agêntico · Dados pessoais em prompts

Salvo só neste dispositivo.

↑ ↓ para mover · Enter para abrir · Esc para fechar