Marcus Andrey Estudo
Read in English Biblioteca

IA para UX · Laboratórios · 7 min de leitura

Rode um modelo no seu notebook

Um laboratório prático: rode um modelo de linguagem aberto no seu próprio computador, com um app ou alguns comandos no terminal. O que você precisa, quais modelos pequenos testar, o que fica no seu dispositivo, o que medimos em um Mac e como avaliar as respostas.

Quatro tubos de ensaio, um para cada laboratório: rodar um modelo no seu notebook, gerar imagens localmente, escrever uma skill, escrever um conjunto de evals. Aponte para um tubo e o experimento começa a borbulhar. Ilustração: Marcus Andrey, desenhada com Hairline (MIT, Lucas Marques).

O jeito mais rápido de entender um modelo de linguagem é rodar um você mesmo. Em um notebook recente, um modelo aberto pequeno responde em segundos, funciona sem internet e nada do que você digita sai da máquina. Também é uma lição de humildade: modelos pequenos são claramente mais fracos que os grandes assistentes na nuvem, e ver como eles erram ensina mais sobre IA do que qualquer artigo. Este laboratório leva uns trinta minutos, a maior parte deles no download.

O que você vai conseguir fazer depois deste laboratório:

  • Instalar um executor de modelos local, com um app ou no terminal
  • Escolher um modelo pequeno que caiba no seu computador
  • Explicar o que fica no seu dispositivo e o que não fica
  • Comparar um modelo local com um assistente na nuvem em uma tarefa real de design

Produtos e versões são de novembro de 2026. Eles mudam rápido; confira cada link antes de começar.


1. Por que rodar um modelo localmente

LocalPrivacidade

O que você digita fica no computador, com um modelo local.

Nuvem: vai para o fornecedor, sob os termos dele
LocalOffline e grátis

Funciona sem internet; sem custo por uso.

Nuvem: precisa de conexão e de um plano
NuvemQualidade

Os grandes modelos na nuvem são bem mais fortes.

Local: modelos pequenos erram mais
NuvemEsforço

Nada para instalar ou atualizar.

Local: você baixa e cuida dos modelos
Modelos locais e na nuvem trocam privacidade e custo por qualidade e praticidade. Muitos times usam os dois. Diagrama: Marcus Andrey, CC BY 4.0.
Tubos de ensaio de vidro vazios e numerados, de pé numa estante de aço.
Tubos limpos, prontos para um experimento. Um laboratório é onde você testa coisas de propósito, anota o que aconteceu e aprende mais com o que falhou do que com o que deu certo. Foto: J.N. Eskra, Wikimedia Commons, CC BY-SA 4.0.

2. O que você precisa

  • Um computador dos últimos anos. Na Apple, um Mac com chip da série M; no Windows, um PC recente (uma placa de vídeo ajuda, mas não é obrigatória para modelos pequenos).
  • Memória (RAM): com 8 GB, use modelos de uns 3 a 4 bilhões de parâmetros; com 16 GB ou mais, você pode testar modelos maiores. O LM Studio publica essa orientação; o Ollama não publica mais.
  • Espaço em disco: de 2 a 10 GB por modelo.
  • Trinta minutos, a maior parte para o download.

3. Três jeitos de começar

Ferramenta Como você usa Bom para Em nov. de 2026
Ollama Um app de chat para Mac e Windows, mais comandos no terminal O começo mais fácil; arraste um PDF e faça perguntas sobre ele Gratuito, código aberto; no Mac, precisa do macOS 14 ou posterior
LM Studio Um app de desktop com um catálogo de modelos Explorar e comparar modelos sem terminal Gratuito, inclusive para trabalho dentro da sua empresa ("internal business purposes", ou seja, fins internos de negócio); Macs com Apple silicon no macOS 14 ou posterior
mlx-lm Comandos no terminal, só para Apple silicon Velocidade em um Mac, e o próximo passo: fine-tuning (ajuste fino) Gratuito, licença MIT; precisa do Python 3.11 ou posterior

O caminho sem terminal: o app do Ollama

  1. Baixe o Ollama em ollama.com/download e abra o app.
  2. Na janela de chat, escolha um modelo da lista (por exemplo qwen3.5:4b). Ele é baixado na primeira vez.
  3. Digite uma pergunta. Desligue o Wi-Fi e pergunte de novo: continua funcionando.

O caminho pelo terminal

# Ollama, depois de instalar o app
ollama run qwen3.5:4b

# ou mlx-lm em um Mac com Apple silicon
pip install mlx-lm
mlx_lm.chat --model mlx-community/Qwen3.5-4B-MLX-4bit

4. Qual modelo testar

Modelo Download Licença Cabe em
Qwen3.5 4B (qwen3.5:4b) de 3,3 a 4 GB, aproximadamente Apache 2.0 8 GB de RAM
Llama 3.2 3B (llama3.2:3b) uns 2 GB Llama Community License: gratuita, com atribuição ("Built with Llama") e limites para empresas muito grandes 8 GB de RAM
Gemma 4 E4B (gemma4:e4b) de 6,6 a 9,5 GB, aproximadamente Apache 2.0 16 GB de RAM

Os tamanhos vêm da página de cada modelo em ollama.com/library. "Cabe em" é uma regra prática.


5. O que medimos

Rodamos o Qwen3.5 4B (4 bits) com o mlx-lm 0.32 em um MacBook Pro com chip M3 Max e 36 GB de memória, offline, e pedimos:

"Write three short, friendly empty-state messages for a design team's shared asset library that has no files yet. One line each." (Escreva três mensagens de estado vazio, curtas e simpáticas, para a biblioteca compartilhada de assets de um time de design que ainda não tem arquivos. Uma linha cada.)

Raciocínio ligado (padrão) Raciocínio desligado
Tokens antes de a resposta aparecer 200, todos gastos "pensando", e nenhuma resposta ainda 0
Tamanho da resposta (cortada) 56 tokens
Velocidade uns 95 tokens por segundo uns 96 tokens por segundo
Memória usada 2,6 GB 2,6 GB
Download 3,0 GB 3,0 GB

A resposta, com o raciocínio desligado:

1. Your design vault is empty—let's build something amazing together!
2. No files yet? This is the perfect blank canvas for your next big idea.
3. Ready to drop in your first asset? We can't wait to see what you create!

O que isso mostra:

  • Raciocínio custa tokens. Muitos modelos novos "pensam" primeiro por padrão. Com um limite de 200 tokens, tudo foi para o raciocínio. No mlx-lm, você pode desligar isso com --chat-template-config '{"enable_thinking": false}'.
  • Rápido e privado não é o mesmo que bom. As frases são genéricas e empolgadas demais ("amazing", "big idea"), e nenhuma diz à pessoa o que fazer. Um content designer reescreveria as três. Veja IA para content design.

6. O que fica no seu dispositivo

  • Fica: seus prompts, as respostas e qualquer arquivo que você arrastar, se você usar um modelo local. O Ollama diz: "We don't see your prompts or data when you run locally" (não vemos seus prompts nem seus dados quando você roda localmente). O LM Studio diz que chats locais nunca são enviados para fora do dispositivo.
  • Não fica: o próprio download do modelo vem da internet; modelos na nuvem e recursos de busca na web enviam dados para fora; atualizações do app e estatísticas anônimas de uso também podem enviar. Leia a página de privacidade do app.
  • As regras da sua organização continuam valendo. Local não quer dizer aprovado: pergunte antes de usar dados de trabalho. Veja Governança de IA e proteção de dados.

7. Erros comuns

  • Escolher um modelo grande demais para a sua memória: o computador fica lentíssimo.
  • Achar que é "local" quando o modelo é na nuvem.
  • Confiar em fatos de um modelo pequeno. Eles inventam coisas com mais frequência que os grandes. Veja alucinação.
  • Baixar modelos de fontes desconhecidas. Use as bibliotecas oficiais.

8. Vocabulário

Termo Significado
Modelo aberto Um modelo cujos pesos você pode baixar e rodar por conta própria
Parâmetros Os números que um modelo aprendeu; "4B" quer dizer uns 4 bilhões
Quantizado (4 bits) Comprimido para precisar de menos memória, com uma pequena perda de qualidade
Tokens por segundo A velocidade com que o modelo escreve
Raciocínio ("thinking") Texto que o modelo escreve para si mesmo antes de responder
Janela de contexto Quanto texto o modelo consegue considerar de uma vez

9. Experimente

  1. Instale o Ollama ou o LM Studio e baixe um modelo pequeno.
  2. Desligue o Wi-Fi. Peça três mensagens de estado vazio para um produto que você conhece.
  3. Peça a mesma coisa a um assistente na nuvem.
  4. Avalie os dois com os mesmos três critérios: claro, no tom de voz certo, diz à pessoa o que fazer em seguida.

Perguntas para refletir: quais tarefas do seu trabalho você confiaria a um modelo local pequeno? Quais você nunca confiaria? O que o modelo local errou que o da nuvem não errou?

Checklist

Para saber mais

Livros, cursos e vídeos para ir mais fundo

Os links dos livros são de afiliado da Amazon: como associado, recebo por compras qualificadas, sem custo a mais para você.

Relacionadas

Como um modelo aprende · O que é IA (e o que não é) · Panorama de ferramentas de IA para designers · IA para content design · Governança de IA e proteção de dados · alucinação · janela de contexto

Salvo só neste dispositivo.

↑ ↓ para mover · Enter para abrir · Esc para fechar