Código sensível não vai pra cloud: rodo local com Ollama

Uso Claude e ChatGPT todo dia, mas esbarrei num caso que não cabe neles: código de cliente e dado interno que não podem sair da máquina. Pra isso montei uma opção local com Ollama, e ela virou meu padrão neste cenário.

Roda local de verdade: um comando (ollama run llama3) e você conversa com Llama, DeepSeek, Gemma ou Mistral 100% offline, sem token cobrado. 176k+ stars no GitHub, não é experimento de fim de semana.

Bom pra: código e dado sensível, tarefa repetitiva e barata (classificar, extrair, resumir, autocomplete) e trabalhar sem depender de rate limit nem crédito de API.

Ruim pra: raciocínio pesado, refactor grande, contexto gigante. Um 7B local não é GPT-5 nem Claude. E RAM é o gargalo: 7B roda em 16GB, mas 70B engasga feio.

A tese que tirei disso: a pergunta deixou de ser "qual modelo é mais inteligente" e virou "esse dado pode sair da minha máquina?". Pra parte do trabalho a resposta é não, e aí o local ganha por definição, não por qualidade.

Não é bala de prata. É um trade-off (privacidade e controle dos dados vs qualidade no topo), não superioridade.

Escrevi o passo a passo (instalação nos 3 SOs, Docker, API local e qual modelo escolher pra cada RAM): https://www.techknow.com.br/post/ollama

Quem já roda o Ollama de verdade: qual modelo e para qual contexto vcs utilizam?