Reaproveitando Smartphones Antigos como Servidores de IA de Borda com Linux (PostmarketOS / ARM64)
Fala pessoal!
Tenho certeza de que quase todo desenvolvedor aqui tem pelo menos um smartphone antigo esquecido na gaveta. Celulares topo de linha lançados há alguns anos (como aparelhos com Snapdragon 845 ou Snapdragon 870) continuam sendo computadores portáteis com 6GB a 8GB de RAM LPDDR4X rápida, armazenamento UFS veloz e CPUs Octa-Core de 64 bits.
Muita gente tenta usar o Termux no Android para rodar serviços em segundo plano, mas o gerenciamento de bateria agressivo do Android vive matando processos e a camada de emulação devora memória.
Recentemente decidi instalar o postmarketOS (que é basicamente uma distribuição Alpine Linux de verdade com kernel mainline para ARM64) em um smartphone antigo para testar se ele aguentava rodar como um nó de IA local com Ollama. O resultado me surpreendeu bastante.
As vantagens do Linux puro no celular:
- Consumo de RAM ridículo: Sem o ecossistema pesado do Android e desativando a interface gráfica (modo headless), o sistema sobe usando míseros 180MB a 200MB de RAM. Quase toda a memória do aparelho fica livre para carregar modelos de linguagem.
- Nobreak integrado (UPS): Diferente de um Raspberry Pi que corrompe o cartão SD se a energia cair de repente, o smartphone possui uma bateria de 4000mAh integrada. Pode faltar luz por horas que o nó de inferência continua operando normalmente.
- Consumo de energia mínimo: Em repouso aguardando chamadas de API, o aparelho consome cerca de 1 Watt. Sob carga máxima de inferência, dificilmente passa de 3 a 4 Watts.
Rodando o Ollama na prática:
Instalando o binário oficial do Ollama para aarch64 e subindo modelos Small Language Models (SLMs) quantizados em 4 bits:
- Qwen 2.5 Coder 1.5B: Ocupa ~1.2GB de RAM e gera cerca de 12 a 15 tokens por segundo. Excelente para usar com extensões como o Continue.dev no VS Code como assistente de autocompletar privado.
- Llama 3.2 3B: Ocupa ~2.1GB de RAM e gera cerca de 8 tokens por segundo. Ótimo para tarefas gerais de sumarização, triagem de logs ou conversação simples.
Escrevi o passo a passo detalhado de otimização de energia, desativação de suspensão e benchmarks de hardware lá no meu blog:
👉 Guia Completo no Fymax Sentinel
Mais alguém aqui já transformou celular antigo em nó de laboratório ou servidor de serviços locais? Que distro ou aplicações vocês costumam rodar?