Reaproveitando Smartphones Antigos como Servidores de IA de Borda com Linux (PostmarketOS / ARM64)

A maioria dos desenvolvedores e entusiastas de hardware possui algum smartphone antigo esquecido em uma gaveta. Celulares topo de linha de gerações passadas (como os equipados com Snapdragon 845 ou Snapdragon 870) possuem:

• 6GB a 8GB de memória LPDDR4X rápida;
• SoCs Octa-Core de 64 bits com excelente eficiência por Watt;
• Armazenamento flash UFS veloz;
• Uma bateria integrada (UPS/No-break nativo) que impede o desligamento súbito em caso de queda de energia.

Enquanto rodar ferramentas no Android via Termux frequentemente sofre com o OOM killer agressivo do sistema operacional móvel, instalar uma distribuição Linux real como o postmarketOS (baseado no Alpine Linux) transforma o celular em um micro-servidor bare-metal de baixo consumo.

Neste artigo, veremos como configurar um nó de inferência de IA local (Edge AI) rodando Ollama e Small Language Models (SLMs) diretamente no hardware ARM64.

---

1. Por que postmarketOS em vez de Android/Termux?

Aspecto	Android + Termux	postmarketOS (Alpine Linux)
Kernel	Kernel customizado do fabricante (antigo)	Kernel Linux mainline upstream
Overhead de RAM	~2.5GB consumidos pela JVM e serviços Android	Menos de 200MB de RAM em idle
Gerenciamento de Processos	Android suspende daemons em background	systemd / OpenRC padrão de servidor
Acesso a Pacotes	Repositórios limitados do Termux	Repositórios completos Alpine ARM64 (apk)

---

2. Preparando o Ambiente Headless

Após flashear o postmarketOS no dispositivo (ex: Xiaomi Pocophone F1, OnePlus 6, etc.), o primeiro passo para maximizar a memória disponível para os modelos de IA é desativar a interface gráfica (Phosh ou Plasma Mobile) e mascarar a suspensão profunda:

# Conectado via SSH no aparelho
# 1. Desativar suspensão para não derrubar a conexão de rede
sudo systemctl mask sleep.target suspend.target hibernate.target hybrid-sleep.target

# 2. Desativar interface gráfica no boot (modo servidor puro)
sudo systemctl set-default multi-user.target

Após reiniciar, o sistema consumirá míseros 150MB a 200MB de RAM, deixando mais de 5.5GB livres para carregar pesos de modelos de linguagem diretamente na memória unificada do SoC.

---

3. Instalando o Ollama no ARM64

O Ollama possui compilações oficiais compatíveis com a arquitetura aarch64. A instalação pode ser realizada via script oficial:

curl -fsSL https://ollama.com/install.sh | sh

Para garantir que o serviço escute em todas as interfaces da sua rede local privada (ou na malha Tailscale), configure as variáveis de ambiente do serviço:

sudo systemctl edit ollama.service

Insira:

[Service]
Environment="OLLAMA_HOST=0.0.0.0:11434"
Environment="OLLAMA_KEEP_ALIVE=24h"

Reinicie o serviço:

sudo systemctl daemon-reload
sudo systemctl restart ollama.service

---

4. Escolha e Benchmark de Modelos SLM para Edge

Em chips como o Snapdragon 845/870, modelos de 1B a 3B de parâmetros quantizados em 4 bits (GGUF) oferecem um equilíbrio ideal entre velocidade e consumo de memória:

# Modelo ultra-rápido para código e raciocínio lógico (consome ~1.2GB de RAM)
ollama pull qwen2.5-coder:1.5b

# Modelo excelente para conversação e triagem de tarefas gerais (consome ~2.1GB de RAM)
ollama pull llama3.2:3b

Resultados de Performance (Snapdragon 845 / 6GB RAM):

• Qwen 2.5 Coder 1.5B (Q4_K_M): ~12 a 15 tokens/segundo.
• Llama 3.2 3B (Q4_K_M): ~7 a 9 tokens/segundo.
• Consumo Energético: Menos de 3 Watts sob carga máxima de inferência.

---

Conclusão e Recursos

Reaproveitar hardware existente reduz lixo eletrônico e oferece uma infraestrutura de IA privada 24/7 sem custos recorrentes em nuvem. Com a bateria interna do smartphone, você ganha ainda tolerância total contra oscilações de energia elétrica.

Confira o guia aprofundado com comparação de hardware dedicado e mini PCs no meu blog:

👉 Artigo Completo no Fymax Sentinel

---

Você tem algum smartphone antigo encostado? Já considerou rodar serviços locais ou nós de rede nele? Deixe seu comentário!