Vamos direto ao que interessa. Você tem uma VPS Ubuntu com pelo menos 8 GB de RAM e quer rodar um modelo de IA aberto com interface web. São quatro passos.
1. Instalar o Ollama
curl -fsSL https://ollama.com/install.sh | sh
ollama --version
2. Baixar um modelo pequeno
Sem GPU, comece com modelos de 3B a 8B parâmetros. Em 8 GB de RAM, o 3B é o mais confortável:
ollama pull llama3.2:3b
ollama run llama3.2:3b "Explique o que é uma VPS em duas frases"
3. Instalar o Docker e subir o Open WebUI
curl -fsSL https://get.docker.com | sh
docker run -d -p 3000:8080 \
--add-host=host.docker.internal:host-gateway \
-v open-webui:/app/backend/open-webui \
--name open-webui --restart always \
ghcr.io/open-webui/open-webui:main
Abra http://IP_DA_VPS:3000, crie o usuário admin (o primeiro cadastro vira admin) e ele detecta o Ollama.
Se não detectar, ajuste o Ollama pra escutar fora do localhost: sudo systemctl edit ollama, adicione Environment="OLLAMA_HOST=0.0.0.0" e rode sudo systemctl restart ollama.
4. Fechar o acesso
Não deixe a porta 3000 aberta pro mundo:
sudo ufw allow OpenSSH
sudo ufw allow from SEU_IP to any port 3000
sudo ufw enable
Limites
CPU puro é lento: espere respostas bem mais devagar que no ChatGPT. Pra modelos grandes, aluguel de GPU por hora faz mais sentido.
Plano de referência: Hostinger (KVM 2: 2 vCPU, 8 GB RAM, R$ 42,99/mês na promo atual, preço verificado em 26/10): https://go.nowto.link/hostinger
Vídeo e newsletter: https://nuvemdev.substack.com . Também escrevi sobre voz de IA em português: https://dev.to/nuvemdev/narracao-em-portugues-com-ia-de-graca-no-linux-piper-tts-ffmpeg-575h
Alguns links são de afiliado: se você comprar, eu ganho uma comissão e você não paga nada a mais.
Top comments (0)