DEV Community

Cover image for Rodando LLM em GPU alugada por hora: checklist e comandos (RunPod)
Nuvem Dev
Nuvem Dev

Posted on

Rodando LLM em GPU alugada por hora: checklist e comandos (RunPod)

Você não precisa de uma GPU em casa pra testar um modelo grande. Dá pra alugar por hora, rodar o que precisa e desligar. Aqui vai um checklist direto, sem enrolação. (Os preços vêm da página oficial da RunPod, conferidos em 27/10/2026, e mudam.)

Nuvem Dev: GPU por hora

1. Escolha a GPU pelo tamanho do modelo

A regra prática é olhar a VRAM. Na tabela de pods da RunPod:

GPU VRAM Preço/hora
RTX 3090 24 GB US$ 0,50
RTX 4090 24 GB US$ 0,89
A100 80 GB US$ 1,79
H100 PCIe 80 GB US$ 2,89

Modelos de 7B a 13B quantizados cabem em 24 GB. Modelos de 70B quantizados precisam de mais, tipo 80 GB.

2. Confira a GPU assim que o pod subir

nvidia-smi
Enter fullscreen mode Exit fullscreen mode

Se aparecer o nome da placa e a VRAM livre, tá tudo certo.

3. Rode um modelo com Ollama

curl -fsSL https://ollama.com/install.sh | sh
ollama pull llama3.1:8b
ollama run llama3.1:8b "Explique o que é VRAM em duas frases"
Enter fullscreen mode Exit fullscreen mode

Em outro terminal, veja a placa trabalhando:

watch -n 1 nvidia-smi
Enter fullscreen mode Exit fullscreen mode

4. Ou suba uma API compatível com OpenAI (vLLM)

pip install vllm
vllm serve Qwen/Qwen2.5-7B-Instruct --port 8000
curl http://localhost:8000/v1/models
Enter fullscreen mode Exit fullscreen mode

5. Desligue tudo no final

Pod ligado é dinheiro saindo. Parou de usar, pare o pod. Lembre também que disco (volume) tem cobrança própria, mesmo com o pod parado: na tabela, volume ocioso custa US$ 0,20/GB/mês.

GPU por hora ou VPS?

IA no ar o dia inteiro (chatbot, automação): uma VPS sai mais previsível, mas sem GPU roda só modelo pequeno. Teste, treino e modelo grande por poucas horas: GPU por hora. Montei o passo a passo da versão VPS neste outro post: https://dev.to/nuvemdev

Links (afiliado):

Recebo a newsletter com os comparativos e vídeos curtos aqui: https://nuvemdev.substack.com

Aviso: alguns links são de afiliado. Se você comprar por eles, posso receber uma comissão, sem custo adicional pra você.

Top comments (0)