DEV Community

Cover image for Grok 4.5 Benchmarks: O que a xAI publicou e como interpretá-los
Lucas
Lucas

Posted on • Originally published at apidog.com

Grok 4.5 Benchmarks: O que a xAI publicou e como interpretá-los

A xAI lançou o Grok 4.5 em 8 de julho de 2026 com quatro benchmarks de codificação e um gráfico de eficiência. Os números são relevantes, mas foram escolhidos com cuidado. Abaixo está uma leitura prática: o que foi publicado, de onde vêm os dados, quais lacunas ainda existem e como montar seu próprio teste antes de trocar de modelo.

Experimente o Apidog hoje

Resumo direto: o Grok 4.5 aparece como um modelo de codificação intermediário-forte nos benchmarks publicados. Ele divide resultados com o Claude Opus 4.8, fica atrás dos modelos de ponta e tem como principal argumento a eficiência de saída, não a maior pontuação de precisão.

Cada número que a xAI publicou

Do anúncio, estes são os quatro gráficos publicados.

DeepSWE 1.0 — pass@1

Modelo Pontuação
Claude Fable 5 (max) 66.1%
GPT 5.5 (xhigh) 64.31%
Grok 4.5 62.0%
Claude Opus 4.8 (max) 55.75%
Claude Opus 4.7 (max) 40.12%

DeepSWE 1.1

Modelo Pontuação
Claude Fable 5 (max) 70%
GPT 5.5 (xhigh) 67%
Claude Opus 4.8 (max) 59%
Grok 4.5 53%
GLM 5.2 44%

Terminal Bench 2.1

Modelo Pontuação
Claude Fable 5 (max) 84.3%
GPT 5.5 (xhigh) 83.4%
Grok 4.5 83.3%
Claude Opus 4.8 (max) 78.9%
Claude Opus 4.7 (max) 78.9%

SWE Bench Pro — taxa de resolução

Modelo Pontuação
Claude Fable 5 (max) 80.4%
Claude Opus 4.8 (max) 69.2%
Grok 4.5 64.7%
Claude Opus 4.7 (max) 64.3%
GLM 5.2 62.1%
GPT 5.5 (xhigh) 58.6%

Além disso, a xAI publicou um gráfico de eficiência: 15.954 tokens de saída médios por tarefa SWE Bench Pro para o Grok 4.5, contra 67.020 para o Opus 4.8 (max). Isso representa uma diferença de 4.2x.

Gráfico de eficiência do Grok 4.5

De onde vêm esses números

As notas dos gráficos da xAI são importantes:

  • DeepSWE 1.0 foi “criado pela Datacurve, executado com as ferramentas de cada provedor de modelo pela AA”.
  • DeepSWE 1.1 usou as “ferramentas mini-swe-agent executadas pela Datacurve”.
  • “Os números dos concorrentes são extraídos dos respectivos cartões de sistema publicados pelos desenvolvedores ou dos placares de benchmark.”

Na prática, isso significa que os resultados são um mosaico:

  1. alguns vêm de avaliações de terceiros;
  2. alguns vêm de cartões de sistema publicados pelos próprios fornecedores;
  3. todos foram reunidos pela xAI, que tem interesse comercial no lançamento.

Isso é melhor do que uma autoavaliação totalmente fechada, e a participação da Datacurve adiciona credibilidade. Ainda assim, não é uma avaliação independente completa. Ferramentas, agentes, configurações de esforço e ambientes podem alterar pontuações em vários pontos.

Até 9 de julho, ainda não havia números independentes publicados para o Grok 4.5 fora desse conjunto.

Como interpretar os gráficos

1. Contra o Claude Opus 4.8, o resultado é dividido

Nos quatro benchmarks publicados:

  • Grok 4.5 vence em DeepSWE 1.0 por 6.25 pontos.
  • Grok 4.5 vence em Terminal Bench 2.1 por 4.4 pontos.
  • Claude Opus 4.8 vence em DeepSWE 1.1 por 6 pontos.
  • Claude Opus 4.8 vence em SWE Bench Pro por 4.5 pontos.

Isso sustenta a leitura de que o Grok 4.5 está na “classe Opus” em codificação, mas não prova superioridade geral.

Também vale observar o padrão:

  • Grok vence nas avaliações mais antigas ou mais orientadas a terminal.
  • Opus vence nas avaliações mais recentes e complexas, especialmente em nível de repositório.

Comparação direta com preços: Grok 4.5 vs Claude Opus 4.8.

2. Contra a fronteira, o Grok 4.5 não lidera

Nos próprios gráficos da xAI:

  • Claude Fable 5 (max) lidera todos os quatro benchmarks.
  • GPT 5.5 (xhigh) supera o Grok 4.5 em três dos quatro.

A proposta do Grok 4.5, portanto, não é “melhor modelo absoluto”. É preço-desempenho.

Para entender os números do Fable na prática, veja a análise de benchmarks do Fable 5.

3. Contra modelos mais baratos, a diferença precisa ser calculada

O Grok 4.5 supera o GLM 5.2 nos benchmarks compartilhados, mas a diferença fica na faixa de 9 a 11 pontos. Como o GLM 5.2 custa uma fração, a decisão depende do seu caso de uso:

  • Se cada erro custa caro, a pontuação maior pode compensar.
  • Se o volume é alto e a tolerância a revisão humana existe, custo por tarefa pode pesar mais.

A métrica mais importante: tokens de saída

O gráfico de eficiência é o ponto central do lançamento.

Segundo a xAI:

  • Grok 4.5: 15.954 tokens de saída médios por tarefa SWE Bench Pro
  • Claude Opus 4.8 (max): 67.020 tokens
  • Diferença: 4.2x menos tokens para o Grok 4.5

Isso importa porque tokens de saída afetam diretamente:

  • custo;
  • latência;
  • tempo total de execução em agentes;
  • custo acumulado em loops com múltiplas chamadas.

Um modelo que resolve um pouco menos, mas gera muito menos saída, pode ser melhor para pipelines de alto volume.

A análise de preços detalha essa troca: análise de preços do Grok 4.5.

Mas há duas ressalvas:

  1. A medição foi publicada pelo fornecedor.
  2. O gráfico usa um benchmark específico.

Além disso, verbosidade nem sempre é desperdício. Em alguns modelos, respostas longas refletem raciocínio estendido, que pode ajudar em tarefas difíceis de repositório. Eficiência e profundidade são uma troca real.

O que ainda está faltando

Antes de tomar uma decisão final, considere estas lacunas:

  • Sem avaliação independente ampla. Ainda não havia entrada no índice da Artificial Analysis, posicionamento no LMArena ou replicação comunitária do SWE-bench até 9 de julho.
  • Apenas benchmarks de codificação. A xAI não publicou avaliações de raciocínio geral, matemática, ciência ou segurança para um modelo também promovido para “trabalho do conhecimento”.
  • Sem clareza sobre modo de esforço do Grok. Os concorrentes aparecem com rótulos como max e xhigh, mas não está claro se o Grok 4.5 foi testado em configuração padrão ou máxima.
  • Modelo de primeira semana. Regressões, instabilidade de serviço e ajustes silenciosos são comuns no primeiro mês após lançamentos grandes.

Execute o benchmark que importa: o seu

Benchmarks públicos mostram médias. Eles não dizem como o modelo vai se comportar no seu código, nos seus prompts e com suas restrições.

Monte uma avaliação simples com tarefas reais.

1. Colete tarefas do seu backlog

Separe de 10 a 20 tarefas reais, por exemplo:

  • corrigir um bug pequeno;
  • implementar uma função isolada;
  • escrever testes;
  • refatorar um módulo;
  • explicar uma falha de CI;
  • gerar uma migração;
  • revisar uma PR.

Para cada tarefa, salve:

  • prompt usado;
  • arquivos relevantes;
  • resultado esperado;
  • critérios de aceite;
  • tempo ou custo atual, se disponível.

2. Crie uma matriz de comparação

Use uma tabela simples:

Tarefa Modelo Resolveu? Qualidade Tokens de saída Latência Observações
Bug #123 grok-4.5 Sim/Não 1–5
Bug #123 modelo atual Sim/Não 1–5

A métrica mais útil costuma ser uma combinação de:

valor = qualidade / custo_total
Enter fullscreen mode Exit fullscreen mode

Ou, para pipelines automatizados:

valor = tarefas_resolvidas / custo_total
Enter fullscreen mode Exit fullscreen mode

3. Execute os mesmos prompts em cada modelo

No Apidog, crie uma solicitação salva para cada modelo candidato.

Como xAI e Anthropic expõem interfaces compatíveis com OpenAI, você pode manter a mesma estrutura de requisição e variar apenas:

  • URL base;
  • chave de API;
  • nome do modelo;
  • parâmetros.

Exemplo genérico de corpo de requisição:

{
  "model": "grok-4.5",
  "messages": [
    {
      "role": "system",
      "content": "Você é um assistente de codificação. Responda com uma solução objetiva e aplicável."
    },
    {
      "role": "user",
      "content": "Corrija o bug descrito abaixo e explique a alteração..."
    }
  ],
  "temperature": 0.2
}
Enter fullscreen mode Exit fullscreen mode

Depois, execute o mesmo caso com seu modelo atual:

{
  "model": "seu-modelo-atual",
  "messages": [
    {
      "role": "system",
      "content": "Você é um assistente de codificação. Responda com uma solução objetiva e aplicável."
    },
    {
      "role": "user",
      "content": "Corrija o bug descrito abaixo e explique a alteração..."
    }
  ],
  "temperature": 0.2
}
Enter fullscreen mode Exit fullscreen mode

4. Capture usage, latência e resultado

Para cada execução, registre o objeto usage, quando disponível:

{
  "usage": {
    "prompt_tokens": 8421,
    "completion_tokens": 2310,
    "total_tokens": 10731
  }
}
Enter fullscreen mode Exit fullscreen mode

Isso permite comparar:

  • qualidade da resposta;
  • tokens de entrada;
  • tokens de saída;
  • latência;
  • custo estimado por tarefa.

O ponto crítico é testar a promessa de eficiência. Se o Grok 4.5 não produzir saídas significativamente menores nos seus prompts, a economia publicada pode não se aplicar ao seu caso.

5. Faça revisão cega, se possível

Se outra pessoa for avaliar as respostas, remova o nome do modelo antes da revisão.

Um formato simples:

Resposta A
Resposta B
Resposta C
Enter fullscreen mode Exit fullscreen mode

Critérios recomendados:

  • resolve o problema?
  • passa nos testes?
  • evita mudanças desnecessárias?
  • explica a solução?
  • gera código fácil de revisar?
  • introduz riscos?

6. Decida com base no custo por tarefa resolvida

Não compare apenas preço por token. Compare custo por tarefa útil.

Exemplo de cálculo:

custo_por_tarefa_resolvida = custo_total_das_execuções / número_de_tarefas_resolvidas
Enter fullscreen mode Exit fullscreen mode

Se um modelo barato exigir três tentativas para resolver o mesmo problema, ele pode sair mais caro do que parece. Se um modelo mais eficiente resolver com menos tokens e menos tentativas, pode compensar mesmo sem liderar todos os benchmarks.

Você pode baixar o Apidog gratuitamente e montar essa comparação em cerca de uma hora. Para configurar o lado da xAI, veja o guia da API do Grok 4.5.

FAQ

Quais benchmarks a xAI publicou para o Grok 4.5?

Quatro avaliações de codificação:

  • DeepSWE 1.0;
  • DeepSWE 1.1;
  • Terminal Bench 2.1;
  • SWE Bench Pro.

Também foi publicada uma comparação de eficiência de tokens contra o Claude Opus 4.8. Não foram publicados benchmarks fora de codificação.

Existem benchmarks independentes do Grok 4.5?

Ainda não. Os números publicados combinam avaliações realizadas pela Datacurve com números extraídos de cartões de sistema e placares de outros fornecedores. Avaliações independentes geralmente aparecem algumas semanas após lançamentos grandes.

O Grok 4.5 supera o Claude Opus 4.8?

Depende do benchmark. O Grok 4.5 vence em dois dos quatro testes publicados e usa menos tokens de saída no gráfico de eficiência. O Claude Opus 4.8 vence nas duas avaliações mais difíceis em nível de repositório.

Veja a comparação completa.

O Grok 4.5 é o modelo de codificação mais forte disponível?

Não, de acordo com os próprios gráficos da xAI. O Claude Fable 5 (max) lidera todos os benchmarks publicados. O argumento do Grok 4.5 é eficiência e inteligência por dólar, não liderança absoluta.

Top comments (0)