DEV Community

Cover image for Claude Opus 5 ベンチマーク:数値からわかる真の性能
Akira
Akira

Posted on • Originally published at apidog.com

Claude Opus 5 ベンチマーク:数値からわかる真の性能

Anthropicは2026年7月24日にClaude Opus 5をリリースし、強力なベンチマーク結果を公表しました。評価によってはOpus 4.8の2倍超、次点モデルの約3倍、Fable 5を1/3のコストで上回るとされています。

今すぐApidogを試す

ただし、これらの数値は「何を測定したか」「どの設定で測定したか」「何が開示されていないか」を確認して読む必要があります。本記事では、公開されたOpus 5のベンチマーク主張を整理し、数値の解釈方法と、自分のワークロードで検証する実装手順を紹介します。評価の実行にはApidogを利用できます。

モデル仕様(claude-opus-5、100万コンテキスト、最大出力128k、知識カットオフ2026年5月)は、Claude Opus 5とは何かを参照してください。主な一次情報はAnthropicのClaude Opus 5発表記事です。

公表されている主張を一覧化する

Anthropicが発表時に示した主なベンチマーク主張を整理します。絶対スコアではなく、他モデルとの比率・差分として提示されている項目が多いため、比較対象と表現方法も確認してください。

ベンチマーク Anthropicの主張 表現方法 比較対象
Frontier-Bench v0.1 他のすべてのモデルを凌駕。Opus 4.8のスコアを2倍以上上回り、タスクあたりのコストも低い 比率・コスト Opus 4.8および競合全体
ARC-AGI 3 次点モデルのスコアの約3倍 比率 特定されていない次点モデル
OSWorld 2.0 Fable 5を1/3のコストで上回る 順位・コスト Fable 5
CursorBench 3.2 Fable 5のピークから0.5%以内、価格は半分 差分・コスト Fable 5
Zapier AutomationBench 合格率が次点モデルの約1.5倍 比率 特定されていない次点モデル
有機化学 Opus 4.8から+10.2ポイント 絶対差分 Opus 4.8
タンパク質解析 Opus 4.8から+7.7ポイント 絶対差分 Opus 4.8
サイバーセキュリティ攻撃 Mythos 5に劣る 順位 Mythos 5
自律生物学研究 Mythos 5に劣る 順位 Mythos 5

情報源はAnthropicの発表記事とモデルドキュメントです。本稿執筆時点で、これらの結果を再現した第三者機関の公表はありません。

確認すべきポイントは2つあります。

  1. 9項目中、絶対的なポイント差を示しているのは有機化学とタンパク質解析の2項目です。
  2. Anthropic自身が、Opus 5がMythos 5に劣る領域も明示しています。

比率ベンチマークを読む方法

比率だけで示されるベンチマークは、実装判断の材料としては不十分です。特に次の点を確認してください。

分母が不明だと実力差を判断できない

ARC-AGI 3の「次点モデルの約3倍」という主張は、元のスコアが不明です。

  • 次点が8%なら、3倍は24%
  • 次点が25%なら、3倍は75%

どちらも「3倍」ですが、実用性は大きく異なります。絶対スコア、評価件数、成功条件を確認できない場合は、比率をそのまま採用判断に使わないでください。

低スコア帯では「2倍」が起きやすい

Frontier-Bench v0.1の「Opus 4.8の2倍以上」も同様です。ベースラインが低い難問ベンチマークでは、2倍でも絶対的な改善幅は小さい可能性があります。

また、v0.1は新しいベンチマークであり、公開実績、第三者再現、飽和点が十分に確立されていない可能性があります。導入前には、自社タスクで同様の改善が出るか確認してください。

「次点モデル」が特定されていない

ARC-AGI 3とAutomationBenchでは、比較対象となる「次点モデル」が明示されていません。比較対象がFable 5、Mythos 5、別組織のモデルのどれかで、主張の意味は変わります。

差分には単位と設定が必要

CursorBench 3.2の「Fable 5のピークから0.5%以内」は、次を明示していません。

  • 0.5パーセンテージポイントか
  • 0.5%の相対差か
  • peakがどのeffort設定を指すか
  • 最大トークン数、エージェント構成、ツール設定

コーディング系の評価では、effort設定の違いがコスト・レイテンシ・成功率に直結します。Fable 5側の評価条件は、Fable 5ベンチマークの詳細記事も参照してください。

一方、有機化学の+10.2ポイント、タンパク質解析の+7.7ポイントは、Opus 4.8に対する絶対差分です。開始スコアは未公開ですが、改善幅を比較しやすい形式です。

タスクあたりのコストは設定で変わる

Anthropicの主張には、性能とコストを組み合わせたものがあります。

  • Frontier-Bench:タスクあたりのコストが低い
  • OSWorld 2.0:Fable 5の1/3のコスト
  • CursorBench 3.2:半額

モデルの定価は検証できます。Opus 5は入力100万トークンあたり5ドル、出力100万トークンあたり25ドルで、Opus 4.8と同一です。Fable 5の10ドル/50ドルと比較すると半額です。価格はAnthropicの価格ページで確認できます。

キャッシュ書き込み、バッチ料金、高速モードのプレミアムを含む計算は、Opus 5料金内訳を参照してください。

ただし、タスクあたりのコストはトークン単価だけでは決まりません。次の要素に依存します。

  • output_config.effort
  • thinkingの有効・無効
  • エージェントループのターン数
  • サブエージェントの数
  • ツール呼び出し回数
  • 入力・出力・キャッシュトークン量

Anthropicのプロンプトガイドラインでは、Opus 5はOpus 4.8よりデフォルト応答が長くなる場合があり、サブエージェントへの委譲やタスクスコープの拡大が起きやすいことが示されています。したがって、ベンチマークでの「タスクあたりのコスト」が、そのまま自社環境のコストになるとは限りません。

定価が半額であることは事実です。どのユースケースで差が出やすいかは、Opus 5とFable 5の比較記事を参照してください。

重要なのは、自社の設定と実タスクで「解決済みタスクあたりのコスト」を測定することです。

Anthropicが明示した上限

Anthropicは、Opus 5が以下の領域でMythos 5に劣ると明示しています。

  • サイバーセキュリティ攻撃
  • 自律生物学研究

さらに、Fable 5は「最も能力の高い広範囲にリリースされたモデル」という位置付けを維持しています。

したがって、Opus 5を「すべての領域で最上位」と解釈するのは適切ではありません。実務上の要約は、フロンティア級の能力を、Fable 5の半額で利用できるモデルです。

フロンティアセキュリティ研究や自律的な科学研究では、Mythosクラスが比較対象になります。詳細はMythosクラスモデル解説記事Fable 5対Mythos 5の記事を参照してください。

また、AnthropicはサイバーカテゴリのリクエストでOpus 5が拒否した場合、Opus 4.8へフォールバックする次の設定を提供しています。

{
  "fallbacks": "default"
}
Enter fullscreen mode Exit fullscreen mode

この機能はserver-side-fallback-2026-07-01ベータヘッダーの背後で提供されます。拒否率が重要なプロダクトでは、フォールバックの有無も評価項目に含めてください。

ベンチマークでは分からない実装上のポイント

ベンチマークはタスク完了率を測定しますが、本番運用で問題になりやすい挙動をすべてカバーするわけではありません。

  • 移行後のプロンプト挙動

    Opus 5はプロンプトなしでも自らの作業を検証する場合があります。Opus 4.8向けの「回答を再確認する」などの指示が残っていると、検証が重複してトークンを消費する可能性があります。AnthropicのOpus 5用プロンプトガイドに従って、不要な指示を削除してください。

  • 出力長

    Opus 5はデフォルト応答や文章成果物が長くなる場合があります。effortを下げても、可視出力の長さが必ず短くなるわけではありません。必要なら「結論を3項目以内で返す」「コードのみ返す」など、出力形式と長さを明示します。

  • thinking無効時のツール呼び出し

    thinking: {type: "disabled"}では、ツール呼び出しが実行可能な構造化データではなくプレーンテキストとして出力される場合があります。エージェントループが停止したり、内部XMLタグが可視出力に漏れたりしないか確認してください。

  • effortの再調整

    Opus 5では努力レベルが再調整されています。Opus 4.8と同じ設定をそのまま流用せず、lowからxhighまで再評価してください。詳細は努力パラメータガイドを参照してください。

  • 400エラーの組み合わせ

    thinking: {type: "disabled"}xhighまたはmaxの努力レベルを組み合わせると、リクエストごとに400エラーが返されます。移行前にバリデーションを追加してください。詳細はOpus 4.8からOpus 5への移行ガイドで確認できます。

自分の環境で評価する手順

ベンダーベンチマークは仮説として扱い、自分のワークロードで検証してください。以下は半日で開始できる評価プランです。

1. 実データから20〜50件のタスクを選ぶ

次のような完了済みの実タスクを利用します。

  • 完了済みチケット
  • マージ済みPR
  • 顧客サポートスレッド
  • 障害対応メモ
  • API仕様からの実装タスク

合成プロンプトではなく実データを使うことで、入力形式、曖昧さ、例外ケースを評価に含められます。

2. 評価設定を固定する

最低限、次の値を実行ログに保存します。

{
  "model": "claude-opus-5",
  "max_tokens": 8192,
  "output_config": {
    "effort": "medium"
  },
  "thinking": {
    "type": "enabled"
  }
}
Enter fullscreen mode Exit fullscreen mode

比較する実行では、変更対象以外の値を固定してください。モデル、effort、thinking、max_tokensが毎回異なると、結果を比較できません。

3. 解決済みタスクあたりのコストを算出する

各レスポンスのusageを保存し、入力・出力・キャッシュ読み取り・キャッシュ書き込みを記録します。

解決済みタスクあたりのコスト =
  全実行コスト ÷ 受け入れ条件を満たしたタスク数
Enter fullscreen mode Exit fullscreen mode

トークン単価だけでなく、実際に完了した成果に対するコストで比較することが重要です。

4. effortをスイープする

同じタスクセットを次の設定で実行します。

low
medium
high
xhigh
Enter fullscreen mode Exit fullscreen mode

各設定について、以下を比較してください。

  • 成功数・成功率
  • 合計トークン
  • コスト
  • レイテンシ
  • エージェントのターン数
  • 人間による修正回数

5. エージェントループで評価する

OSWorld、CursorBench、AutomationBenchのような評価は、単発応答ではなくエージェント型です。実際のツールを接続して、複数ターンで評価してください。

記録するべき値は次の通りです。

- 最終結果の合否
- ツール呼び出し数
- エージェントの総ターン数
- リトライ回数
- 人間の介入回数
- usageの内訳
Enter fullscreen mode Exit fullscreen mode

6. 現行システムと同じハーネスで比較する

Opus 4.8、Sonnet 5、または現在のモデルを、完全に同じタスクセット・プロンプト・ツール・採点基準で実行してください。

他社の絶対スコアより、自社データにおける相対比較の方が導入判断に役立ちます。比較方法はSonnet 5ベンチマーク記事も参考になります。

7. 拒否を別指標として記録する

サイバー関連のワークロードでは、Opus 4.8より拒否が増える可能性があります。以下をログに残してください。

- リクエスト総数
- 拒否数
- フォールバック成功数
- フォールバック後のタスク成功率
Enter fullscreen mode Exit fullscreen mode

Opus 5 APIのリクエスト形式は、Opus 5 APIガイドで確認できます。

Apidogで評価を実行する

上記の評価には、認証ヘッダー、JSONボディ、ストリーミングレスポンス、usageの記録が必要です。これは通常のHTTP APIテストであり、Apidogで管理できます。

実装手順は次の通りです。

  1. Anthropic Messages API向けのリクエストを作成する。
  2. APIキーはリクエストボディに直接書かず、環境変数として保存する。
  3. effortごとにリクエストを複製する。
  4. 同一プロンプトをlowからxhighまで実行する。
  5. ストリーミングを有効にし、必要に応じてSSEイベントを確認する。
  6. ツール呼び出しが構造化データとして返ることを検証する。
  7. usageフィールドをアサーションやスクリプトで収集する。
  8. コレクションとして保存し、次回はモデルIDだけを差し替える。

ベースとなるリクエストは次の通りです。

curl https://api.anthropic.com/v1/messages \
  --header "x-api-key: $ANTHROPIC_API_KEY" \
  --header "anthropic-version: 2023-06-01" \
  --header "content-type: application/json" \
  --data '{
    "model": "claude-opus-5",
    "max_tokens": 8192,
    "output_config": {"effort": "medium"},
    "messages": [
      {"role": "user", "content": "Fix the failing test in this diff."}
    ]
  }'
Enter fullscreen mode Exit fullscreen mode

各実行では1つのフィールドだけを変更し、ほかの条件を固定してください。そして毎回usageを保存します。環境変数、リクエスト、アサーションをまとめて管理したい場合は、Apidogをダウンロードしてください。

まとめ

Opus 5のベンチマーク主張は強力です。Anthropicは、Opusシリーズで最大級の世代間改善と、据え置きの定価を示しています。

一方で、2026年7月25日時点では、公開結果はベンダー主導であり、第三者による再現は公表されていません。また、多くの主張は絶対スコアではなく比率で示されています。

導入判断では、発表チャートを結論にせず、次の値を自社環境で測定してください。

  • タスク成功率
  • 解決済みタスクあたりのコスト
  • レイテンシ
  • ツール呼び出し成功率
  • エージェントターン数
  • 拒否率とフォールバック成功率

モデル発表の数値と実稼働ワークロードの間にある差分を測定することが、正しいモデル移行につながります。仕様や移行時の変更点は、Opus 5の主要ガイドも参照してください。

よくある質問

Claude Opus 5のベンチマークは独立して検証されていますか?

いいえ。2026年7月25日時点で、公表されているOpus 5のベンチマーク結果はAnthropicによるものです。第三者機関や独立評価者による再現は発表されていません。

Opus 5の最大のベンチマーク主張は何ですか?

Frontier-Bench v0.1です。Anthropicは、Opus 5がOpus 4.8のスコアを2倍以上上回り、タスクあたりのコストも低いと主張しています。ただし、基礎となる絶対スコアは公開されていません。

Claude Opus 5は最も能力の高いClaudeモデルですか?

いいえ。Fable 5は「最も能力の高い広範囲にリリースされたモデル」という位置付けを維持しており、AnthropicはOpus 5がサイバーセキュリティ攻撃と自律生物学研究でMythos 5に劣るとしています。

Opus 5は科学タスクでOpus 4.8よりどの程度優れていますか?

Anthropicは、有機化学で+10.2ポイント、タンパク質解析で+7.7ポイントの改善を報告しています。いずれも比率ではなく絶対差分ですが、ベースラインスコアは公開されていません。

Opus 5はFable 5を上回りますか?

Anthropicの数値では、OSWorld 2.0でFable 5を1/3のコストで上回り、CursorBench 3.2ではFable 5のピークから0.5%以内とされています。Fable 5は全体的な能力の位置付けを維持しています。詳細は完全な比較記事を参照してください。

自分で何をベンチマークすべきですか?

自社バックログから20〜50件の実タスクを選び、解決済みタスクあたりのコストを測定してください。複数のeffortレベル、実ツール、複数ターンのエージェントループを使い、現在のシステムと同じハーネスで比較します。

Top comments (0)