推論モデルとは何か?

推論モデルは、最終的な答えを書く前に中間的な推論トークンで問題を解決します。これにより、数学、コード、計画といった多段階作業の結果が向上し、より多くの出力トークンと時間が使用され、推論努力などの設定がそれを制御します。

基本概念

推論モデルの仕組み

標準的な言語モデルは、すぐに答えの書き出しを始めます。推論モデルはまず、しばしば思考と呼ばれる中間ステップの連続を生成し、その後答えを書き出します。その段階で問題を部分に分割し、計算を行い、アプローチを検証し、結果にコミットする前に修正を行います。

推論は別個のモデルではなく、能力(能力)です。テキストモデルも推論モデルになれ、多くのモデルは各リクエストごとに推論をオンまたはオフにできます。常に推論を行うモデルもあり、その場合は通常、どの程度かを調整できます。

理屈が役立つとき

推論は、いくつかの依存するステップを持つタスクの成果を向上させます:

  • 数学、定量解析および論理問題;
  • コードの作成、レビュー、デバッグ;
  • 計画を立て、数ターンにわたってツールを選び取るエージェントたち;
  • 長すぎたり矛盾した情報の分析。

単純な検索や分類、短い書き直し、あるいは日常会話にはほとんど効果がなく、主に遅延や出力トークンを足すだけです。そういった作業には手間を減らすか、推論をオフにしましょう。

推論モデルのプロンプトは、目標、制約、回答の期待される形式を明示し、計画はモデルに委ねるときに最も効果的です。詳細なstep-by-step指示は通常不要です。なぜなら、推論フェーズはステップを組み立てるからです。

モデルがどれだけ理由を付けるかを制御する

EmpirioLabs AI 3つのコントロールを公開しており、各モデルはこのページに記載されているものに対応しています:

  • 理由 努力 深さを、例えば名前付きレベルで設定します ロー, メディア および 高く.多くのモデルでは、 なし 推論をオフにします。利用可能なレベルはモデルによって異なります。
  • thinking_budget 思考がオンのときにモデルが推論に費やせるトークンの上限を設定します。これを省くと、多くのモデルは自分で推論する時間を決めます。
  • enable thinking を使う 選択肢を提供するモデルでは、理屈をオンまたはオフに切り替えます。

これらのパラメータは 以下に受け入れられます /v1/chat/completions, お問い合わせ および お問い合わせ 各エンドポイントをサポートするモデル用。オン お問い合わせ また、 考える 目的: 有効化 お問い合わせ budget_tokens 予算を設定する、 適応型 それがなければ思考が始まる、そして 無効化 それをオフにします。一部のモデルでは、次のような要求があります response_format または、ツールが設定しない限り、理由を説明せずに強制的に呼び出し応答させるか enable thinking を使う.参照 エンドポイント間のモデルパラメータ 詳細は。

理由付けトークン、制限およびコスト

推論は生成されたテキストなので、あなたがそれを見なくても課金されます。ほとんどのモデルでは推論トークンは出力トークンとして課金され、各モデルページにはその方法が記載されています。一部のモデルは推論テキストを返します。例えば 理由 内容 チャット完了に対して、他のものは回答のみを返します。On お問い合わせ, usage.output_tokens_details.reasoning_tokens 使用された数を報告します。一部のモデルでは、 preserve_thinking 先ほどのアシスタントの理由を送り、モデルに戻る /v1/chat/completions、そしてそれ以前の推論は入力トークンとして請求されます。

推論も出力限度にカウントされます。 max_completion_tokens 大容量の推論と回答を組み合わせて、また一部のモデルでは max_tokens 同じです。限度が低すぎる場合、モデルはその時間を推論に費やし、短くももない答えを返すこともできるため、両方の余地を残しておきましょう。

努力が高ければ、回答が始まるまでの待ち時間も長くなります。回答をストリーミングして進捗を示し、15分を超える回答の場合は WebSocketモード お問い合わせ.推論能力を持つ人を比較する テキストモデル、または別の努力レベルを試してみてください。 Playgroundお問い合わせ.

reasoning_effort, thinking_budget, enable_thinking を受け付けるモデル

65 個のモデル。各モデルのページに料金表、パラメーター、コードがあります。

モデルパラメータ範囲 / 値
DeepSeek V4 Flash 0731 DeepSeekreasoning_effort thinking_budget enable_thinkingreasoning_effort: none, low, medium, high, max; 既定値 medium
thinking_budget: 1 から 393216; 既定値 32768
enable_thinking: 既定値 true
DeepSeek V4 Pro DeepSeekreasoning_effort thinking_budget enable_thinkingreasoning_effort: none, low, medium, high, max; 既定値 medium
thinking_budget: 1 から 393216; 既定値 32768
enable_thinking: 既定値 true
DeepSeek V4 Pro 0813 DeepSeekreasoning_effort thinking_budget enable_thinkingreasoning_effort: none, low, medium, high, max; 既定値 medium
thinking_budget: 1 から 393216; 既定値 32768
enable_thinking: 既定値 true
DeepSeek V4.1 Flash 1017 DeepSeekreasoning_effort thinking_budget enable_thinkingreasoning_effort: none, low, medium, high, max; 既定値 medium
thinking_budget: 1 から 393216; 既定値 32768
enable_thinking: 既定値 true
GLM 5.1 Z.aireasoning_effort thinking_budget enable_thinkingreasoning_effort: none, low, medium, high, max; 既定値 medium
thinking_budget: 1 から 38912; 既定値 32768
enable_thinking: 既定値 true
Gemma 4 26B-A4B Googlereasoning_effort thinking_budget enable_thinkingreasoning_effort: none, low, medium, high, max; 既定値 medium
thinking_budget: 128 から 32768; 既定値 4096
enable_thinking: 既定値 true
Kimi K2.6 Moonshot AIreasoning_effort thinking_budget enable_thinkingreasoning_effort: none, low, medium, high, max; 既定値 medium
thinking_budget: 1 から 81920; 既定値 32768
enable_thinking: 既定値 true
Qwen3.5 122B-A10B Alibaba Cloudreasoning_effort thinking_budget enable_thinkingreasoning_effort: none, low, medium, high, max
thinking_budget: 1 から 81920
enable_thinking: 既定値 true
65 個のモデルをすべて表示
モデルパラメータ範囲 / 値
Qwen3.5 27B Alibaba Cloudreasoning_effort thinking_budget enable_thinkingreasoning_effort: none, low, medium, high, max
thinking_budget: 1 から 81920
enable_thinking: 既定値 true
Qwen3.5 35B-A3B Alibaba Cloudreasoning_effort thinking_budget enable_thinkingreasoning_effort: none, low, medium, high, max
thinking_budget: 1 から 81920
enable_thinking: 既定値 true
Qwen3.5 397B-A17B Alibaba Cloudreasoning_effort thinking_budget enable_thinkingreasoning_effort: none, low, medium, high, max
thinking_budget: 1 から 81920
enable_thinking: 既定値 true
Qwen3.5 4B Alibaba Cloudreasoning_effort thinking_budget enable_thinkingreasoning_effort: none, low, medium, high, max; 既定値 medium
thinking_budget: 1024 から 32768; 既定値 4096
enable_thinking: 既定値 true
Qwen3.5 9B Alibaba Cloudreasoning_effort thinking_budget enable_thinkingreasoning_effort: none, low, medium, high, max; 既定値 medium
thinking_budget: 1024 から 32768; 既定値 4096
enable_thinking: 既定値 true
Qwen3.6 27B Alibaba Cloudreasoning_effort thinking_budget enable_thinkingreasoning_effort: none, low, medium, high, max
thinking_budget: 1 から 131072
enable_thinking: 既定値 true
Qwen3.6 Flash Alibaba Cloudreasoning_effort thinking_budget enable_thinkingreasoning_effort: none, low, medium, high, max; 既定値 medium
thinking_budget: 1 から 64000; 既定値 32768
enable_thinking: 既定値 true
Qwen3.6 Plus Alibaba Cloudreasoning_effort thinking_budget enable_thinkingreasoning_effort: none, low, medium, high, max
thinking_budget: 1 から 131072
enable_thinking: 既定値 true
Qwen3.7 Flash Alibaba Cloudreasoning_effort thinking_budget enable_thinkingreasoning_effort: none, low, medium, high, max
thinking_budget: 1 から 131072
enable_thinking: 既定値 true
Qwen3.7 Max Alibaba Cloudreasoning_effort thinking_budget enable_thinkingreasoning_effort: none, low, medium, high, max
thinking_budget: 1 から 262144
enable_thinking: 既定値 true
Qwen3.7 Plus Alibaba Cloudreasoning_effort thinking_budget enable_thinkingreasoning_effort: none, low, medium, high, max
thinking_budget: 1 から 262144
enable_thinking: 既定値 true
Qwen3.8 Flash Alibaba Cloudreasoning_effort thinking_budget enable_thinkingreasoning_effort: none, low, medium, high, max
thinking_budget: 1 から 262144
enable_thinking: 既定値 true
Qwen3.8 Max Alibaba Cloudreasoning_effort thinking_budget enable_thinkingreasoning_effort: none, low, medium, high, max
thinking_budget: 1 から 262144
enable_thinking: 既定値 true
Qwen3.8 Max 0902 Alibaba Cloudreasoning_effort thinking_budget enable_thinkingreasoning_effort: none, low, medium, high, max
thinking_budget: 1 から 262144
enable_thinking: 既定値 true
Qwen3.8 Omni Flash Alibaba Cloudreasoning_effort thinking_budget enable_thinkingreasoning_effort: none, low, medium, high, max
thinking_budget: 1 から 262144
enable_thinking: 既定値 true
Qwen4 Max Alibaba Cloudreasoning_effort thinking_budget enable_thinkingreasoning_effort: low, high, xhigh; 既定値 high
thinking_budget: 1 から 262144
enable_thinking: 既定値 true
GLM 5.2 Z.aireasoning_effort enable_thinkingreasoning_effort: none, minimal, low, medium, high, xhigh, max; 既定値 max
enable_thinking: 既定値 true
Kimi K3.1 Pro Moonshot AIreasoning_effort enable_thinkingreasoning_effort: low, medium, high, max; 既定値 max
enable_thinking: 既定値 true
Nova Lite 2 Amazonreasoning_effort enable_thinkingreasoning_effort: low, medium, high; 既定値 medium
enable_thinking: 既定値 true
Qwen3.5 Flash Alibaba Cloudthinking_budget enable_thinkingthinking_budget: 1 から 81920
enable_thinking: 既定値 true
Qwen3.5 Plus Alibaba Cloudthinking_budget enable_thinkingthinking_budget: 1 から 81920
enable_thinking: 既定値 true
Qwen3.6 35B A3B Alibaba Cloudreasoning_effort enable_thinkingreasoning_effort: none, low, medium, high, max; 既定値 medium
enable_thinking: 既定値 true
Qwen3.8 27B Alibaba Cloudreasoning_effort enable_thinkingreasoning_effort: none, low, medium, xhigh; 既定値 xhigh
enable_thinking: 既定値 true
Seed 2.0 Code ByteDancereasoning_effort enable_thinkingreasoning_effort: low, medium, high; 既定値 medium
enable_thinking: 既定値 true
Seed 2.0 Lite ByteDancereasoning_effort enable_thinkingreasoning_effort: low, medium, high; 既定値 medium
enable_thinking: 既定値 true
Seed 2.0 Mini ByteDancereasoning_effort enable_thinkingreasoning_effort: low, medium, high; 既定値 medium
enable_thinking: 既定値 true
Seed 2.0 Pro ByteDancereasoning_effort enable_thinkingreasoning_effort: low, medium, high; 既定値 medium
enable_thinking: 既定値 true
Seed 2.1 Turbo ByteDancereasoning_effort enable_thinkingreasoning_effort: low, medium, high; 既定値 high
enable_thinking: 既定値 true
Fugu Max Sakana AIreasoning_efforthigh, xhigh, max; 既定値 high
Fugu Ultra v1.0 Sakana AIreasoning_efforthigh, xhigh, max; 既定値 high
Fugu Ultra v1.1 Sakana AIreasoning_efforthigh, xhigh, max; 既定値 high
Fugu Ultra v2.0 Sakana AIreasoning_efforthigh, xhigh, max; 既定値 high
GLM 4.5 Flash Z.aienable_thinking既定値 true
GLM 4.6V Flash Z.aienable_thinking既定値 true
GLM 4.6V FlashX Z.aienable_thinking既定値 true
GLM 4.7 Flash Z.aienable_thinking既定値 true
GLM 4.7 FlashX Z.aienable_thinking既定値 true
GLM 5.3 Z.aireasoning_effortlow, high, max; 既定値 max
GLM 5.3 Flash Z.aireasoning_effortlow, high, max; 既定値 max
Gemini 3.8 Live Extended Thinking Googlereasoning_effortlow, medium, high; 既定値 medium
Kimi K3 Moonshot AIreasoning_effortlow, high, max; 既定値 max
MiMo V2.6 Flash Xiaomienable_thinking既定値 true
MiMo V2.6 Pro Xiaomienable_thinking既定値 true
MiMo V2.6 Pro UltraSpeed Xiaomienable_thinking既定値 true
MiniMax M3 MiniMaxenable_thinking既定値 true
MiniMax M3.1 Flash MiniMaxreasoning_effortlow, medium, high, xhigh, max; 既定値 max
Muse Glimmer 30B Meta AIreasoning_effortnone, low, medium, high, max; 既定値 high
Muse Spark 1.1 Meta AIreasoning_effortminimal, low, medium, high, xhigh; 既定値 medium
Muse Spark 1.2 Meta AIreasoning_effortminimal, low, medium, high, xhigh; 既定値 medium
Muse Spark 1.3 Meta AIreasoning_effortminimal, low, medium, high, xhigh; 既定値 medium
Perplexity Advanced Deep Research Perplexityreasoning_effortlow, medium, high; 既定値 medium
Perplexity Deep Research Perplexityreasoning_effortlow, medium, high; 既定値 medium
Perplexity Pro Search Perplexityreasoning_effortminimal, low, medium, high; 既定値 minimal
Perplexity Sonar Reasoning Pro Perplexityreasoning_effortlow, medium, high; 既定値 medium
Step 3.5 Flash 2603 StepFunreasoning_effortlow, high; 既定値 low
Step 3.7 Flash StepFunreasoning_effortlow, medium, high; 既定値 low
Step 5 Preview StepFunreasoning_effortlow, medium, high; 既定値 low

よくある質問

推論トークンは課金されますか?

はい。推論は生成されたテキストなので、モデルが返さなくても請求されます。ほとんどのモデルでは出力トークンとして請求され、各モデルページにはその方法が記載されています。

推論をオフにしてもいいですか?

多くのモデルでは、はい、enable_thinkingをfalseにするか、reasoning_effortをゼロに設定します。これはモデルが提供するコントロールによって変わります。中には常に計算してくれて、努力レベルだけを変更できるモデルもあります。

reasoning_effortとthinking_budgetの違いは何ですか?

reasoning_effortは、低または高といった名前のある深さレベルを選びます。thinking_budget思考がオンであるときに推論するための最大トークン数を設定します。

なぜ推論モデルは空の答えを返したのでしょうか?

出力限界が低すぎる場合、モデルはその全てを推論に費やすことができます。max_completion_tokensやmax_tokensを上げたり、推論の努力を減らしたりして、答えのための余地を残します。

より良いエンドポイントを使う準備はできていますか?

ご自身のモデルを当社のスタックに展開したい方は、ぜひご価格をご覧ください。