コンテキストウィンドウとは何ですか?

コンテキストウィンドウとは、言語モデルが1つのリクエストで処理できる最大トークン数のことであり、読み取りたすべてのもの(命令、会話履歴、文書やツール定義)と、書いたトークンの数を数えます。合わないリクエストは短縮または分割する必要があります。

基本概念

コンテキストウィンドウにカウントされるもの

コンテキストウィンドウは トークン.モデルが単一のリクエストで読み取るすべての情報がそのリクエストにカウントされます:

  • システムプロンプトおよび各種指示;
  • あなたが再び送る会話の先ほどの回りも;
  • 工具の定義とツール結果;
  • 文書および取得した文章を含みます。
  • 画像、音声、動画。これらを受け入れるモデルはトークンに変換します。

モデルが生成するトークンは同じウィンドウを共有しており、推論トークンも含まれます。 推論モデル.各チャットリクエストは、ここまでの会話を伝えています メッセージ、つまり長い会話は毎ターン全履歴を送り、成長するにつれて限界に近づいていきます。例えば、約500トークンの20ターンは、新しいメッセージと回答の前の次のリクエストに約10,000トークンの履歴を追加します。

コンテキストウィンドウと最大出力

モデルには2つの別々の制限があります。コンテキストウィンドウは入力と出力を同時にカバーします。最大出力はモデルが1つの応答に書き込める最大トークン数であり、通常はウィンドウよりも小さいです。 早く/v1/models 両方とも報告します。次のように context_window (また context_length)および max_output_tokensお問い合わせ.

各リクエストごとに自分で出力上限を設定することができます。 max_tokens 生成されるトークンを制限し、 max_completion_tokens リミット・リット・リット・デュースと回答を同時に行う。両方を送ると、小さい方が適用される。限界に達する応答は、次のように早期に停止します。 finish_reason 設定 長さ、回答が文の途中で終了した場合は制限を引き上げてください。オン お問い合わせ 同じ限界は max_output_tokens、そしてその応答が切り切られ、その状態で締めくくられます 不完全お問い合わせ.

リクエストが長すぎる場合

入力が max_tokens 設定した場合、モデルのコンテキストウィンドウより長い場合は、EmpirioLabs AIを返します。 400 コードとともに context_length_exceeded いずれの生成も開始される前に、リクエストは請求されません。入力を短くするか、それ以下にする max_tokens、そして再度送信します。コンパクトな会話を行うエージェントフレームワークは、このコードをシグナルとして使用します。その errors 参照 回答の全文を示します。

リクエストを送信する前に確認するには、 /v1/messages/count_tokens後 入力トークンの推定値を返し、請求されません。その 使用例 各応答のオブジェクトは正確なカウントを報告します。

ウィンドウ内での作業

  • タスクに必要なものを送ってください。 関連するパッセージを 埋め込み 書類全体を貼り付ける代わりに。
  • 古い曲がり角を削りましょう。 初期の会話の場面は、タスクにとって重要でなくなったらまとめるか、やめましょう。
  • まずは安定した部分を保ちましょう。 変更されない指示書や工具定義は、最初に記載されるべきです。 プロンプトキャッシュ それに対応しているモデルでは、より低い料金で請求できます。
  • サイズ max_tokens 任務に。 長さチェックはカウントされます max_tokens 入力とともに、過大な値は本来は合うはずのリクエストを拒否できます。
  • 長いコンテキスト価格を視聴しましょう。 すべてのリクエストで入力トークンごとに料金を支払う必要があり、特定のモデルでは、入力が一定数のトークンを通過するとより高い料金を請求します。

ウィンドウが大きいほど必ずしも良いとは限りません。モデルが非常に長い入力では詳細を見落とすことがありますが、短くて関連性の高いコンテキストの方が長いコンテキストよりも正確な回答が得られることが多いです。コンテキストウィンドウを比較する テキストモデル、または長いプロンプトをテストする Playgroundお問い合わせ.

EmpirioLabs AI のコンテキストウィンドウ(大きい順)

96 個のモデルがコンテキストウィンドウを公開しています。各モデルのページに仕様と制限の詳細があります。

モデルコンテキスト長最大出力
Step 5 Preview StepFun1.02M トークン128K トークン
Qwen3.8 Omni Flash Alibaba Cloud1.01M トークン128K トークン
Aplomb 1 EmpirioLabs1M トークン-
DeepSeek V4 Flash 0731 DeepSeek1M トークン384K トークン
DeepSeek V4 Pro DeepSeek1M トークン384K トークン
DeepSeek V4 Pro 0813 DeepSeek1M トークン384K トークン
DeepSeek V4.1 Flash 1017 DeepSeek1M トークン384K トークン
Fugu Max Sakana AI1M トークン128K トークン
96 個のモデルをすべて表示
モデルコンテキスト長最大出力
Fugu Ultra v1.0 Sakana AI1M トークン128K トークン
Fugu Ultra v1.1 Sakana AI1M トークン128K トークン
Fugu Ultra v2.0 Sakana AI1M トークン128K トークン
GLM 5.2 Z.ai1M トークン128K トークン
GLM 5.3 Z.ai1M トークン128K トークン
GLM 5.3 Flash Z.ai1M トークン128K トークン
Kimi K3 Moonshot AI1M トークン128K トークン
Kimi K3.1 Pro Moonshot AI1M トークン128K トークン
MiMo V2.6 Flash Xiaomi1M トークン128K トークン
MiMo V2.6 Pro Xiaomi1M トークン128K トークン
MiMo V2.6 Pro UltraSpeed Xiaomi1M トークン128K トークン
MiniMax M3 MiniMax1M トークン512K トークン
MiniMax M3.1 Flash MiniMax1M トークン512K トークン
Muse Spark 1.1 Meta AI1M トークン128K トークン
Muse Spark 1.2 Meta AI1M トークン128K トークン
Muse Spark 1.3 Meta AI1M トークン128K トークン
Nova Lite 2 Amazon1M トークン128K トークン
Qwen3.5 Flash Alibaba Cloud995.9K トークン32K トークン
Qwen3.5 Plus Alibaba Cloud983.6K トークン64K トークン
Qwen3.6 Flash Alibaba Cloud983.6K トークン64K トークン
Qwen3.6 Plus Alibaba Cloud983.6K トークン64K トークン
Qwen3.7 Flash Alibaba Cloud983.6K トークン64K トークン
Qwen3.7 Max Alibaba Cloud983.6K トークン64K トークン
Qwen3.7 Plus Alibaba Cloud983.6K トークン64K トークン
Qwen3.8 Flash Alibaba Cloud983.6K トークン128K トークン
Qwen3.8 Max Alibaba Cloud983.6K トークン128K トークン
Qwen3.8 Max 0902 Alibaba Cloud983.6K トークン128K トークン
Qwen4 Max Alibaba Cloud983.6K トークン256K トークン
Perplexity Deep Research Perplexity919.3K トークン-
Perplexity Sonar Perplexity919.3K トークン-
Perplexity Sonar Pro Perplexity919.3K トークン32K トークン
Perplexity Sonar Reasoning Pro Perplexity919.3K トークン128K トークン
Nova Lite 1.0 Amazon317.4K トークン10K トークン
Nova Pro 1.0 Amazon317.3K トークン10K トークン
Qwen3.5 122B-A10B Alibaba Cloud258K トークン64K トークン
Qwen3.5 27B Alibaba Cloud258K トークン64K トークン
Qwen3.5 35B-A3B Alibaba Cloud258K トークン64K トークン
Qwen3.5 397B-A17B Alibaba Cloud258K トークン64K トークン
Gemma 4 26B-A4B Google256K トークン32K トークン
Kimi K2.6 Moonshot AI256K トークン16K トークン
Kimi K2.7 Code Moonshot AI256K トークン128K トークン
Kimi K2.7 Code Highspeed Moonshot AI256K トークン128K トークン
Mistral Small 4 Mistral AI256K トークン64K トークン
Qwen3.5 4B Alibaba Cloud256K トークン32K トークン
Qwen3.5 9B Alibaba Cloud256K トークン32K トークン
Qwen3.8 27B Alibaba Cloud256K トークン32K トークン
Step 3.5 Flash StepFun256K トークン128K トークン
Step 3.5 Flash 2603 StepFun256K トークン128K トークン
Step 3.7 Flash StepFun256K トークン128K トークン
StepAudio 2.5 Chat StepFun256K トークン128K トークン
StepAudio 2.5 Realtime StepFun256K トークン128K トークン
StepAudio 3 Chat StepFun256K トークン128K トークン
StepAudio 3 Realtime StepFun256K トークン128K トークン
Qwen Audio 3.1 Realtime Flash Alibaba Cloud240K トークン16K トークン
Qwen Audio 3.1 Realtime Plus Alibaba Cloud240K トークン16K トークン
Seed 2.0 Mini ByteDance229.2K トークン128K トークン
Seed 2.0 Code ByteDance229.1K トークン128K トークン
Seed 2.0 Lite ByteDance229.1K トークン128K トークン
Seed 2.0 Pro ByteDance229.1K トークン128K トークン
Seed 2.1 Turbo ByteDance229.1K トークン64K トークン
Qwen3.6 27B Alibaba Cloud224K トークン64K トークン
GLM 4.7 Flash Z.ai202.8K トークン128K トークン
GLM 4.7 FlashX Z.ai202.8K トークン128K トークン
GLM 5.1 Z.ai202.7K トークン128K トークン
Qwen3.5 Omni Flash Alibaba Cloud192K トークン32K トークン
Qwen3.5 Omni Flash Realtime Alibaba Cloud192K トークン64K トークン
Qwen3.5 Omni Plus Alibaba Cloud192K トークン32K トークン
Qwen3.5 Omni Plus Realtime Alibaba Cloud192K トークン64K トークン
Qwen3.8 Omni Flash Realtime Alibaba Cloud192K トークン64K トークン
DeepReasoning WinFunc160K トークン32K トークン
Nova Micro 1.0 Amazon133K トークン10K トークン
GLM 4.5 Flash Z.ai128K トークン96K トークン
GLM 4.6V Flash Z.ai128K トークン32K トークン
GLM 4.6V FlashX Z.ai128K トークン32K トークン
Gemini 3.8 Live Google128K トークン64K トークン
Gemini 3.8 Live Extended Thinking Google128K トークン64K トークン
Gemma 3 27B Google128K トークン16K トークン
Muse Glimmer 30B Meta AI128K トークン32K トークン
Qwen3.6 35B A3B Alibaba Cloud128K トークン16K トークン
Mistral Small 3.1 Mistral AI89.6K トークン32K トークン
Qwen3.8 LiveTranslate Flash Realtime Alibaba Cloud48K トークン4K トークン
Qwen Audio 3.0 Realtime Flash Alibaba Cloud16K トークン8K トークン
Qwen Audio 3.0 Realtime Plus Alibaba Cloud16K トークン8K トークン
Skylark Embedding Vision ByteDance8K トークン-
Text Embedding v4 Alibaba Cloud8K トークン-
Qwen3 Rerank Alibaba Cloud4K トークン-
Tongyi Embedding Vision Flash Alibaba Cloud1K トークン-
Tongyi Embedding Vision Plus Alibaba Cloud1K トークン-

よくある質問

その回答はコンテキストウィンドウにカウントされますか?

はい。入力と出力はウィンドウを共有しているので、長いプロンプトは回答のスペースが少なくなります。APIは、入力とmax_tokensを設定した際に、リクエストを実行する前にウィンドウと照合します。

プロンプトがコンテキストウィンドウより長くなった場合はどうなりますか?

APIは生成前にコードcontext_length_exceededで400エラーを返し、リクエストは請求されません。入力max_tokensを短くしたり、そのを下にしてから再度送信します。

コンテキストウィンドウは最大出力と同じですか?

いいえ。コンテキストウィンドウは入力と出力をまとめてカバーし、最大出力はモデルが1つの応答に書くトークン数を制限します。両方とも各モデルごとにリストアップされています。

リクエストを送信する前にトークン数を数えるにはどうすればいいですか?

リクエスト本体をPOST /v1/messages/count_tokensに送信し、入力トークンの推定値を求めますが、これは請求されません。各レスポンス内の usage オブジェクトは正確なカウントを報告します。

より良いエンドポイントを使う準備はできていますか?

ご自身のモデルを当社のスタックに展開したい方は、ぜひご価格をご覧ください。