コンテキストウィンドウとは、言語モデルが1つのリクエストで処理できる最大トークン数のことであり、読み取りたすべてのもの(命令、会話履歴、文書やツール定義)と、書いたトークンの数を数えます。合わないリクエストは短縮または分割する必要があります。
コンテキストウィンドウは トークン.モデルが単一のリクエストで読み取るすべての情報がそのリクエストにカウントされます:
モデルが生成するトークンは同じウィンドウを共有しており、推論トークンも含まれます。 推論モデル.各チャットリクエストは、ここまでの会話を伝えています メッセージ、つまり長い会話は毎ターン全履歴を送り、成長するにつれて限界に近づいていきます。例えば、約500トークンの20ターンは、新しいメッセージと回答の前の次のリクエストに約10,000トークンの履歴を追加します。
モデルには2つの別々の制限があります。コンテキストウィンドウは入力と出力を同時にカバーします。最大出力はモデルが1つの応答に書き込める最大トークン数であり、通常はウィンドウよりも小さいです。 早く/v1/models 両方とも報告します。次のように context_window (また context_length)および max_output_tokensお問い合わせ.
各リクエストごとに自分で出力上限を設定することができます。 max_tokens 生成されるトークンを制限し、 max_completion_tokens リミット・リット・リット・デュースと回答を同時に行う。両方を送ると、小さい方が適用される。限界に達する応答は、次のように早期に停止します。 finish_reason 設定 長さ、回答が文の途中で終了した場合は制限を引き上げてください。オン お問い合わせ 同じ限界は max_output_tokens、そしてその応答が切り切られ、その状態で締めくくられます 不完全お問い合わせ.
入力が max_tokens 設定した場合、モデルのコンテキストウィンドウより長い場合は、EmpirioLabs AIを返します。 400 コードとともに context_length_exceeded いずれの生成も開始される前に、リクエストは請求されません。入力を短くするか、それ以下にする max_tokens、そして再度送信します。コンパクトな会話を行うエージェントフレームワークは、このコードをシグナルとして使用します。その errors 参照 回答の全文を示します。
リクエストを送信する前に確認するには、 /v1/messages/count_tokens後 入力トークンの推定値を返し、請求されません。その 使用例 各応答のオブジェクトは正確なカウントを報告します。
max_tokens 任務に。 長さチェックはカウントされます max_tokens 入力とともに、過大な値は本来は合うはずのリクエストを拒否できます。ウィンドウが大きいほど必ずしも良いとは限りません。モデルが非常に長い入力では詳細を見落とすことがありますが、短くて関連性の高いコンテキストの方が長いコンテキストよりも正確な回答が得られることが多いです。コンテキストウィンドウを比較する テキストモデル、または長いプロンプトをテストする Playgroundお問い合わせ.
96 個のモデルがコンテキストウィンドウを公開しています。各モデルのページに仕様と制限の詳細があります。
| モデル | コンテキスト長 | 最大出力 |
|---|---|---|
| Step 5 Preview StepFun | 1.02M トークン | 128K トークン |
| Qwen3.8 Omni Flash Alibaba Cloud | 1.01M トークン | 128K トークン |
| Aplomb 1 EmpirioLabs | 1M トークン | - |
| DeepSeek V4 Flash 0731 DeepSeek | 1M トークン | 384K トークン |
| DeepSeek V4 Pro DeepSeek | 1M トークン | 384K トークン |
| DeepSeek V4 Pro 0813 DeepSeek | 1M トークン | 384K トークン |
| DeepSeek V4.1 Flash 1017 DeepSeek | 1M トークン | 384K トークン |
| Fugu Max Sakana AI | 1M トークン | 128K トークン |
| モデル | コンテキスト長 | 最大出力 |
|---|---|---|
| Fugu Ultra v1.0 Sakana AI | 1M トークン | 128K トークン |
| Fugu Ultra v1.1 Sakana AI | 1M トークン | 128K トークン |
| Fugu Ultra v2.0 Sakana AI | 1M トークン | 128K トークン |
| GLM 5.2 Z.ai | 1M トークン | 128K トークン |
| GLM 5.3 Z.ai | 1M トークン | 128K トークン |
| GLM 5.3 Flash Z.ai | 1M トークン | 128K トークン |
| Kimi K3 Moonshot AI | 1M トークン | 128K トークン |
| Kimi K3.1 Pro Moonshot AI | 1M トークン | 128K トークン |
| MiMo V2.6 Flash Xiaomi | 1M トークン | 128K トークン |
| MiMo V2.6 Pro Xiaomi | 1M トークン | 128K トークン |
| MiMo V2.6 Pro UltraSpeed Xiaomi | 1M トークン | 128K トークン |
| MiniMax M3 MiniMax | 1M トークン | 512K トークン |
| MiniMax M3.1 Flash MiniMax | 1M トークン | 512K トークン |
| Muse Spark 1.1 Meta AI | 1M トークン | 128K トークン |
| Muse Spark 1.2 Meta AI | 1M トークン | 128K トークン |
| Muse Spark 1.3 Meta AI | 1M トークン | 128K トークン |
| Nova Lite 2 Amazon | 1M トークン | 128K トークン |
| Qwen3.5 Flash Alibaba Cloud | 995.9K トークン | 32K トークン |
| Qwen3.5 Plus Alibaba Cloud | 983.6K トークン | 64K トークン |
| Qwen3.6 Flash Alibaba Cloud | 983.6K トークン | 64K トークン |
| Qwen3.6 Plus Alibaba Cloud | 983.6K トークン | 64K トークン |
| Qwen3.7 Flash Alibaba Cloud | 983.6K トークン | 64K トークン |
| Qwen3.7 Max Alibaba Cloud | 983.6K トークン | 64K トークン |
| Qwen3.7 Plus Alibaba Cloud | 983.6K トークン | 64K トークン |
| Qwen3.8 Flash Alibaba Cloud | 983.6K トークン | 128K トークン |
| Qwen3.8 Max Alibaba Cloud | 983.6K トークン | 128K トークン |
| Qwen3.8 Max 0902 Alibaba Cloud | 983.6K トークン | 128K トークン |
| Qwen4 Max Alibaba Cloud | 983.6K トークン | 256K トークン |
| Perplexity Deep Research Perplexity | 919.3K トークン | - |
| Perplexity Sonar Perplexity | 919.3K トークン | - |
| Perplexity Sonar Pro Perplexity | 919.3K トークン | 32K トークン |
| Perplexity Sonar Reasoning Pro Perplexity | 919.3K トークン | 128K トークン |
| Nova Lite 1.0 Amazon | 317.4K トークン | 10K トークン |
| Nova Pro 1.0 Amazon | 317.3K トークン | 10K トークン |
| Qwen3.5 122B-A10B Alibaba Cloud | 258K トークン | 64K トークン |
| Qwen3.5 27B Alibaba Cloud | 258K トークン | 64K トークン |
| Qwen3.5 35B-A3B Alibaba Cloud | 258K トークン | 64K トークン |
| Qwen3.5 397B-A17B Alibaba Cloud | 258K トークン | 64K トークン |
| Gemma 4 26B-A4B Google | 256K トークン | 32K トークン |
| Kimi K2.6 Moonshot AI | 256K トークン | 16K トークン |
| Kimi K2.7 Code Moonshot AI | 256K トークン | 128K トークン |
| Kimi K2.7 Code Highspeed Moonshot AI | 256K トークン | 128K トークン |
| Mistral Small 4 Mistral AI | 256K トークン | 64K トークン |
| Qwen3.5 4B Alibaba Cloud | 256K トークン | 32K トークン |
| Qwen3.5 9B Alibaba Cloud | 256K トークン | 32K トークン |
| Qwen3.8 27B Alibaba Cloud | 256K トークン | 32K トークン |
| Step 3.5 Flash StepFun | 256K トークン | 128K トークン |
| Step 3.5 Flash 2603 StepFun | 256K トークン | 128K トークン |
| Step 3.7 Flash StepFun | 256K トークン | 128K トークン |
| StepAudio 2.5 Chat StepFun | 256K トークン | 128K トークン |
| StepAudio 2.5 Realtime StepFun | 256K トークン | 128K トークン |
| StepAudio 3 Chat StepFun | 256K トークン | 128K トークン |
| StepAudio 3 Realtime StepFun | 256K トークン | 128K トークン |
| Qwen Audio 3.1 Realtime Flash Alibaba Cloud | 240K トークン | 16K トークン |
| Qwen Audio 3.1 Realtime Plus Alibaba Cloud | 240K トークン | 16K トークン |
| Seed 2.0 Mini ByteDance | 229.2K トークン | 128K トークン |
| Seed 2.0 Code ByteDance | 229.1K トークン | 128K トークン |
| Seed 2.0 Lite ByteDance | 229.1K トークン | 128K トークン |
| Seed 2.0 Pro ByteDance | 229.1K トークン | 128K トークン |
| Seed 2.1 Turbo ByteDance | 229.1K トークン | 64K トークン |
| Qwen3.6 27B Alibaba Cloud | 224K トークン | 64K トークン |
| GLM 4.7 Flash Z.ai | 202.8K トークン | 128K トークン |
| GLM 4.7 FlashX Z.ai | 202.8K トークン | 128K トークン |
| GLM 5.1 Z.ai | 202.7K トークン | 128K トークン |
| Qwen3.5 Omni Flash Alibaba Cloud | 192K トークン | 32K トークン |
| Qwen3.5 Omni Flash Realtime Alibaba Cloud | 192K トークン | 64K トークン |
| Qwen3.5 Omni Plus Alibaba Cloud | 192K トークン | 32K トークン |
| Qwen3.5 Omni Plus Realtime Alibaba Cloud | 192K トークン | 64K トークン |
| Qwen3.8 Omni Flash Realtime Alibaba Cloud | 192K トークン | 64K トークン |
| DeepReasoning WinFunc | 160K トークン | 32K トークン |
| Nova Micro 1.0 Amazon | 133K トークン | 10K トークン |
| GLM 4.5 Flash Z.ai | 128K トークン | 96K トークン |
| GLM 4.6V Flash Z.ai | 128K トークン | 32K トークン |
| GLM 4.6V FlashX Z.ai | 128K トークン | 32K トークン |
| Gemini 3.8 Live Google | 128K トークン | 64K トークン |
| Gemini 3.8 Live Extended Thinking Google | 128K トークン | 64K トークン |
| Gemma 3 27B Google | 128K トークン | 16K トークン |
| Muse Glimmer 30B Meta AI | 128K トークン | 32K トークン |
| Qwen3.6 35B A3B Alibaba Cloud | 128K トークン | 16K トークン |
| Mistral Small 3.1 Mistral AI | 89.6K トークン | 32K トークン |
| Qwen3.8 LiveTranslate Flash Realtime Alibaba Cloud | 48K トークン | 4K トークン |
| Qwen Audio 3.0 Realtime Flash Alibaba Cloud | 16K トークン | 8K トークン |
| Qwen Audio 3.0 Realtime Plus Alibaba Cloud | 16K トークン | 8K トークン |
| Skylark Embedding Vision ByteDance | 8K トークン | - |
| Text Embedding v4 Alibaba Cloud | 8K トークン | - |
| Qwen3 Rerank Alibaba Cloud | 4K トークン | - |
| Tongyi Embedding Vision Flash Alibaba Cloud | 1K トークン | - |
| Tongyi Embedding Vision Plus Alibaba Cloud | 1K トークン | - |
はい。入力と出力はウィンドウを共有しているので、長いプロンプトは回答のスペースが少なくなります。APIは、入力とmax_tokensを設定した際に、リクエストを実行する前にウィンドウと照合します。
APIは生成前にコードcontext_length_exceededで400エラーを返し、リクエストは請求されません。入力max_tokensを短くしたり、そのを下にしてから再度送信します。
いいえ。コンテキストウィンドウは入力と出力をまとめてカバーし、最大出力はモデルが1つの応答に書くトークン数を制限します。両方とも各モデルごとにリストアップされています。
リクエスト本体をPOST /v1/messages/count_tokensに送信し、入力トークンの推定値を求めますが、これは請求されません。各レスポンス内の usage オブジェクトは正確なカウントを報告します。