Ein Kontextfenster ist die maximale Anzahl an Tokens, die ein Sprachmodell in einer Anfrage verarbeiten kann, und zählt alles, was es liest (Anweisungen, Konversationsverlauf, Dokumente und Werkzeugdefinitionen) plus die von ihm geschriebenen Token. Eine Anfrage, die nicht passt, muss verkürzt oder aufgeteilt werden.
Das Kontextfenster wird gemessen in Tokens. Alles, was das Modell in einer einzigen Anfrage liest, zählt dazu:
Die vom Modell generierten Token teilen sich dasselbe Fenster, einschließlich der Reasoning-Token eines Denkmodell. Jede Chat-Anfrage trägt das Gespräch bis hierhin weiter Nachrichten, also sendet ein langes Gespräch bei jedem Zug seine gesamte Historie und rückt mit zunehmender Zeit näher an das Limit heran. Zum Beispiel fügen 20 Züge mit jeweils etwa 500 Tokens ungefähr 10.000 Token Historie zur nächsten Anfrage hinzu, bevor die neue Nachricht und die Antwort kommen.
Ein Modell hat zwei getrennte Grenzen. Das Kontextfenster umfasst Eingabe und Ausgabe zusammen. Die maximale Ausgabe sind die meisten Token, die das Modell in einer Antwort schreiben kann, und sie ist in der Regel kleiner als das Fenster. GEH /v1/models Berichtet beides, als context_window (ebenfalls context_length) und max_output_tokens.
Du kannst für jede Anfrage dein eigenes Ausgangslimit festlegen. max_tokens begrenzt die generierten Token, und max_completion_tokens begrenzt das Denken und die Antwort zusammen; wenn Sie beide senden, gilt die kleinere Antwort. Eine Antwort, die das Limit erreicht, endet früh mit finish_reason Setzen Sie auf Länge, also erhöht das Limit, wenn Antworten mitten im Satz enden. An /v1/responses Der gleiche Grenzwert ist max_output_tokens, und eine Antwort, die dadurch abgebrochen wird, endet mit dem Status unvollständig.
Wenn die Eingabe, zusammen mit max_tokens Wenn Sie es festlegen, ist länger als das Kontextfenster des Modells, gibt EmpirioLabs AI zurück 400 mit dem Code context_length_exceeded bevor eine Generierung beginnt und die Anfrage nicht abgerechnet wird. Eingabe kürzen oder reduzieren max_tokens, dann senden Sie es erneut. Agenten-Frameworks, die Gespräche kompaktieren, verwenden diesen Code als ihr Signal dafür. Die Fehlerreferenz zeigt die vollständige Antwort an.
Um eine Anfrage vor dem Versand zu überprüfen, POST /v1/messages/count_tokens gibt eine Schätzung seiner Eingabetoken zurück und wird nicht abgerechnet. Die Verwendung Objekt in jeder Antwort gibt dann die genaue Anzahl an.
max_tokens zur Aufgabe. Die Längenprüfung zählt max_tokens zusammen mit der Eingabe, sodass ein übergroßer Wert eine Anfrage ablehnen kann, deren Eingabe sonst passen würde.Ein größeres Fenster ist nicht immer besser. Ein Modell kann Details in einer sehr langen Eingabe übersehen, daher liefert ein kurzer, relevanter Kontext oft genauere Antworten als ein langer. Vergleiche Kontextfenster über verschiedene Elemente hinweg Textmodelle, oder lange Eingabeaufforderungen in der Playground.
96 Modelle geben ein Kontextfenster an. Die Seite jedes Modells zeigt alle Spezifikationen und Limits.
| Modell | Kontextfenster | Max. Ausgabe |
|---|---|---|
| Step 5 Preview StepFun | 1.02M Token | 128K Token |
| Qwen3.8 Omni Flash Alibaba Cloud | 1.01M Token | 128K Token |
| Aplomb 1 EmpirioLabs | 1M Token | - |
| DeepSeek V4 Flash 0731 DeepSeek | 1M Token | 384K Token |
| DeepSeek V4 Pro DeepSeek | 1M Token | 384K Token |
| DeepSeek V4 Pro 0813 DeepSeek | 1M Token | 384K Token |
| DeepSeek V4.1 Flash 1017 DeepSeek | 1M Token | 384K Token |
| Fugu Max Sakana AI | 1M Token | 128K Token |
| Modell | Kontextfenster | Max. Ausgabe |
|---|---|---|
| Fugu Ultra v1.0 Sakana AI | 1M Token | 128K Token |
| Fugu Ultra v1.1 Sakana AI | 1M Token | 128K Token |
| Fugu Ultra v2.0 Sakana AI | 1M Token | 128K Token |
| GLM 5.2 Z.ai | 1M Token | 128K Token |
| GLM 5.3 Z.ai | 1M Token | 128K Token |
| GLM 5.3 Flash Z.ai | 1M Token | 128K Token |
| Kimi K3 Moonshot AI | 1M Token | 128K Token |
| Kimi K3.1 Pro Moonshot AI | 1M Token | 128K Token |
| MiMo V2.6 Flash Xiaomi | 1M Token | 128K Token |
| MiMo V2.6 Pro Xiaomi | 1M Token | 128K Token |
| MiMo V2.6 Pro UltraSpeed Xiaomi | 1M Token | 128K Token |
| MiniMax M3 MiniMax | 1M Token | 512K Token |
| MiniMax M3.1 Flash MiniMax | 1M Token | 512K Token |
| Muse Spark 1.1 Meta AI | 1M Token | 128K Token |
| Muse Spark 1.2 Meta AI | 1M Token | 128K Token |
| Muse Spark 1.3 Meta AI | 1M Token | 128K Token |
| Nova Lite 2 Amazon | 1M Token | 128K Token |
| Qwen3.5 Flash Alibaba Cloud | 995.9K Token | 32K Token |
| Qwen3.5 Plus Alibaba Cloud | 983.6K Token | 64K Token |
| Qwen3.6 Flash Alibaba Cloud | 983.6K Token | 64K Token |
| Qwen3.6 Plus Alibaba Cloud | 983.6K Token | 64K Token |
| Qwen3.7 Flash Alibaba Cloud | 983.6K Token | 64K Token |
| Qwen3.7 Max Alibaba Cloud | 983.6K Token | 64K Token |
| Qwen3.7 Plus Alibaba Cloud | 983.6K Token | 64K Token |
| Qwen3.8 Flash Alibaba Cloud | 983.6K Token | 128K Token |
| Qwen3.8 Max Alibaba Cloud | 983.6K Token | 128K Token |
| Qwen3.8 Max 0902 Alibaba Cloud | 983.6K Token | 128K Token |
| Qwen4 Max Alibaba Cloud | 983.6K Token | 256K Token |
| Perplexity Deep Research Perplexity | 919.3K Token | - |
| Perplexity Sonar Perplexity | 919.3K Token | - |
| Perplexity Sonar Pro Perplexity | 919.3K Token | 32K Token |
| Perplexity Sonar Reasoning Pro Perplexity | 919.3K Token | 128K Token |
| Nova Lite 1.0 Amazon | 317.4K Token | 10K Token |
| Nova Pro 1.0 Amazon | 317.3K Token | 10K Token |
| Qwen3.5 122B-A10B Alibaba Cloud | 258K Token | 64K Token |
| Qwen3.5 27B Alibaba Cloud | 258K Token | 64K Token |
| Qwen3.5 35B-A3B Alibaba Cloud | 258K Token | 64K Token |
| Qwen3.5 397B-A17B Alibaba Cloud | 258K Token | 64K Token |
| Gemma 4 26B-A4B Google | 256K Token | 32K Token |
| Kimi K2.6 Moonshot AI | 256K Token | 16K Token |
| Kimi K2.7 Code Moonshot AI | 256K Token | 128K Token |
| Kimi K2.7 Code Highspeed Moonshot AI | 256K Token | 128K Token |
| Mistral Small 4 Mistral AI | 256K Token | 64K Token |
| Qwen3.5 4B Alibaba Cloud | 256K Token | 32K Token |
| Qwen3.5 9B Alibaba Cloud | 256K Token | 32K Token |
| Qwen3.8 27B Alibaba Cloud | 256K Token | 32K Token |
| Step 3.5 Flash StepFun | 256K Token | 128K Token |
| Step 3.5 Flash 2603 StepFun | 256K Token | 128K Token |
| Step 3.7 Flash StepFun | 256K Token | 128K Token |
| StepAudio 2.5 Chat StepFun | 256K Token | 128K Token |
| StepAudio 2.5 Realtime StepFun | 256K Token | 128K Token |
| StepAudio 3 Chat StepFun | 256K Token | 128K Token |
| StepAudio 3 Realtime StepFun | 256K Token | 128K Token |
| Qwen Audio 3.1 Realtime Flash Alibaba Cloud | 240K Token | 16K Token |
| Qwen Audio 3.1 Realtime Plus Alibaba Cloud | 240K Token | 16K Token |
| Seed 2.0 Mini ByteDance | 229.2K Token | 128K Token |
| Seed 2.0 Code ByteDance | 229.1K Token | 128K Token |
| Seed 2.0 Lite ByteDance | 229.1K Token | 128K Token |
| Seed 2.0 Pro ByteDance | 229.1K Token | 128K Token |
| Seed 2.1 Turbo ByteDance | 229.1K Token | 64K Token |
| Qwen3.6 27B Alibaba Cloud | 224K Token | 64K Token |
| GLM 4.7 Flash Z.ai | 202.8K Token | 128K Token |
| GLM 4.7 FlashX Z.ai | 202.8K Token | 128K Token |
| GLM 5.1 Z.ai | 202.7K Token | 128K Token |
| Qwen3.5 Omni Flash Alibaba Cloud | 192K Token | 32K Token |
| Qwen3.5 Omni Flash Realtime Alibaba Cloud | 192K Token | 64K Token |
| Qwen3.5 Omni Plus Alibaba Cloud | 192K Token | 32K Token |
| Qwen3.5 Omni Plus Realtime Alibaba Cloud | 192K Token | 64K Token |
| Qwen3.8 Omni Flash Realtime Alibaba Cloud | 192K Token | 64K Token |
| DeepReasoning WinFunc | 160K Token | 32K Token |
| Nova Micro 1.0 Amazon | 133K Token | 10K Token |
| GLM 4.5 Flash Z.ai | 128K Token | 96K Token |
| GLM 4.6V Flash Z.ai | 128K Token | 32K Token |
| GLM 4.6V FlashX Z.ai | 128K Token | 32K Token |
| Gemini 3.8 Live Google | 128K Token | 64K Token |
| Gemini 3.8 Live Extended Thinking Google | 128K Token | 64K Token |
| Gemma 3 27B Google | 128K Token | 16K Token |
| Muse Glimmer 30B Meta AI | 128K Token | 32K Token |
| Qwen3.6 35B A3B Alibaba Cloud | 128K Token | 16K Token |
| Mistral Small 3.1 Mistral AI | 89.6K Token | 32K Token |
| Qwen3.8 LiveTranslate Flash Realtime Alibaba Cloud | 48K Token | 4K Token |
| Qwen Audio 3.0 Realtime Flash Alibaba Cloud | 16K Token | 8K Token |
| Qwen Audio 3.0 Realtime Plus Alibaba Cloud | 16K Token | 8K Token |
| Skylark Embedding Vision ByteDance | 8K Token | - |
| Text Embedding v4 Alibaba Cloud | 8K Token | - |
| Qwen3 Rerank Alibaba Cloud | 4K Token | - |
| Tongyi Embedding Vision Flash Alibaba Cloud | 1K Token | - |
| Tongyi Embedding Vision Plus Alibaba Cloud | 1K Token | - |
Ja. Eingabe und Ausgabe teilen sich das Fenster, sodass eine lange Eingabeaufforderung weniger Raum für die Antwort lässt. Die API prüft die Eingabe plus max_tokens, wenn du sie eingestellt hast, mit dem Fenster, bevor sie die Anfrage ausführt.
Die API gibt einen 400-Fehler zurück, wobei der Code vor jeder Generierung context_length_exceeded wird, und die Anfrage wird nicht abgerechnet. Kürzen Sie die Eingabe oder senken Sie max_tokens, und senden Sie ihn dann erneut.
Nein. Das Kontextfenster umfasst Eingabe und Ausgabe gemeinsam, während die maximale Ausgabe begrenzt, wie viele Token das Modell in einer Antwort schreibt. Beide sind für jedes Modell aufgeführt.
Senden Sie den Anfrageobjekt an POST /v1/messages/count_tokens für eine Schätzung seiner Eingabetoken, die nicht abgerechnet werden. Das Usage-Objekt in jeder Antwort gibt die genaue Anzahl an.
Schauen Sie sich unsere Preise an oder kontaktieren Sie uns, wenn Sie Ihr eigenes Modell auf unserem Stack implementieren möchten.