Une fenêtre de contexte est le nombre maximal de jetons qu’un modèle de langage peut gérer dans une requête, en comptant tout ce qu’il lit (instructions, historique des conversations, documents et définitions d’outils) plus les jetons qu’il écrit. Une requête qui ne convient pas doit être raccourcie ou séparée.
La fenêtre de contexte est mesurée en jetons. Tout ce que le modèle lit dans une seule requête compte pour celui-ci:
Les jetons générés par le modèle partagent la même fenêtre, y compris les jetons de raisonnement d’un Modèle de raisonnement. Chaque demande de chat permet de poursuivre la conversation jusqu’à ce point Messages, donc une longue conversation envoie tout son historique à chaque tour et se rapproche de la limite à mesure qu’elle grandit. Par exemple, 20 tours d’environ 500 jetons chacun ajoutent environ 10 000 jetons d’historique à la requête suivante, avant le nouveau message et la réponse.
Un modèle a deux limites distinctes. La fenêtre de contexte couvre l’entrée et la sortie ensemble. La sortie maximale correspond au nombre de jetons que le modèle peut écrire en une seule réponse, et elle est généralement plus petite que la fenêtre. ALLEZ-/v1/models rapporte les deux, comme context_window (également context_length) et max_output_tokens.
Vous pouvez définir votre propre limite de sortie pour chaque requête. max_tokens limite les jetons générés, et max_completion_tokens limite le raisonnement et la réponse ensemble; lorsque vous envoyez les deux, la plus petite s’applique. Une réponse qui atteint la limite s’arrête tôt avec finish_reason Fixer à Longueur, donc augmentez la limite si les réponses se terminent en milieu de phrase. On /v1/responses la même limite est max_output_tokens, et une réponse interrompue par celui-ci se termine par le statut incomplet.
Lorsque l’entrée, conjointement avec max_tokens si vous le définissez est plus long que la fenêtre de contexte du modèle, EmpirioLabs AI retourne 400 avec le code context_length_exceeded avant que toute génération ne démarre, et que la requête ne soit pas facturée. Raccourcir l’entrée ou diminuer max_tokens, puis l’envoyer à nouveau. Les frameworks d’agents qui compressent les conversations utilisent ce code comme signal pour le faire. Le Référence d’erreurs montre la réponse complète.
Pour vérifier une demande avant de l’envoyer, POST /v1/messages/count_tokens renvoie une estimation de ses jetons d’entrée et n’est pas facturé. Le Utilisation objet dans chaque réponse rapporte ensuite le nombre exact.
max_tokens à la tâche. Le contrôle de longueur compte max_tokens avec l’entrée, une valeur surdimensionnée peut ainsi rejeter une requête dont l’entrée entrerait autrement.Une fenêtre plus grande n’est pas toujours meilleure. Un modèle peut négliger des détails dans une entrée très longue, donc un contexte court et pertinent donne souvent des réponses plus précises qu’un contexte long. Comparez les fenêtres de contexte à l’autre Modèles de texte, ou tester les prompts longs dans le Playground.
96 modèles indiquent une fenêtre de contexte. La page de chaque modèle présente toutes ses caractéristiques et limites.
| Modèle | Fenêtre de contexte | Sortie max |
|---|---|---|
| Step 5 Preview StepFun | 1.02M tokens | 128K tokens |
| Qwen3.8 Omni Flash Alibaba Cloud | 1.01M tokens | 128K tokens |
| Aplomb 1 EmpirioLabs | 1M tokens | - |
| DeepSeek V4 Flash 0731 DeepSeek | 1M tokens | 384K tokens |
| DeepSeek V4 Pro DeepSeek | 1M tokens | 384K tokens |
| DeepSeek V4 Pro 0813 DeepSeek | 1M tokens | 384K tokens |
| DeepSeek V4.1 Flash 1017 DeepSeek | 1M tokens | 384K tokens |
| Fugu Max Sakana AI | 1M tokens | 128K tokens |
| Modèle | Fenêtre de contexte | Sortie max |
|---|---|---|
| Fugu Ultra v1.0 Sakana AI | 1M tokens | 128K tokens |
| Fugu Ultra v1.1 Sakana AI | 1M tokens | 128K tokens |
| Fugu Ultra v2.0 Sakana AI | 1M tokens | 128K tokens |
| GLM 5.2 Z.ai | 1M tokens | 128K tokens |
| GLM 5.3 Z.ai | 1M tokens | 128K tokens |
| GLM 5.3 Flash Z.ai | 1M tokens | 128K tokens |
| Kimi K3 Moonshot AI | 1M tokens | 128K tokens |
| Kimi K3.1 Pro Moonshot AI | 1M tokens | 128K tokens |
| MiMo V2.6 Flash Xiaomi | 1M tokens | 128K tokens |
| MiMo V2.6 Pro Xiaomi | 1M tokens | 128K tokens |
| MiMo V2.6 Pro UltraSpeed Xiaomi | 1M tokens | 128K tokens |
| MiniMax M3 MiniMax | 1M tokens | 512K tokens |
| MiniMax M3.1 Flash MiniMax | 1M tokens | 512K tokens |
| Muse Spark 1.1 Meta AI | 1M tokens | 128K tokens |
| Muse Spark 1.2 Meta AI | 1M tokens | 128K tokens |
| Muse Spark 1.3 Meta AI | 1M tokens | 128K tokens |
| Nova Lite 2 Amazon | 1M tokens | 128K tokens |
| Qwen3.5 Flash Alibaba Cloud | 995.9K tokens | 32K tokens |
| Qwen3.5 Plus Alibaba Cloud | 983.6K tokens | 64K tokens |
| Qwen3.6 Flash Alibaba Cloud | 983.6K tokens | 64K tokens |
| Qwen3.6 Plus Alibaba Cloud | 983.6K tokens | 64K tokens |
| Qwen3.7 Flash Alibaba Cloud | 983.6K tokens | 64K tokens |
| Qwen3.7 Max Alibaba Cloud | 983.6K tokens | 64K tokens |
| Qwen3.7 Plus Alibaba Cloud | 983.6K tokens | 64K tokens |
| Qwen3.8 Flash Alibaba Cloud | 983.6K tokens | 128K tokens |
| Qwen3.8 Max Alibaba Cloud | 983.6K tokens | 128K tokens |
| Qwen3.8 Max 0902 Alibaba Cloud | 983.6K tokens | 128K tokens |
| Qwen4 Max Alibaba Cloud | 983.6K tokens | 256K tokens |
| Perplexity Deep Research Perplexity | 919.3K tokens | - |
| Perplexity Sonar Perplexity | 919.3K tokens | - |
| Perplexity Sonar Pro Perplexity | 919.3K tokens | 32K tokens |
| Perplexity Sonar Reasoning Pro Perplexity | 919.3K tokens | 128K tokens |
| Nova Lite 1.0 Amazon | 317.4K tokens | 10K tokens |
| Nova Pro 1.0 Amazon | 317.3K tokens | 10K tokens |
| Qwen3.5 122B-A10B Alibaba Cloud | 258K tokens | 64K tokens |
| Qwen3.5 27B Alibaba Cloud | 258K tokens | 64K tokens |
| Qwen3.5 35B-A3B Alibaba Cloud | 258K tokens | 64K tokens |
| Qwen3.5 397B-A17B Alibaba Cloud | 258K tokens | 64K tokens |
| Gemma 4 26B-A4B Google | 256K tokens | 32K tokens |
| Kimi K2.6 Moonshot AI | 256K tokens | 16K tokens |
| Kimi K2.7 Code Moonshot AI | 256K tokens | 128K tokens |
| Kimi K2.7 Code Highspeed Moonshot AI | 256K tokens | 128K tokens |
| Mistral Small 4 Mistral AI | 256K tokens | 64K tokens |
| Qwen3.5 4B Alibaba Cloud | 256K tokens | 32K tokens |
| Qwen3.5 9B Alibaba Cloud | 256K tokens | 32K tokens |
| Qwen3.8 27B Alibaba Cloud | 256K tokens | 32K tokens |
| Step 3.5 Flash StepFun | 256K tokens | 128K tokens |
| Step 3.5 Flash 2603 StepFun | 256K tokens | 128K tokens |
| Step 3.7 Flash StepFun | 256K tokens | 128K tokens |
| StepAudio 2.5 Chat StepFun | 256K tokens | 128K tokens |
| StepAudio 2.5 Realtime StepFun | 256K tokens | 128K tokens |
| StepAudio 3 Chat StepFun | 256K tokens | 128K tokens |
| StepAudio 3 Realtime StepFun | 256K tokens | 128K tokens |
| Qwen Audio 3.1 Realtime Flash Alibaba Cloud | 240K tokens | 16K tokens |
| Qwen Audio 3.1 Realtime Plus Alibaba Cloud | 240K tokens | 16K tokens |
| Seed 2.0 Mini ByteDance | 229.2K tokens | 128K tokens |
| Seed 2.0 Code ByteDance | 229.1K tokens | 128K tokens |
| Seed 2.0 Lite ByteDance | 229.1K tokens | 128K tokens |
| Seed 2.0 Pro ByteDance | 229.1K tokens | 128K tokens |
| Seed 2.1 Turbo ByteDance | 229.1K tokens | 64K tokens |
| Qwen3.6 27B Alibaba Cloud | 224K tokens | 64K tokens |
| GLM 4.7 Flash Z.ai | 202.8K tokens | 128K tokens |
| GLM 4.7 FlashX Z.ai | 202.8K tokens | 128K tokens |
| GLM 5.1 Z.ai | 202.7K tokens | 128K tokens |
| Qwen3.5 Omni Flash Alibaba Cloud | 192K tokens | 32K tokens |
| Qwen3.5 Omni Flash Realtime Alibaba Cloud | 192K tokens | 64K tokens |
| Qwen3.5 Omni Plus Alibaba Cloud | 192K tokens | 32K tokens |
| Qwen3.5 Omni Plus Realtime Alibaba Cloud | 192K tokens | 64K tokens |
| Qwen3.8 Omni Flash Realtime Alibaba Cloud | 192K tokens | 64K tokens |
| DeepReasoning WinFunc | 160K tokens | 32K tokens |
| Nova Micro 1.0 Amazon | 133K tokens | 10K tokens |
| GLM 4.5 Flash Z.ai | 128K tokens | 96K tokens |
| GLM 4.6V Flash Z.ai | 128K tokens | 32K tokens |
| GLM 4.6V FlashX Z.ai | 128K tokens | 32K tokens |
| Gemini 3.8 Live Google | 128K tokens | 64K tokens |
| Gemini 3.8 Live Extended Thinking Google | 128K tokens | 64K tokens |
| Gemma 3 27B Google | 128K tokens | 16K tokens |
| Muse Glimmer 30B Meta AI | 128K tokens | 32K tokens |
| Qwen3.6 35B A3B Alibaba Cloud | 128K tokens | 16K tokens |
| Mistral Small 3.1 Mistral AI | 89.6K tokens | 32K tokens |
| Qwen3.8 LiveTranslate Flash Realtime Alibaba Cloud | 48K tokens | 4K tokens |
| Qwen Audio 3.0 Realtime Flash Alibaba Cloud | 16K tokens | 8K tokens |
| Qwen Audio 3.0 Realtime Plus Alibaba Cloud | 16K tokens | 8K tokens |
| Skylark Embedding Vision ByteDance | 8K tokens | - |
| Text Embedding v4 Alibaba Cloud | 8K tokens | - |
| Qwen3 Rerank Alibaba Cloud | 4K tokens | - |
| Tongyi Embedding Vision Flash Alibaba Cloud | 1K tokens | - |
| Tongyi Embedding Vision Plus Alibaba Cloud | 1K tokens | - |
Oui. L’entrée et la sortie partagent la fenêtre, donc une longue invite laisse moins de place à la réponse. L’API vérifie l’entrée plus max_tokens, lorsque vous la définissez, par rapport à la fenêtre avant d’exécuter la requête.
L’API renvoie une erreur 400 avec le code context_length_exceeded avant toute génération, et la requête n’est pas facturée. Raccourcissez l’entrée ou réduisez max_tokens, puis envoyez-la à nouveau.
Non. La fenêtre de contexte couvre l’entrée et la sortie ensemble, tandis que la sortie maximale limite le nombre de jetons que le modèle écrit dans une seule réponse. Les deux sont listés pour chaque modèle.
Envoyez le corps de la requête à POST /v1/messages/count_tokens pour obtenir une estimation de ses jetons d’entrée, qui n’est pas facturée. L’objet d’utilisation dans chaque réponse rapporte le nombre exact.
Consultez nos tarifs ou contactez-nous si vous souhaitez que votre propre modèle soit déployé sur notre stack.