추론 모델은 중간 추론 토큰에서 문제를 처리한 후 최종 답을 작성합니다. 이는 수학, 코드, 계획 등 다단계 작업에서 결과를 개선하고, 더 많은 출력 토큰과 시간을 사용하며, 추론 노력과 같은 설정이 이를 제어합니다.
표준 언어 모델은 즉시 답을 작성하기 시작합니다. 추론 모델은 먼저 일련의 중간 단계(흔히 사고라고 불림)를 생성한 뒤, 답을 작성합니다. 그 단계에서 문제를 여러 부분으로 나누고, 계산을 수행하며, 접근법을 테스트하고 스스로 수정한 뒤에야 결과에 도달할 수 있습니다.
추론은 별도의 모델이 아니라 하나의 역량입니다. 텍스트 모델도 추론 모델이 될 수 있으며, 많은 모델이 각 요청마다 추론을 켜거나 끌 수 있습니다. 어떤 모델은 항상 추론을 하고, 그 정도는 보통 조정할 수 있습니다.
추론은 여러 단계에 의존하는 과제에서 결과를 향상시킵니다:
간단한 조회, 분류, 짧은 재작성, 일상적인 대화에는 거의 도움이 되지 않으며, 주로 지연 시간과 토큰 출력만 추가합니다. 그런 작업에는 노력을 줄이거나 추론을 끄세요.
추론 모델을 위한 프롬프트는 목표, 제약 조건, 예상되는 답변 형식을 명시하고 계획 준비는 모델에 맡길 때 가장 효과적입니다. 상세한 step-by-step 지침은 보통 불필요한데, 왜냐하면 추론 단계가 단계를 짜는 것이 바로 그 역할을 하기 때문입니다.
EmpirioLabs AI 세 가지 컨트롤을 노출하며, 각 모델은 이 페이지에 나열된 컨트롤을 지원합니다:
이유 effort 깊이를 다음과 같은 명명된 레벨로 설정합니다 낮게·, 중간 그리고 하이. 많은 모델에서, 이름 * 추론을 끕니다. 사용 가능한 수준은 모델에 따라 다릅니다.thinking_budget 생각이 켜져 있을 때 모델이 추론에 쓸 수 있는 가장 많은 토큰을 설정합니다. 이 부분을 빼면 많은 모델들이 스스로 추론할 시간을 결정합니다.enable thinking을 활성화 선택권을 제공하는 모델에 대해 추론을 켜거나 끄는 기능을 조절합니다.이 매개변수들은 다음과 같이 허용됩니다 /v1/chat/completions·, /v1/responses 에 그리고 /v1/messages 에 각 엔드포인트를 지원하는 모델에 대해. On /v1/messages 에 또한 다음 이메일을 보낼 수도 있습니다 생각 객체: 활성화 이름 * budget_tokens 예산을 설정하고, 적응형 그 없이도 사고를 작동시키고, 비활성화됨 이를 끕니다. 일부 모델에서는 다음을 사용하는 요청이 있습니다 response_format 또는 도구가 이유 없이 강제로 응답하도록 하거나, 세트가 설정되지 않는 한 enable thinking을 활성화. 참고 엔드포인트 간 모델 매개변수 자세한 내용.
추론은 생성된 텍스트이기 때문에, 당신이 그것을 못해도 청구됩니다. 대부분의 모델에서 추론 토큰은 출력 토큰으로 청구되며, 각 모델 페이지마다 그 방법을 명시합니다. 일부 모델은 추론 텍스트를 반환합니다. 예를 들어 사이트 맵 채팅 완료 시 응답 시 응답만 반환합니다. On /v1/responses 에·, usage.output_tokens_details.reasoning_tokens 사용된 수를 보고합니다. 일부 모델에서는, preserve_thinking 이전 조수의 논리를 보내고 다시 모델로 돌아갑니다. /v1/chat/completions, 그리고 이전 추론 청구를 입력 토큰으로 사용하는 것.
추론 역시 산출 한계에 포함됩니다. max_completion_tokens 추론과 답변을 함께 하며, 일부 모델에서는 max_tokens 그렇습니다. 한계가 너무 낮으면 모델은 추론에 시간을 써서 짧거나 빈 답변을 반환할 수 있으니, 둘 다 허용할 여지를 남겨두세요.
더 많은 노력은 답변이 시작되기 전 더 긴 대기 시간을 의미합니다. 응답을 스트리밍하여 진행 상황을 보여주고, 15분 이상 지속되는 응답의 경우 다음을 사용하세요 WebSocket 모드의 /v1/responses 에. 추론 능력이 있는 사람 비교 텍스트 모델, 또는 다른 노력 수준을 시도해 보세요. Playground·.
모델 65개. 각 모델 페이지에 요금표, 파라미터, 코드가 있습니다.
| 모델 | 파라미터 | 범위 / 값 |
|---|---|---|
| DeepSeek V4 Flash 0731 DeepSeek | reasoning_effort thinking_budget enable_thinking | reasoning_effort: none, low, medium, high, max; 기본값 medium thinking_budget: 1 ~ 393216; 기본값 32768 enable_thinking: 기본값 true |
| DeepSeek V4 Pro DeepSeek | reasoning_effort thinking_budget enable_thinking | reasoning_effort: none, low, medium, high, max; 기본값 medium thinking_budget: 1 ~ 393216; 기본값 32768 enable_thinking: 기본값 true |
| DeepSeek V4 Pro 0813 DeepSeek | reasoning_effort thinking_budget enable_thinking | reasoning_effort: none, low, medium, high, max; 기본값 medium thinking_budget: 1 ~ 393216; 기본값 32768 enable_thinking: 기본값 true |
| DeepSeek V4.1 Flash 1017 DeepSeek | reasoning_effort thinking_budget enable_thinking | reasoning_effort: none, low, medium, high, max; 기본값 medium thinking_budget: 1 ~ 393216; 기본값 32768 enable_thinking: 기본값 true |
| GLM 5.1 Z.ai | reasoning_effort thinking_budget enable_thinking | reasoning_effort: none, low, medium, high, max; 기본값 medium thinking_budget: 1 ~ 38912; 기본값 32768 enable_thinking: 기본값 true |
| Gemma 4 26B-A4B Google | reasoning_effort thinking_budget enable_thinking | reasoning_effort: none, low, medium, high, max; 기본값 medium thinking_budget: 128 ~ 32768; 기본값 4096 enable_thinking: 기본값 true |
| Kimi K2.6 Moonshot AI | reasoning_effort thinking_budget enable_thinking | reasoning_effort: none, low, medium, high, max; 기본값 medium thinking_budget: 1 ~ 81920; 기본값 32768 enable_thinking: 기본값 true |
| Qwen3.5 122B-A10B Alibaba Cloud | reasoning_effort thinking_budget enable_thinking | reasoning_effort: none, low, medium, high, max thinking_budget: 1 ~ 81920 enable_thinking: 기본값 true |
| 모델 | 파라미터 | 범위 / 값 |
|---|---|---|
| Qwen3.5 27B Alibaba Cloud | reasoning_effort thinking_budget enable_thinking | reasoning_effort: none, low, medium, high, max thinking_budget: 1 ~ 81920 enable_thinking: 기본값 true |
| Qwen3.5 35B-A3B Alibaba Cloud | reasoning_effort thinking_budget enable_thinking | reasoning_effort: none, low, medium, high, max thinking_budget: 1 ~ 81920 enable_thinking: 기본값 true |
| Qwen3.5 397B-A17B Alibaba Cloud | reasoning_effort thinking_budget enable_thinking | reasoning_effort: none, low, medium, high, max thinking_budget: 1 ~ 81920 enable_thinking: 기본값 true |
| Qwen3.5 4B Alibaba Cloud | reasoning_effort thinking_budget enable_thinking | reasoning_effort: none, low, medium, high, max; 기본값 medium thinking_budget: 1024 ~ 32768; 기본값 4096 enable_thinking: 기본값 true |
| Qwen3.5 9B Alibaba Cloud | reasoning_effort thinking_budget enable_thinking | reasoning_effort: none, low, medium, high, max; 기본값 medium thinking_budget: 1024 ~ 32768; 기본값 4096 enable_thinking: 기본값 true |
| Qwen3.6 27B Alibaba Cloud | reasoning_effort thinking_budget enable_thinking | reasoning_effort: none, low, medium, high, max thinking_budget: 1 ~ 131072 enable_thinking: 기본값 true |
| Qwen3.6 Flash Alibaba Cloud | reasoning_effort thinking_budget enable_thinking | reasoning_effort: none, low, medium, high, max; 기본값 medium thinking_budget: 1 ~ 64000; 기본값 32768 enable_thinking: 기본값 true |
| Qwen3.6 Plus Alibaba Cloud | reasoning_effort thinking_budget enable_thinking | reasoning_effort: none, low, medium, high, max thinking_budget: 1 ~ 131072 enable_thinking: 기본값 true |
| Qwen3.7 Flash Alibaba Cloud | reasoning_effort thinking_budget enable_thinking | reasoning_effort: none, low, medium, high, max thinking_budget: 1 ~ 131072 enable_thinking: 기본값 true |
| Qwen3.7 Max Alibaba Cloud | reasoning_effort thinking_budget enable_thinking | reasoning_effort: none, low, medium, high, max thinking_budget: 1 ~ 262144 enable_thinking: 기본값 true |
| Qwen3.7 Plus Alibaba Cloud | reasoning_effort thinking_budget enable_thinking | reasoning_effort: none, low, medium, high, max thinking_budget: 1 ~ 262144 enable_thinking: 기본값 true |
| Qwen3.8 Flash Alibaba Cloud | reasoning_effort thinking_budget enable_thinking | reasoning_effort: none, low, medium, high, max thinking_budget: 1 ~ 262144 enable_thinking: 기본값 true |
| Qwen3.8 Max Alibaba Cloud | reasoning_effort thinking_budget enable_thinking | reasoning_effort: none, low, medium, high, max thinking_budget: 1 ~ 262144 enable_thinking: 기본값 true |
| Qwen3.8 Max 0902 Alibaba Cloud | reasoning_effort thinking_budget enable_thinking | reasoning_effort: none, low, medium, high, max thinking_budget: 1 ~ 262144 enable_thinking: 기본값 true |
| Qwen3.8 Omni Flash Alibaba Cloud | reasoning_effort thinking_budget enable_thinking | reasoning_effort: none, low, medium, high, max thinking_budget: 1 ~ 262144 enable_thinking: 기본값 true |
| Qwen4 Max Alibaba Cloud | reasoning_effort thinking_budget enable_thinking | reasoning_effort: low, high, xhigh; 기본값 high thinking_budget: 1 ~ 262144 enable_thinking: 기본값 true |
| GLM 5.2 Z.ai | reasoning_effort enable_thinking | reasoning_effort: none, minimal, low, medium, high, xhigh, max; 기본값 max enable_thinking: 기본값 true |
| Kimi K3.1 Pro Moonshot AI | reasoning_effort enable_thinking | reasoning_effort: low, medium, high, max; 기본값 max enable_thinking: 기본값 true |
| Nova Lite 2 Amazon | reasoning_effort enable_thinking | reasoning_effort: low, medium, high; 기본값 medium enable_thinking: 기본값 true |
| Qwen3.5 Flash Alibaba Cloud | thinking_budget enable_thinking | thinking_budget: 1 ~ 81920 enable_thinking: 기본값 true |
| Qwen3.5 Plus Alibaba Cloud | thinking_budget enable_thinking | thinking_budget: 1 ~ 81920 enable_thinking: 기본값 true |
| Qwen3.6 35B A3B Alibaba Cloud | reasoning_effort enable_thinking | reasoning_effort: none, low, medium, high, max; 기본값 medium enable_thinking: 기본값 true |
| Qwen3.8 27B Alibaba Cloud | reasoning_effort enable_thinking | reasoning_effort: none, low, medium, xhigh; 기본값 xhigh enable_thinking: 기본값 true |
| Seed 2.0 Code ByteDance | reasoning_effort enable_thinking | reasoning_effort: low, medium, high; 기본값 medium enable_thinking: 기본값 true |
| Seed 2.0 Lite ByteDance | reasoning_effort enable_thinking | reasoning_effort: low, medium, high; 기본값 medium enable_thinking: 기본값 true |
| Seed 2.0 Mini ByteDance | reasoning_effort enable_thinking | reasoning_effort: low, medium, high; 기본값 medium enable_thinking: 기본값 true |
| Seed 2.0 Pro ByteDance | reasoning_effort enable_thinking | reasoning_effort: low, medium, high; 기본값 medium enable_thinking: 기본값 true |
| Seed 2.1 Turbo ByteDance | reasoning_effort enable_thinking | reasoning_effort: low, medium, high; 기본값 high enable_thinking: 기본값 true |
| Fugu Max Sakana AI | reasoning_effort | high, xhigh, max; 기본값 high |
| Fugu Ultra v1.0 Sakana AI | reasoning_effort | high, xhigh, max; 기본값 high |
| Fugu Ultra v1.1 Sakana AI | reasoning_effort | high, xhigh, max; 기본값 high |
| Fugu Ultra v2.0 Sakana AI | reasoning_effort | high, xhigh, max; 기본값 high |
| GLM 4.5 Flash Z.ai | enable_thinking | 기본값 true |
| GLM 4.6V Flash Z.ai | enable_thinking | 기본값 true |
| GLM 4.6V FlashX Z.ai | enable_thinking | 기본값 true |
| GLM 4.7 Flash Z.ai | enable_thinking | 기본값 true |
| GLM 4.7 FlashX Z.ai | enable_thinking | 기본값 true |
| GLM 5.3 Z.ai | reasoning_effort | low, high, max; 기본값 max |
| GLM 5.3 Flash Z.ai | reasoning_effort | low, high, max; 기본값 max |
| Gemini 3.8 Live Extended Thinking Google | reasoning_effort | low, medium, high; 기본값 medium |
| Kimi K3 Moonshot AI | reasoning_effort | low, high, max; 기본값 max |
| MiMo V2.6 Flash Xiaomi | enable_thinking | 기본값 true |
| MiMo V2.6 Pro Xiaomi | enable_thinking | 기본값 true |
| MiMo V2.6 Pro UltraSpeed Xiaomi | enable_thinking | 기본값 true |
| MiniMax M3 MiniMax | enable_thinking | 기본값 true |
| MiniMax M3.1 Flash MiniMax | reasoning_effort | low, medium, high, xhigh, max; 기본값 max |
| Muse Glimmer 30B Meta AI | reasoning_effort | none, low, medium, high, max; 기본값 high |
| Muse Spark 1.1 Meta AI | reasoning_effort | minimal, low, medium, high, xhigh; 기본값 medium |
| Muse Spark 1.2 Meta AI | reasoning_effort | minimal, low, medium, high, xhigh; 기본값 medium |
| Muse Spark 1.3 Meta AI | reasoning_effort | minimal, low, medium, high, xhigh; 기본값 medium |
| Perplexity Advanced Deep Research Perplexity | reasoning_effort | low, medium, high; 기본값 medium |
| Perplexity Deep Research Perplexity | reasoning_effort | low, medium, high; 기본값 medium |
| Perplexity Pro Search Perplexity | reasoning_effort | minimal, low, medium, high; 기본값 minimal |
| Perplexity Sonar Reasoning Pro Perplexity | reasoning_effort | low, medium, high; 기본값 medium |
| Step 3.5 Flash 2603 StepFun | reasoning_effort | low, high; 기본값 low |
| Step 3.7 Flash StepFun | reasoning_effort | low, medium, high; 기본값 low |
| Step 5 Preview StepFun | reasoning_effort | low, medium, high; 기본값 low |
네. 추론은 생성된 텍스트이기 때문에, 모델이 반환하지 않아도 청구됩니다. 대부분의 모델에서는 출력 토큰으로 청구되며, 각 모델 페이지마다 그 방식이 명시되어 있습니다.
많은 모델에서는 네, 모델이 제공하는 컨트롤에 따라 enable_thinking를 false로 또는 reasoning_effort 없음으로 설정하세요. 어떤 모델은 항상 이성적으로 노력 수준만 변경할 수 있습니다.
reasoning_effort 낮은 또는 높은 깊이 등 이름 붙인 깊이 수준을 선택합니다. thinking_budget 생각이 켜졌을 때 추론을 위한 최대 토큰 수를 설정합니다.
출력 한계가 너무 낮으면, 모델은 모든 것을 추론에 쓸 수 있습니다. max_completion_tokens 또는 max_tokens을 올리거나 추론 노력을 낮추어 답을 위한 여지를 남겨두세요.