추론 모델이란 무엇인가?

추론 모델은 중간 추론 토큰에서 문제를 처리한 후 최종 답을 작성합니다. 이는 수학, 코드, 계획 등 다단계 작업에서 결과를 개선하고, 더 많은 출력 토큰과 시간을 사용하며, 추론 노력과 같은 설정이 이를 제어합니다.

개념

추론 모델이 작동하는 방식

표준 언어 모델은 즉시 답을 작성하기 시작합니다. 추론 모델은 먼저 일련의 중간 단계(흔히 사고라고 불림)를 생성한 뒤, 답을 작성합니다. 그 단계에서 문제를 여러 부분으로 나누고, 계산을 수행하며, 접근법을 테스트하고 스스로 수정한 뒤에야 결과에 도달할 수 있습니다.

추론은 별도의 모델이 아니라 하나의 역량입니다. 텍스트 모델도 추론 모델이 될 수 있으며, 많은 모델이 각 요청마다 추론을 켜거나 끌 수 있습니다. 어떤 모델은 항상 추론을 하고, 그 정도는 보통 조정할 수 있습니다.

추론이 도움이 될 때

추론은 여러 단계에 의존하는 과제에서 결과를 향상시킵니다:

  • 수학, 정량적 분석 및 논리 문제;
  • 코드를 작성, 검토 및 디버깅;
  • 계획, 그리고 여러 턴에 걸쳐 도구 중에서 선택하는 에이전트;
  • 정보가 길거나 상충하는 분석.

간단한 조회, 분류, 짧은 재작성, 일상적인 대화에는 거의 도움이 되지 않으며, 주로 지연 시간과 토큰 출력만 추가합니다. 그런 작업에는 노력을 줄이거나 추론을 끄세요.

추론 모델을 위한 프롬프트는 목표, 제약 조건, 예상되는 답변 형식을 명시하고 계획 준비는 모델에 맡길 때 가장 효과적입니다. 상세한 step-by-step 지침은 보통 불필요한데, 왜냐하면 추론 단계가 단계를 짜는 것이 바로 그 역할을 하기 때문입니다.

모델이 얼마나 이론을 적용하는지 제어하기

EmpirioLabs AI 세 가지 컨트롤을 노출하며, 각 모델은 이 페이지에 나열된 컨트롤을 지원합니다:

  • 이유 effort 깊이를 다음과 같은 명명된 레벨로 설정합니다 낮게·, 중간 그리고 하이. 많은 모델에서, 이름 * 추론을 끕니다. 사용 가능한 수준은 모델에 따라 다릅니다.
  • thinking_budget 생각이 켜져 있을 때 모델이 추론에 쓸 수 있는 가장 많은 토큰을 설정합니다. 이 부분을 빼면 많은 모델들이 스스로 추론할 시간을 결정합니다.
  • enable thinking을 활성화 선택권을 제공하는 모델에 대해 추론을 켜거나 끄는 기능을 조절합니다.

이 매개변수들은 다음과 같이 허용됩니다 /v1/chat/completions·, /v1/responses 에 그리고 /v1/messages 에 각 엔드포인트를 지원하는 모델에 대해. On /v1/messages 에 또한 다음 이메일을 보낼 수도 있습니다 생각 객체: 활성화 이름 * budget_tokens 예산을 설정하고, 적응형 그 없이도 사고를 작동시키고, 비활성화됨 이를 끕니다. 일부 모델에서는 다음을 사용하는 요청이 있습니다 response_format 또는 도구가 이유 없이 강제로 응답하도록 하거나, 세트가 설정되지 않는 한 enable thinking을 활성화. 참고 엔드포인트 간 모델 매개변수 자세한 내용.

추론 토큰, 한계 및 비용

추론은 생성된 텍스트이기 때문에, 당신이 그것을 못해도 청구됩니다. 대부분의 모델에서 추론 토큰은 출력 토큰으로 청구되며, 각 모델 페이지마다 그 방법을 명시합니다. 일부 모델은 추론 텍스트를 반환합니다. 예를 들어 사이트 맵 채팅 완료 시 응답 시 응답만 반환합니다. On /v1/responses 에·, usage.output_tokens_details.reasoning_tokens 사용된 수를 보고합니다. 일부 모델에서는, preserve_thinking 이전 조수의 논리를 보내고 다시 모델로 돌아갑니다. /v1/chat/completions, 그리고 이전 추론 청구를 입력 토큰으로 사용하는 것.

추론 역시 산출 한계에 포함됩니다. max_completion_tokens 추론과 답변을 함께 하며, 일부 모델에서는 max_tokens 그렇습니다. 한계가 너무 낮으면 모델은 추론에 시간을 써서 짧거나 빈 답변을 반환할 수 있으니, 둘 다 허용할 여지를 남겨두세요.

더 많은 노력은 답변이 시작되기 전 더 긴 대기 시간을 의미합니다. 응답을 스트리밍하여 진행 상황을 보여주고, 15분 이상 지속되는 응답의 경우 다음을 사용하세요 WebSocket 모드의 /v1/responses 에. 추론 능력이 있는 사람 비교 텍스트 모델, 또는 다른 노력 수준을 시도해 보세요. Playground·.

reasoning_effort, thinking_budget, enable_thinking 파라미터를 지원하는 모델

모델 65개. 각 모델 페이지에 요금표, 파라미터, 코드가 있습니다.

모델파라미터범위 / 값
DeepSeek V4 Flash 0731 DeepSeekreasoning_effort thinking_budget enable_thinkingreasoning_effort: none, low, medium, high, max; 기본값 medium
thinking_budget: 1 ~ 393216; 기본값 32768
enable_thinking: 기본값 true
DeepSeek V4 Pro DeepSeekreasoning_effort thinking_budget enable_thinkingreasoning_effort: none, low, medium, high, max; 기본값 medium
thinking_budget: 1 ~ 393216; 기본값 32768
enable_thinking: 기본값 true
DeepSeek V4 Pro 0813 DeepSeekreasoning_effort thinking_budget enable_thinkingreasoning_effort: none, low, medium, high, max; 기본값 medium
thinking_budget: 1 ~ 393216; 기본값 32768
enable_thinking: 기본값 true
DeepSeek V4.1 Flash 1017 DeepSeekreasoning_effort thinking_budget enable_thinkingreasoning_effort: none, low, medium, high, max; 기본값 medium
thinking_budget: 1 ~ 393216; 기본값 32768
enable_thinking: 기본값 true
GLM 5.1 Z.aireasoning_effort thinking_budget enable_thinkingreasoning_effort: none, low, medium, high, max; 기본값 medium
thinking_budget: 1 ~ 38912; 기본값 32768
enable_thinking: 기본값 true
Gemma 4 26B-A4B Googlereasoning_effort thinking_budget enable_thinkingreasoning_effort: none, low, medium, high, max; 기본값 medium
thinking_budget: 128 ~ 32768; 기본값 4096
enable_thinking: 기본값 true
Kimi K2.6 Moonshot AIreasoning_effort thinking_budget enable_thinkingreasoning_effort: none, low, medium, high, max; 기본값 medium
thinking_budget: 1 ~ 81920; 기본값 32768
enable_thinking: 기본값 true
Qwen3.5 122B-A10B Alibaba Cloudreasoning_effort thinking_budget enable_thinkingreasoning_effort: none, low, medium, high, max
thinking_budget: 1 ~ 81920
enable_thinking: 기본값 true
모델 65개 모두 보기
모델파라미터범위 / 값
Qwen3.5 27B Alibaba Cloudreasoning_effort thinking_budget enable_thinkingreasoning_effort: none, low, medium, high, max
thinking_budget: 1 ~ 81920
enable_thinking: 기본값 true
Qwen3.5 35B-A3B Alibaba Cloudreasoning_effort thinking_budget enable_thinkingreasoning_effort: none, low, medium, high, max
thinking_budget: 1 ~ 81920
enable_thinking: 기본값 true
Qwen3.5 397B-A17B Alibaba Cloudreasoning_effort thinking_budget enable_thinkingreasoning_effort: none, low, medium, high, max
thinking_budget: 1 ~ 81920
enable_thinking: 기본값 true
Qwen3.5 4B Alibaba Cloudreasoning_effort thinking_budget enable_thinkingreasoning_effort: none, low, medium, high, max; 기본값 medium
thinking_budget: 1024 ~ 32768; 기본값 4096
enable_thinking: 기본값 true
Qwen3.5 9B Alibaba Cloudreasoning_effort thinking_budget enable_thinkingreasoning_effort: none, low, medium, high, max; 기본값 medium
thinking_budget: 1024 ~ 32768; 기본값 4096
enable_thinking: 기본값 true
Qwen3.6 27B Alibaba Cloudreasoning_effort thinking_budget enable_thinkingreasoning_effort: none, low, medium, high, max
thinking_budget: 1 ~ 131072
enable_thinking: 기본값 true
Qwen3.6 Flash Alibaba Cloudreasoning_effort thinking_budget enable_thinkingreasoning_effort: none, low, medium, high, max; 기본값 medium
thinking_budget: 1 ~ 64000; 기본값 32768
enable_thinking: 기본값 true
Qwen3.6 Plus Alibaba Cloudreasoning_effort thinking_budget enable_thinkingreasoning_effort: none, low, medium, high, max
thinking_budget: 1 ~ 131072
enable_thinking: 기본값 true
Qwen3.7 Flash Alibaba Cloudreasoning_effort thinking_budget enable_thinkingreasoning_effort: none, low, medium, high, max
thinking_budget: 1 ~ 131072
enable_thinking: 기본값 true
Qwen3.7 Max Alibaba Cloudreasoning_effort thinking_budget enable_thinkingreasoning_effort: none, low, medium, high, max
thinking_budget: 1 ~ 262144
enable_thinking: 기본값 true
Qwen3.7 Plus Alibaba Cloudreasoning_effort thinking_budget enable_thinkingreasoning_effort: none, low, medium, high, max
thinking_budget: 1 ~ 262144
enable_thinking: 기본값 true
Qwen3.8 Flash Alibaba Cloudreasoning_effort thinking_budget enable_thinkingreasoning_effort: none, low, medium, high, max
thinking_budget: 1 ~ 262144
enable_thinking: 기본값 true
Qwen3.8 Max Alibaba Cloudreasoning_effort thinking_budget enable_thinkingreasoning_effort: none, low, medium, high, max
thinking_budget: 1 ~ 262144
enable_thinking: 기본값 true
Qwen3.8 Max 0902 Alibaba Cloudreasoning_effort thinking_budget enable_thinkingreasoning_effort: none, low, medium, high, max
thinking_budget: 1 ~ 262144
enable_thinking: 기본값 true
Qwen3.8 Omni Flash Alibaba Cloudreasoning_effort thinking_budget enable_thinkingreasoning_effort: none, low, medium, high, max
thinking_budget: 1 ~ 262144
enable_thinking: 기본값 true
Qwen4 Max Alibaba Cloudreasoning_effort thinking_budget enable_thinkingreasoning_effort: low, high, xhigh; 기본값 high
thinking_budget: 1 ~ 262144
enable_thinking: 기본값 true
GLM 5.2 Z.aireasoning_effort enable_thinkingreasoning_effort: none, minimal, low, medium, high, xhigh, max; 기본값 max
enable_thinking: 기본값 true
Kimi K3.1 Pro Moonshot AIreasoning_effort enable_thinkingreasoning_effort: low, medium, high, max; 기본값 max
enable_thinking: 기본값 true
Nova Lite 2 Amazonreasoning_effort enable_thinkingreasoning_effort: low, medium, high; 기본값 medium
enable_thinking: 기본값 true
Qwen3.5 Flash Alibaba Cloudthinking_budget enable_thinkingthinking_budget: 1 ~ 81920
enable_thinking: 기본값 true
Qwen3.5 Plus Alibaba Cloudthinking_budget enable_thinkingthinking_budget: 1 ~ 81920
enable_thinking: 기본값 true
Qwen3.6 35B A3B Alibaba Cloudreasoning_effort enable_thinkingreasoning_effort: none, low, medium, high, max; 기본값 medium
enable_thinking: 기본값 true
Qwen3.8 27B Alibaba Cloudreasoning_effort enable_thinkingreasoning_effort: none, low, medium, xhigh; 기본값 xhigh
enable_thinking: 기본값 true
Seed 2.0 Code ByteDancereasoning_effort enable_thinkingreasoning_effort: low, medium, high; 기본값 medium
enable_thinking: 기본값 true
Seed 2.0 Lite ByteDancereasoning_effort enable_thinkingreasoning_effort: low, medium, high; 기본값 medium
enable_thinking: 기본값 true
Seed 2.0 Mini ByteDancereasoning_effort enable_thinkingreasoning_effort: low, medium, high; 기본값 medium
enable_thinking: 기본값 true
Seed 2.0 Pro ByteDancereasoning_effort enable_thinkingreasoning_effort: low, medium, high; 기본값 medium
enable_thinking: 기본값 true
Seed 2.1 Turbo ByteDancereasoning_effort enable_thinkingreasoning_effort: low, medium, high; 기본값 high
enable_thinking: 기본값 true
Fugu Max Sakana AIreasoning_efforthigh, xhigh, max; 기본값 high
Fugu Ultra v1.0 Sakana AIreasoning_efforthigh, xhigh, max; 기본값 high
Fugu Ultra v1.1 Sakana AIreasoning_efforthigh, xhigh, max; 기본값 high
Fugu Ultra v2.0 Sakana AIreasoning_efforthigh, xhigh, max; 기본값 high
GLM 4.5 Flash Z.aienable_thinking기본값 true
GLM 4.6V Flash Z.aienable_thinking기본값 true
GLM 4.6V FlashX Z.aienable_thinking기본값 true
GLM 4.7 Flash Z.aienable_thinking기본값 true
GLM 4.7 FlashX Z.aienable_thinking기본값 true
GLM 5.3 Z.aireasoning_effortlow, high, max; 기본값 max
GLM 5.3 Flash Z.aireasoning_effortlow, high, max; 기본값 max
Gemini 3.8 Live Extended Thinking Googlereasoning_effortlow, medium, high; 기본값 medium
Kimi K3 Moonshot AIreasoning_effortlow, high, max; 기본값 max
MiMo V2.6 Flash Xiaomienable_thinking기본값 true
MiMo V2.6 Pro Xiaomienable_thinking기본값 true
MiMo V2.6 Pro UltraSpeed Xiaomienable_thinking기본값 true
MiniMax M3 MiniMaxenable_thinking기본값 true
MiniMax M3.1 Flash MiniMaxreasoning_effortlow, medium, high, xhigh, max; 기본값 max
Muse Glimmer 30B Meta AIreasoning_effortnone, low, medium, high, max; 기본값 high
Muse Spark 1.1 Meta AIreasoning_effortminimal, low, medium, high, xhigh; 기본값 medium
Muse Spark 1.2 Meta AIreasoning_effortminimal, low, medium, high, xhigh; 기본값 medium
Muse Spark 1.3 Meta AIreasoning_effortminimal, low, medium, high, xhigh; 기본값 medium
Perplexity Advanced Deep Research Perplexityreasoning_effortlow, medium, high; 기본값 medium
Perplexity Deep Research Perplexityreasoning_effortlow, medium, high; 기본값 medium
Perplexity Pro Search Perplexityreasoning_effortminimal, low, medium, high; 기본값 minimal
Perplexity Sonar Reasoning Pro Perplexityreasoning_effortlow, medium, high; 기본값 medium
Step 3.5 Flash 2603 StepFunreasoning_effortlow, high; 기본값 low
Step 3.7 Flash StepFunreasoning_effortlow, medium, high; 기본값 low
Step 5 Preview StepFunreasoning_effortlow, medium, high; 기본값 low

자주 묻는 질문

추론 토큰에 요금이 청구되나요?

네. 추론은 생성된 텍스트이기 때문에, 모델이 반환하지 않아도 청구됩니다. 대부분의 모델에서는 출력 토큰으로 청구되며, 각 모델 페이지마다 그 방식이 명시되어 있습니다.

추론을 꺼도 되나요?

많은 모델에서는 네, 모델이 제공하는 컨트롤에 따라 enable_thinking를 false로 또는 reasoning_effort 없음으로 설정하세요. 어떤 모델은 항상 이성적으로 노력 수준만 변경할 수 있습니다.

reasoning_effort와 thinking_budget의 차이점은 무엇인가요?

reasoning_effort 낮은 또는 높은 깊이 등 이름 붙인 깊이 수준을 선택합니다. thinking_budget 생각이 켜졌을 때 추론을 위한 최대 토큰 수를 설정합니다.

왜 추론 모델은 빈 답변을 반환했을까요?

출력 한계가 너무 낮으면, 모델은 모든 것을 추론에 쓸 수 있습니다. max_completion_tokens 또는 max_tokens을 올리거나 추론 노력을 낮추어 답을 위한 여지를 남겨두세요.

더 나은 엔드포인트를 사용할 준비가 되셨나요?

저희 가격을 확인하시거나 저희 스택에 자체 모델을 배포하고 싶으시면 연락해 주세요.