온도, top_p, 씨앗은 어떤 역할을 하나요?

온도와 top_p은 모델이 다음 토큰을 선택하는 방식을 결정합니다: 낮은 값은 출력에 집중되고 반복 가능하며, 값이 높을수록 더 다양합니다. 시드는 무작위 선택지를 고정하므로, 같은 요청과 동일한 시드에서 동일하거나 매우 유사한 결과를 반환합니다.

개념

모델이 다음 토큰을 선택하는 방법

언어 모델은 한 번에 하나의 토큰을 작성합니다. 각 단계마다 어휘 내 모든 토큰에 확률을 할당하고, 샘플링 단계에서 그 중 하나를 선택합니다. 온도 및 상단 p 픽 전에 그 확률을 재구성하면, 시드가 픽에서 사용하는 무작위 숫자를 고정합니다. 이 셋이 함께 결과물이 얼마나 예측 가능한지 또는 다양한지 결정합니다.

온도

온도는 모델이 가장 가능성 높은 토큰을 얼마나 강하게 선호하는지를 나타냅니다. 낮은 값은 선택을 상위 후보에 집중시켜 출력이 집중되고 일관성을 높입니다. 높은 값은 선택을 더 많은 후보에 분산시켜 출력이 더 다양해지고, 일정 지점을 넘어서는 일관성이 떨어집니다. At 0, 모델은 거의 항상 가장 가능성 높은 단일 토큰을 선택한다.

  • 0에서 0.3까지: 추출, 분류, 코드 및 사실 답변.
  • 0.5에서 1.0까지: 일반적인 대화와 글쓰기.
  • 1.0 이상: 브레인스토밍과 다양한 초안을 작성하고, 결과를 면밀히 검토하는 것.

허용되는 범위는 모델마다 다릅니다: 어떤 것은 0에서 1까지, 많은 것은 2까지 가능합니다. 온도를 제외하면 모델 자체의 기본값이 적용됩니다. 일부 음성 모델에서는 온도가 어떤 단어가 나타나는지가 아니라 목소리의 표현력과 변화를 결정합니다. 일부 추론 모델은 고정 샘플링 설정을 사용하며 온도를 무시하며, 모델 페이지에 그렇게 명시되어 있습니다.

상단 p

상단 p, 또는 핵 샘플링이라고도 하며, 선택을 제한하는 것은 설정한 값에 확률이 합이 되는 가장 작은 토큰 집합으로 제한된다. At 1, 어떤 토큰도 제외되지 않습니다. At 0.9, 확률의 마지막 10%를 함께 차지하는 가장 가능성이 낮은 토큰들은 샘플링 전에 제거됩니다. 값이 낮을수록 출력에 더 집중됩니다.

온도 조절 또는 상단 p, 보통 둘 다 아니며, 두 가지를 동시에 바꾸면 효과를 예측하기 어렵기 때문이다. 일부 모델은 다음을 수용하기도 한다. top_k, 이는 K의 가장 가능성 높은 토큰만 유지합니다.

시드

샘플링은 무작위 수에 의존합니다. A 씨앗 시작 지점을 수정해주므로, 같은 시드와 설정을 가진 동일한 요청을 보내면 같은 선택이 반복되는 경향이 있습니다. 이는 프롬프트를 테스트하거나 애플리케이션을 디버깅하거나 두 버전의 프롬프트를 공정하게 비교할 때 도움이 됩니다.

텍스트 모델에서 시드는 보장되지 않습니다. 많은 텍스트 모델의 모델 페이지는 결과를 비슷하지만 항상 동일하지 않다고 설명합니다: 실행 간 작은 수치 차이, 최신 모델 버전, 입력이나 설정의 변경이 출력 결과를 바꿀 수 있습니다. 일부 모델에서는 웹 검색이 켜져 있을 때 시드가 적용되지 않습니다. 똑같은 텍스트를 다시 필요로 할 때는 응답을 다시 생성하지 않고 저장하세요.

많은 이미지, 비디오 및 오디오 생성 모델도 시드를 허용합니다. 동일한 프롬프트와 설정으로 다시 사용하면 모델에 따라 동일한 결과나 근접한 차이가 나오므로, 한 가지 프롬프트를 단계별로 다듬기가 더 쉬워집니다.

테스트 설정

한 번에 한 가지 설정을 변경하고 동일한 프롬프트에 대해 여러 출력을 비교하세요. 단일 샘플은 오해를 불러일으킬 수 있습니다. 정답이 하나뿐인 작업의 경우, 출력이 반복적으로 느껴질 때만 낮은 온도로 시작해 온도를 올리세요. 개방형 글쓰기의 경우, 모델 범위의 중간 지점에서 시작해 거기서부터 조정하세요. 이 페이지에 나열된 모델들은 각 매개변수 중 어떤 것을 받아들이는지 보여줍니다. 값들을 시도해 보세요 Playground 코드를 입력하기 전에, 그리고 이에 대해 읽어보기 전에요. 추론 모델, 이 중 일부는 샘플링 설정을 수정합니다.

temperature, top_p, seed 파라미터를 지원하는 모델

모델 113개. 각 모델 페이지에 요금표, 파라미터, 코드가 있습니다.

모델파라미터범위 / 값
Gemma 4 26B-A4B Googletemperature top_p seedtemperature: 0 ~ 2; 기본값 1
top_p: 0.01 ~ 1; 기본값 0.95
seed: 0 ~ 2147483647
Muse Spark 1.1 Meta AItemperature top_p seedtemperature: 0 ~ 2; 기본값 1
top_p: 0.01 ~ 1; 기본값 1
seed: -
Muse Spark 1.2 Meta AItemperature top_p seedtemperature: 0 ~ 2; 기본값 1
top_p: 0.01 ~ 1; 기본값 1
seed: -
Qwen3.5 122B-A10B Alibaba Cloudtemperature top_p seedtemperature: 0 ~ 1.99; 기본값 0.7
top_p: 0 ~ 1; 기본값 0.9
seed: 0 ~ 2147483647
Qwen3.5 27B Alibaba Cloudtemperature top_p seedtemperature: 0 ~ 1.99; 기본값 0.7
top_p: 0 ~ 1; 기본값 0.9
seed: 0 ~ 2147483647
Qwen3.5 35B-A3B Alibaba Cloudtemperature top_p seedtemperature: 0 ~ 1.99; 기본값 0.7
top_p: 0 ~ 1; 기본값 0.9
seed: 0 ~ 2147483647
Qwen3.5 397B-A17B Alibaba Cloudtemperature top_p seedtemperature: 0 ~ 1.99; 기본값 0.7
top_p: 0 ~ 1; 기본값 0.9
seed: 0 ~ 2147483647
Qwen3.5 4B Alibaba Cloudtemperature top_p seedtemperature: 0 ~ 2; 기본값 0.7
top_p: 0.01 ~ 1; 기본값 0.95
seed: 0 ~ 2147483647
모델 113개 모두 보기
모델파라미터범위 / 값
Qwen3.5 9B Alibaba Cloudtemperature top_p seedtemperature: 0 ~ 2; 기본값 0.7
top_p: 0.01 ~ 1; 기본값 0.95
seed: 0 ~ 2147483647
Qwen3.5 Flash Alibaba Cloudtemperature top_p seedtemperature: 0 ~ 1.99; 기본값 0.7
top_p: 0 ~ 1; 기본값 0.9
seed: 0 ~ 2147483647
Qwen3.5 Omni Flash Realtime Alibaba Cloudtemperature top_p seedtemperature: 0 ~ 1.99
top_p: 0.01 ~ 1
seed: 0 ~ 2147483647
Qwen3.5 Omni Plus Realtime Alibaba Cloudtemperature top_p seedtemperature: 0 ~ 1.99
top_p: 0.01 ~ 1
seed: 0 ~ 2147483647
Qwen3.5 Plus Alibaba Cloudtemperature top_p seedtemperature: 0 ~ 1.99; 기본값 0.7
top_p: 0 ~ 1; 기본값 0.9
seed: 0 ~ 2147483647
Qwen3.6 27B Alibaba Cloudtemperature top_p seedtemperature: 0 ~ 1.99; 기본값 0.7
top_p: 0 ~ 1; 기본값 0.9
seed: 0 ~ 2147483647
Qwen3.6 35B A3B Alibaba Cloudtemperature top_p seedtemperature: 최소 0; 기본값 0.7
top_p: 0.01 ~ 1; 기본값 0.95
seed: 0 ~ 2147483647
Qwen3.6 Flash Alibaba Cloudtemperature top_p seedtemperature: 0 ~ 1.99; 기본값 0.7
top_p: 0 ~ 1; 기본값 0.9
seed: 0 ~ 2147483647
Qwen3.6 Plus Alibaba Cloudtemperature top_p seedtemperature: 0 ~ 1.99; 기본값 0.7
top_p: 0 ~ 1; 기본값 0.9
seed: 0 ~ 2147483647
Qwen3.7 Flash Alibaba Cloudtemperature top_p seedtemperature: 0 ~ 1.99; 기본값 0.7
top_p: 0 ~ 1; 기본값 0.9
seed: 0 ~ 2147483647
Qwen3.7 Max Alibaba Cloudtemperature top_p seedtemperature: 0 ~ 1.99; 기본값 0.7
top_p: 0 ~ 1; 기본값 0.9
seed: 0 ~ 2147483647
Qwen3.7 Plus Alibaba Cloudtemperature top_p seedtemperature: 0 ~ 1.99; 기본값 0.7
top_p: 0 ~ 1; 기본값 0.9
seed: 0 ~ 2147483647
Qwen3.8 27B Alibaba Cloudtemperature top_p seedtemperature: 0 ~ 2; 기본값 1
top_p: 0.01 ~ 1; 기본값 0.95
seed: 0 ~ 2147483647
Qwen3.8 Flash Alibaba Cloudtemperature top_p seedtemperature: 0 ~ 1.99; 기본값 0.7
top_p: 0 ~ 1; 기본값 0.9
seed: 0 ~ 2147483647
Qwen3.8 Max Alibaba Cloudtemperature top_p seedtemperature: 0 ~ 1.99; 기본값 0.7
top_p: 0 ~ 1; 기본값 0.9
seed: 0 ~ 2147483647
Qwen3.8 Max 0902 Alibaba Cloudtemperature top_p seedtemperature: 0 ~ 1.99; 기본값 0.7
top_p: 0 ~ 1; 기본값 0.9
seed: 0 ~ 2147483647
Qwen3.8 Omni Flash Alibaba Cloudtemperature top_p seedtemperature: 0 ~ 1.99; 기본값 0.7
top_p: 0 ~ 1; 기본값 0.9
seed: 0 ~ 2147483647
Qwen3.8 Omni Flash Realtime Alibaba Cloudtemperature top_p seedtemperature: 0 ~ 1.99
top_p: 0.01 ~ 1
seed: 0 ~ 2147483647
Qwen4 Max Alibaba Cloudtemperature top_p seedtemperature: 0 ~ 1.99; 기본값 0.7
top_p: 0 ~ 1; 기본값 0.9
seed: 0 ~ 2147483647
SoulX Podcast Soul AI Labtemperature top_p seedtemperature: 0.1 ~ 2; 기본값 0.6
top_p: 0.1 ~ 1; 기본값 0.9
seed: 기본값 42
DeepReasoning WinFunctemperature top_ptemperature: 0 ~ 2; 기본값 0.7
top_p: 0 ~ 1; 기본값 0.9
DeepSeek V4 Flash 0731 DeepSeektemperature top_ptemperature: 0 ~ 2; 기본값 0.7
top_p: 0 ~ 1; 기본값 0.9
DeepSeek V4 Pro DeepSeektemperature top_ptemperature: 0 ~ 2; 기본값 0.7
top_p: 0 ~ 1; 기본값 0.9
DeepSeek V4 Pro 0813 DeepSeektemperature top_ptemperature: 0 ~ 2; 기본값 0.7
top_p: 0 ~ 1; 기본값 0.9
DeepSeek V4.1 Flash 1017 DeepSeektemperature top_ptemperature: 0 ~ 2; 기본값 0.7
top_p: 0 ~ 1; 기본값 0.9
GLM 4.5 Flash Z.aitemperature top_ptemperature: 0 ~ 1; 기본값 0.6
top_p: 0.01 ~ 1; 기본값 0.95
GLM 4.6V Flash Z.aitemperature top_ptemperature: 0 ~ 1; 기본값 1
top_p: 0.01 ~ 1; 기본값 0.95
GLM 4.6V FlashX Z.aitemperature top_ptemperature: 0 ~ 1; 기본값 1
top_p: 0.01 ~ 1; 기본값 0.95
GLM 4.7 Flash Z.aitemperature top_ptemperature: 0 ~ 1; 기본값 1
top_p: 0.01 ~ 1; 기본값 0.95
GLM 4.7 FlashX Z.aitemperature top_ptemperature: 0 ~ 1; 기본값 1
top_p: 0.01 ~ 1; 기본값 0.95
GLM 5.1 Z.aitemperature top_ptemperature: 0 ~ 1.99; 기본값 1
top_p: 0 ~ 1; 기본값 0.95
GLM 5.2 Z.aitemperature top_ptemperature: 0 ~ 1; 기본값 1
top_p: 0.01 ~ 1; 기본값 0.95
GLM 5.3 Z.aitemperature top_ptemperature: 0 ~ 1; 기본값 1
top_p: 0.01 ~ 1; 기본값 0.95
GLM 5.3 Flash Z.aitemperature top_ptemperature: 0 ~ 1; 기본값 1
top_p: 0.01 ~ 1; 기본값 0.95
Gemma 3 27B Googletemperature top_ptemperature: 0 ~ 2; 기본값 1
top_p: 0.01 ~ 1; 기본값 1
Kimi K2.6 Moonshot AItemperature top_ptemperature: 0 ~ 1.99; 기본값 0.7
top_p: 0 ~ 1; 기본값 0.9
MiMo V2.6 Flash Xiaomitemperature top_ptemperature: 0 ~ 1.5; 기본값 1
top_p: 0.01 ~ 1; 기본값 0.95
MiMo V2.6 Pro Xiaomitemperature top_ptemperature: 0 ~ 1.5; 기본값 1
top_p: 0.01 ~ 1; 기본값 0.95
MiMo V2.6 Pro UltraSpeed Xiaomitemperature top_ptemperature: 0 ~ 1.5; 기본값 1
top_p: 0.01 ~ 1; 기본값 0.95
Mistral Small 3.1 Mistral AItemperature top_ptemperature: 0 ~ 5; 기본값 0.15
top_p: 0.01 ~ 1; 기본값 1
Muse Glimmer 30B Meta AItemperature top_ptemperature: 최소 0; 기본값 1
top_p: 0.01 ~ 1; 기본값 0.95
Muse Spark 1.3 Meta AItemperature top_ptemperature: 0 ~ 2; 기본값 1
top_p: 0.01 ~ 1; 기본값 1
Nova Lite 1.0 Amazontemperature top_ptemperature: 0 ~ 1; 기본값 0.7
top_p: 0 ~ 1; 기본값 0.9
Nova Lite 2 Amazontemperature top_ptemperature: 0 ~ 1; 기본값 0.7
top_p: 0 ~ 1; 기본값 0.9
Nova Micro 1.0 Amazontemperature top_ptemperature: 0 ~ 1; 기본값 0.7
top_p: 0 ~ 1; 기본값 0.9
Nova Pro 1.0 Amazontemperature top_ptemperature: 0 ~ 1; 기본값 0.7
top_p: 0 ~ 1; 기본값 0.9
Qwen3.5 Omni Flash Alibaba Cloudtemperature top_ptemperature: 0 ~ 1.99; 기본값 0.7
top_p: 0 ~ 1; 기본값 0.9
Qwen3.5 Omni Plus Alibaba Cloudtemperature top_ptemperature: 0 ~ 1.99; 기본값 0.7
top_p: 0 ~ 1; 기본값 0.9
Seed 2.0 Mini ByteDancetemperature top_ptemperature: 0 ~ 2; 기본값 0.7
top_p: 0 ~ 1; 기본값 0.9
Step 3.5 Flash StepFuntemperature top_ptemperature: 0 ~ 2; 기본값 0.5
top_p: 0.01 ~ 1; 기본값 0.9
Step 3.5 Flash 2603 StepFuntemperature top_ptemperature: 0 ~ 2; 기본값 0.5
top_p: 0.01 ~ 1; 기본값 0.9
Step 3.7 Flash StepFuntemperature top_ptemperature: 0 ~ 2; 기본값 0.5
top_p: 0.01 ~ 1; 기본값 0.9
Step 5 Preview StepFuntemperature top_ptemperature: 0 ~ 2; 기본값 0.5
top_p: 0.01 ~ 1; 기본값 0.9
StepAudio 2.5 Chat StepFuntemperature top_ptemperature: 0 ~ 2; 기본값 0.5
top_p: 0.01 ~ 1; 기본값 0.9
StepAudio 3 Chat StepFuntemperature top_ptemperature: 0 ~ 2; 기본값 0.5
top_p: 0.01 ~ 1; 기본값 0.9
StepAudio 3 Music StepFuntemperature top_ptemperature: 0.01 ~ 2; 기본값 0.85
top_p: 0 ~ 1; 기본값 0.92
ACE-Step 1.5 XL ACE-Stepseed-
FLUX.2 Klein 4B Black Forest Labsseed-
GLM TTS Z.aiseed-
Gemini 3.8 Live Googletemperature0.2 ~ 2
Gemini 3.8 Live Extended Thinking Googletemperature0.2 ~ 2
HappyHorse 1.0 Alibaba Cloudseed-
HappyHorse 1.1 Alibaba Cloudseed0 ~ 2147483647
Hunyuan Image 3 Tencentseed-
Hunyuan Video 1.5 Tencentseed최소 0
Hyper3D Gen2 Deemosseed0 ~ 65535
MOSS Video and Audio OpenMOSSseed0 ~ 4294967295
MOSS-Image Turbo OpenMOSSseed0 ~ 2147483647
MiniMax Music 3 MiniMaxseed-
Mistral Small 4 Mistral AItemperature0 ~ 1; 기본값 0.7
OpenAI Whisper 1 OpenAItemperature0 ~ 1; 기본값 0
PixVerse V6 Max PixVerseseed0 ~ 2147483647
Pixverse C1 PixVerseseed0 ~ 2147483647
Pixverse Edit PixVerseseed0 ~ 2147483647
Pixverse v5 PixVerseseed-
Pixverse v5.6 PixVerseseed-
Pixverse v6 PixVerseseed0 ~ 2147483647
Qwen Audio 3.0 TTS Alibaba Cloudseed0 ~ 65535; 기본값 0
Qwen Audio 3.1 TTS Alibaba Cloudseed0 ~ 65535; 기본값 0
Qwen Audio 3.1 TTS Next Alibaba Cloudseed0 ~ 2147483647
Qwen Audio 3.1 TTS Plus Alibaba Cloudseed0 ~ 65535; 기본값 0
Qwen Image 2.0 Alibaba Cloudseed0 ~ 2147483647
Qwen Image 2.1 Alibaba Cloudseed0 ~ 2147483647
Qwen Image 3.0 Alibaba Cloudseed0 ~ 2147483647
Seedance 2.5 ByteDanceseed-1 ~ 2147483647
Seedance 2.5 Flash ByteDanceseed-1 ~ 2147483647
Stable Audio 2.0 Stability AIseed-
Stable Audio 2.5 Stability AIseed-
Stable Audio 3 Medium Stability AIseed0 ~ 2147483647
TRELLIS.2 4B Microsoftseed0 ~ 2147483647; 기본값 42
TTS 1.5 Max Inworldtemperature0.1 ~ 2; 기본값 1
TTS 1.5 Mini Inworldtemperature0.1 ~ 2; 기본값 1
TTS 2 Inworldtemperature0.1 ~ 2; 기본값 1
TTS 2 Flash Inworldtemperature0.1 ~ 2; 기본값 1
Wan 2.1 Alibaba Cloudseed-
Wan 2.2 Alibaba Cloudseed-
Wan 2.5 Alibaba Cloudseed-
Wan 2.6 Alibaba Cloudseed-
Wan 2.7 Alibaba Cloudseed-
Wan 3.0 Alibaba Cloudseed0 ~ 2147483647
Wan2.1 Image Alibaba Cloudseed0 ~ 2147483647
Wan2.2 Image Alibaba Cloudseed0 ~ 2147483647
Wan2.5 Image Alibaba Cloudseed0 ~ 2147483647
Wan2.7 Image Alibaba Cloudseed0 ~ 2147483647
Whisper Large v3 Turbo OpenAItemperature기본값 0,0.2,0.4,0.6,0.8,1

자주 묻는 질문

어떤 온도를 사용해야 하나요?

추출, 분류, 코드에는 0에서 0.3까지, 대화와 쓰기에는 약 0.5에서 1.0을 사용하세요. 각 모델의 허용 범위를 확인하세요. 어떤 모델은 1에서 멈추는 것도 있습니다.

온도를 바꾸고 함께 top_p해야 할까요?

보통은 그렇지 않습니다. 하나를 조정하고 다른 하나는 기본값으로 두세요. 그래야 각 변경 효과가 눈에 들어오면 됩니다.

같은 시드가 항상 같은 출력을 내나요?

항상 그런 것은 아닙니다. 텍스트 모델에서는 시드가 출력을 더 반복적으로 만들어주지만, 결과는 실행마다 약간 다를 수 있으니 정확히 필요할 때 응답을 저장하세요.

온도 0이 모델을 결정론적으로 만드나요?

이 경우 출력은 거의 결정론에 가깝게 만들어지는데, 이는 모델이 거의 항상 가장 가능성이 높은 토큰을 선택하기 때문입니다. 실행 간에 작은 차이가 여전히 발생할 수 있습니다.

더 나은 엔드포인트를 사용할 준비가 되셨나요?

저희 가격을 확인하시거나 저희 스택에 자체 모델을 배포하고 싶으시면 연락해 주세요.