什么是 LLM API?

LLM API 允许你的应用以消息列表的形式,并在多个模型上发送对话,并带有图片、视频或文档,并接收其生成的文本。你为每个请求选择模型,使用量会以输入和输出令牌计入。

模型类型

LLM API 的作用

大型语言模型(LLM)是一种经过训练以阅读和写入文本的模型。LLM API 通过 HTTPS 提供该模型:你的应用发送一个带有模型 ID 和消息列表的请求,API 返回模型的回复。每条消息都有其角色。A 系统 消息集 常驻指令, 用户 消息承载了该人的输入,并且 助理 消息保留了之前的回复,因此模型能看到正在进行的对话。

许多文本模型接受的不仅仅是文本。根据模型的不同,一条消息可以包含图片、视频、音频或文档,模型以文本形式回答。模型读取和写入文本为 代币,以及 上下文窗口 限制一个请求能保留多少令牌。上下文窗口因型号而异,有些文本模型接受 100 万个令牌。

请求的运作方式

你发送一个 POST(后期刊物) 请求时带有您的 API 密钥 授权 头部。正文为模型和消息命名,以及可选设置,如 max_tokens, (中文), 温度 或 工具.响应包含回复和 用途 用于计数请求的输入和输出令牌的对象。

API 不会记住之前的请求。要继续对话,请将之前的消息连同新消息一起发送一次。要在回复写入过程中显示较长的回复,请设置 溪流 到 确实如此: 回复以服务器发送事件的形式,一次收到少量令牌,使用记录则在流结束时到达。

开发者用 LLM API 构建的内容

  • 助理和支持聊天。 按照你自己的说明回答产品内的问题。
  • 摘要与提取。 将文档、文字记录和电子邮件压缩,或将字段提取为 JSON 格式 结构化输出。 。 。.
  • 特工们。 其中 函数调用模型会请求你的代码运行一个函数,比如数据库查找,并将结果作为其回答。
  • 编程。 生成、解释和审阅代码,或在编辑器中运行编码代理。
  • 来自你自己的内容的回答。 查找相关段落,并且具有 嵌入API 并将它们包含在提示中。

比较文本模型之间要做什么比较

  • 你的任务质量。 把同样的题目对几位候选人进行测试,然后阅读答案。 并排模型比较 帮助缩小范围。
  • 理由。 A 推理模型 在问题有答案之前,先解决它。这有助于数学、规划和编程,但需要更长时间,并产生更多输出标记。许多模型允许你设定推理努力或思考预算。
  • 上下文窗口。 长文档、庞大的代码库和长的聊天记录需要一个大窗口。
  • 输入与功能。 检查模型是否读取图像、视频、音频或文档,以及是否支持工具调用、结构化输出或网页搜索。
  • 速度。 输入第一个令牌所需的时间和输出速度决定了聊天界面响应的速度。
  • 价格。 大多数文本模型按百万输入令牌和每百万输出令牌计费,而输出令牌通常成本更高。有些模型对缓存输入的计费率较低(参见 提示缓存),还有一些还通过批处理 API 处理不需要立即答案的大型作业(参见 批次推断).

试着在EmpirioLabs AI上调用文本模型

浏览 文本模型,然后打开 Playground 在编写代码之前与模型聊天。要从你的应用程序调用模型,请在仪表板中创建一个 API 密钥并发送请求 https://api.empiriolabs.ai/v1/chat/completions.大多数文本模型也接受 的请求格式 /v1/responses (英语) 以及 /v1/messages (英语).聊天端点兼容 OpenAI,所以只要你更改基础 URL 和密钥,现有的 OpenAI SDK 集成就可以正常工作。

该 入门指南 遍历第一个请求。需要比 HTTP 请求允许的时间更多的响应可以在 用于长响应的WebSocket模式。 。 。.

按需付费,或选择带有每周津贴的套餐。每个型号的当前费率都在 定价页面。 。 。.

EmpirioLabs AI 上的文本生成模型

共 74 个模型;计费单位相同的按价格从低到高排列。每个模型的页面都有完整价目表、参数和代码。

端点

POST /v1/chat/completions POST /v1/responses POST /v1/messages POST /v1/completions POST /v1/audio/speech POST /v1/audio/speech:stream

每 100 万 token,按输入费率排序

模型输入输出
GLM 4.5 Flash Z.ai免费免费
GLM 4.6V Flash Z.ai免费免费
GLM 4.7 Flash Z.ai免费免费
Qwen3.7 Flash Alibaba Cloud<=32K $0.03 32K-256K $0.10 256K-1M $0.20<=32K $0.13 32K-256K $0.40 256K-1M $0.80
Qwen3.5 4B Alibaba Cloud$0.04$0.07
Nova Micro 1.0 Amazon$0.040$0.16
GLM 4.6V FlashX Z.ai$0.04$0.40
Gemma 4 26B-A4B Google$0.15$0.05$0.50$0.29
显示全部 71 个模型
模型输入输出
Qwen3.5 35B-A3B Alibaba Cloud$0.25 <=128K $0.057 $0.25 128K-256K $0.229$2.00 <=128K $0.459 $2.00 128K-256K $1.835
Nova Lite 1.0 Amazon$0.069$0.28
GLM 4.7 FlashX Z.ai$0.07$0.40
Qwen3.6 35B A3B Alibaba Cloud$0.248$0.07$1.485$0.42
GLM 5.3 Flash Z.ai$0.075$0.25
Qwen3.5 27B Alibaba Cloud$0.30 <=128K $0.086 $0.30 128K-256K $0.258$2.40 <=128K $0.688 $2.40 128K-256K $2.064
Qwen3.5 9B Alibaba Cloud$0.10$0.09$0.15$0.13
Qwen3.5 Flash Alibaba Cloud$0.10$0.090$0.40$0.368
Step 3.5 Flash StepFun$0.10$0.30
Step 3.5 Flash 2603 StepFun$0.10$0.30
MiniMax M3.1 Flash MiniMax$0.15$0.1125$0.60$0.45
Qwen3.5 122B-A10B Alibaba Cloud$0.40 <=128K $0.115 $0.40 128K-256K $0.287$3.20 <=128K $0.917 $3.20 128K-256K $2.294
Seed 2.0 Mini ByteDance<=128K $0.12 128K-256K $0.24<=128K $0.50 128K-256K $1.00
MiMo V2.6 Flash Xiaomi$0.14$0.28
Mistral Small 4 Mistral AI$0.15$0.60
Qwen3.8 Flash Alibaba Cloud$0.16$0.47
Qwen3.8 27B Alibaba Cloud$0.45$0.17$3.20$0.50
Qwen3.5 397B-A17B Alibaba Cloud$0.60 <=128K $0.172 $0.60 128K-256K $0.43$3.60 <=128K $1.032 $3.60 128K-256K $2.58
DeepSeek V4.1 Flash 1017 DeepSeek$0.20$0.80
Muse Glimmer 30B Meta AI$0.35$0.20$1.50$0.80
Step 3.7 Flash StepFun$0.20$1.15
MiniMax M3 MiniMax$0.30 <=512K $0.225 $0.60 >512K $0.45$1.20 <=512K $0.90 $2.40 >512K $1.80
Qwen3.6 Flash Alibaba Cloud<=256K $0.25 256K-1M $1.00<=256K $1.50 256K-1M $4.00
Qwen3.8 Omni Flash Alibaba Cloud$0.30$0.94
Seed 2.0 Lite ByteDance<=128K $0.31 128K-256K $0.62<=128K $2.50 128K-256K $5.00
Qwen3.5 Plus Alibaba Cloud$0.40 <=256K $0.36 $0.50 256K-1M $0.45$2.40 <=256K $2.21 $3.00 256K-1M $2.76
Nova Lite 2 Amazon$0.38$3.16
Qwen3.7 Plus Alibaba Cloud<=256K $0.40 256K-1M $1.20<=256K $1.60 256K-1M $4.80
Seed 2.0 Code ByteDance<=128K $0.40 128K-256K $0.80<=128K $2.40 128K-256K $4.80
Qwen3.6 27B Alibaba Cloud$0.60$0.412564$3.60$2.475384
DeepSeek V4 Flash 0731 DeepSeek$0.424$1.272
MiMo V2.6 Pro Xiaomi$0.435$0.87
Qwen3.6 Plus Alibaba Cloud<=256K $0.50 256K-1M $2.00<=256K $3.00 256K-1M $6.00
Seed 2.1 Turbo ByteDance$0.63$3.13
Seed 2.0 Pro ByteDance<=128K $0.63 128K-256K $1.26<=128K $3.79 128K-256K $7.58
Qwen3.5 Omni Flash Alibaba Cloud$0.80$4.40
GLM 5.1 Z.ai$1.40 <=32K $0.825 $1.40 32K-200K $1.10$4.40 <=32K $3.301 $4.40 32K-200K $3.851
Kimi K2.6 Moonshot AI$0.95$0.8939$4.00$3.7131
Kimi K2.7 Code Moonshot AI$0.95$4.00
Step 5 Preview StepFun$1.00$2.70
Muse Spark 1.1 Meta AI$1.25$4.25
Muse Spark 1.2 Meta AI$1.25$4.25
Muse Spark 1.3 Meta AI$1.25$4.25
DeepSeek V4 Pro 0813 DeepSeek$1.32$3.96
GLM 5.2 Z.ai$1.40$4.40
GLM 5.3 Z.ai$1.40$4.40
StepAudio 2.5 Chat StepFun$1.50$3.50
StepAudio 3 Chat StepFun$1.50$3.50
Qwen4 Max Alibaba Cloud$1.50$4.50
DeepSeek V4 Pro DeepSeek$1.74$1.65$3.48$3.30
Kimi K2.7 Code Highspeed Moonshot AI$1.90$8.00
Fugu Max Sakana AI$2.00$6.00
Qwen3.8 Max Alibaba Cloud$2.00$6.00
Qwen3.8 Max 0902 Alibaba Cloud$2.00$6.00
Kimi K3.1 Pro Moonshot AI$2.00$10.00
Nova Pro 1.0 Amazon$2.40$9.60
Qwen3.7 Max Alibaba Cloud$2.50$7.50
Qwen3.5 Omni Plus Alibaba Cloud$2.80$16.60
Kimi K3 Moonshot AI$3.00$15.00
MiMo V2.6 Pro UltraSpeed Xiaomi$4.35$8.70
Fugu Ultra v1.1 Sakana AI<=272K $5.00 >272K $10.00<=272K $30.00 >272K $45.00
Fugu Ultra v2.0 Sakana AI<=272K $5.00 >272K $10.00<=272K $30.00 >272K $45.00
Fugu Ultra v1.0 Sakana AI<=272K $7.50 >272K $15.00<=272K $45.00 >272K $67.50

另有: DeepReasoning, Gemma 3 27B, Mistral Small 3.1

常见问题

LLM 和 LLM API 有什么区别?

LLM 是训练好的模型。LLM API 是你的代码调用的接口,用来向模型发送请求并接收输出,这样你就可以使用模型而无需自己运行它。

LLM API 是如何计费的?

大多数文本模型按代币计费,每百万输入代币一个费率,每百万个输出代币一个费率,所以提示越长、回答越长,成本越高。EmpirioLabs AI上你可以按用量付费,或者选择带每周补贴的套餐。

LLM API会记住这段对话吗?

不。每个请求都是独立的,所以你会在每一个新请求中发送之前的消息。模型的上下文窗口限制了单个请求能容纳多少历史记录。

在 LLM API 中,流媒体是什么意思?

在流式传输中,API 会在模型写入时将回复分成小段发送,而不是在最后只发送一次响应。在聊天请求中将 stream 设置为 true,以接收响应作为服务器发送事件。

我可以和 EmpirioLabs AI 一起使用 OpenAI SDK 吗?

是的。将SDK的基础URL设置为https://api.empiriolabs.ai/v1,使用您的EmpirioLabs AI API密钥,并从目录传递模型ID。

在 EmpirioLabs AI 上,哪个 文本生成 模型最便宜?

在按此方式计价的 71 个 文本生成 模型中,GLM 4.5 Flash, GLM 4.6V Flash, GLM 4.7 Flash 的输入费率并列最低。本页的价格表列出了每个模型的最低费率及其适用范围。

准备好使用更好的终端了吗?

查看我们的定价,或者如果你想将自己的模型部署到我们的堆栈中,请联系我们。