AI模型中的代币是什么?

标记是语言模型读取和写入的单位:单词、单词片段、数字或标点符号。文本模型按每100万个代币分别计费输入和输出代币,而许多媒体和搜索模型则按图片、第二秒、字符、分钟或请求计费。

核心概念

文本如何成为标记

语言模型不会直接读取字符或单词。分词器首先将文本从固定词汇中拆分成多个部分,并将每个部分映射到一个数字,模型对这些数字进行读取和写入。常用词通常是一个单一词汇,而较长或较少见的词则被拆分为多个部分。空格通常附加在后面的单词后面,标点符号往往也是独立的词。

大致上,一个词元大约相当于英文文本的四个字符,或者大约一个词的四分之三,所以 1,000 个词大约相当于 1,300 个词元。代码、数字以及许多其他语言在相同文本量下使用更多词元。每个模型家族都有自己的词号生成器,因此同一个提示词在不同模型上可能产生不同的计数,并且 用途 每个响应中的对象报告模型所使用的精确计数。

接受图像、音频或视频的模型也会将这些输入转换为代币,有些模型还会按自己的价格定价这些代币。

输入令牌和输出令牌

输入令牌是你发送的所有内容:系统提示、对话、工具定义以及任何附加内容。输出令牌是模型生成的所有内容。在 推理模型 这包括它在答案之前写下的推理,即使模型没有返回文本,答案也会被计费。

文本模型会分别对两者定价,输出代币通常比输入代币更贵。另外两种费率可能适用:在支持的模型中,缓存输入账费率较低 提示缓存,有些型号在输入经过一定长度后会收取更高的费率。

每个响应都会报告其所使用的内容。聊天完成返回 prompt_tokens, (中文), completion_tokens 以及 total_tokens, 和 cost_usd 给出请求所收取的金额。在发送输入之前,要估算输入, /v1/messages/count_tokens后 返回计数且未计费。

为何按 100 万代币报价

单个令牌成本极低,因此每100万个令牌计算文本费率,以保持数字清晰且便于比较。估算请求成本时,将其输入令牌除以1,000,000,再乘以输入速率,对输出令牌进行同样的计算,再将两者相加。对于某个应用程序,将该数字乘以你预期的请求数量。

机器可读的 定价 反对 快去/v1/models 对于计算成本的代码,每个单个代币的速率与字符串相同。

在其他单位计费的型号

并非所有模型按代币计费。该设备遵循模型所产生或处理的设备:

  • 图像生成: 每张图片。
  • 视频生成: 每秒视频,或每视频。
  • 语音和音频生成: 按输入文本字符、每秒音频或令牌数。
  • 文字记录: 每分钟或每小时的音频,或按音频令牌计算。
  • 搜索与调研: 按搜索、请求或任务,有时会在顶部加代币。
  • 3D生成: 应要求。

目录中正在使用的单位会在本页列出,每个模型页面也会显示自己的单位。你可以按用量付费,或者选择带有每周配额的计划,这些配额使用相同类型的单位:文本模型的标记、视频秒、图片、转录分钟和语音字符。参见 定价 页:1 型号与定价指南。 。 。.

EmpirioLabs AI 上的模型如何计费

206 个模型各自主要费率的计费单位,来自实时价目表。

计费单位模型示例
每 100 万 token,按输入费率排序104GLM 5.3, GLM 5.3 Flash, GLM 5.2
按秒计价42Kling 3.0 Turbo, ACE-Step 1.5 XL, MiniMax Music 3
按图片计价18FLUX.2 Klein 4B, Qwen Image 3.0, Seedream 5.5
按请求计价16TRELLIS.2 4B, Exa Answer, Exa Search
按文本字符计价11TTS 2, TTS 1.5 Mini, TTS 1.5 Max
按音频分钟或小时计价10Whisper Large v3 Turbo, Deepgram Nova-3, OpenAI Whisper 1
其他单位3DeepReasoning, GPTZero, LightOnOCR-3 4B
按视频计价2Pixverse v5, Pixverse v5.6

常见问题

100万个令牌有多少词?

在英语中,1M 词元大约相当于 750,000 词,每个词元的约四个字符。具体数量取决于模型的分词器和语言。

输入代币和输出代币的价格一样吗?

没有。文本模型会分别给输入和输出代币定价,而输出代币通常成本更高。每个模型都会列出两种费率。

图片和音频算作令牌吗?

在接受这些符号作为输入的模型上,是的:图像、音频和视频会被转换为代币,有些模型会按自己的价格定价这些代币。生成图像、视频或语音的模型通常按图像、秒数或字符计费。

我如何查看请求使用了多少令牌?

每个响应都包含一个使用对象及其输入和输出令牌计数。仪表板使用日志和账户使用API记录每个请求的计数相同。

准备好使用更好的终端了吗?

查看我们的定价,或者如果你想将自己的模型部署到我们的堆栈中,请联系我们。