什么是嵌入 API?

嵌入API将文本,以及某些模型中的图像或视频,转换为将相似含义相近的数字向量。借助重新排序器重新评分最佳匹配,它构成了语义搜索和检索增强生成的检索步骤。

模型类型

什么是嵌入

嵌入是一组数字,称为向量,代表输入的含义。嵌入模型读取一段文本并返回固定长度的向量。具有相似含义的输入会产生指向相似方向的向量,即使它们没有共享词语: 重置我的密码 以及 我无法登录我的账户 最终靠得很近,而 更新我的账单地址 结果会被送到更远的地方。

你用相似度指标比较两个向量,最常见的是余弦相似度。得分越高,意味着输入的意义更接近。这一操作支持语义搜索、语言模型检索、聚类、重复检测、推荐以及按最近示例分类。

嵌入 API 的工作原理

你发送EmpirioLabs AI 模型 以及 输入 到 /v1/embeddings后.输入是一个字符串或字符串列表,响应中每个输入包含一个向量。 数据,加上一个 用途 对象中对标记计费。嵌入模型只对输入标记计费,因为它们不生成文本。

  • 矢量尺寸。 对于提供多种尺码的型号, 尺寸 设置每个向量的长度。较大的向量保留更多细节;较小的向量存储和搜索成本较低。
  • 编码。 encoding_format 返回向量为 float 数组或紧凑型 base64 弦。
  • 图片和视频。 多模态嵌入模型还包括 图像 以及 视频 部分,因此文本查询可以检索匹配的图像。
  • 搜索选项。 有些模型通过 返回稀疏向量 output_type,并接受 指示 这描述了嵌入查询时的搜索任务。

有两条规则使结果保持有意义。嵌入使用相同模型和相同向量尺寸的文档和查询,因为不同模型的向量不可比。将长文档拆分为符合模型最大输入长度的段落,并将每个向量与其来源段落一同存储。该 嵌入 API 参考 列出所有字段。

重新排名者能带来什么

向量搜索快速,因为每个文档都会提前嵌入一次,查询只需一个新的向量。其权衡在于精度:查询和每个文档分别编码,因此最接近的向量能成为较好的候选名单,而非最终排名。

排名者会把查询和每位候选人一起阅读,并对候选人回答问题的表现打分。这种比较更准确,每份文档也需要更多工作,所以你会在短名单上运行,比如矢量搜索的前50个结果,而不是整个合集。

在EmpirioLabs AI发送 查询 以及 文件 到 /v1/reranks后.响应列出了每个文档的原始文件 索引 其中 relevance_score 从 0 到 1,最相关的排在前。Set top_n 只归还最优秀的少数,并且 return_documents 以包含他们的文本。分数是相对于单个请求的,因此应用它们来排序结果,而不是作为不同查询之间的固定截止值。参见 重新排序 API 参考 关于完整请求。

检索增强生成中的嵌入与重新排序

检索增强生成(RAG)通过将最相关的段落置入语言模型提示,回答你自己内容中的问题。嵌入和重新排序器构成其检索步骤:

  1. 将文档拆分成段落,嵌入每一段,并将向量存储在向量索引中。
  2. 当有问题出现时,将其嵌入同一模型,并检索最近的段落。
  3. 把这些候选人送给重新排名者,保留分数最高的少数。
  4. 把题目和这些段落交给 文本模型,由他们来回答。

重新排序可以让提示保持简短且相关:更少、更好的文章使用更少的输入标记,并留下更多 上下文窗口 为了答案。浏览 嵌入模型 以及 重新排名者,或者两者都试试 Playground。 。 。.

EmpirioLabs AI 上的嵌入模型

共 4 个模型;计费单位相同的按价格从低到高排列。每个模型的页面都有完整价目表、参数和代码。

端点

POST /v1/embeddings

每 100 万 token,按输入费率排序

模型输入输出
Text Embedding v4 Alibaba Cloud$0.07-
Tongyi Embedding Vision Flash Alibaba Cloud$0.09-
Tongyi Embedding Vision Plus Alibaba Cloud$0.09-
Skylark Embedding Vision ByteDance$0.25-

EmpirioLabs AI 上的重新排名者模型

共 1 个模型。每个模型的页面都有价目表、参数和代码。

端点

POST /v1/reranks

常见问题

嵌入模型和重新排名模型有什么区别?

嵌入模型会将每个输入单独转换为向量,这样你就能快速将查询与大型数据集进行比较。重新排名器会同时阅读查询和候选文档,并更精确地评分它们的相关性,因此会在一个短名单中使用。

我可以比较两个不同模型的嵌入吗?

不。每个模型都将意义放在自己的向量空间中,所以你的文档和查询都用同一个模型和相同的向量尺寸嵌入。

嵌入和重新排序请求是如何计费的?

嵌入和重排序模型会对你发送的输入代币计费。它们不生成文本,因此没有输出代币需要计费。

重新排序相关性评分意味着什么?

这是一个从 0 到 1 的数字,用于对单个查询的文档进行排序,越高越相关。分数不能跨请求比较,因此请用分数在请求中排序结果。

嵌入可以搜索图像和视频吗?

是的,使用多模态嵌入模型。它们接受文本、图像和视频输入,因此文本查询可以检索匹配的图像或片段。

在 EmpirioLabs AI 上,哪个 嵌入 模型最便宜?

在按此方式计价的 4 个 嵌入 模型中,Text Embedding v4 的输入费率最低,其次是 Tongyi Embedding Vision Flash, Tongyi Embedding Vision Plus。本页的价格表列出了每个模型的最低费率及其适用范围。

准备好使用更好的终端了吗?

查看我们的定价,或者如果你想将自己的模型部署到我们的堆栈中,请联系我们。