¿Qué es una API de embeddings?

Una API de incrustaciones convierte texto, y en algunos modelos imágenes o vídeos, en vectores de números que colocan significados similares muy cerca entre sí. Con un reclasificador para repuntuar las mejores coincidencias, constituye el paso de recuperación de búsqueda semántica y generación aumentada por recuperación.

Tipos de modelos

Qué es un embedding

Una incrustación es una lista de números, llamada vector, que representa el significado de una entrada. Un modelo de incrustación lee un fragmento de texto y devuelve un vector de longitud fija. Las entradas con significado similar producen vectores que apuntan en direcciones similares, incluso cuando no comparten palabras: restablecer mi contraseña y No puedo iniciar sesión en mi cuenta Acaban muy cerca unos de otros, mientras Actualizar mi dirección de facturación acaba más lejos.

Comparas dos vectores con una medida de similitud, normalmente similitud coseno. Una puntuación más alta significa que las entradas están más cercanas en significado. Esa operación soporta búsqueda semántica, recuperación para modelos de lenguaje, agrupamiento, detección de duplicados, recomendaciones y clasificación por ejemplo más cercano.

Cómo funciona una API de incrustaciones

En EmpirioLabs AI envíes modelo y Entrada a POST /v1/embeddings. La entrada es una cadena o una lista de cadenas, y la respuesta contiene un vector por entrada en Datos, más un Uso objeto con los tokens facturados. Los modelos de incrustación facturan solo los tokens de entrada, porque no generan texto.

  • Tamaño vectorial. En modelos que ofrecen más de una talla, Dimensiones establece la longitud de cada vector. Los vectores más grandes conservan más detalle; los más pequeños cuestan menos almacenar y buscar.
  • Codificación. encoding_format devuelve vectores como Flotador matrices o tan compactas base64 cuerdas.
  • Imágenes y vídeo. Los modelos de incrustación multimodal también toman imagen y Vídeo partes, de modo que una consulta de texto pueda recuperar imágenes coincidentes.
  • Opciones de búsqueda. Algunos modelos devuelven vectores dispersos mediante output_type, y aceptar un instruir Describe la tarea de búsqueda cuando incrustas consultas.

Dos reglas mantienen los resultados significativos. Incrustar documentos y consultas con el mismo modelo y el mismo tamaño de vector, ya que los vectores de diferentes modelos no son comparables. Divide los documentos largos en pasajes que encajen con la longitud máxima de entrada del modelo, y almacena cada vector junto con el pasaje del que procedió. El Referencia de la API de embeddings Lista todos los campos.

Lo que aporta un reclasificador

La búsqueda vectorial es rápida porque cada documento se incrusta una vez, de antemano, y una consulta solo necesita un vector nuevo. La contrapartida es la precisión: la consulta y cada documento se codifican por separado, por lo que los vectores más cercanos forman una buena lista corta en lugar de una clasificación final.

Un reclasificador lee la consulta y a cada candidato juntos y valora qué tan bien responde ese candidato a la consulta. Esa comparación es más precisa y requiere más trabajo por documento, así que la ejecutas en una lista corta, como los 50 primeros resultados de la búsqueda vectorial, en lugar de en una colección completa.

En EmpirioLabs AI envías un consulta y una lista de documentos a POST /v1/reranks. La respuesta lista el original de cada documento Índice con un relevance_score de 0 a 1, primero lo más relevante. Set top_n devolver solo a los mejores, y return_documents para incluir su texto. Las puntuaciones son relativas a una sola solicitud, así que úsalas para ordenar resultados en lugar de como un corte fijo entre diferentes consultas. Consulte el referencia de reranks API para la petición completa.

Incrustaciones y reclasificación en generación aumentada por recuperación

La generación aumentada por recuperación (RAG) responde preguntas de tu propio contenido colocando los pasajes más relevantes en el indicador de un modelo de lenguaje. Los embeddings y un reclasificador forman su paso de recuperación:

  1. Divide tus documentos en pasajes, incrusta cada uno y almacena los vectores en un índice vectorial.
  2. Cuando llegue una pregunta, incrusta el mismo modelo y recupera los pasajes más cercanos.
  3. Envía a esos candidatos a un reclasificador y quédate con los pocos con las puntuaciones más altas.
  4. Pasa la pregunta y esos pasajes a un Modelo de texto, que responde a través de ellos.

Reclasificar mantiene la propuesta breve y relevante: menos pasajes y mejores utilizan menos tokens de entrada y dejan más de la Ventana de contexto para la respuesta. Examina Embedding de modelos y Reclasificadores, o probar ambos en el Playground.

Modelos de Incrustaciones en EmpirioLabs AI

4 modelos, del más barato al más caro cuando comparten unidad de facturación. La página de cada modelo tiene su tarjeta de precios completa, parámetros y código.

Endpoints

POST /v1/embeddings

Por 1M de tokens, según la tarifa de entrada

ModeloEntradaSalida
Text Embedding v4 Alibaba Cloud$0.07-
Tongyi Embedding Vision Flash Alibaba Cloud$0.09-
Tongyi Embedding Vision Plus Alibaba Cloud$0.09-
Skylark Embedding Vision ByteDance$0.25-

Modelos de Reclasificadores en EmpirioLabs AI

1 modelos. La página de cada modelo tiene su tarjeta de precios, parámetros y código.

Endpoints

POST /v1/reranks

Preguntas frecuentes

¿Cuál es la diferencia entre un modelo de embedding y un reclasificador?

Un modelo de incrustación convierte cada entrada en un vector por sí solo, de modo que puedes comparar una consulta con una colección grande rápidamente. Un reclasificador lee una consulta y un documento candidato juntos y califica su relevancia con mayor precisión, de modo que se utiliza en una lista corta de resultados.

¿Puedo comparar embeddings de dos modelos diferentes?

No. Cada modelo asigna significado a su propio espacio vectorial, así que incrusta tus documentos y tus consultas con el mismo modelo y el mismo tamaño vectorial.

¿Cómo se facturan las solicitudes de embedding y rerank?

Los modelos de incrustación y reclasificación facturan los tokens de entrada que envías. No generan texto, así que no hay tokens de salida que facturar.

¿Qué significa una puntuación de reclasificación de relevancia?

Es un número de 0 a 1 que clasifica los documentos para una consulta, siendo el significado más relevante para mayor tamaño. Las puntuaciones no son comparables entre solicitudes, así que úsalas para ordenar resultados dentro de una sola solicitud.

¿Pueden las incrustaciones buscar imágenes y vídeos?

Sí, con modelos de incrustación multimodal. Aceptan entradas de texto, imagen y vídeo, por lo que una consulta de texto puede recuperar imágenes o clips coincidentes.

¿Qué modelo de Incrustaciones cuesta menos en EmpirioLabs AI?

Text Embedding v4 publica la tarifa de entrada más baja de los 4 modelos de Incrustaciones con ese tipo de precio, seguido de Tongyi Embedding Vision Flash, Tongyi Embedding Vision Plus. La tabla de precios de esta página muestra la tarifa más baja de cada modelo y a qué se aplica.

¿Listo para usar mejores endpoints?

Consulta nuestros precios o contacta con nosotros si quieres que tu propio modelo se implemente en nuestra pila.