Qu’est-ce qu’une API d’embeddings ?

Une API d’embeddings transforme le texte, et sur certains modèles, des images ou des vidéos, en vecteurs de nombres qui placent des significations similaires très proches les uns des autres. Avec un reclasseur pour reclasser les meilleures correspondances, elle constitue l’étape de recherche sémantique et la génération augmentée par récupération.

Types de modèles

Qu’est-ce qu’un embedding

Un embedding est une liste de nombres, appelée vecteur, qui représente le sens d’une entrée. Un modèle d’embedding lit un texte et retourne un vecteur de longueur fixe. Les entrées ayant une signification similaire produisent des vecteurs pointant dans des directions similaires, même lorsqu’ils ne partagent aucun mot: Réinitialiser mon mot de passe et Je ne peux pas me connecter à mon compte finir proches les uns des autres, tandis que Mettre à jour mon adresse de facturation finit par être plus loin.

Vous comparez deux vecteurs avec une mesure de similarité, le plus souvent la similarité cossinus. Un score plus élevé signifie que les entrées sont plus proches en signification. Cette opération permet la recherche sémantique, la recherche pour des modèles de langage, le clustering, la détection de doublons, les recommandations et la classification par exemple le plus proche.

Comment fonctionne une API d’embeddings

Sur EmpirioLabs AI vous envoyez modèle et Entrée à POST /v1/embeddings. L’entrée est une chaîne ou une liste de chaînes, et la réponse contient un vecteur par entrée dans Données, plus un Utilisation objet avec les jetons facturés. Les modèles d’embedding facturent uniquement les jetons d’entrée, car ils ne génèrent aucun texte.

  • Taille vectorielle. Sur les modèles proposant plus d’une taille, Dimensions définit la longueur de chaque vecteur. Les vecteurs plus grands conservent plus de détails; les vecteurs plus petits coûtent moins cher à stocker et à rechercher.
  • Encodage. encoding_format renvoie les vecteurs comme flotte tableaux ou aussi compacts base64 Des ficelles.
  • Images et vidéos. Les modèles d’intégration multimodale prennent également image et Vidéo parts, afin qu’une requête texte puisse récupérer des images correspondantes.
  • Options de recherche. Certains modèles renvoient des vecteurs clairsemés via output_type, et accepter un instruire Cela décrit la tâche de recherche lorsque vous intégrez des requêtes.

Deux règles gardent les résultats pertinents. Intégrer des documents et requêtes avec le même modèle et la même taille vectorielle, puisque les vecteurs de différents modèles ne sont pas comparables. Divisez les longs documents en passages correspondant à la longueur d’entrée maximale du modèle, et stockez chaque vecteur avec le passage d’où il provine. Le Référence API des embeddings Liste chaque champ.

Ce qu’apporte un reclasseur

La recherche vectorielle est rapide car chaque document est intégré une seule fois, à l’avance, et une requête n’a besoin que d’un nouveau vecteur. Le compromis est la précision: la requête et chaque document sont encodés séparément, donc les vecteurs les plus proches constituent une bonne liste restreuse plutôt qu’un classement final.

Un reclasseur lit la requête et chaque candidat ensemble et évalue la qualité de réponse de ce candidat. Cette comparaison est plus précise et demande plus de travail par document, donc vous la lancez sur une liste restreinte, comme les 50 meilleurs résultats de la recherche vectorielle, plutôt que sur une collection complète.

Sur EmpirioLabs AI vous envoyez un requête et une liste de documents à POST /v1/reranks. La réponse liste l’original de chaque document Index avec un relevance_score de 0 à 1, le plus pertinent en premier. Ensemble top_n ne rendre que les meilleurs, et return_documents pour inclure leur texte. Les scores sont relatifs à une seule requête, donc utilisez-les pour organiser les résultats plutôt que comme un seuil fixe entre différentes requêtes. Voir le reranks la référence de l’API pour la demande complète.

Embeddings et reclassement dans la génération augmentée par récupération

La génération augmentée par récupération (RAG) répond aux questions tirées de votre propre contenu en plaçant les passages les plus pertinents dans l’invite d’un modèle de langage. Les embeddings et un reclasseur constituent son étape de récupération:

  1. Divisez vos documents en passages, intégrez chacun d’eux, puis stockez les vecteurs dans un index vectoriel.
  2. Quand une question arrive, intégrez-la avec le même modèle et récupérez les passages les plus proches.
  3. Envoyez ces candidats à un reclasseur et gardez les quelques-uns avec les meilleurs scores.
  4. Passez la question et ces passages à un Modèle de texte, qui répond à leur part.

Le reclassement maintient la consigne courte et pertinente: moins de passages, de meilleurs passages, utilisent moins de jetons d’entrée et laissent davantage de la Fenêtre de contexte pour la réponse. Parcourir Intégration des modèles et Rerankers, ou essaie les deux dans le Playground.

Modèles Encastrements sur EmpirioLabs AI

4 modèles, du moins cher au plus cher lorsqu'ils partagent une unité de facturation. La page de chaque modèle présente sa grille tarifaire complète, ses paramètres et du code.

Endpoints

POST /v1/embeddings

Par million de tokens, selon le tarif d'entrée

ModèleEntréeSortie
Text Embedding v4 Alibaba Cloud$0.07-
Tongyi Embedding Vision Flash Alibaba Cloud$0.09-
Tongyi Embedding Vision Plus Alibaba Cloud$0.09-
Skylark Embedding Vision ByteDance$0.25-

Modèles Remonteurs sur EmpirioLabs AI

1 modèles. La page de chaque modèle présente sa grille tarifaire, ses paramètres et du code.

Endpoints

POST /v1/reranks

Questions fréquentes

Quelle est la différence entre un modèle d’embedding et un reranker ?

Un modèle d’embedding transforme chaque entrée en vecteur à part entière, afin que vous puissiez comparer rapidement une requête à une grande collection. Un reranker lit une requête et un document candidat en même temps et évalue leur pertinence plus précisément, afin qu’il soit utilisé sur une liste restreinte de résultats.

Puis-je comparer les embeddings de deux modèles différents ?

Non. Chaque modèle place la signification dans son propre espace vectoriel, donc intégrez vos documents et vos requêtes avec le même modèle et la même taille vectorielle.

Comment les demandes d’embedding et de reclassement sont-elles facturées ?

Les modèles d’embedding et de reclassement facturent les jetons d’entrée que vous envoyez. Ils ne génèrent aucun texte, donc il n’y a pas de jetons de sortie à facturer.

Que signifie un score de reclassement de pertinence ?

C’est un nombre de 0 à 1 qui classe les documents pour une requête, avec un sens plus élevé plus pertinent. Les scores ne sont pas comparables entre requêtes, donc utilisez-les pour ordonner les résultats au sein d’une requête.

Les embeddings peuvent-ils rechercher des images et des vidéos ?

Oui, avec des modèles d’intégration multimodale. Ils acceptent des entrées texte, image et vidéo, donc une requête texte peut récupérer des images ou des extraits correspondants.

Quel modèle Encastrements coûte le moins cher sur EmpirioLabs AI ?

Text Embedding v4 affiche le tarif d'entrée le plus bas des 4 modèles Encastrements facturés de cette façon, suivi de Tongyi Embedding Vision Flash, Tongyi Embedding Vision Plus. Le tableau des prix de cette page indique le tarif le plus bas de chaque modèle et ce à quoi il s'applique.

Prêt à utiliser de meilleurs points de terminaison ?

Consultez nos tarifs ou contactez-nous si vous souhaitez que votre propre modèle soit déployé sur notre stack.