Une API d’embeddings transforme le texte, et sur certains modèles, des images ou des vidéos, en vecteurs de nombres qui placent des significations similaires très proches les uns des autres. Avec un reclasseur pour reclasser les meilleures correspondances, elle constitue l’étape de recherche sémantique et la génération augmentée par récupération.
Un embedding est une liste de nombres, appelée vecteur, qui représente le sens d’une entrée. Un modèle d’embedding lit un texte et retourne un vecteur de longueur fixe. Les entrées ayant une signification similaire produisent des vecteurs pointant dans des directions similaires, même lorsqu’ils ne partagent aucun mot: Réinitialiser mon mot de passe et Je ne peux pas me connecter à mon compte finir proches les uns des autres, tandis que Mettre à jour mon adresse de facturation finit par être plus loin.
Vous comparez deux vecteurs avec une mesure de similarité, le plus souvent la similarité cossinus. Un score plus élevé signifie que les entrées sont plus proches en signification. Cette opération permet la recherche sémantique, la recherche pour des modèles de langage, le clustering, la détection de doublons, les recommandations et la classification par exemple le plus proche.
Sur EmpirioLabs AI vous envoyez modèle et Entrée à POST /v1/embeddings. L’entrée est une chaîne ou une liste de chaînes, et la réponse contient un vecteur par entrée dans Données, plus un Utilisation objet avec les jetons facturés. Les modèles d’embedding facturent uniquement les jetons d’entrée, car ils ne génèrent aucun texte.
Dimensions définit la longueur de chaque vecteur. Les vecteurs plus grands conservent plus de détails; les vecteurs plus petits coûtent moins cher à stocker et à rechercher.encoding_format renvoie les vecteurs comme flotte tableaux ou aussi compacts base64 Des ficelles.image et Vidéo parts, afin qu’une requête texte puisse récupérer des images correspondantes.output_type, et accepter un instruire Cela décrit la tâche de recherche lorsque vous intégrez des requêtes.Deux règles gardent les résultats pertinents. Intégrer des documents et requêtes avec le même modèle et la même taille vectorielle, puisque les vecteurs de différents modèles ne sont pas comparables. Divisez les longs documents en passages correspondant à la longueur d’entrée maximale du modèle, et stockez chaque vecteur avec le passage d’où il provine. Le Référence API des embeddings Liste chaque champ.
La recherche vectorielle est rapide car chaque document est intégré une seule fois, à l’avance, et une requête n’a besoin que d’un nouveau vecteur. Le compromis est la précision: la requête et chaque document sont encodés séparément, donc les vecteurs les plus proches constituent une bonne liste restreuse plutôt qu’un classement final.
Un reclasseur lit la requête et chaque candidat ensemble et évalue la qualité de réponse de ce candidat. Cette comparaison est plus précise et demande plus de travail par document, donc vous la lancez sur une liste restreinte, comme les 50 meilleurs résultats de la recherche vectorielle, plutôt que sur une collection complète.
Sur EmpirioLabs AI vous envoyez un requête et une liste de documents à POST /v1/reranks. La réponse liste l’original de chaque document Index avec un relevance_score de 0 à 1, le plus pertinent en premier. Ensemble top_n ne rendre que les meilleurs, et return_documents pour inclure leur texte. Les scores sont relatifs à une seule requête, donc utilisez-les pour organiser les résultats plutôt que comme un seuil fixe entre différentes requêtes. Voir le reranks la référence de l’API pour la demande complète.
La génération augmentée par récupération (RAG) répond aux questions tirées de votre propre contenu en plaçant les passages les plus pertinents dans l’invite d’un modèle de langage. Les embeddings et un reclasseur constituent son étape de récupération:
Le reclassement maintient la consigne courte et pertinente: moins de passages, de meilleurs passages, utilisent moins de jetons d’entrée et laissent davantage de la Fenêtre de contexte pour la réponse. Parcourir Intégration des modèles et Rerankers, ou essaie les deux dans le Playground.
4 modèles, du moins cher au plus cher lorsqu'ils partagent une unité de facturation. La page de chaque modèle présente sa grille tarifaire complète, ses paramètres et du code.
Endpoints
/v1/embeddingsPar million de tokens, selon le tarif d'entrée
| Modèle | Entrée | Sortie |
|---|---|---|
| Text Embedding v4 Alibaba Cloud | $0.07 | - |
| Tongyi Embedding Vision Flash Alibaba Cloud | $0.09 | - |
| Tongyi Embedding Vision Plus Alibaba Cloud | $0.09 | - |
| Skylark Embedding Vision ByteDance | $0.25 | - |
1 modèles. La page de chaque modèle présente sa grille tarifaire, ses paramètres et du code.
Endpoints
/v1/reranksUn modèle d’embedding transforme chaque entrée en vecteur à part entière, afin que vous puissiez comparer rapidement une requête à une grande collection. Un reranker lit une requête et un document candidat en même temps et évalue leur pertinence plus précisément, afin qu’il soit utilisé sur une liste restreinte de résultats.
Non. Chaque modèle place la signification dans son propre espace vectoriel, donc intégrez vos documents et vos requêtes avec le même modèle et la même taille vectorielle.
Les modèles d’embedding et de reclassement facturent les jetons d’entrée que vous envoyez. Ils ne génèrent aucun texte, donc il n’y a pas de jetons de sortie à facturer.
C’est un nombre de 0 à 1 qui classe les documents pour une requête, avec un sens plus élevé plus pertinent. Les scores ne sont pas comparables entre requêtes, donc utilisez-les pour ordonner les résultats au sein d’une requête.
Oui, avec des modèles d’intégration multimodale. Ils acceptent des entrées texte, image et vidéo, donc une requête texte peut récupérer des images ou des extraits correspondants.
Text Embedding v4 affiche le tarif d'entrée le plus bas des 4 modèles Encastrements facturés de cette façon, suivi de Tongyi Embedding Vision Flash, Tongyi Embedding Vision Plus. Le tableau des prix de cette page indique le tarif le plus bas de chaque modèle et ce à quoi il s'applique.
Consultez nos tarifs ou contactez-nous si vous souhaitez que votre propre modèle soit déployé sur notre stack.