Eine Embeddings-API verwandelt Text und bei manchen Modellen Bilder oder Videos in Vektoren von Zahlen, die ähnliche Bedeutungen nah beieinander platzieren. Mit einem Reranker, der die besten Matches neu bewertet, bildet sie den Abrufschritt der semantischen Suche und der durch Retrieval-Augmented Generierung.
Eine Einbettung ist eine Liste von Zahlen, genannt Vektor, die die Bedeutung einer Eingabe darstellt. Ein Einbettungsmodell liest einen Textabschnitt und gibt einen Vektor fester Länge zurück. Eingaben mit ähnlicher Bedeutung erzeugen Vektoren, die in ähnliche Richtungen zeigen, selbst wenn sie keine gemeinsamen Wörter haben: Mein Passwort zurücksetzen und Ich kann mich nicht in mein Konto einloggen am Ende dicht beieinander, während Meine Abrechnungsadresse aktualisieren landet weiter weg.
Sie vergleichen zwei Vektoren mit einem Ähnlichkeitsmaß, meist der Kosinus-Ähnlichkeit. Ein höherer Wert bedeutet, dass die Eingaben in ihrer Bedeutung näher beieinander liegen. Diese eine Operation unterstützt semantische Suche, Abfrage von Sprachmodellen, Clustering, Duplikaterkennung, Empfehlungen und Klassifikation anhand nächster Beispiele.
Auf EmpirioLabs AI du schickst modell und Eingabe zu POST /v1/embeddings. Die Eingabe ist eine Zeichenkette oder eine Liste von Zeichenketten, und die Antwort enthält einen Vektor pro Eingabe in Daten, plus a Verwendung Objekt mit den abgerechneten Token. Embedding-Modelle verrechnen nur Eingabetoken, da sie keinen Text erzeugen.
Abmessungen legt die Länge jedes Vektors fest. Größere Vektoren behalten mehr Details; kleinere kosten weniger zu speichern und zu suchen.encoding_format gibt Vektoren zurück als Float Arrays oder als kompakt base64 Saiten.bild und Video Teile, damit eine Textabfrage passende Bilder abrufen kann.output_type, und akzeptieren ein anweisen Das beschreibt die Suchaufgabe beim Einbetten von Abfragen.Zwei Regeln sorgen dafür, dass Ergebnisse aussagekräftig bleiben. Embedden Sie Dokumente und Abfragen mit demselben Modell und derselben Vektorgröße ein, da Vektoren aus verschiedenen Modellen nicht vergleichbar sind. Teilen Sie lange Dokumente in Passagen auf, die zur maximalen Eingabelänge des Modells passen, und speichern Sie jeden Vektor mit dem Passage, aus dem er stammt. Die embeddings API-Referenz Liste jedes Feld auf.
Die Vektorsuche ist schnell, weil jedes Dokument einmal im Voraus eingebettet ist und eine Abfrage nur einen neuen Vektor benötigt. Der Kompromiss ist Präzision: Die Abfrage und jedes Dokument werden getrennt kodiert, sodass die nächstgelegenen Vektoren eine gute Shortlist statt einer endgültigen Platzierung entsprechen.
Ein Reranker liest die Abfrage und jeden Kandidaten gemeinsam und bewertet, wie gut dieser Kandidat die Abfrage beantwortet. Dieser Vergleich ist genauer und erfordert mehr Arbeit pro Dokument, daher führt man ihn auf eine Shortlist ein, zum Beispiel die Top 50 Ergebnisse aus der Vektorsuche, statt auf eine ganze Sammlung.
An EmpirioLabs AI du einen Abfrage und eine Liste von Dokumente zu POST /v1/reranks. Die Antwort listet das Original jedes Dokuments auf Index mit einem relevance_score von 0 bis 1, zuerst die relevanteste. Set top_n nur die besten wenigen zurückzugeben, und return_documents um ihren Text einzubeziehen. Scores sind relativ zu einer Anfrage, verwenden Sie sie also zur Reihenfolge der Ergebnisse und nicht als feste Grenzgrenze über verschiedene Abfragen. Siehe die reranket API-Referenz Für die vollständige Anfrage.
Retrieval-augmented Generation (RAG) beantwortet Fragen aus Ihrem eigenen Inhalt, indem sie die relevantesten Passagen im Prompt eines Sprachmodells platziert. Embeddings und ein Reranker bilden seinen Abrufschritt:
Das Neuranking hält den Prompt kurz und relevant: Weniger und bessere Passagen verwenden weniger Eingabetoken und lassen mehr von der Kontextfenster Für die Antwort. Durchsuchen Modelle einbetten und Reranker, oder probiere beide in der Playground.
4 Modelle, günstigste zuerst, wo sie eine Abrechnungseinheit teilen. Die Seite jedes Modells zeigt die vollständige Preisliste, Parameter und Code.
Endpunkte
/v1/embeddingsPro 1 Mio. Tokens, nach Eingabetarif
| Modell | Eingabe | Ausgabe |
|---|---|---|
| Text Embedding v4 Alibaba Cloud | $0.07 | - |
| Tongyi Embedding Vision Flash Alibaba Cloud | $0.09 | - |
| Tongyi Embedding Vision Plus Alibaba Cloud | $0.09 | - |
| Skylark Embedding Vision ByteDance | $0.25 | - |
1 Modelle. Die Seite jedes Modells zeigt Preisliste, Parameter und Code.
Endpunkte
/v1/reranksEin Embedding-Modell verwandelt jede Eingabe in einen eigenen Vektor, sodass Sie eine Abfrage schnell mit einer großen Sammlung vergleichen können. Ein Reranker liest eine Abfrage und ein Kandidatendokument gemeinsam und bewertet deren Relevanz genauer, sodass sie auf einer kurzen Liste von Ergebnissen verwendet wird.
Nein. Jedes Modell legt Bedeutung in seinem eigenen Vektorraum, also betten Sie Ihre Dokumente und Ihre Abfragen mit demselben Modell und derselben Vektorgröße ein.
Embedding- und Rerank-Modelle rechnen die von Ihnen gesendeten Eingabetoken ab. Sie erzeugen keinen Text, daher gibt es keine Ausgabetoken zum Abrechnen.
Es handelt sich um eine Zahl von 0 bis 1, die Dokumente für eine einzige Anfrage einordnet, wobei höhere Bedeutung relevanter ist. Die Werte sind zwischen den Anfragen nicht vergleichbar, daher verwenden Sie sie, um Ergebnisse innerhalb einer Anfrage zu ordnen.
Ja, mit multimodalen Embedding-Modellen. Sie akzeptieren Text-, Bild- und Videoeingaben, sodass eine Textabfrage passende Bilder oder Clips abrufen kann.
Text Embedding v4 hat den niedrigsten Eingabetarif der 4 Einbettungen Modelle mit dieser Abrechnung, gefolgt von Tongyi Embedding Vision Flash, Tongyi Embedding Vision Plus. Die Preistabelle auf dieser Seite zeigt den niedrigsten Tarif jedes Modells und wofür er gilt.
Schauen Sie sich unsere Preise an oder kontaktieren Sie uns, wenn Sie Ihr eigenes Modell auf unserem Stack implementieren möchten.