फुगु मैक्स एपीआई का उपयोग कैसे करें

फुगु मैक्स EmpirioLabs पर उपलब्ध है। फुगु एक मॉडल नहीं है। यह एक कंडक्टर है: एक एपीआई प्रशंसकों को विशेषज्ञ मॉडलों के एक पूल में अनुरोध करता है और उनके काम को एक ही उत्तर में लिखता है। फुगु मैक्स उस परिवार का लागत-कुशल सदस्य है, जो साकाना द्वारा इकट्ठे किए गए सबसे चौड़े पूल पर ड्राइंग करता है, जिसमें ओपन-वेट और विशेषज्ञ मॉडल शामिल हैं, और हमेशा सबसे महंगे विकल्प तक पहुंचने के बजाय प्रत्येक कार्य के लिए एक सही आकार की टीम को इकट्ठा करना है।

फुगु मैक्स क्या समर्थन करता है

फुगु मैक्स 1M टोकन संदर्भ विंडो के साथ टेक्स्ट और इमेज इनपुट लेता है। यह फ़ंक्शन कॉलिंग, सख्त JSON स्कीमा संरचित आउटपुट और पेज फ़ेच के साथ अंतर्निहित वेब खोज का समर्थन करता है। रीजनिंग हमेशा चालू रहती है।

आउटपुट प्रति अनुरोध 131,072 टोकन पर सीमित है। छवि इनपुट सामान्य OpenAI-संगत सामग्री भागों के माध्यम से स्वीकार किया जाता है, और EmpirioLabs आपके लिए अपलोड प्लंबिंग को संभालता है।

फुगु मैक्स को कैसे कॉल करें

OpenAI-संगत चैट पूर्णता समापन समापन बिंदु और सेट का उपयोग करें मॉडल सेवा मेरे फुगु-मैक्स:

curl https://api.empiriolabs.ai/v1/chat/completions \ -H 'प्राधिकरण: वाहक $EMPIRIOLABS_API_KEY' \ -h 'सामग्री-प्रकार: application/json' \ -d '{ "मॉडल": "fugu-max", "messages": [ { "role": "user", "content": "सार्वजनिक API को सीमित करने के लिए तीन दृष्टिकोणों की तुलना करें, और 5000 req/s सेवा के लिए एक की अनुशंसा करें। } ] }'

वही मॉडल प्रतिक्रियाओं, संदेशों और Google-संगत सामग्री-जनरेशन एंडपॉइंट के माध्यम से उपलब्ध है। किसी अन्य फुगु मॉडल से स्विच करना एक-पंक्ति परिवर्तन है, क्योंकि अनुरोध और प्रतिक्रिया अनुबंध समान है।

वेब खोज और संरचित आउटपुट

सेट TOKEN सेवा मेरे सच जब किसी उत्तर को वर्तमान जानकारी की आवश्यकता होती है। मॉडल अपनी स्वयं की खोज करता है और पृष्ठ प्राप्त करता है, स्रोतों का हवाला देता है जब उनके पास होता है, और रिपोर्ट करता है कि उसने किस चीज में उपयोग किया है usage.tool_usageउदाहरण के लिए {"web_search": 3, "web_extractor": 1}. वे गणना बिल योग्य हैं और पहले से ही रिपोर्ट की गई लागत में शामिल हैं।

मशीन-पठनीय आउटपुट के लिए, एक सख्त JSON स्कीमा पास करें response_format. फुगु मैक्स बिल्कुल अनुरूप JSON लौटाता है, इसलिए आप मरम्मत चरण के बिना परिणाम को पार्स कर सकते हैं।

कॉल करने वालों को तीन चीजें गलत हो जाती हैं

1. टोकन की संख्या आपके प्रॉम्प्ट से बड़ी है। क्योंकि कंडक्टर अन्य मॉडलों को फैन करके काम करता है, यह जो ऑर्केस्ट्रेशन करता है वह वास्तविक टोकन उपयोग है और इसे सामान्य इनपुट और आउटपुट टोकन के रूप में बिल किया जाता है। वेब खोज सक्षम के साथ एक वाक्य का संकेत हजारों इनपुट टोकन की रिपोर्ट कर सकता है। यह अपेक्षित है, बग नहीं, और यही कारण है कि लौटाया गया प्रयोग ब्लॉक आपके अपने संदेश की लंबाई के बजाय बजट की संख्या है।

2. स्ट्रीमिंग टोकन द्वारा टोकन नहीं आती है। स्ट्रीम: सच स्वीकार किया जाता है और लंबे अनुरोधों को जीवित रखने के लिए उपयोगी है, लेकिन कंडक्टर पूरे ऑर्केस्ट्रेशन को बफर करता है और अंत में एक फट में तर्क और उत्तर देता है। यदि आपका यूआई टाइपिंग प्रभाव दिखाता है, तो उम्मीद करें कि यह बेकार बैठेगा और फिर एक बार में भरेगा।

3. केवल तीन तर्क स्तर मौजूद हैं। तर्क effort स्वीकार करता है उच्च, उच्च, और अधिकतम, और कुछ नहीं। भेजना संख्‍या आदि, मध्यम, या कोई नहीं एक 400 लौटाता है। फुगु मैक्स पर, अधिकतम के उपनाम के रूप में स्वीकार किया जाता है उच्च. रीजनिंग को बंद नहीं किया जा सकता है। मिलकर नहीं max_tokens कम से कम 16 होना चाहिए, और छोटे मान उत्तर को छोटा या खाली कर सकते हैं क्योंकि कंडक्टर को काम करने के लिए जगह की आवश्यकता होती है।

मूल्य निर्धारण

फुगु मैक्स भुगतान करता है क्योंकि आप बिना किसी सदस्यता के जाते हैं, और यह प्रत्येक संदर्भ लंबाई पर एक फ्लैट टोकन दर के साथ एकमात्र फुगु मॉडल है, इसलिए एक लंबा संकेत आपको कभी भी उच्च स्तर पर नहीं ले जाता है। अंतर्निहित वेब खोज और पेज फ़ेच को टोकन के शीर्ष पर प्रति निष्पादित कॉल पर बिल किया जाता है, और एक एकल अनुरोध एक से अधिक चला सकता है। इनपुट, आउटपुट, कैश्ड इनपुट और प्रति-कॉल वेब टूल के लिए वर्तमान दरें फुगु मैक्स मॉडल पेज और मूल्य निर्धारण पृष्ठ, जो हमेशा लाइव कैटलॉग प्रस्तुत करता है।

इसे अजमाएं

में एक संकेत चलाएँ खेल, या में पूर्ण पैरामीटर संदर्भ पढ़ें एपीआई डॉक।.