GPU किराए पर लेना हमेशा से अपेक्षा से अधिक चरणों में शामिल रहा है। आप एक प्रदाता चुनते हैं, क्षमता का इंतजार करते हैं, एक छवि कॉन्फ़िगर करते हैं, एक पोर्ट एक्सपोज़ करते हैं, और उम्मीद करते हैं कि बॉक्स पहुंच योग्य है। GPU Cloud उस बाधा को दूर करता है। आप एक क्लिक में प्रबंधित GPU इंस्टेंस तैनात करते हैं, और EmpirioLabs प्रोविजनिंग, नेटवर्किंग, और सुरक्षित कनेक्शन को आपके पास वापस संभालता है।
अब GPU Cloud आमतौर पर हर EmpirioLabs खाते के लिए उपलब्ध है। यहाँ आप इसके साथ क्या कर सकते हैं।
एक क्लिक में एक मॉडल को तैनात करें
GPU Cloud का सबसे तेज़ उपयोग मॉडल सर्व करना है। कोई भी Hugging Face रिपॉजिटरी आईडी पेस्ट करें, GPU चुनें, और तैनात करें। EmpirioLabs वजन लोड करता है और मॉडल को OpenAI-संगत एंडपॉइंट से सर्व करता है, इसलिए आपका मौजूदा क्लाइंट कोड बिना किसी बदलाव के काम करता है।
कर्ल https://api.empiriolabs.ai/v1/gpu/instances
कॉल की स्थिति के साथ एक उदाहरण आईडी लौटाता है प्रावधानउदाहरण जब तक यह नहीं है दौड़ना, फिर उसके कनेक्ट पथ पर अनुरोध भेजें। एक मॉडल के लिए, यह पथ एक मानक ओपनएआई बेस यूआरएल है:
कर्ल https://api.empiriolabs.ai/v1/gpu/connect/$INSTANCE_ID/v1/chat/completions
डैशबोर्ड में अपने मॉडल के साथ चैट करें
आपको अभी-अभी डिप्लॉय किए गए मॉडल को आजमाने के लिए कोई कोड लिखने की जरूरत नहीं है। हर ऐसा इंस्टेंस जो OpenAI-संगत API को सेवा देता है, डैशबोर्ड में एक बिल्ट-इन चैट पेज मिलता है। GPU Cloud पेज से इंस्टेंस खोलें, इस मॉडल के साथ चैट पर क्लिक करें, और टाइप करना शुरू करें। चैट पेज प्रतिक्रियाएं स्ट्रीम करता है, सिस्टम प्रॉम्प्ट और सामान्य सैंपलिंग नियंत्रणों का समर्थन करता है, और मल्टीमॉडल मॉडलों के लिए इमेज या ऑडियो संलग्न करने देता है। यह API के समान सुरक्षित कनेक्शन पर चलता है, इसलिए सेटअप के लिए कुछ अतिरिक्त नहीं है और कोई अलग बिलिंग नहीं है, क्योंकि इंस्टेंस पहले से ही सेकंड के हिसाब से मीटर किया जाता है।
टेम्पलेट्स और कस्टम कंटेनर
हर वर्कलोड चैट मॉडल नहीं होता। GPU Cloud सबसे सामान्य वातावरणों के लिए एक-क्लिक टेम्पलेट भेजता है, जिनमें PyTorch के साथ JupyterLab, ComfyUI, वेब टर्मिनल, और ओलामा शामिल हैं। एक टेम्पलेट चुनें, GPU चुनें, और वातावरण आपके ब्राउज़र में डैशबोर्ड के माध्यम से खुल जाता है।
यदि आपको पूर्ण नियंत्रण चाहिए, तो अपनी खुद की CUDA Docker छवि तैनात करें। छवि पर GPU Cloud पॉइंट करें, जिन पोर्ट्स को वह सर्व करती है, उनकी सूची बनाएं, और उसी कनेक्ट पथ के माध्यम से पहुंचें जो मॉडल उपयोग करेगा।
कर्ल https://api.empiriolabs.ai/v1/gpu/instances
मूल्य निर्धारण
GPU Cloud रनिंग टाइम के प्रति सेकंड बिल किया जाता है। प्रति घंटे की दर तैनाती से पहले दिखाई जाती है और उस इंस्टेंस की अवधि के लिए लॉक रहती है, इसलिए मूल्य परिवर्तन कभी भी पहले से चल रहे किराए पर नहीं पड़ता। इंस्टेंस को रोकने या नष्ट करने से GPU रिलीज़ हो जाता है और बिलिंग तुरंत बंद हो जाती है, और जब इंस्टेंस रुकता है तो अस्थायी स्टोरेज हटा दिया जाता है, इसलिए इसे स्क्रैच स्पेस के रूप में लें। लाइफटाइम और प्रति-इंस्टेंस खर्च GPU Cloud पेज पर और पूरी तरह दिखाई देते हैं TOKEN।.
शुरू हो जाओ
खुला GPU Cloud डैशबोर्ड में अपने पहले उदाहरण को तैनात करने या पढ़ने के लिए GPU Cloud दस्तावेज़ीकरण पूर्ण एपीआई के लिए।.




