Louer un GPU a toujours impliqué plus d'étapes qu'il ne devrait. Vous choisissez un fournisseur, attendez la capacité, configurez une image, exposez un port, et espérons que la boîte est accessible. GPU Le nuage élimine cette friction. Vous déployez une instance GPU gérée en un seul clic, et EmpirioLabs gère la fourniture, le réseautage et la connexion sécurisée à votre retour.
GPU Cloud est maintenant généralement disponible pour chaque compte EmpirioLabs. Voici ce que vous pouvez en faire.
Déployer un modèle en un clic
Le moyen le plus rapide d'utiliser GPU Cloud est de servir un modèle. Coller n'importe quel id de dépôt Hugging Face, choisir un GPU, et déployer. EmpirioLabs charge les poids et sert le modèle à partir d'un paramètre compatible OpenAI, de sorte que votre code client existant fonctionne sans changement.
curl https://api.empiriolabs.ai/v1/gpu/instances \ -H "Autorisation: porteur $EMPRIOLABS API KEY" \ -H "Type de contenu: application/json " \ -d '{ "gpu slug": "rtx-4090", "mode": "modèle", "hf id": " Qwen/Qwen2.5-7B-Instruct " }"L'appel renvoie un id d'instance avec un statut de fourniture. Sondagez l'instance jusqu'à ce qu'elle soit exécution, puis envoyer des requêtes à son chemin de connexion. Pour un modèle, ce chemin est une URL de base standard OpenAI:
curl https://api.empiriolabs.ai/v1/gpu/connect/$INSTANCE_ID/v1/chat/completions \ -H "Autorisation: porteur $EMPIRIOLABS API KEY" \ -H "Type de contenu: application/json " \ -d "{ "modèle": " Qwen/Qwen2.5-7B-Instruct ", "messages": [{ "rôle": "utilisateur", "contenu": "bonjour" }] }"Dialoguez avec votre modèle dans le tableau de bord
Vous n'avez pas à écrire de code pour essayer un modèle que vous venez de déployer. Chaque instance qui dessert une API compatible OpenAI obtient une page de chat intégrée dans le tableau de bord. Ouvrez l'instance depuis la page GPU Cloud, cliquez sur Clavarder avec ce modèle et commencez à taper. La page de chat diffuse les réponses, prend en charge une prompte système et les contrôles d'échantillonnage habituels, et vous permet d'attacher des images ou audio pour des modèles multimodaux. Il fonctionne sur la même connexion sécurisée que l'API, donc il n'y a rien de plus à configurer et aucune facturation séparée, parce que l'instance est déjà mesurée par la seconde.
Modèles et conteneurs personnalisés
Chaque charge de travail n'est pas un modèle de chat. GPU Cloud envoie des modèles en un clic pour les environnements les plus communs, y compris PyTorch avec JupyterLab, ComfyUI, un terminal web, et Ollama. Choisissez un modèle, choisissez un GPU, et l'environnement s'ouvre dans votre navigateur à travers le tableau de bord.
Si vous avez besoin d'un contrôle complet, déployez votre propre image CUDA Docker. Point GPU Nuage à l'image, liste des ports qu'elle dessert, et l'atteindre par le même chemin de connexion qu'un modèle utiliserait.
curl https://api.empiriolabs.ai/v1/gpu/instances \ -H "Autorisation: porteur $EMPRIOLABS API KEY" \ -H "Type de contenu: application/json " \ -d '{ "gpu slug": "rtx-4090", "mode": "template", "template slug": "pytorch-jupyter", "disk gb": 150 }"Prix
GPU Cloud est facturé par seconde de temps de fonctionnement. Le tarif horaire est affiché avant le déploiement et est verrouillé pour la durée de cette instance, de sorte qu'un changement de prix n'affecte jamais une location qui est déjà en cours. L'arrêt ou la destruction d'une instance libère le GPU et arrête la facturation immédiatement, et le stockage éphémère est supprimé lorsque l'instance s'arrête, donc traitez-le comme un espace de grattage. La durée de vie et les dépenses par installation sont visibles sur la page GPU Cloud et à travers /v1/account/usage.
Commencez
Ouvrir Nuage GPU dans le tableau de bord pour déployer votre première instance, ou lire Documentation GPU Cloud pour l'API complète.
