租用显卡一直包含比应有更多的步骤。你选择供应商,等待容量,配置镜像,暴露端口,然后希望盒子能被访问。GPU Cloud消除了这种摩擦。你只需一键部署托管GPU实例,EmpirioLabs负责配置、网络建设以及安全连接回你。
GPU Cloud现在一般提供给EmpirioLabs的每个账户。 这是你能做的.
在一击中部署一个模型
使用GPU Cloud最快的方法是服务一个模型. 粘贴任意的 Hugging Face 寄存器 id, 选择一个 GPU, 并部署 。 EmpirioLabs从一个与OpenAI兼容的端点加载权重并服务模型,因此您现有的客户端代码工作时没有变化.
卷 https://api.empiriolabs.ai/v1/gpu/instances ~~~~H "授权:熊熊 $EMPRIOLABS API KEY"~~H "联系: application/json ~"~~D'{"gpu slug":"rtx-4090","mode":"型号","hf id":" Qwen/Qwen2.5-7B-Instruct ~"~~~~~~~")
调用返回一个实例ID, 状态为 供给. 调查案件直到 运行,然后将请求发送给其连接路径。 对于一个模型来说,该路径是标准OpenAI基础URL:
卷 https://api.empiriolabs.ai/v1/gpu/connect/$INSTANCE_ID/v1/chat/completions ==-H "授权:熊鼠$EMPRIOLABS API KEY"=========================================================================================================================================================================================
在仪表板上和模特儿聊天
你无需编写代码就能尝试刚刚部署的模型。每个服务 OpenAI 兼容 API 的实例都会在仪表盘中获得一个内置聊天页面。从GPU Cloud页面打开该实例,点击“与此模型聊天”,然后开始输入。聊天页面会流式回复,支持系统提示和常见的采样控制,并允许你为多模态模型附加图片或音频。它运行在与 API 相同的安全连接上,因此无需额外设置,也无需单独计费,因为实例已经按秒计量。
模板和自定义容器
并非每个工作负载都是聊天模式。GPU Cloud为最常用环境提供一键模板,包括 PyTorch 搭配 JupyterLab、ComfyUI、Web 终端和 Ollama。选择模板,选择 GPU,环境便通过浏览器仪表盘打开。
如果你需要完全控制,可以部署你自己的 CUDA Docker 镜像。指向镜像GPU Cloud,列出它所服务的端口,并通过模型使用的连接路径访问它。
卷 https://api.empiriolabs.ai/v1/gpu/instances \\-H "授权:熊熊 $EMPRIOLABS API KEY"\-H "连接-Type: application/json "\-d"{"gpu slug":"rtx-4090","mode":"Template","template slug":"pytortorch-jupyter","Disk gb":150}"
定价
GPU Cloud每秒运行时间收费. 计时费率在部署前显示,并锁定该实例的生命,因此价格变动绝不影响已经运行的租金。 停止或销毁一个实例会释放GPU并立即停止计费,当实例停止时,麻黄存储会被删除,所以把它当作刮痕空间. 在GPU云页面和通过中可以看到生活时间和常年开支 /v1/account/usage (英语)。 。 。.
开始吧
打开 GPU Cloud 在仪表板上部署您的第一审, 或者读到 GPU Cloud文档 整个API.




