全球知名云服务供应商 DigitalOcean 在近期举行的 Deploy 大会上公布了全新的 GPU Droplet 云主机服务,这标志着DigitalOcean 在支持AI和机器学习工作负载方面迈出了重要一步。
DigitalOcean 的 GPU Droplet(云主机)
DigitalOcean 自 2023 年 7月收购 Paperspace 以来,一直在不断加大对 AI 的投资, 致力于将简单易用 AI 能力带给所有客户,于是 DigitalOcean 在产品中深度集成了该能力。DigitalOcean 提供的基础设施不仅包括最前沿的 GPU 资源,还构建了一个完整的基础设施平台,帮助开发者更快速、简单地构建自己的 AI 应用、AI 服务。
DigitalOcean 的 AI 服务由两部分组成:基础设施和工具。核心是 GPU 基础设施即服务(IaaS),它提供了全系列的NVIDIA GPU,目标是简化复杂的基础设施,使其易用性达到让所有技能水平的开发者都能使用的程度。此外,还提供了一整套以 AI 为中心的工作流和工具,包括 Jupyter Notebook、工作流、核心计算原语(compute primitives),以及帮助将 AI 模型部署到生产环境的平台工具。
DigitalOcean 的目标是通过直观的用户界面,结合社区资源的强大合作伙伴关系和技术支持,为 AI 创业和对 AI 感兴趣的人提供服务。初创公司和开发者,都可以在 DigitalOcean 平台上轻松地使用 AI 模型进行实验和创造。DigitalOcean 致力于降低学习曲线,提高开发者的技术实现效率,同时提供可靠的技术服务。
目前已经有客户正在使用 DigitalOcean 构建各种应用,从基础模型训练到文本、视频和图像应用,以及电子商务推荐引擎和欺诈检测等。例如,Nomic AI在DigitalOcean上训练了他们的嵌入模型——Nomic Embed Text v1 ,它提供了一个数据标记和处理工具,帮助他们用户训练自己的大型语言模型。
DigitalOcean 的另一个客户 Supermaven 打造了一个 AI 助手,帮助开发者更快更好地编写代码,它集成了主流的IDE,并自己开发训练了代码补全模型,这也是目前行业里最快的模型之一,它提供超过 30 万个token的上下文窗口。
DigitalOcean GPU Droplet 的申请与未来计划
产品界面预览
目前,DigitalOcean GPU Droplet 面向部分选定客户开放内测使用,中国区用户如有需要可与 DigitalOcean 中国区独家战略合作伙伴卓普云申请。
DigitalOcean GPU Droplet 现在提供 H100 x1 和 H100 x8 两种机型实例。H100 x1 实例默认配置提供 80GB vRAM、240GB RAM,720G 存储,6.47 美元/小时,用户可根据需求扩展,如需了解更多详情,也可与卓普云的销售团队咨询。
接下来,DigitalOcean GPU Droplet 首先会进一步扩大 GPU 云服务的规模。同时,面向 AI 的服务将会与 DigitalOcean 的所有产品线进行深度融合,以便为客户提供无缝的 AI 开发体验。第三,DigitalOcean 将为所有客户提供 GPU 计算与 LLMs 的所有能力,持续为用户交付价值。