NVIDIA DGX Cloud:选择前需核实的事项

NVIDIA 将 DGX Cloud 呈现为其内部 AI 环境,并在参与的云平台上提供特定配置的 DGX Cloud 合作;DGX Cloud 文档描述了托管 AI 训练/平台组件。DGX Cloud 不是单一的通用 GPU VM 目录:底层基础设施、商业条款和运营取决于所选的云配置。确认该方案是外部采购的 DGX Cloud 方案、合作伙伴平台组件,还是 NVIDIA 的内部环境。

更新日期

Computraq 正在筹备上线。这些指南介绍准备工作与拟议框架,并不表示服务、集成或合作关系已经上线或成立。

交付模式与运营边界

NVIDIA 将 DGX Cloud 呈现为其内部 AI 环境,并在参与的云平台上提供特定配置的 DGX Cloud 合作;DGX Cloud 文档描述了托管 AI 训练/平台组件。

DGX Cloud 不是单一的通用 GPU VM 目录:底层基础设施、商业条款和运营取决于所选的云配置。确认该方案是外部采购的 DGX Cloud 方案、合作伙伴平台组件,还是 NVIDIA 的内部环境。

Computraq 处于预发布阶段。在此提及该提供商并不意味着 Computraq 在其上托管工作负载、已测试其集成,或与其存在商业关系。

买方与采购准备

使用这些问题来准备可比较的、针对特定工作负载的评估。产品名称描述的是提供商已发布的供应内容;它们并不确立特定账户的可用性。

  • 请求一份特定配置的架构和报价,其中指明基础设施提供商、加速器、期限、容量、位置、软件授权和支持负责人。
  • 澄清数据控制、租户隔离、网络路径、身份集成、可观测性、事件响应以及退出/数据返还流程。
  • 将包含的 NVIDIA 软件/支持与单独定价的基础设施和客户自运营替代方案进行比较。

开发者与运营者证据

在选择容量之前,创建一个小型验收计划,记录模型和修订版本、输入形状、运行时、GPU 配置、并发数、目标延迟或作业完成情况以及恢复预期。提供商文档是产品设计的证据,而非此工作负载已经过测试的证明。

  • 在迁移作业之前,确认确切的云配置、调度器、软件栈、容器基础镜像和受支持的 GPU 拓扑。
  • 在合同约定的配置内测试模型训练/推理、存储吞吐量、集群网络、身份、日志记录和恢复。
  • 固定软件版本,并定义平台更新、维护窗口和工作负载回滚的处理方式。

来源与核验