Microsoft Azure:选择前需核实的事项

Azure 提供 GPU 加速的虚拟机系列,包括用于大规模训练的 ND 系列和用于计算密集型工作负载的 NC 系列;Azure Kubernetes Service 和 Azure Machine Learning 是独立的编排/ML 服务。GPU VM 提供基础设施控制能力。Azure ML 托管在线终结点和 AKS 会增加各自的 serving 或编排层、配额和生命周期行为。VM 大小支持、可用性和配额因区域和订阅而异。

更新日期

Computraq 正在筹备上线。这些指南介绍准备工作与拟议框架,并不表示服务、集成或合作关系已经上线或成立。

交付模式与运营边界

Azure 提供 GPU 加速的虚拟机系列,包括用于大规模训练的 ND 系列和用于计算密集型工作负载的 NC 系列;Azure Kubernetes Service 和 Azure Machine Learning 是独立的编排/ML 服务。

GPU VM 提供基础设施控制能力。Azure ML 托管在线终结点和 AKS 会增加各自的 serving 或编排层、配额和生命周期行为。VM 大小支持、可用性和配额因区域和订阅而异。

Computraq 处于预发布阶段。在此提及该提供商并不意味着 Computraq 在其上托管工作负载、已测试其集成,或与其存在商业关系。

买方与采购准备

使用这些问题来准备可比较的、针对特定工作负载的评估。产品名称描述的是提供商已发布的供应内容;它们并不确立特定账户的可用性。

  • 将系列与工作负载和互连需求相匹配;在承诺前确认配额、确切的区域/可用区可用性、预留条款、网络和存储。
  • 将 VM 成本与管理服务、磁盘、网络、支持和许可成本分开;对于持续容量使用书面报价。
  • 针对所选架构审查租户身份、私有网络、数据驻留和模型终结点访问。

开发者与运营者证据

在选择容量之前,创建一个小型验收计划,记录模型和修订版本、输入形状、运行时、GPU 配置、并发数、目标延迟或作业完成情况以及恢复预期。提供商文档是产品设计的证据,而非此工作负载已经过测试的证明。

  • 检查 VM SKU 规格和受支持的操作系统/驱动栈;对多 GPU/多 VM 训练运行分布式通信测试。
  • 对于 AKS 或 Azure ML 终结点,独立验证节点池、GPU 调度、自动扩缩容、健康检查和模型发布。
  • 自动化配额/容量检查,并包含针对区域或 SKU 限制的备用计划。

来源与核验