Scaleway:选择前需要核实的事项

Scaleway 提供 GPU Instances(在虚拟计算实例中提供专用 GPU)以及使用专用 GPU 基础设施的 Managed Inference/Generative APIs;其云平台还有独立的 Kubernetes 和无服务器产品。GPU Instance 提供直接的 SSH/容器控制;Managed Inference 提供托管模型端点。GPU Instances 可单独接入编排,并承担相应的节点和运营责任。

更新日期

Computraq 正在筹备上线。这些指南介绍准备工作与拟议框架,并不表示服务、集成或合作关系已经上线或成立。

交付模式与运营边界

Scaleway 提供 GPU Instances(在虚拟计算实例中提供专用 GPU)以及使用专用 GPU 基础设施的 Managed Inference/Generative APIs;其云平台还有独立的 Kubernetes 和无服务器产品。

GPU Instance 提供直接的 SSH/容器控制;Managed Inference 提供托管模型端点。GPU Instances 可单独接入编排,并承担相应的节点和运营责任。

Computraq 处于预发布阶段。在此提及该提供商并不意味着 Computraq 在其上托管工作负载、已测试其集成,或与其存在商业关系。

买方与采购准备

使用这些问题来准备可比较、针对具体工作负载的评估。产品名称描述的是提供商已发布的产品,并不代表特定账户可获得该产品。

  • 为自定义环境选择直接的 GPU Instances,或为托管模型/API 选择 Managed Inference;检查所选加速器的可用区和当前库存。
  • 针对具体产品确认数据驻留和私有网络要求,因为推理和计算服务可能有不同的控制措施。
  • 根据当前特定区域的条款估算计算、存储、公网 IP、网络和托管服务成本。

开发者与运营方证据

在选择容量之前,制定一个小型验收计划,记录模型及修订版本、输入形状、运行时、GPU 配置、并发数、目标延迟或作业完成情况,以及恢复预期。提供商文档是产品设计的证据,并不证明该工作负载已经过测试。

  • 对于实例,选择受支持的 GPU 操作系统/容器镜像,核实驱动/运行时、SSH 暴露和卷大小。
  • 对于 Managed Inference,测试 OpenAI 兼容接口、模型目录或自定义模型、吞吐量、网络和隐私假设。
  • 如果在 Kubernetes 中运行 GPU 节点,请将实例开通和节点设置时间纳入工作负载容量规划。

来源与核验