云与推理服务商
了解交付模式,为潜在供应商准备可比较的需求。
Computraq 正在筹备上线。这些指南介绍准备工作与拟议框架,并不表示服务、集成或合作关系已经上线或成立。
24 篇指南
- Amazon Web Services:选择前需要核实的事项
AWS 提供 GPU 及其他加速 EC2 实例系列;编排和托管模型服务是独立的层。请准备针对具体工作负载的报价和验收检查。
- Baseten:选择前需要核实什么
Baseten 将模型打包并部署为托管 GPU 推理端点,配有 Truss 工作流和自动扩缩控制。请准备针对具体工作负载的报价和验收检查。
- CoreWeave:选择前需要核实什么
无服务器、专用和自管理 Kubernetes 推理各自将不同数量的 GPU 运维工作转移给提供商或客户。请准备针对具体工作负载的报价和验收检查。
- Crusoe:选择前需要核实的事项
Crusoe 在托管 Kubernetes、Slurm 以及独立的托管推理路径之外,还提供由客户管理的 GPU 基础设施。请准备针对具体工作负载的报价和验收检查。
- CUDO Compute:选择前需要核实的事项
CUDO Compute 现在专注于专用 GPU 集群和托管 AI 基础设施;其官方状态页面称,公共按需平台已于 2026-03-31 关闭。
- Fireworks AI:选择前需要核实什么
Fireworks AI 区分基于 token 的无服务器 API、专用 GPU 部署和用于模型服务的预留容量。请准备针对具体工作负载的报价和验收检查。
- Fluidstack:选择前需要核实的事项
Fluidstack 的公开文档描述了用于推理和分布式训练的裸金属托管 Kubernetes 和 Slurm 集群。请准备针对具体工作负载的报价和验收检查。
- GMI Cloud:选择前需要核实的事项
GMI Cloud 涵盖无服务器推理 API、专用 GPU 端点和用于训练与推理的基础设施集群。请准备针对具体工作负载的报价和验收检查。
- Google Cloud:选择前需核实的事项
Google Cloud 提供 GPU VM、GKE GPU 节点以及一条具有不同软件和工作负载要求的独立 TPU 路径。请准备针对特定工作负载的报价和验收检查。
- Hugging Face Inference Endpoints:选择前需要核实的事项
Hugging Face Inference Endpoints 在托管专用基础设施上部署 Hub 模型,可选择引擎并支持自动扩缩容。请准备针对具体工作负载的报价和验收检查。
- Hyperstack:选择前需要核实的事项
Hyperstack 提供 GPU 虚拟机和 Kubernetes 集群,以及独立的 OpenAI 兼容 AI Studio 服务。请准备针对具体工作负载的报价和验收检查。
- Lambda:选择前需要核实什么
Lambda 将按需 GPU VM、预留多节点集群和单租户 Private Cloud 容量分开提供。请准备针对具体工作负载的报价和验收检查。
- Microsoft Azure:选择前需核实的事项
Azure 提供面向特定工作负载的 GPU VM 系列,并将 AKS 和 Azure Machine Learning 作为独立的编排服务。请准备针对特定工作负载的报价和验收检查。
- Modal:选择前需要核实什么
Modal 在随调用需求扩缩的 serverless 计算上运行代码定义的 Python 函数和 GPU 工作负载。请准备针对具体工作负载的报价和验收检查。
- Nebius:选择前需要核实什么
GPU 虚拟机和集群将直接的工作负载控制与 Nebius AI Cloud 编排和平台服务相结合。请准备针对具体工作负载的报价和验收检查。
- Nscale:选择前需要核实的事项
Nscale 描述其 AI 基础设施上的托管无服务器或专用推理,并针对每项 offer 需要确认服务边界。请准备针对具体工作负载的报价和验收检查。
- NVIDIA DGX Cloud:选择前需核实的事项
DGX Cloud 是 NVIDIA 的内部 AI 环境,加上通过云平台和合作伙伴提供的特定配置方案。请准备针对特定工作负载的报价和验收检查。
- Replicate:选择前需要核实的事项
Replicate 运行托管模型 API 和自定义部署,同时管理模型执行、扩缩容和预测生命周期。请准备针对具体工作负载的报价和验收检查。
- Runpod:选择前需要核实的事项
Runpod 将直接管理的 GPU Pod 与由请求驱动、具有托管 worker 生命周期的 Serverless 端点区分开来。请准备针对具体工作负载的报价和验收检查。
- Sakura Internet:选择前需要核实的事项
Sakura 的 Koukaryoku 系列区分专用 PHY 服务器、VRT GPU 虚拟机和 DOK 容器任务执行。请准备针对具体工作负载的报价和验收检查。
- Scaleway:选择前需要核实的事项
Scaleway 将用于直接控制的 GPU 虚拟实例与用于托管模型端点的 Managed Inference 相结合。请准备针对具体工作负载的报价和验收检查。
- Together AI:选择前需要核实的事项
Together AI 涵盖 Serverless 模型 API、专用推理端点和 GPU 集群,基础设施控制程度依次递增。请准备针对具体工作负载的报价和验收检查。
- Vast.ai:选择前需要核实的事项
Vast.ai 将主机提供的 GPU 实例市场与按需、预留、可中断和 Serverless 选项相结合。请准备针对具体工作负载的报价和验收检查。
- Verda:选择前需要核实的事项
Verda 涵盖 GPU 实例、虚拟化 Instant Clusters 和自动扩缩的 Serverless Containers,并可按需提供定制裸金属。请准备针对具体工作负载的报价和验收检查。
没有匹配的指南。