Scaleway:選択前に確認すべき事項

Scalewayは、仮想コンピュートインスタンス内で専用GPUを提供するGPU Instancesと、専用GPUインフラストラクチャを使用するManaged Inference/Generative APIsを提供しています。そのクラウドには別個のKubernetesおよびサーバーレス製品もあります。GPU Instanceは直接のSSH/コンテナ制御を提供し、Managed Inferenceはマネージドモデルエンドポイントを提供します。GPU Instancesはオーケストレーションに別途接続でき、それに応じたノードと運用の責任が伴います。

更新日

Computraq は公開に向けて準備中です。これらのガイドは準備事項と構想を説明するもので、稼働中のサービス、連携、提携を示すものではありません。

提供形態と運用境界

Scalewayは、仮想コンピュートインスタンス内で専用GPUを提供するGPU Instancesと、専用GPUインフラストラクチャを使用するManaged Inference/Generative APIsを提供しています。そのクラウドには別個のKubernetesおよびサーバーレス製品もあります。

GPU Instanceは直接のSSH/コンテナ制御を提供し、Managed Inferenceはマネージドモデルエンドポイントを提供します。GPU Instancesはオーケストレーションに別途接続でき、それに応じたノードと運用の責任が伴います。

Computraqはプレローンチです。ここでこのプロバイダーを挙げることは、Computraqがその上でワークロードをホストしていること、その統合をテスト済みであること、またはそれと商業関係を有していることを意味するものではありません。

購入者と調達の準備

これらの質問を使用して、比較可能でワークロード固有の評価を準備してください。製品名はプロバイダーが公開している提供内容を表すものであり、特定のアカウントでの可用性を確立するものではありません。

  • カスタム環境には直接のGPU Instancesを、マネージドモデル/APIにはManaged Inferenceを選択してください。選択したアクセラレータについて、アベイラビリティゾーンと現在の在庫を確認してください。
  • 推論サービスとコンピュートサービスでは制御が異なる場合があるため、データレジデンシーとプライベートネットワークの要件を特定の製品に対して確認してください。
  • コンピュート、ストレージ、パブリックIP、ネットワーク、マネージドサービスのコストを、現在のゾーン固有の条件から見積もってください。

開発者と運用者の証拠

容量を選択する前に、モデルとリビジョン、入力形状、ランタイム、GPU構成、同時実行数、目標レイテンシまたはジョブ完了、復旧の期待値を記録する小規模な受け入れ計画を作成してください。プロバイダーのドキュメントは製品設計の証拠であり、このワークロードがテスト済みであることの証明ではありません。

  • インスタンスの場合、サポートされているGPU OS/コンテナイメージを選択し、ドライバー/ランタイム、SSH公開、ボリュームサイズを確認してください。
  • Managed Inferenceの場合、OpenAI互換インターフェース、モデルカタログまたはカスタムモデル、スループット、ネットワーク、プライバシーの前提をテストしてください。
  • KubernetesでGPUノードを実行する場合、ワークロードの容量計画にインスタンスのプロビジョニングとノードのセットアップ時間を含めてください。

出典と確認