提供モードと運用境界
Crusoeは、Infrastructure CloudのGPU/CPU VM、ストレージ、ネットワーキングを、マネージドKubernetes(CMK)またはSlurmのオーケストレーションから分離しています。そのドキュメントでは、サーバーレス推論、専用セルフサービス推論デプロイメント、サーバーレスファインチューニング向けのManaged AIオプションについても説明しています。
Infrastructure Cloudはワークロード設定を顧客に委ね、CMK/Slurmはオーケストレーション要素を管理し、Managed AI推論は別個のマネージドサービング経路です。容量や運用負荷を比較する前に、サービスの境界を選択してください。
Computraqはプレローンチです。ここでこのプロバイダーを挙げることは、Computraqがその上でワークロードをホストしていること、その統合をテスト済みであること、またはそれと商業関係を有していることを意味するものではありません。
購入者と調達の準備
これらの質問を使用して、比較可能なワークロード固有の評価を準備してください。製品名はプロバイダーが公開している提供内容を表すものであり、特定のアカウントでの可用性を確立するものではありません。
- Infrastructure Cloudの場合、ノード数、インターコネクト、ストレージ、オーケストレーションのニーズを定義し、Managed AIの場合、エンドポイントの動作、トラフィック、データ境界を定義してください。
- 現在のロケーション、アクセラレータ容量、予約、サポート、サービスレベル、請求条件を直接見積もりで請求してください。
- 選択したサービスについて、モデルアーティファクト、ランタイム変更、ログ、スケーリングの決定を誰が管理するかを整理してください。
開発者と運用者の証拠
容量を選択する前に、モデルとリビジョン、入力形状、ランタイム、GPU構成、同時実行数、目標レイテンシまたはジョブ完了、復旧の期待値を記録する小規模な受け入れ計画を作成してください。プロバイダーのドキュメントは製品設計の証拠であり、このワークロードがテスト済みであることの証明ではありません。
- Infrastructure CloudのドキュメントはVMとオーケストレーションのビルディングブロックを提供します。独自のコンテナに対してドライバー/ランタイムの互換性とネットワーク動作を検証してください。
- CMKまたはSlurmの場合、ノード登録、ジョブ投入、ストレージマウント、障害処理、マルチノード通信をテストしてください。
- マネージド推論の場合、エンドポイントのコールドスタート、スループット、リクエスト制限、モデルバージョンのロールアウトとロールバックをテストしてください。