提供モードと運用境界
Fluidstackは、ヘルスチェックと可観測性を備えたベアメタルAIインフラストラクチャ上のマネージドKubernetesおよびマネージドSlurmを文書化しています。Kubernetesはトレーニングと推論向けに位置付けられ、Slurmはバッチトレーニング向けに提示されています。
これらはベアメタルクラスタ上のオーケストレーション提供であり、単純なGPU VMやトークン課金のサーバーレスAPIと互換ではありません。マネージドコントロールプレーンの機能は、アプリケーションレベルの信頼性とセキュリティを検証する必要性を排除するものではありません。
Computraqはプレローンチです。ここでこのプロバイダーを挙げることは、Computraqがその上でワークロードをホストしていること、その統合をテスト済みであること、またはそれと商業関係を有していることを意味するものではありません。
購入者と調達の準備
これらの質問を使用して、比較可能なワークロード固有の評価を準備してください。製品名はプロバイダーが公開している提供内容を表すものであり、特定のアカウントでの可用性を確立するものではありません。
- KubernetesとSlurmのどちらがワークロードとチームのスキルにより適合するかを判断し、シングルテナンシー、クラスタサイジング、サポート、容量条件、サービスレベルに関する詳細を請求してください。
- ストレージ性能、ネットワークトポロジ、クラスタアクセス、ヘルスチェックの動作、およびプロバイダーが担当するハードウェア修理タスクを確認してください。
- 正確な割り当て、更新/終了条件、可観測性/サポートの成果物を見積もりに記録してください。
開発者と運用者の証拠
容量を選択する前に、モデルとリビジョン、入力形状、ランタイム、GPU構成、同時実行数、目標レイテンシまたはジョブ完了、復旧の期待値を記録する小規模な受け入れ計画を作成してください。プロバイダーのドキュメントは製品設計の証拠であり、このワークロードがテスト済みであることの証明ではありません。
- 意図したコンテナと分散トレーニング/推論ワークフローを使用して、KubernetesのスケジューリングまたはSlurmの投入をテストしてください。
- 機密データセットをロードする前に、ノードのヘルスシグナル、障害動作、チェックポイント、ユーザー管理、アクセス制御を確認してください。
- デバイスレベルのコンピュートだけでなく、ストレージからGPUまで、およびノード間の完全なパスをベンチマークしてください。