提供形態と運用境界
AzureはGPUアクセラレーション付き仮想マシンファミリーを提供し、大規模トレーニング向けのNDシリーズや計算集約型ワークロード向けのNCシリーズなどがあります。Azure Kubernetes ServiceとAzure Machine Learningは別個のオーケストレーション/MLサービスです。
GPU VMはインフラストラクチャの制御を提供します。Azure MLのマネージドオンラインエンドポイントとAKSは、独自のサービング層またはオーケストレーション層、クォータ、ライフサイクル動作を追加します。VMサイズのサポート、可用性、クォータはリージョンとサブスクリプションによって異なります。
Computraqはプレローンチです。ここでこのプロバイダーを挙げることは、Computraqがその上でワークロードをホストしていること、その統合をテスト済みであること、またはそれと商業関係を有していることを意味するものではありません。
購入者と調達の準備
これらの質問を使用して、比較可能なワークロード別の評価を準備してください。製品名はプロバイダーが公表している提供内容を表すものであり、特定のアカウントでの可用性を確立するものではありません。
- シリーズをワークロードとインターコネクトのニーズに適合させ、コミット前にクォータ、正確なリージョン/ゾーンの可用性、予約条件、ネットワーク、ストレージを確認してください。
- VMコストをマネージドサービス、ディスク、ネットワーク、サポート、ライセンスのコストから分離し、継続的な容量には書面による見積を使用してください。
- 選択したアーキテクチャについて、テナントID、プライベートネットワーク、データ所在地、モデルエンドポイントへのアクセスを確認してください。
開発者と運用者の証拠
容量を選択する前に、モデルとリビジョン、入力形状、ランタイム、GPU構成、同時実行数、目標レイテンシまたはジョブ完了、復旧の期待値を記録する小規模な受け入れ計画を作成してください。プロバイダーのドキュメントは製品設計の証拠であり、このワークロードがテスト済みであることの証明ではありません。
- VM SKUの仕様とサポートされるOS/ドライバスタックを確認し、マルチGPU/マルチVMトレーニング向けの分散通信テストを実行してください。
- AKSまたはAzure MLエンドポイントについては、ノードプール、GPUスケジューリング、オートスケーリング、ヘルスチェック、モデルロールアウトを個別に検証してください。
- クォータ/容量チェックを自動化し、リージョンまたはSKUの制約に対するフォールバック計画を含めてください。