NVIDIA DGX Cloud:選択前に確認すべき事項

NVIDIAはDGX Cloudを自社の内部AI環境として提示し、参加するクラウドプラットフォーム上で構成別のDGX Cloudエンゲージメントを提供しています。DGX CloudのドキュメントはマネージドAIトレーニング/プラットフォームのコンポーネントを説明しています。DGX Cloudは単一の汎用GPU VMカタログではありません。基盤となるインフラストラクチャ、商業条件、運用は選択したクラウド構成によって異なります。提案が外部調達のDGX Cloud提供なのか、パートナープラットフォームのコンポーネントなのか、NVIDIAの内部環境なのかを確認してください。

更新日

Computraq は公開に向けて準備中です。これらのガイドは準備事項と構想を説明するもので、稼働中のサービス、連携、提携を示すものではありません。

提供形態と運用境界

NVIDIAはDGX Cloudを自社の内部AI環境として提示し、参加するクラウドプラットフォーム上で構成別のDGX Cloudエンゲージメントを提供しています。DGX CloudのドキュメントはマネージドAIトレーニング/プラットフォームのコンポーネントを説明しています。

DGX Cloudは単一の汎用GPU VMカタログではありません。基盤となるインフラストラクチャ、商業条件、運用は選択したクラウド構成によって異なります。提案が外部調達のDGX Cloud提供なのか、パートナープラットフォームのコンポーネントなのか、NVIDIAの内部環境なのかを確認してください。

Computraqはプレローンチです。ここでこのプロバイダーを挙げることは、Computraqがその上でワークロードをホストしていること、その統合をテスト済みであること、またはそれと商業関係を有していることを意味するものではありません。

購入者と調達の準備

これらの質問を使用して、比較可能なワークロード別の評価を準備してください。製品名はプロバイダーが公表している提供内容を表すものであり、特定のアカウントでの可用性を確立するものではありません。

  • インフラストラクチャプロバイダー、アクセラレータ、期間、容量、場所、ソフトウェアの権利、サポートの責任者を明記した構成別のアーキテクチャと見積を要求してください。
  • データの制御、テナンシー、ネットワーク経路、ID統合、可観測性、インシデント対応、終了/データ返却プロセスを明確にしてください。
  • 含まれるNVIDIAソフトウェア/サポートを、個別に価格設定されたインフラストラクチャや顧客運用の代替案と比較してください。

開発者と運用者の証拠

容量を選択する前に、モデルとリビジョン、入力形状、ランタイム、GPU構成、同時実行数、目標レイテンシまたはジョブ完了、復旧の期待値を記録する小規模な受け入れ計画を作成してください。プロバイダーのドキュメントは製品設計の証拠であり、このワークロードがテスト済みであることの証明ではありません。

  • ジョブを移植する前に、正確なクラウド構成、スケジューラ、ソフトウェアスタック、コンテナベース、サポートされるGPUトポロジを確認してください。
  • 契約した構成内で、モデルのトレーニング/推論、ストレージスループット、クラスタネットワーク、ID、ログ記録、復旧をテストしてください。
  • ソフトウェアのバージョンを固定し、プラットフォームの更新、メンテナンスウィンドウ、ワークロードのロールバックがどのように処理されるかを定義してください。

出典と確認