提供形態と運用境界
Google CloudはGPUを接続したCompute Engine VMとGoogle Kubernetes EngineにおけるGPUサポートを提供します。Cloud TPUは独自のマシンタイプとソフトウェアスタックを持つ別個のアクセラレータパスです。
Compute Engine VMはインフラストラクチャです。GKEはKubernetesのコントロールプレーン/ワークロードオーケストレーションを管理します。TPUはNVIDIA GPUと互換性がなく、対応するフレームワークとワークロードコードが必要です。可用性はリージョン、クォータ、マシンタイプによって異なります。
Computraqはプレローンチです。ここでこのプロバイダーを挙げることは、Computraqがその上でワークロードをホストしていること、その統合をテスト済みであること、またはそれと商業関係を有していることを意味するものではありません。
購入者と調達の準備
これらの質問を使用して、比較可能なワークロード別の評価を準備してください。製品名はプロバイダーが公表している提供内容を表すものであり、特定のアカウントでの可用性を確立するものではありません。
- ランタイム/フレームワークの適合性、運用モデル、分散トポロジに基づいて、GPU VM、GKE GPUノードプール、TPUのいずれかを決定してください。
- デプロイを計画する前に、正確なゾーン、マシンタイプ、予約モデル、ストレージ、ネットワークについてアクセラレータのクォータと容量を確認してください。
- データの場所、IAM、VPCの制御、マネージドサービスの境界、および付随するすべてのサービス料金を評価してください。
開発者と運用者の証拠
容量を選択する前に、モデルとリビジョン、入力形状、ランタイム、GPU構成、同時実行数、目標レイテンシまたはジョブ完了、復旧の期待値を記録する小規模な受け入れ計画を作成してください。プロバイダーのドキュメントは製品設計の証拠であり、このワークロードがテスト済みであることの証明ではありません。
- GPU VMまたはGKEについてはCUDA/NVIDIAドライバを検証し、最新のノード/アクセラレータの手順を使用してください。TPUについては、フレームワークとTPUトポロジの前提を検証してください。
- 代表的なジョブでオートスケーリング、ノード起動、モデル読み込み、チェックポイント、マルチホスト通信をテストしてください。
- デプロイテストとコスト見積に永続ストレージとネットワークエグレスを含めてください。