Modes de livraison et périmètre d'exploitation
NVIDIA présente DGX Cloud comme son environnement IA interne et propose des engagements DGX Cloud spécifiques à certaines configurations sur des plateformes cloud participantes ; la documentation DGX Cloud décrit des composants gérés d'entraînement/plateforme IA.
DGX Cloud n'est pas un catalogue universel unique de VM GPU : l'infrastructure sous-jacente, les conditions commerciales et l'exploitation dépendent de la configuration cloud sélectionnée. Confirmez si la proposition est une offre DGX Cloud acquise en externe, un composant de plateforme partenaire ou l'environnement interne de NVIDIA.
Computraq est en phase de prélancement. La mention de ce fournisseur ne signifie pas que Computraq y héberge des charges de travail, a testé une intégration avec lui ou entretient une relation commerciale avec lui.
Préparation de l'acheteur et des achats
Utilisez ces questions pour préparer une évaluation comparable et spécifique à la charge de travail. Les noms de produits décrivent l'offre publiée du fournisseur ; ils n'établissent pas la disponibilité pour un compte particulier.
- Demandez une architecture et un devis spécifiques à la configuration nommant le fournisseur d'infrastructure, l'accélérateur, la durée, la capacité, l'emplacement, les droits logiciels et le responsable du support.
- Clarifiez le contrôle des données, la tenancy, les chemins réseau, l'intégration des identités, l'observabilité, la réponse aux incidents et le processus de sortie/restitution des données.
- Comparez les logiciels/supports NVIDIA inclus avec des infrastructures à tarification indépendante et des alternatives exploitées par le client.
Preuves pour les développeurs et les opérateurs
Avant de sélectionner la capacité, créez un petit plan d'acceptation qui enregistre le modèle et la révision, la forme des entrées, le runtime, la configuration GPU, la concurrence, la latence cible ou l'achèvement du job, et les attentes de reprise. La documentation du fournisseur est une preuve de conception du produit, pas la preuve que cette charge de travail a été testée.
- Confirmez la configuration cloud exacte, l'ordonnanceur, la pile logicielle, l'image de conteneur de base et la topologie GPU prise en charge avant de porter les jobs.
- Testez l'entraînement/inférence des modèles, le débit de stockage, le réseau de cluster, l'identité, la journalisation et la reprise dans la configuration contractuelle.
- Épinglez les versions logicielles et définissez la manière dont les mises à jour de plateforme, les fenêtres de maintenance et le rollback des charges de travail sont gérés.