Microsoft Azure : ce qu'il faut vérifier avant de choisir

Azure propose des familles de machines virtuelles accélérées par GPU, notamment la série ND pour l'entraînement à grande échelle et la série NC pour les charges de travail à forte intensité de calcul ; Azure Kubernetes Service et Azure Machine Learning sont des services distincts d'orchestration/ML. Les VM GPU offrent un contrôle de l'infrastructure. Les points de terminaison en ligne gérés d'Azure ML et AKS ajoutent leurs propres couches de service ou d'orchestration, quotas et comportements de cycle de vie. La prise en charge des tailles de VM, la disponibilité et le quota varient selon la région et l'abonnement.

Mis à jour le

Computraq prépare son lancement. Ces guides décrivent les préparatifs et le cadre proposé ; ils n’établissent aucun service actif, aucune intégration ni aucun partenariat.

Modes de livraison et périmètre d'exploitation

Azure propose des familles de machines virtuelles accélérées par GPU, notamment la série ND pour l'entraînement à grande échelle et la série NC pour les charges de travail à forte intensité de calcul ; Azure Kubernetes Service et Azure Machine Learning sont des services distincts d'orchestration/ML.

Les VM GPU offrent un contrôle de l'infrastructure. Les points de terminaison en ligne gérés d'Azure ML et AKS ajoutent leurs propres couches de service ou d'orchestration, quotas et comportements de cycle de vie. La prise en charge des tailles de VM, la disponibilité et le quota varient selon la région et l'abonnement.

Computraq est en phase de prélancement. La mention de ce fournisseur ne signifie pas que Computraq y héberge des charges de travail, a testé une intégration avec lui ou entretient une relation commerciale avec lui.

Préparation de l'acheteur et des achats

Utilisez ces questions pour préparer une évaluation comparable et spécifique à la charge de travail. Les noms de produits décrivent l'offre publiée du fournisseur ; ils n'établissent pas la disponibilité pour un compte particulier.

  • Faites correspondre les séries aux besoins de charge de travail et d'interconnexion ; confirmez le quota, la disponibilité exacte par région/zone, les conditions de réservation, le réseau et le stockage avant de vous engager.
  • Séparez les coûts des VM des coûts de service géré, de disque, de réseau, de support et de licence ; utilisez un devis écrit pour la capacité soutenue.
  • Examinez l'identité du locataire, le réseau privé, la résidence des données et l'accès aux points de terminaison de modèle pour l'architecture sélectionnée.

Preuves pour les développeurs et les opérateurs

Avant de sélectionner la capacité, créez un petit plan d'acceptation qui enregistre le modèle et la révision, la forme des entrées, le runtime, la configuration GPU, la concurrence, la latence cible ou l'achèvement du job, et les attentes de reprise. La documentation du fournisseur est une preuve de conception du produit, pas la preuve que cette charge de travail a été testée.

  • Vérifiez la spécification du SKU de VM et la pile OS/pilotes prise en charge ; exécutez des tests de communication distribuée pour l'entraînement multi-GPU/multi-VM.
  • Pour les points de terminaison AKS ou Azure ML, validez indépendamment les pools de nœuds, l'ordonnancement GPU, l'autoscaling, les contrôles de santé et le déploiement des modèles.
  • Automatisez les vérifications de quota/capacité et incluez un plan de repli pour les contraintes de région ou de SKU.

Sources et vérification