Modes de livraison et périmètre d'exploitation
Hyperstack documente des machines virtuelles GPU et CPU, des clusters Kubernetes et AI Studio, qui fournit une inférence compatible OpenAI pour un catalogue de modèles.
Les VM sont des ressources de calcul configurées par le client ; Kubernetes est une option d'orchestration de clusters ; AI Studio est une interface d'inférence gérée. Vérifiez quel produit fournit le runtime et quel contrôle reste au client.
Computraq est en phase de prélancement. La mention de ce fournisseur ne signifie pas que Computraq y héberge des charges de travail, a testé une intégration avec lui ou entretient une relation commerciale avec lui.
Préparation de l'acheteur et des achats
Utilisez ces questions pour préparer une évaluation comparable et spécifique à la charge de travail. Les noms de produits décrivent l'offre publiée du fournisseur ; ils n'établissent pas la disponibilité pour un compte particulier.
- Choisissez entre VM, Kubernetes et API de modèle selon le contrôle logiciel, les besoins d'orchestration et la responsabilité de service.
- Vérifiez le stock disponible, le type de GPU, la région, le stockage, le réseau, les quotas et le prix total dans la plateforme au moment de l'achat.
- Pour AI Studio, examinez séparément le catalogue/la version des modèles, les limites d'API, le traitement des données, le support et les engagements de service, par rapport aux conditions des VM.
Preuves pour les développeurs et les opérateurs
Avant de sélectionner la capacité, créez un petit plan d'acceptation qui enregistre le modèle et la révision, la forme des entrées, le runtime, la configuration GPU, la concurrence, la latence cible ou l'achèvement du job, et les attentes de reprise. La documentation du fournisseur est une preuve de conception du produit, et non la preuve que cette charge de travail a été testée.
- Pour les VM, épinglez une image et une configuration d'amorçage ; validez SSH/le pare-feu, la persistance des volumes, la compatibilité des pilotes et des frameworks.
- Pour Kubernetes, testez l'ordonnancement GPU, le cycle de vie des nœuds et le stockage persistant ; pour AI Studio, vérifiez la compatibilité de l'API et le comportement du modèle.
- Capturez un manifeste de déploiement et exécutez une charge de travail d'acceptation représentative avant la mise à l'échelle.