Modos de entrega y límite operativo
Azure ofrece familias de máquinas virtuales aceleradas por GPU, incluidas la serie ND para entrenamiento a gran escala y la serie NC para cargas de trabajo de uso intensivo de cómputo; Azure Kubernetes Service y Azure Machine Learning son servicios separados de orquestación/ML.
Las VM con GPU proporcionan control de la infraestructura. Los endpoints en línea administrados de Azure ML y AKS añaden sus propias capas de servicio u orquestación, cuotas y comportamiento del ciclo de vida. La compatibilidad de tamaños de VM, la disponibilidad y la cuota varían según la región y la suscripción.
Computraq está en fase de prelanzamiento. Mencionar a este proveedor aquí no significa que Computraq aloje cargas de trabajo en él, haya probado su integración ni tenga una relación comercial con él.
Preparación del comprador y de la adquisición
Utilice estas preguntas para preparar una evaluación comparable y específica para la carga de trabajo. Los nombres de los productos describen la oferta publicada por el proveedor; no establecen la disponibilidad para una cuenta en particular.
- Empareje la serie con la carga de trabajo y las necesidades de interconexión; confirme la cuota, la disponibilidad exacta de región/zona, las condiciones de reserva, las redes y el almacenamiento antes de comprometerse.
- Separe los costos de VM de los costos de servicios administrados, discos, red, soporte y licencias; utilice una cotización por escrito para la capacidad sostenida.
- Revise la identidad del inquilino, las redes privadas, la residencia de datos y el acceso a los endpoints de modelos para la arquitectura seleccionada.
Evidencia para desarrolladores y operadores
Antes de seleccionar capacidad, cree un pequeño plan de aceptación que registre el modelo y la revisión, la forma de entrada, el runtime, la configuración de GPU, la concurrencia, la latencia objetivo o la finalización del trabajo, y las expectativas de recuperación. La documentación del proveedor es evidencia del diseño del producto, no prueba de que esta carga de trabajo haya sido probada.
- Verifique la especificación del SKU de VM y la pila de SO/controladores compatible; ejecute pruebas de comunicación distribuida para entrenamiento con múltiples GPU/múltiples VM.
- Para endpoints de AKS o Azure ML, valide de forma independiente los grupos de nodos, la programación de GPU, el escalado automático, las comprobaciones de estado y el despliegue de modelos.
- Automatice las comprobaciones de cuota/capacidad e incluya un plan de contingencia para las restricciones de región o SKU.