Modos de entrega y límite operativo
Nebius AI Cloud ofrece instancias de cómputo con GPU y clústeres de GPU junto con Kubernetes gestionado y servicios de plataforma orientados a IA.
Una VM de GPU da a un equipo el control de su stack de software; un clúster de GPU y una capa de Kubernetes gestionado proporcionan orquestación y redes para trabajos multinodo. Confirme qué responsabilidades siguen siendo suyas en cuanto a drivers, ciclo de vida del clúster, almacenamiento y servicio de inferencia.
Computraq está en fase de prelanzamiento. Mencionar a este proveedor aquí no significa que Computraq aloje cargas de trabajo en él, haya probado su integración ni tenga una relación comercial con él.
Preparación del comprador y de adquisiciones
Utilice estas preguntas para preparar una evaluación comparable y específica para la carga de trabajo. Los nombres de producto describen la oferta publicada del proveedor; no establecen disponibilidad para una cuenta en particular.
- Especifique la memoria de GPU por dispositivo, el número de GPU por nodo, la interconexión y el rendimiento del almacenamiento a partir del perfil de la carga de trabajo.
- Solicite confirmación por escrito de la cuota, la reserva de capacidad, los niveles de servicio, la ubicación de los datos y el soporte ante incidentes para el proyecto y el plazo previstos.
- Separe en la cotización los cargos de infraestructura de los cargos de plataforma gestionada, almacenamiento, transferencia de red y soporte.
Evidencia para desarrolladores y operadores
Antes de seleccionar capacidad, cree un plan de aceptación pequeño que registre el modelo y la revisión, la forma de entrada, el runtime, la configuración de GPU, la concurrencia, la latencia objetivo o la finalización del trabajo, y las expectativas de recuperación. La documentación del proveedor es evidencia del diseño del producto, no prueba de que esta carga de trabajo haya sido probada.
- Elija una VM para runtimes personalizados o use Kubernetes gestionado cuando el equipo necesite programación de clústeres; documente quién aplica parches y opera cada capa.
- Valide las imágenes de contenedor, la comunicación distribuida, los montajes de sistemas de archivos persistentes, la recuperación de trabajos y la observabilidad.
- Mantenga un manifiesto de despliegue y pruebe el mismo modelo y la misma combinación de solicitudes con la forma de producción prevista.