Modos de entrega y límite operativo
Verda Cloud proporciona instancias de GPU y CPU, Instant Clusters virtualizados y contenedores serverless para trabajos de inferencia/por lotes; los materiales públicos también describen clústeres bare-metal personalizados bajo solicitud.
Una instancia es cómputo gestionado por el cliente; un Instant Cluster es un clúster multinodo virtualizado con operación de host/red por parte de Verda y actualización/configuración de la VM invitada por parte del cliente; los Serverless Containers gestionan las réplicas de contenedores, el escalado y las operaciones de servicio. Confirme los términos exactos del servicio y la configuración.
Computraq está en fase de prelanzamiento. Mencionar a este proveedor aquí no significa que Computraq aloje cargas de trabajo en él, haya probado su integración ni tenga una relación comercial con él.
Preparación del comprador y de adquisiciones
Utilice estas preguntas para preparar una evaluación comparable y específica para la carga de trabajo. Los nombres de producto describen la oferta publicada por el proveedor; no establecen disponibilidad para una cuenta en particular.
- Verifique el producto actual y la identidad contratante: Verda es la marca sucesora de DataCrunch, mientras que algunas referencias de API/SDK y de la consola anterior pueden conservar el nombre DataCrunch.
- Elija una instancia, un Instant Cluster o un Serverless Container según la duración de la carga de trabajo, la topología y las necesidades operativas; solicite las condiciones actuales de capacidad, ubicación, seguridad, soporte y reserva.
- Revise el límite de responsabilidad compartida, el comportamiento de eliminación de instancias/volúmenes, los logs y la retención de entrada/salida de inferencia para el servicio seleccionado.
Evidencia para desarrolladores y operadores
Antes de seleccionar capacidad, cree un pequeño plan de aceptación que registre el modelo y la revisión, la forma de entrada, el runtime, la configuración de GPU, la concurrencia, la latencia objetivo o la finalización del trabajo, y las expectativas de recuperación. La documentación del proveedor es evidencia del diseño del producto, no prueba de que esta carga de trabajo haya sido probada.
- Para instancias, aprovisione mediante la CLI/API actual de Verda o Terraform, y luego verifique el tipo de instancia, la imagen, la ubicación, el volumen y la configuración de SSH.
- Para Serverless Containers, pruebe el escalado de réplicas, el scale-to-zero, las colas de solicitudes, el manejo asíncrono y los logs; use trabajos por lotes para duraciones de inferencia largas cuando así se aconseje en la documentación.
- Fije las revisiones de contenedores y modelos, mantenga el estado duradero en almacenamiento gestionado y pruebe el comportamiento de reinicio/desmontaje.