Modos de entrega y límite operativo
Modal es una plataforma de cómputo serverless. Las Functions definidas en Python se ejecutan en contenedores en la nube y pueden solicitar GPU; la plataforma también documenta endpoints web, trabajos por lotes y sandboxes.
El desarrollador empaqueta el código y especifica el hardware en el código, mientras que Modal se encarga de la ejecución de contenedores, el enrutamiento y el escalado. Esta abstracción de ejecución difiere de reservar una VM de larga duración o un clúster de bare-metal; confirme los límites del entorno de ejecución y el diseño del estado persistente.
Computraq está en fase de prelanzamiento. Mencionar a este proveedor aquí no significa que Computraq aloje cargas de trabajo en él, haya probado su integración ni tenga una relación comercial con él.
Preparación del comprador y de adquisiciones
Utilice estas preguntas para preparar una evaluación comparable y específica para su carga de trabajo. Los nombres de los productos describen la oferta publicada por el proveedor; no establecen la disponibilidad para una cuenta en particular.
- Evalúe si las functions/jobs se ajustan a los requisitos de duración de ejecución, estado, inicio y concurrencia de la carga de trabajo; identifique cualquier necesidad de una GPU asignada de forma continua.
- Revise los controles de la cuenta, la salida de red, los secretos, la ubicación de los datos, la retención y las condiciones de soporte para la carga de trabajo propuesta.
- Estime el gasto a partir de patrones medidos de ejecución, almacenamiento y red, incluidos los arranques en frío y el comportamiento en reposo.
Evidencia para desarrolladores y operadores
Antes de seleccionar capacidad, cree un pequeño plan de aceptación que registre el modelo y la revisión, la forma de la entrada, el entorno de ejecución, la configuración de GPU, la concurrencia, la latencia objetivo o la finalización del trabajo, y las expectativas de recuperación. La documentación del proveedor es evidencia del diseño del producto, no prueba de que esta carga de trabajo haya sido probada.
- Fije la imagen, los paquetes, la versión de Python/entorno de ejecución y la solicitud de GPU en el código fuente; pruebe los arranques en frío, los reintentos y el comportamiento de reducción a cero.
- Mantenga el estado en almacenamiento duradero explícito y utilice trabajos idempotentes o puntos de control para el trabajo de larga duración.
- Mida la latencia de extremo a extremo y la concurrencia utilizando cargas útiles similares a las de producción y pruebe el acceso a dependencias privadas.