Modos de entrega y límite operativo
Vast.ai opera un marketplace de instancias de GPU de hosts independientes y documenta alquileres on-demand, reservados e interrumpibles, además de endpoints serverless.
Los listados del marketplace reflejan ofertas proporcionadas por hosts y pueden diferir en hardware, fiabilidad, ubicación, conectividad y términos. Los trabajos interrumpibles pueden pausarse bajo el modelo de pujas de la plataforma; el comprador debe tratar la variación entre hosts y la interrupción como datos de diseño.
Computraq está en fase de prelanzamiento. Mencionar a este proveedor aquí no significa que Computraq aloje cargas de trabajo en él, haya probado su integración ni tenga una relación comercial con él.
Preparación del comprador y de la adquisición
Utilice estas preguntas para preparar una evaluación comparable y específica para la carga de trabajo. Los nombres de los productos describen la oferta publicada por el proveedor; no establecen la disponibilidad para una cuenta en particular.
- Compare la oferta de host específica y verifique la GPU, la memoria del sistema, el disco, la red, la ubicación, los indicadores de fiabilidad, los límites de alquiler y la configuración de acceso antes de colocar una carga de trabajo.
- Utilice capacidad interrumpible solo para trabajos con puntos de control o reintentables; evalúe las opciones on-demand o reservadas para cargas de trabajo que necesiten un acceso más estable.
- Aplique la minimización de datos y la revisión de seguridad adecuadas al host y a la carga de trabajo en particular; la presencia en el marketplace por sí sola no es una atestación de cumplimiento.
Evidencia para desarrolladores y operadores
Antes de seleccionar capacidad, cree un plan de aceptación pequeño que registre el modelo y la revisión, la forma de entrada, el runtime, la configuración de GPU, la concurrencia, la latencia objetivo o la finalización del trabajo, y las expectativas de recuperación. La documentación del proveedor es evidencia del diseño del producto, no prueba de que esta carga de trabajo haya sido probada.
- Diseñe para la variación entre hosts: verifique el dispositivo y el driver al arrancar, persista los puntos de control fuera de la instancia y haga que los trabajos de entrenamiento se puedan reiniciar.
- Separe las credenciales y los datos sensibles; pruebe la exposición de red, el acceso SSH, la vida útil del almacenamiento y la destrucción de la instancia.
- Para los endpoints Serverless, pruebe el comportamiento de los workers y el manejo de carga/errores de forma independiente del marketplace de instancias.