Bereitstellungsmodi und Betriebsgrenze
Scaleway bietet GPU-Instances, die dedizierte GPUs innerhalb virtueller Compute-Instanzen bereitstellen, sowie Managed Inference/Generative APIs auf dedizierter GPU-Infrastruktur; die Cloud umfasst zudem separate Kubernetes- und Serverless-Produkte.
Eine GPU-Instance bietet direkte SSH-/Container-Kontrolle; Managed Inference stellt einen verwalteten Modell-Endpunkt bereit. GPU-Instances können separat an eine Orchestrierung angebunden werden, mit entsprechenden Knoten- und Betriebsverantwortlichkeiten.
Computraq befindet sich im Prelaunch-Status. Die Nennung dieses Providers an dieser Stelle bedeutet nicht, dass Computraq Workloads darauf hostet, dessen Integration getestet hat oder eine geschäftliche Beziehung zu ihm unterhält.
Vorbereitung von Käufer und Beschaffung
Nutzen Sie diese Fragen, um eine vergleichbare, workloadspezifische Bewertung vorzubereiten. Produktnamen beschreiben das veröffentlichte Angebot des Anbieters; sie belegen nicht die Verfügbarkeit für ein bestimmtes Konto.
- Wählen Sie direkte GPU-Instances für benutzerdefinierte Umgebungen oder Managed Inference für ein verwaltetes Modell/API; prüfen Sie Verfügbarkeitszonen und aktuellen Bestand für den gewählten Beschleuniger.
- Bestätigen Sie Anforderungen an Datenresidenz und private Netzwerke anhand des konkreten Produkts, da Inferenz- und Compute-Dienste unterschiedliche Kontrollen aufweisen können.
- Schätzen Sie Compute-, Speicher-, öffentliche IP-, Netzwerk- und Managed-Service-Kosten anhand der aktuellen zonenspezifischen Bedingungen.
Nachweise für Entwickler und Betreiber
Erstellen Sie vor der Auswahl von Kapazität einen kleinen Abnahmeplan, der Modell und Revision, Eingabeform, Laufzeitumgebung, GPU-Konfiguration, Parallelität, Ziel-Latenz oder Auftragsabschluss sowie Wiederherstellungserwartungen festhält. Anbieterdokumentation ist ein Nachweis des Produktdesigns, kein Beweis dafür, dass dieser Workload getestet wurde.
- Wählen Sie bei Instanzen ein unterstütztes GPU-Betriebssystem-/Container-Image und überprüfen Sie Treiber/Laufzeitumgebung, SSH-Exposition und Volume-Dimensionierung.
- Testen Sie bei Managed Inference die OpenAI-kompatible Schnittstelle, den Modellkatalog oder ein benutzerdefiniertes Modell, den Durchsatz, das Netzwerk und die Datenschutzannahmen.
- Wenn Sie GPU-Knoten in Kubernetes betreiben, beziehen Sie die Instanzbereitstellung und die Knoteneinrichtungszeit in die Kapazitätsplanung des Workloads ein.