Bereitstellungsmodi und Betriebsgrenze
AWS bietet beschleunigte EC2-Instanzen mit GPUs und zweckgebauten Beschleunigern; GPU-Instanzen können mit EKS, Batch und anderen AWS-Services kombiniert werden. Diese Seite konzentriert sich auf Compute auf Infrastrukturebene statt auf ein einzelnes Inferenzprodukt.
EC2 bietet Kontrolle über Instanzen und deren Betriebssystem; Orchestrierung und verwaltete Modelldienste sind separate AWS-Produkte mit separater Konfiguration, Kontingenten und Abrechnung. GPU-Instanzfamilien dienen unterschiedlichen Anforderungen an Grafik, Training, Inferenz und HPC.
Computraq befindet sich im Prelaunch-Status. Die Nennung dieses Providers an dieser Stelle bedeutet nicht, dass Computraq Workloads darauf hostet, dessen Integration getestet hat oder eine geschäftliche Beziehung zu ihm unterhält.
Käufer- und Beschaffungsvorbereitung
Verwenden Sie diese Fragen, um eine vergleichbare, workload-spezifische Bewertung vorzubereiten. Produktnamen beschreiben das veröffentlichte Angebot des Anbieters; sie belegen nicht die Verfügbarkeit für ein bestimmtes Konto.
- Wählen Sie die Beschleunigerfamilie anhand von Framework-Unterstützung, Speicher, Interconnect und Workload-Typ; bestätigen Sie das regionale Kontingent und die On-Demand-/Reserved-/Spot-Bedingungen.
- Ordnen Sie unterstützende Services wie Speicher, Netzwerk, Kubernetes oder Batch-Scheduling zu und beziehen Sie deren Kosten und operative Verantwortung ein.
- Prüfen Sie IAM, Kontogrenzen, Datenstandort, Netzwerk-Egress und servicespezifische Vertragsbedingungen für den beabsichtigten Workload.
Entwickler- und Betreibernachweise
Erstellen Sie vor der Auswahl von Kapazität einen kleinen Abnahmeplan, der Modell und Revision, Eingabeform, Laufzeitumgebung, GPU-Konfiguration, Parallelität, Ziel-Latenz oder Job-Abschluss sowie Wiederherstellungserwartungen erfasst. Anbieterdokumentation ist ein Nachweis des Produktdesigns, kein Beweis dafür, dass dieser Workload getestet wurde.
- Verwenden Sie aktuelle Instanzspezifikationen und kompatible Deep Learning AMIs oder Container-Images; prüfen Sie Treiber-/CUDA-/Framework-Versionen.
- Validieren Sie für Multi-Node-Workloads Platzierung, Netzwerkbandbreite, Collectives, Checkpointing und Retry-Verhalten.
- Richten Sie Budget-/Nutzungsalarme ein und testen Sie die Behandlung von Unterbrechungen bei Verwendung von Spot-Kapazität.