أنماط التسليم وحدود التشغيل
تقدّم AWS مثيلات EC2 مسرّعة باستخدام وحدات GPU ومسرّعات مصمّمة لغرض محدد؛ ويمكن دمج مثيلات GPU مع EKS وBatch وخدمات AWS أخرى. تركّز هذه الصفحة على الحوسبة على مستوى البنية التحتية بدلًا من منتج استدلال واحد.
تمنح EC2 التحكم بالمثيلات ونظام تشغيلها؛ والتنسيق وخدمات النماذج المُدارة منتجات AWS منفصلة لها تكوين وحصص وفوترة منفصلة. وتخدم عائلات مثيلات GPU احتياجات مختلفة في الرسوميات والتدريب والاستدلال والحوسبة عالية الأداء.
Computraq في مرحلة ما قبل الإطلاق. إن ذكر هذا المزوّد هنا لا يعني أن Computraq تستضيف أحمال العمل لديه، ولا يعني أن Computraq اختبرت تكاملاً معه أو أن لديها علاقة تجارية معه.
تحضير المشتري والمشتريات
استخدم هذه الأسئلة لإعداد تقييم قابل للمقارنة وخاص بحمل العمل. تصف أسماء المنتجات العرض المنشور من المزوّد؛ وهي لا تثبت التوافر لحساب معيّن.
- اختر عائلة المسرّعات بناءً على دعم إطار العمل والذاكرة والترابط البيني ونوع حمل العمل؛ وأكّد الحصة الإقليمية وشروط عند الطلب/المحجوزة/الفورية.
- ارسم خريطة الخدمات الداعمة مثل التخزين والشبكة وKubernetes أو جدولة الدفعات، وضمّن تكاليفها ومسؤولية تشغيلها.
- راجع IAM وحدود الحساب وموقع البيانات وحركة الخروج الشبكية والشروط التعاقدية الخاصة بكل خدمة لحمل العمل المقصود.
أدلة المطوّر والمشغّل
قبل اختيار السعة، أنشئ خطة قبول صغيرة تسجّل النموذج والمراجعة، وشكل المدخلات، وبيئة التشغيل، وتكوين GPU، والتزامن، وزمن الاستجابة المستهدف أو إنجاز المهمة، وتوقعات الاستعادة. وثائق المزوّد دليل على تصميم المنتج، وليست إثباتًا على أن حمل العمل هذا قد اختُبر.
- استخدم مواصفات المثيلات الحالية وصور Deep Learning AMI المتوافقة أو صور الحاويات؛ وتحقق من إصدارات برنامج التشغيل/CUDA/إطار العمل.
- بالنسبة إلى أحمال العمل متعددة العقد، تحقق من التوزيع وعرض النطاق الشبكي والعمليات الجماعية ونقاط الحفظ وسلوك إعادة المحاولة.
- اضبط تنبيهات الميزانية/الاستخدام واختبر معالجة الانقطاع عند استخدام سعة Spot.