أنماط التسليم وحدود التشغيل
توفر Google Cloud أجهزة Compute Engine الافتراضية المرتبطة بوحدات GPU ودعم GPU في Google Kubernetes Engine؛ ويُعد Cloud TPU مسارًا منفصلًا للمسرّعات بأنواع أجهزة ومكدس برمجي خاص به.
جهاز Compute Engine الافتراضي هو بنية تحتية؛ وتدير GKE مستوى التحكم في Kubernetes/تنسيق أحمال العمل؛ ولا يمكن استبدال وحدات TPU بوحدات NVIDIA GPU بشكل متبادل، وتحتاج إلى أطر عمل وشيفرة حمل عمل متوافقة. يعتمد التوافر على المنطقة والحصة ونوع الجهاز.
Computraq في مرحلة ما قبل الإطلاق. إن ذكر هذا المزوّد هنا لا يعني أن Computraq تستضيف أحمال العمل لديه، ولا يعني أن Computraq اختبرت تكاملاً معه أو أن لديها علاقة تجارية معه.
تحضير المشتري والمشتريات
استخدم هذه الأسئلة لإعداد تقييم قابل للمقارنة ومخصص لحمل العمل. تصف أسماء المنتجات العرض المنشور للمزود؛ وهي لا تثبت التوافر لحساب معين.
- اختر بين جهاز GPU الافتراضي ومجموعات عقد GPU في GKE وTPU بناءً على ملاءمة بيئة التشغيل/إطار العمل ونموذج العمليات والطوبولوجيا الموزعة.
- تأكد من حصة المسرّع وقدرته للنطاق ونوع الجهاز ونموذج الحجز والتخزين والشبكة الدقيقين قبل التخطيط للنشر.
- قيّم موقع البيانات وIAM وضوابط VPC وحدود الخدمات المُدارة وجميع رسوم الخدمات المرتبطة.
أدلة المطور والمشغل
قبل اختيار القدرة، أنشئ خطة قبول صغيرة تسجل النموذج والمراجعة وشكل المدخلات وبيئة التشغيل وتكوين GPU والتزامن وزمن الاستجابة المستهدف أو إنجاز المهمة وتوقعات الاستعادة. وثائق المزود دليل على تصميم المنتج، وليست إثباتًا على اختبار حمل العمل هذا.
- تحقق من برامج تشغيل CUDA/NVIDIA لأجهزة GPU الافتراضية أو GKE واستخدم تعليمات العقد/المسرّع الحالية؛ وبالنسبة لوحدات TPU، تحقق من افتراضات إطار العمل وطوبولوجيا TPU.
- اختبر التوسع التلقائي وبدء تشغيل العقد وتحميل النموذج ونقاط التحقق والاتصال متعدد المضيفين بمهام تمثيلية.
- أدرج التخزين الدائم وحركة مرور الشبكة الصادرة في اختبار النشر وتقدير التكلفة.