الهوية والوصول
يحدّد سجل الناشر هذا المستودع باسم mistralai/Mixtral-8x7B-Instruct-v0.1. ولقطته العامة الحالية هي eba92302a2861cdc0098cc54bc9f17cb2c47eb61. الوصول مستودع عام؛ راجع الترخيص المنطبق وشروط الناشر؛ وتسمية الترخيص المسجّلة هي apache-2.0. وجود مستودع عام أو تنزيل مقيّد لا يثبت الإذن بكل استخدام.
حقائق التكوين
يفيد التكوين المثبَّت بأن نوع النموذج mixtral والبنية MixtralForCausalLM. وتصنّفه وسوم مركز النماذج لـ غير مذكور؛ وتصف هذه التسميات بيانات وصفية للمستودع ولا تثبت أداءً في الاختبارات المعيارية.
- hidden_size: 4096
- intermediate_size: 14336
- max_position_embeddings: 32768
- num_attention_heads: 32
- num_experts_per_tok: 2
- num_hidden_layers: 32
- num_key_value_heads: 8
- num_local_experts: 8
- rms_norm_eps: 1e-05
- rope_theta: 1000000.0
- torch_dtype: bfloat16
- vocab_size: 32000
تأهيل خاص بالنموذج
يشير هذا التكوين أو البيانات الوصفية للناشر إلى أن النموذج مزيج من الخبراء. تحقّق مما إذا كانت بيئة تشغيل الخدمة تدعم طبقات التوجيه فيه، وميّز بين إجمالي المعاملات والمعاملات النشطة لكل رمز؛ ولا يُستنتج هنا أي عدد نشط ما لم يصرّح الناشر به صراحةً.
تخطيط ذاكرة الأوزان
لا يحتفظ هذا الدليل بعدد معاملات منطقي مُتحقَّق منه استقلالًا، لذا يحذف تقديرًا رقميًا لذاكرة الأوزان. إذا تُحقّق من عدد لهذه المراجعة الدقيقة للمستودع، فاستخدم عدد المعاملات × البايتات لكل معامل كحد أدنى للأوزان وحدها؛ ثم احسب بشكل منفصل ذاكرة KV والسياق والتنشيطات وبيئة التشغيل والتزامن.
المراجعة وقابلية إعادة الإنتاج
البيانات الوصفية والتكوين مثبَّتان على المراجعة eba92302a2861cdc0098cc54bc9f17cb2c47eb61. ثبّت هذا الإيداع عند إعادة إنتاج تقييم. قد تتغير فروع المستودع، ولا يتحقق هذا الفحص المصدر من أوزان النموذج نفسها.
السجل المنشور
- المهمة: غير مذكور
- نوع النموذج: mixtral
- البنية: MixtralForCausalLM
- تسمية الترخيص: apache-2.0
- الوصول: مستودع عام؛ راجع الترخيص المنطبق وشروط الناشر
- المراجعة: eba92302a2861cdc0098cc54bc9f17cb2c47eb61