Identité et accès
L'enregistrement de l'éditeur identifie ce dépôt comme mistralai/Mixtral-8x22B-Instruct-v0.1. Son instantané public actuel est cc88a6cc19fbd17d9f1c0ee0b0d70a748dce698d. L'accès est dépôt public ; consultez la licence applicable et les conditions de l'éditeur ; le libellé de licence consigné est apache-2.0. Un dépôt public ou un téléchargement sous conditions ne confère pas une autorisation pour tous les usages.
Faits de configuration
La configuration épinglée indique le type de modèle mixtral et l'architecture MixtralForCausalLM. Le hub de modèles l'étiquette pour non indiqué ; ces libellés décrivent les métadonnées du dépôt et n'établissent pas de performance de référence.
- hidden_size: 6144
- intermediate_size: 16384
- max_position_embeddings: 65536
- num_attention_heads: 48
- num_experts_per_tok: 2
- num_hidden_layers: 56
- num_key_value_heads: 8
- num_local_experts: 8
- rms_norm_eps: 1e-05
- rope_theta: 1000000.0
- torch_dtype: bfloat16
- vocab_size: 32768
Qualification propre au modèle
Cette configuration ou les métadonnées de l'éditeur marquent le modèle comme un mélange d'experts. Confirmez si le moteur d'exécution prend en charge ses couches de routage, et distinguez les paramètres totaux des paramètres actifs par token ; aucun décompte d'actifs n'est déduit ici, sauf si l'éditeur en déclare un explicitement.
Planification de la mémoire des poids
Ce guide ne retient pas de décompte logique de paramètres vérifié indépendamment, il omet donc une estimation numérique de la mémoire des poids. Si un décompte est vérifié pour cette révision exacte du dépôt, utilisez nombre de paramètres × octets par paramètre pour un plancher des poids seuls ; tenez ensuite compte séparément du cache KV, du contexte, des activations, de l'exécution et de la concurrence.
Révision et reproductibilité
Les métadonnées et la configuration sont épinglées à la révision cc88a6cc19fbd17d9f1c0ee0b0d70a748dce698d. Épinglez ce commit lors de la reproduction d'une évaluation. Les branches du dépôt peuvent changer, et cette vérification à la source ne valide pas les poids du modèle eux-mêmes.
Enregistrement publié
- Tâche : non indiqué
- Type de modèle : mixtral
- Architecture : MixtralForCausalLM
- Libellé de licence : apache-2.0
- Accès : dépôt public ; consultez la licence applicable et les conditions de l'éditeur
- Révision : cc88a6cc19fbd17d9f1c0ee0b0d70a748dce698d