Identität und Zugang
Der Publisher-Eintrag identifiziert dieses Repository als mistralai/Mistral-Small-24B-Instruct-2501. Der aktuelle öffentliche Snapshot ist 9527884be6e5616bdd54de542f9ae13384489724. Der Zugang ist öffentliches Repository; prüfen Sie die anwendbare Lizenz und die Publisher-Bedingungen; das aufgezeichnete Lizenzlabel ist apache-2.0. Ein öffentliches Repository oder ein gated Download begründet keine Erlaubnis für jede Nutzung.
Konfigurationsfakten
Die gepinnte Konfiguration gibt Modelltyp mistral und Architektur MistralForCausalLM an. Der Model Hub taggt es für nicht angegeben; diese Labels beschreiben Repository-Metadaten und belegen keine Benchmark-Leistung.
- head_dim: 128
- hidden_size: 5120
- intermediate_size: 32768
- max_position_embeddings: 32768
- num_attention_heads: 32
- num_hidden_layers: 40
- num_key_value_heads: 8
- rms_norm_eps: 1e-05
- rope_theta: 100000000.0
- torch_dtype: bfloat16
- vocab_size: 131072
Modellspezifische Qualifizierung
Bestätigen Sie vor dem Deployment den exakten Tokenizer und das Chat-Template, die unterstützte Kontextlänge, die Serving-Engine, das Ausgabeformat und die arbeitslastspezifische Evaluierung. Die Modellkarte und die Konfiguration beschreiben Artefakte, keinen verfügbaren Dienst und keine Leistungsgarantie.
Gewichtsspeicher-Planung
Dieser Leitfaden enthält keine unabhängig verifizierte logische Parameteranzahl und lässt daher eine numerische Gewichtsspeicher-Schätzung aus. Wenn eine Anzahl für diese exakte Repository-Revision verifiziert wird, verwenden Sie Parameteranzahl × Bytes pro Parameter als Untergrenze für die Gewichte allein; berücksichtigen Sie dann separat KV-Cache, Kontext, Aktivierungen, Laufzeit und Nebenläufigkeit.
Revision und Reproduzierbarkeit
Die Metadaten und die Konfiguration sind auf Revision 9527884be6e5616bdd54de542f9ae13384489724 gepinnt. Pinnen Sie diesen Commit, wenn Sie eine Evaluierung reproduzieren. Repository-Branches können sich ändern, und diese Quellenprüfung validiert die Modellgewichte selbst nicht.
Veröffentlichter Eintrag
- Task: nicht angegeben
- Modelltyp: mistral
- Architektur: MistralForCausalLM
- Lizenzlabel: apache-2.0
- Zugang: öffentliches Repository; prüfen Sie die anwendbare Lizenz und die Publisher-Bedingungen
- Revision: 9527884be6e5616bdd54de542f9ae13384489724