Identität und Zugang
Der Publisher-Eintrag identifiziert dieses Repository als dphn/Dolphin-Mistral-24B-Venice-Edition. Der aktuelle öffentliche Snapshot ist b23ff40b4a25e4f93de432bd896d4464479a9f79. Der Zugang ist öffentliches Repository; prüfen Sie die anwendbare Lizenz und die Publisher-Bedingungen; das aufgezeichnete Lizenzlabel ist apache-2.0. Ein öffentliches Repository oder ein gated Download begründet keine Erlaubnis für jede Nutzung.
Konfigurationsfakten
Die gepinnte Konfiguration gibt Modelltyp mistral3 und Architektur Mistral3ForConditionalGeneration an. Der Model Hub taggt es für text-generation; diese Labels beschreiben Repository-Metadaten und belegen keine Benchmark-Leistung.
- text_config.head_dim: 128
- text_config.hidden_size: 5120
- text_config.intermediate_size: 32768
- text_config.max_position_embeddings: 131072
- text_config.num_attention_heads: 32
- text_config.num_hidden_layers: 40
- text_config.num_key_value_heads: 8
- text_config.rms_norm_eps: 1e-05
- text_config.rope_theta: 1000000000.0
- text_config.torch_dtype: bfloat16
- text_config.vocab_size: 131072
- torch_dtype: bfloat16
- vision_config.head_dim: 64
- vision_config.hidden_size: 1024
- vision_config.intermediate_size: 4096
- vision_config.num_attention_heads: 16
- vision_config.num_hidden_layers: 24
- vision_config.rope_theta: 10000.0
- vision_config.torch_dtype: bfloat16
Modellspezifische Qualifizierung
Die Repository-Metadaten identifizieren ein multimodales Modell (Bild). Prüfen Sie den Prozessor, die Bild-/Audio-/Video-Pfade, Eingabegrenzen und Serving-Laufzeitunterstützung; reiner Text-Token-Durchsatz ist kein vollständiges Maß für diese Arbeitslast.
Gewichtsspeicher-Planung
Dieser Leitfaden enthält keine unabhängig verifizierte logische Parameteranzahl und lässt daher eine numerische Gewichtsspeicher-Schätzung aus. Wenn eine Anzahl für diese exakte Repository-Revision verifiziert wird, verwenden Sie Parameteranzahl × Bytes pro Parameter als Untergrenze für die Gewichte allein; berücksichtigen Sie dann separat KV-Cache, Kontext, Aktivierungen, Laufzeit und Nebenläufigkeit.
Revision und Reproduzierbarkeit
Die Metadaten und die Konfiguration sind auf Revision b23ff40b4a25e4f93de432bd896d4464479a9f79 gepinnt. Pinnen Sie diesen Commit, wenn Sie eine Evaluierung reproduzieren. Repository-Branches können sich ändern, und diese Quellenprüfung validiert die Modellgewichte selbst nicht.
Veröffentlichter Eintrag
- Task: text-generation
- Modelltyp: mistral3
- Architektur: Mistral3ForConditionalGeneration
- Lizenzlabel: apache-2.0
- Zugang: öffentliches Repository; prüfen Sie die anwendbare Lizenz und die Publisher-Bedingungen
- Revision: b23ff40b4a25e4f93de432bd896d4464479a9f79