Identität und Zugang
Der Publisher-Eintrag identifiziert dieses Repository als ibm-granite/granite-4.0-tiny-preview. Der aktuelle öffentliche Snapshot ist 4ec5f963443b2e15e9be82595289e96ff082e280. Der Zugang ist öffentliches Repository; prüfen Sie die anwendbare Lizenz und die Publisher-Bedingungen; das aufgezeichnete Lizenzlabel ist apache-2.0. Ein öffentliches Repository oder ein gated Download begründet keine Erlaubnis für jede Nutzung.
Konfigurationsfakten
Die gepinnte Konfiguration gibt Modelltyp granitemoehybrid und Architektur GraniteMoeHybridForCausalLM an. Der Model Hub taggt es für text-generation; diese Labels beschreiben Repository-Metadaten und belegen keine Benchmark-Leistung.
- hidden_size: 1536
- intermediate_size: 512
- max_position_embeddings: 131072
- num_attention_heads: 12
- num_experts_per_tok: 6
- num_hidden_layers: 40
- num_key_value_heads: 4
- num_local_experts: 62
- rms_norm_eps: 1e-05
- rope_theta: 10000
- vocab_size: 49160
Modellspezifische Qualifizierung
Diese Konfiguration oder Publisher-Metadaten kennzeichnen das Modell als Mixture of Experts. Bestätigen Sie, ob die Serving-Laufzeit seine Routing-Schichten unterstützt, und unterscheiden Sie Gesamtparameter von pro Token aktiven Parametern; hier wird keine aktive Anzahl abgeleitet, sofern der Publisher nicht explizit eine angibt.
Die Konfiguration oder Tags identifizieren rekurrente, hybride oder State-Space-Komponenten. Bestätigen Sie State-Handling, Sequenzgrenzen, Batching-Verhalten und Laufzeitimplementierung; reine Transformer-Annahmen treffen möglicherweise nicht zu.
Gewichtsspeicher-Planung
Dieser Leitfaden enthält keine unabhängig verifizierte logische Parameteranzahl und lässt daher eine numerische Gewichtsspeicher-Schätzung aus. Wenn eine Anzahl für diese exakte Repository-Revision verifiziert wird, verwenden Sie Parameteranzahl × Bytes pro Parameter als Untergrenze für die Gewichte allein; berücksichtigen Sie dann separat KV-Cache, Kontext, Aktivierungen, Laufzeit und Nebenläufigkeit.
Revision und Reproduzierbarkeit
Die Metadaten und die Konfiguration sind auf Revision 4ec5f963443b2e15e9be82595289e96ff082e280 gepinnt. Pinnen Sie diesen Commit, wenn Sie eine Evaluierung reproduzieren. Repository-Branches können sich ändern, und diese Quellenprüfung validiert die Modellgewichte selbst nicht.
Veröffentlichter Eintrag
- Task: text-generation
- Modelltyp: granitemoehybrid
- Architektur: GraniteMoeHybridForCausalLM
- Lizenzlabel: apache-2.0
- Zugang: öffentliches Repository; prüfen Sie die anwendbare Lizenz und die Publisher-Bedingungen
- Revision: 4ec5f963443b2e15e9be82595289e96ff082e280