nvidia/NVIDIA-Nemotron-3-Super-120B-A12B-BF16

nvidia/NVIDIA-Nemotron-3-Super-120B-A12B-BF16 ist auf Hugging Face als text-generation-Modell gelistet. Diese Seite dokumentiert den öffentlichen Repository-Snapshot 2dc98e2afe4face0e4ce40972a915c45368bd34a; überprüfen Sie die gelistete Revision, Lizenz und Laufzeitunterstützung, bevor Sie es verwenden.

Aktualisiert am

Computraq bereitet den Start vor. Diese Leitfäden erläutern die Vorbereitung und den vorgeschlagenen Rahmen; sie belegen keinen laufenden Dienst, keine Integration und keine Partnerschaft.

Identität und Zugang

Der Publisher-Eintrag identifiziert dieses Repository als nvidia/NVIDIA-Nemotron-3-Super-120B-A12B-BF16. Der aktuelle öffentliche Snapshot ist 2dc98e2afe4face0e4ce40972a915c45368bd34a. Der Zugang ist öffentliches Repository; prüfen Sie die anwendbare Lizenz und die Publisher-Bedingungen; das aufgezeichnete Lizenzlabel ist other. Ein öffentliches Repository oder ein gated Download begründet keine Erlaubnis für jede Nutzung.

Konfigurationsfakten

Die gepinnte Konfiguration gibt Modelltyp nemotron_h und Architektur NemotronHForCausalLM an. Der Model Hub taggt es für text-generation; diese Labels beschreiben Repository-Metadaten und belegen keine Benchmark-Leistung.

  • head_dim: 128
  • hidden_size: 4096
  • intermediate_size: 2688
  • max_position_embeddings: 262144
  • n_routed_experts: 512
  • num_attention_heads: 32
  • num_experts_per_tok: 22
  • num_hidden_layers: 88
  • num_key_value_heads: 2
  • rope_theta: 10000
  • vocab_size: 131072

Modellspezifische Qualifizierung

Diese Konfiguration oder Publisher-Metadaten kennzeichnen das Modell als Mixture of Experts. Bestätigen Sie, ob die Serving-Laufzeit seine Routing-Schichten unterstützt, und unterscheiden Sie Gesamtparameter von pro Token aktiven Parametern; hier wird keine aktive Anzahl abgeleitet, sofern der Publisher nicht explizit eine angibt.

Gewichtsspeicher-Planung

Dieser Leitfaden enthält keine unabhängig verifizierte logische Parameteranzahl und lässt daher eine numerische Gewichtsspeicher-Schätzung aus. Wenn eine Anzahl für diese exakte Repository-Revision verifiziert wird, verwenden Sie Parameteranzahl × Bytes pro Parameter als Untergrenze für die Gewichte allein; berücksichtigen Sie dann separat KV-Cache, Kontext, Aktivierungen, Laufzeit und Nebenläufigkeit.

Revision und Reproduzierbarkeit

Die Metadaten und die Konfiguration sind auf Revision 2dc98e2afe4face0e4ce40972a915c45368bd34a gepinnt. Pinnen Sie diesen Commit, wenn Sie eine Evaluierung reproduzieren. Repository-Branches können sich ändern, und diese Quellenprüfung validiert die Modellgewichte selbst nicht.

Veröffentlichter Eintrag

  • Task: text-generation
  • Modelltyp: nemotron_h
  • Architektur: NemotronHForCausalLM
  • Lizenzlabel: other
  • Zugang: öffentliches Repository; prüfen Sie die anwendbare Lizenz und die Publisher-Bedingungen
  • Revision: 2dc98e2afe4face0e4ce40972a915c45368bd34a

Quellen und Prüfung