EleutherAI/gpt-neox-20b

EleutherAI/gpt-neox-20b ist auf Hugging Face als text-generation-Modell gelistet. Diese Seite dokumentiert den öffentlichen Repository-Snapshot c292233c833e336628618a88a648727eb3dff0a7; überprüfen Sie die gelistete Revision, Lizenz und Laufzeitunterstützung, bevor Sie es verwenden.

Aktualisiert am

Computraq bereitet den Start vor. Diese Leitfäden erläutern die Vorbereitung und den vorgeschlagenen Rahmen; sie belegen keinen laufenden Dienst, keine Integration und keine Partnerschaft.

Identität und Zugang

Der Publisher-Eintrag identifiziert dieses Repository als EleutherAI/gpt-neox-20b. Der aktuelle öffentliche Snapshot ist c292233c833e336628618a88a648727eb3dff0a7. Der Zugang ist öffentliches Repository; prüfen Sie die anwendbare Lizenz und die Publisher-Bedingungen; das aufgezeichnete Lizenzlabel ist apache-2.0. Ein öffentliches Repository oder ein gated Download begründet keine Erlaubnis für jede Nutzung.

Konfigurationsfakten

Die gepinnte Konfiguration gibt Modelltyp gpt_neox und Architektur GPTNeoXForCausalLM an. Der Model Hub taggt es für text-generation; diese Labels beschreiben Repository-Metadaten und belegen keine Benchmark-Leistung.

  • hidden_size: 6144
  • intermediate_size: 24576
  • max_position_embeddings: 2048
  • num_attention_heads: 64
  • num_hidden_layers: 44
  • torch_dtype: float16
  • vocab_size: 50432

Modellspezifische Qualifizierung

Bestätigen Sie vor dem Deployment den exakten Tokenizer und das Chat-Template, die unterstützte Kontextlänge, die Serving-Engine, das Ausgabeformat und die arbeitslastspezifische Evaluierung. Die Modellkarte und die Konfiguration beschreiben Artefakte, keinen verfügbaren Dienst und keine Leistungsgarantie.

Gewichtsspeicher-Planung

Dieser Leitfaden enthält keine unabhängig verifizierte logische Parameteranzahl und lässt daher eine numerische Gewichtsspeicher-Schätzung aus. Wenn eine Anzahl für diese exakte Repository-Revision verifiziert wird, verwenden Sie Parameteranzahl × Bytes pro Parameter als Untergrenze für die Gewichte allein; berücksichtigen Sie dann separat KV-Cache, Kontext, Aktivierungen, Laufzeit und Nebenläufigkeit.

Revision und Reproduzierbarkeit

Die Metadaten und die Konfiguration sind auf Revision c292233c833e336628618a88a648727eb3dff0a7 gepinnt. Pinnen Sie diesen Commit, wenn Sie eine Evaluierung reproduzieren. Repository-Branches können sich ändern, und diese Quellenprüfung validiert die Modellgewichte selbst nicht.

Veröffentlichter Eintrag

  • Task: text-generation
  • Modelltyp: gpt_neox
  • Architektur: GPTNeoXForCausalLM
  • Lizenzlabel: apache-2.0
  • Zugang: öffentliches Repository; prüfen Sie die anwendbare Lizenz und die Publisher-Bedingungen
  • Revision: c292233c833e336628618a88a648727eb3dff0a7

Quellen und Prüfung