deepseek-ai/DeepSeek-V3

deepseek-ai/DeepSeek-V3 ist auf Hugging Face als text-generation-Modell gelistet. Diese Seite dokumentiert den öffentlichen Repository-Snapshot e815299b0bcbac849fa540c768ef21845365c9eb; überprüfen Sie die gelistete Revision, Lizenz und Laufzeitunterstützung, bevor Sie es verwenden.

Aktualisiert am

Computraq bereitet den Start vor. Diese Leitfäden erläutern die Vorbereitung und den vorgeschlagenen Rahmen; sie belegen keinen laufenden Dienst, keine Integration und keine Partnerschaft.

Identität und Zugang

Der Publisher-Eintrag identifiziert dieses Repository als deepseek-ai/DeepSeek-V3. Der aktuelle öffentliche Snapshot ist e815299b0bcbac849fa540c768ef21845365c9eb. Der Zugang ist öffentliches Repository; prüfen Sie die anwendbare Lizenz und die Publisher-Bedingungen; das aufgezeichnete Lizenzlabel ist im öffentlichen Eintrag nicht angegeben. Ein öffentliches Repository oder ein gated Download begründet keine Erlaubnis für jede Nutzung.

Konfigurationsfakten

Die gepinnte Konfiguration gibt Modelltyp deepseek_v3 und Architektur DeepseekV3ForCausalLM an. Der Model Hub taggt es für text-generation; diese Labels beschreiben Repository-Metadaten und belegen keine Benchmark-Leistung.

  • hidden_size: 7168
  • intermediate_size: 18432
  • max_position_embeddings: 163840
  • n_routed_experts: 256
  • num_attention_heads: 128
  • num_experts_per_tok: 8
  • num_hidden_layers: 61
  • num_key_value_heads: 128
  • quantization_config.quant_method: fp8
  • rms_norm_eps: 1e-06
  • rope_theta: 10000
  • torch_dtype: bfloat16
  • vocab_size: 129280
  • quantization_config.activation_scheme: dynamic
  • quantization_config.fmt: e4m3

Modellspezifische Qualifizierung

Diese Konfiguration oder Publisher-Metadaten kennzeichnen das Modell als Mixture of Experts. Bestätigen Sie, ob die Serving-Laufzeit seine Routing-Schichten unterstützt, und unterscheiden Sie Gesamtparameter von pro Token aktiven Parametern; hier wird keine aktive Anzahl abgeleitet, sofern der Publisher nicht explizit eine angibt.

Dieses Repository scheint eine quantisierte oder reduzierte Präzisionsvariante zu beschreiben (im öffentlichen Eintrag nicht angegeben). Bestätigen Sie das tatsächliche Gewichtsformat und die Laufzeit-Kernels anhand der gepinnten Dateien; die Speichergröße allein ist weder eine logische Parameteranzahl noch ein garantierter GPU-Speicherbedarf.

Gewichtsspeicher-Planung

Dieser Leitfaden enthält keine unabhängig verifizierte logische Parameteranzahl und lässt daher eine numerische Gewichtsspeicher-Schätzung aus. Wenn eine Anzahl für diese exakte Repository-Revision verifiziert wird, verwenden Sie Parameteranzahl × Bytes pro Parameter als Untergrenze für die Gewichte allein; berücksichtigen Sie dann separat KV-Cache, Kontext, Aktivierungen, Laufzeit und Nebenläufigkeit.

Revision und Reproduzierbarkeit

Die Metadaten und die Konfiguration sind auf Revision e815299b0bcbac849fa540c768ef21845365c9eb gepinnt. Pinnen Sie diesen Commit, wenn Sie eine Evaluierung reproduzieren. Repository-Branches können sich ändern, und diese Quellenprüfung validiert die Modellgewichte selbst nicht.

Veröffentlichter Eintrag

  • Task: text-generation
  • Modelltyp: deepseek_v3
  • Architektur: DeepseekV3ForCausalLM
  • Lizenzlabel: im öffentlichen Eintrag nicht angegeben
  • Zugang: öffentliches Repository; prüfen Sie die anwendbare Lizenz und die Publisher-Bedingungen
  • Revision: e815299b0bcbac849fa540c768ef21845365c9eb

Quellen und Prüfung