chbae624/vllm-translategemma-12b-it

chbae624/vllm-translategemma-12b-it ist auf Hugging Face als text-generation-Modell gelistet. Diese Seite dokumentiert den öffentlichen Repository-Snapshot 81d99b4299ce797e9fa5141ade4384e57f5e9442; überprüfen Sie die gelistete Revision, Lizenz und Laufzeitunterstützung, bevor Sie es verwenden.

Aktualisiert am

Computraq bereitet den Start vor. Diese Leitfäden erläutern die Vorbereitung und den vorgeschlagenen Rahmen; sie belegen keinen laufenden Dienst, keine Integration und keine Partnerschaft.

Identität und Zugang

Der Publisher-Eintrag identifiziert dieses Repository als chbae624/vllm-translategemma-12b-it. Der aktuelle öffentliche Snapshot ist 81d99b4299ce797e9fa5141ade4384e57f5e9442. Der Zugang ist öffentliches Repository; prüfen Sie die anwendbare Lizenz und die Publisher-Bedingungen; das aufgezeichnete Lizenzlabel ist gemma. Ein öffentliches Repository oder ein gated Download begründet keine Erlaubnis für jede Nutzung.

Konfigurationsfakten

Die gepinnte Konfiguration gibt Modelltyp gemma3 und Architektur Gemma3ForConditionalGeneration an. Der Model Hub taggt es für text-generation; diese Labels beschreiben Repository-Metadaten und belegen keine Benchmark-Leistung.

  • text_config.head_dim: 256
  • text_config.hidden_size: 3840
  • text_config.intermediate_size: 15360
  • text_config.max_position_embeddings: 131072
  • text_config.num_attention_heads: 16
  • text_config.num_hidden_layers: 48
  • text_config.num_key_value_heads: 8
  • text_config.rms_norm_eps: 1e-06
  • text_config.rope_theta: 1000000
  • text_config.sliding_window: 1024
  • text_config.vocab_size: 262208
  • vision_config.hidden_size: 1152
  • vision_config.intermediate_size: 4304
  • vision_config.num_attention_heads: 16
  • vision_config.num_hidden_layers: 27

Modellspezifische Qualifizierung

Die Repository-Metadaten identifizieren ein multimodales Modell (Bild). Prüfen Sie den Prozessor, die Bild-/Audio-/Video-Pfade, Eingabegrenzen und Serving-Laufzeitunterstützung; reiner Text-Token-Durchsatz ist kein vollständiges Maß für diese Arbeitslast.

Gewichtsspeicher-Planung

Dieser Leitfaden enthält keine unabhängig verifizierte logische Parameteranzahl und lässt daher eine numerische Gewichtsspeicher-Schätzung aus. Wenn eine Anzahl für diese exakte Repository-Revision verifiziert wird, verwenden Sie Parameteranzahl × Bytes pro Parameter als Untergrenze für die Gewichte allein; berücksichtigen Sie dann separat KV-Cache, Kontext, Aktivierungen, Laufzeit und Nebenläufigkeit.

Revision und Reproduzierbarkeit

Die Metadaten und die Konfiguration sind auf Revision 81d99b4299ce797e9fa5141ade4384e57f5e9442 gepinnt. Pinnen Sie diesen Commit, wenn Sie eine Evaluierung reproduzieren. Repository-Branches können sich ändern, und diese Quellenprüfung validiert die Modellgewichte selbst nicht.

Veröffentlichter Eintrag

  • Task: text-generation
  • Modelltyp: gemma3
  • Architektur: Gemma3ForConditionalGeneration
  • Lizenzlabel: gemma
  • Zugang: öffentliches Repository; prüfen Sie die anwendbare Lizenz und die Publisher-Bedingungen
  • Revision: 81d99b4299ce797e9fa5141ade4384e57f5e9442

Quellen und Prüfung