h2oai/h2ovl-mississippi-2b

h2oai/h2ovl-mississippi-2b ist auf Hugging Face als text-generation-Modell gelistet. Diese Seite dokumentiert den öffentlichen Repository-Snapshot 50fe0c0661b595aaf709a8a6b92fc5c207a681e4; überprüfen Sie die gelistete Revision, Lizenz und Laufzeitunterstützung, bevor Sie es verwenden.

Aktualisiert am

Computraq bereitet den Start vor. Diese Leitfäden erläutern die Vorbereitung und den vorgeschlagenen Rahmen; sie belegen keinen laufenden Dienst, keine Integration und keine Partnerschaft.

Identität und Zugang

Der Publisher-Eintrag identifiziert dieses Repository als h2oai/h2ovl-mississippi-2b. Der aktuelle öffentliche Snapshot ist 50fe0c0661b595aaf709a8a6b92fc5c207a681e4. Der Zugang ist öffentliches Repository; prüfen Sie die anwendbare Lizenz und die Publisher-Bedingungen; das aufgezeichnete Lizenzlabel ist apache-2.0. Ein öffentliches Repository oder ein gated Download begründet keine Erlaubnis für jede Nutzung.

Konfigurationsfakten

Die gepinnte Konfiguration gibt Modelltyp h2ovl_chat und Architektur H2OVLChatModel an. Der Model Hub taggt es für text-generation; diese Labels beschreiben Repository-Metadaten und belegen keine Benchmark-Leistung.

  • torch_dtype: bfloat16
  • llm_config.torch_dtype: bfloat16
  • llm_config.hidden_size: 2560
  • llm_config.intermediate_size: 6912
  • llm_config.max_position_embeddings: 8192
  • llm_config.num_hidden_layers: 24
  • llm_config.num_attention_heads: 32
  • llm_config.num_key_value_heads: 8
  • llm_config.rms_norm_eps: 1e-05
  • llm_config.vocab_size: 32010
  • llm_config.rope_theta: 10000
  • vision_config.hidden_size: 1024
  • vision_config.intermediate_size: 4096
  • vision_config.num_attention_heads: 16
  • vision_config.num_hidden_layers: 24
  • vision_config.torch_dtype: bfloat16

Modellspezifische Qualifizierung

Die Repository-Metadaten identifizieren ein multimodales Modell (Bild). Prüfen Sie den Prozessor, die Bild-/Audio-/Video-Pfade, Eingabegrenzen und Serving-Laufzeitunterstützung; reiner Text-Token-Durchsatz ist kein vollständiges Maß für diese Arbeitslast.

Gewichtsspeicher-Planung

Dieser Leitfaden enthält keine unabhängig verifizierte logische Parameteranzahl und lässt daher eine numerische Gewichtsspeicher-Schätzung aus. Wenn eine Anzahl für diese exakte Repository-Revision verifiziert wird, verwenden Sie Parameteranzahl × Bytes pro Parameter als Untergrenze für die Gewichte allein; berücksichtigen Sie dann separat KV-Cache, Kontext, Aktivierungen, Laufzeit und Nebenläufigkeit.

Revision und Reproduzierbarkeit

Die Metadaten und die Konfiguration sind auf Revision 50fe0c0661b595aaf709a8a6b92fc5c207a681e4 gepinnt. Pinnen Sie diesen Commit, wenn Sie eine Evaluierung reproduzieren. Repository-Branches können sich ändern, und diese Quellenprüfung validiert die Modellgewichte selbst nicht.

Veröffentlichter Eintrag

  • Task: text-generation
  • Modelltyp: h2ovl_chat
  • Architektur: H2OVLChatModel
  • Lizenzlabel: apache-2.0
  • Zugang: öffentliches Repository; prüfen Sie die anwendbare Lizenz und die Publisher-Bedingungen
  • Revision: 50fe0c0661b595aaf709a8a6b92fc5c207a681e4

Quellen und Prüfung