h2oai/h2ovl-mississippi-2b

h2oai/h2ovl-mississippi-2bはHugging Face上でtext-generationモデルとして登録されています。本ページは公開リポジトリのスナップショット50fe0c0661b595aaf709a8a6b92fc5c207a681e4を記録したものです。使用前に、記載されたリビジョン、ライセンス、ランタイムサポートを確認してください。

更新日

Computraq は公開に向けて準備中です。これらのガイドは準備事項と構想を説明するもので、稼働中のサービス、連携、提携を示すものではありません。

識別情報とアクセス

公開元のレコードでは、このリポジトリはh2oai/h2ovl-mississippi-2bとして識別されています。現在の公開スナップショットは50fe0c0661b595aaf709a8a6b92fc5c207a681e4です。アクセス条件は次のとおりです。公開リポジトリ。適用されるライセンスと公開元の条件を確認してください。記録されているライセンスラベルはapache-2.0です。公開リポジトリやゲート付きダウンロードは、あらゆる用途に対する許可を意味するものではありません。

設定の事実

固定された設定では、モデルタイプはh2ovl_chat、アーキテクチャはH2OVLChatModelと報告されています。モデルハブではtext-generationとしてタグ付けされています。これらのラベルはリポジトリのメタデータを記述するものであり、ベンチマーク性能を確立するものではありません。

  • torch_dtype: bfloat16
  • llm_config.torch_dtype: bfloat16
  • llm_config.hidden_size: 2560
  • llm_config.intermediate_size: 6912
  • llm_config.max_position_embeddings: 8192
  • llm_config.num_hidden_layers: 24
  • llm_config.num_attention_heads: 32
  • llm_config.num_key_value_heads: 8
  • llm_config.rms_norm_eps: 1e-05
  • llm_config.vocab_size: 32010
  • llm_config.rope_theta: 10000
  • vision_config.hidden_size: 1024
  • vision_config.intermediate_size: 4096
  • vision_config.num_attention_heads: 16
  • vision_config.num_hidden_layers: 24
  • vision_config.torch_dtype: bfloat16

モデル固有の補足

リポジトリのメタデータは、マルチモーダルモデル(画像)であることを示しています。プロセッサ、画像・音声・動画の各経路、入力制限、サービングランタイムのサポートを確認してください。テキストのみのトークンスループットは、このワークロードの完全な指標ではありません。

重みメモリの計画

本ガイドは独立に検証された論理パラメータ数を保持していないため、数値による重みメモリの見積もりを省略しています。この正確なリポジトリリビジョンについてパラメータ数が検証された場合は、重みのみの下限としてパラメータ数×パラメータあたりのバイト数を用い、KVキャッシュ、コンテキスト、アクティベーション、ランタイム、同時実行数は別途考慮してください。

リビジョンと再現性

メタデータと設定はリビジョン50fe0c0661b595aaf709a8a6b92fc5c207a681e4に固定されています。評価を再現する際はこのコミットを固定してください。リポジトリのブランチは変更される可能性があり、このソース確認はモデルの重み自体を検証するものではありません。

公開レコード

  • タスク: text-generation
  • モデルタイプ: h2ovl_chat
  • アーキテクチャ: H2OVLChatModel
  • ライセンスラベル: apache-2.0
  • アクセス: 公開リポジトリ。適用されるライセンスと公開元の条件を確認してください
  • リビジョン: 50fe0c0661b595aaf709a8a6b92fc5c207a681e4

出典と確認