身份与访问
发布者记录将本仓库标识为 h2oai/h2ovl-mississippi-2b。其当前公开快照为 50fe0c0661b595aaf709a8a6b92fc5c207a681e4。访问方式为 公开仓库;请查阅适用的许可证和发布者条款;记录的许可证标签为 apache-2.0。公开仓库或受限下载并不构成对每一种用途的许可。
配置事实
固定配置报告模型类型为 h2ovl_chat,架构为 H2OVLChatModel。模型中心将其标记为 text-generation;这些标签描述的是仓库元数据,并不确立基准性能。
- torch_dtype: bfloat16
- llm_config.torch_dtype: bfloat16
- llm_config.hidden_size: 2560
- llm_config.intermediate_size: 6912
- llm_config.max_position_embeddings: 8192
- llm_config.num_hidden_layers: 24
- llm_config.num_attention_heads: 32
- llm_config.num_key_value_heads: 8
- llm_config.rms_norm_eps: 1e-05
- llm_config.vocab_size: 32010
- llm_config.rope_theta: 10000
- vision_config.hidden_size: 1024
- vision_config.intermediate_size: 4096
- vision_config.num_attention_heads: 16
- vision_config.num_hidden_layers: 24
- vision_config.torch_dtype: bfloat16
模型特定限定
仓库元数据标识了一个多模态模型(图像)。请检查处理器、图像/音频/视频通路、输入限制和服务运行时支持;纯文本 token 吞吐量并非此工作负载的完整衡量指标。
权重内存规划
本指南未保留经独立验证的逻辑参数数量,因此省略数值权重内存估算。如果针对此确切仓库修订版本验证了参数数量,请使用参数数量 × 每参数字节数作为仅权重下限;然后单独考虑 KV 缓存、上下文、激活、运行时和并发。
修订版本与可复现性
元数据和配置固定于修订版本 50fe0c0661b595aaf709a8a6b92fc5c207a681e4。复现评估时请固定此提交。仓库分支可能变化,且此来源核对不验证模型权重本身。
已发布记录
- 任务:text-generation
- 模型类型:h2ovl_chat
- 架构:H2OVLChatModel
- 许可证标签:apache-2.0
- 访问方式:公开仓库;请查阅适用的许可证和发布者条款
- 修订版本:50fe0c0661b595aaf709a8a6b92fc5c207a681e4