JackFram/llama-160m

JackFram/llama-160m 在 Hugging Face 上被列为 text-generation 模型。本页记录了公开仓库快照 aca9b687d1425f863dcf5de9a4c96e3fe36266dd;使用前请核实所列修订版本、许可证和运行时支持。

更新日期

Computraq 正在筹备上线。这些指南介绍准备工作与拟议框架,并不表示服务、集成或合作关系已经上线或成立。

身份与访问

发布者记录将本仓库标识为 JackFram/llama-160m。其当前公开快照为 aca9b687d1425f863dcf5de9a4c96e3fe36266dd。访问方式为 公开仓库;请查阅适用的许可证和发布者条款;记录的许可证标签为 apache-2.0。公开仓库或受限下载并不构成对每一种用途的许可。

配置事实

固定配置报告模型类型为 llama,架构为 LlamaForCausalLM。模型中心将其标记为 text-generation;这些标签描述的是仓库元数据,并不确立基准性能。

  • hidden_size: 768
  • intermediate_size: 3072
  • max_position_embeddings: 2048
  • num_attention_heads: 12
  • num_hidden_layers: 12
  • num_key_value_heads: 12
  • rms_norm_eps: 1e-06
  • torch_dtype: float32
  • vocab_size: 32000

模型特定限定

部署前,请确认确切的分词器和聊天模板、支持的上下文长度、服务引擎、输出格式以及针对工作负载的评估。模型卡和配置描述的是工件,而非可用服务或性能保证。

权重内存规划

本指南未保留经独立验证的逻辑参数数量,因此省略数值权重内存估算。如果针对此确切仓库修订版本验证了参数数量,请使用参数数量 × 每参数字节数作为仅权重下限;然后单独考虑 KV 缓存、上下文、激活、运行时和并发。

修订版本与可复现性

元数据和配置固定于修订版本 aca9b687d1425f863dcf5de9a4c96e3fe36266dd。复现评估时请固定此提交。仓库分支可能变化,且此来源核对不验证模型权重本身。

已发布记录

  • 任务:text-generation
  • 模型类型:llama
  • 架构:LlamaForCausalLM
  • 许可证标签:apache-2.0
  • 访问方式:公开仓库;请查阅适用的许可证和发布者条款
  • 修订版本:aca9b687d1425f863dcf5de9a4c96e3fe36266dd

来源与核验