識別情報とアクセス
公開元のレコードでは、このリポジトリはmoonshotai/Kimi-K2-Instructとして識別されています。現在の公開スナップショットはfd1984e2b7a3350dbf7305fe73a4ede25c14de50です。アクセス条件は次のとおりです。公開リポジトリ。適用されるライセンスと公開元の条件を確認してください。記録されているライセンスラベルはotherです。公開リポジトリやゲート付きダウンロードは、あらゆる用途に対する許可を意味するものではありません。
設定の事実
固定された設定では、モデルタイプはkimi_k2、アーキテクチャはDeepseekV3ForCausalLMと報告されています。モデルハブではtext-generationとしてタグ付けされています。これらのラベルはリポジトリのメタデータを記述するものであり、ベンチマーク性能を確立するものではありません。
- hidden_size: 7168
- intermediate_size: 18432
- max_position_embeddings: 131072
- n_routed_experts: 384
- num_attention_heads: 64
- num_experts_per_tok: 8
- num_hidden_layers: 61
- num_key_value_heads: 64
- quantization_config.quant_method: fp8
- rms_norm_eps: 1e-06
- rope_theta: 50000.0
- torch_dtype: bfloat16
- vocab_size: 163840
- quantization_config.activation_scheme: dynamic
- quantization_config.fmt: e4m3
モデル固有の補足
この設定または公開元のメタデータは、このモデルをMixture of Experts(MoE)として示しています。サービングランタイムがそのルーティング層をサポートしているかを確認し、総パラメータ数とトークンあたりのアクティブパラメータ数を区別してください。公開元が明示的に記載していない限り、ここでアクティブ数を推測することはありません。
このリポジトリは、量子化または低精度化されたバリアント(公開レコードに記載なし)を記述しているようです。固定されたファイルから実際の重み形式とランタイムカーネルを確認してください。ストレージサイズだけでは、論理パラメータ数でも、保証されたGPUメモリ要件でもありません。
重みメモリの計画
本ガイドは独立に検証された論理パラメータ数を保持していないため、数値による重みメモリの見積もりを省略しています。この正確なリポジトリリビジョンについてパラメータ数が検証された場合は、重みのみの下限としてパラメータ数×パラメータあたりのバイト数を用い、KVキャッシュ、コンテキスト、アクティベーション、ランタイム、同時実行数は別途考慮してください。
リビジョンと再現性
メタデータと設定はリビジョンfd1984e2b7a3350dbf7305fe73a4ede25c14de50に固定されています。評価を再現する際はこのコミットを固定してください。リポジトリのブランチは変更される可能性があり、このソース確認はモデルの重み自体を検証するものではありません。
公開レコード
- タスク: text-generation
- モデルタイプ: kimi_k2
- アーキテクチャ: DeepseekV3ForCausalLM
- ライセンスラベル: other
- アクセス: 公開リポジトリ。適用されるライセンスと公開元の条件を確認してください
- リビジョン: fd1984e2b7a3350dbf7305fe73a4ede25c14de50