識別情報とアクセス
公開元のレコードでは、このリポジトリはRedHatAI/Qwen3-32B-speculator.eagle3として識別されています。現在の公開スナップショットはdc84fe7ff1db31efa824776f49c141fc8195eb47です。アクセス条件は次のとおりです。公開リポジトリ。適用されるライセンスと公開元の条件を確認してください。記録されているライセンスラベルはapache-2.0です。公開リポジトリやゲート付きダウンロードは、あらゆる用途に対する許可を意味するものではありません。
設定の事実
固定された設定では、モデルタイプは公開レコードに記載なし、アーキテクチャはEagle3Speculatorと報告されています。モデルハブではtext-generationとしてタグ付けされています。これらのラベルはリポジトリのメタデータを記述するものであり、ベンチマーク性能を確立するものではありません。
- torch_dtype: bfloat16
- transformer_layer_config.head_dim: 128
- transformer_layer_config.hidden_size: 5120
- transformer_layer_config.intermediate_size: 25600
- transformer_layer_config.max_position_embeddings: 40960
- transformer_layer_config.num_attention_heads: 64
- transformer_layer_config.num_hidden_layers: 1
- transformer_layer_config.num_key_value_heads: 8
- transformer_layer_config.rms_norm_eps: 1e-06
- transformer_layer_config.rope_theta: 1000000
- transformer_layer_config.torch_dtype: bfloat16
- transformer_layer_config.vocab_size: 151936
モデル固有の補足
デプロイ前に、正確なトークナイザーとチャットテンプレート、サポートされるコンテキスト長、サービングエンジン、出力形式、ワークロード固有の評価を確認してください。モデルカードと設定はアーティファクトを記述するものであり、利用可能なサービスや性能保証を示すものではありません。
重みメモリの計画
本ガイドは独立に検証された論理パラメータ数を保持していないため、数値による重みメモリの見積もりを省略しています。この正確なリポジトリリビジョンについてパラメータ数が検証された場合は、重みのみの下限としてパラメータ数×パラメータあたりのバイト数を用い、KVキャッシュ、コンテキスト、アクティベーション、ランタイム、同時実行数は別途考慮してください。
リビジョンと再現性
メタデータと設定はリビジョンdc84fe7ff1db31efa824776f49c141fc8195eb47に固定されています。評価を再現する際はこのコミットを固定してください。リポジトリのブランチは変更される可能性があり、このソース確認はモデルの重み自体を検証するものではありません。
公開レコード
- タスク: text-generation
- モデルタイプ: 公開レコードに記載なし
- アーキテクチャ: Eagle3Speculator
- ライセンスラベル: apache-2.0
- アクセス: 公開リポジトリ。適用されるライセンスと公開元の条件を確認してください
- リビジョン: dc84fe7ff1db31efa824776f49c141fc8195eb47