bigcode/starcoder2-3b

bigcode/starcoder2-3bはHugging Face上でtext-generationモデルとして登録されています。本ページは公開リポジトリのスナップショット733247c55e3f73af49ce8e9c7949bf14af205928を記録したものです。使用前に、記載されたリビジョン、ライセンス、ランタイムサポートを確認してください。

更新日

Computraq は公開に向けて準備中です。これらのガイドは準備事項と構想を説明するもので、稼働中のサービス、連携、提携を示すものではありません。

識別情報とアクセス

公開元のレコードでは、このリポジトリはbigcode/starcoder2-3bとして識別されています。現在の公開スナップショットは733247c55e3f73af49ce8e9c7949bf14af205928です。アクセス条件は次のとおりです。公開リポジトリ。適用されるライセンスと公開元の条件を確認してください。記録されているライセンスラベルはbigcode-openrail-mです。公開リポジトリやゲート付きダウンロードは、あらゆる用途に対する許可を意味するものではありません。

設定の事実

固定された設定では、モデルタイプはstarcoder2、アーキテクチャはStarcoder2ForCausalLMと報告されています。モデルハブではtext-generationとしてタグ付けされています。これらのラベルはリポジトリのメタデータを記述するものであり、ベンチマーク性能を確立するものではありません。

  • hidden_size: 3072
  • intermediate_size: 12288
  • max_position_embeddings: 16384
  • num_attention_heads: 24
  • num_hidden_layers: 30
  • num_key_value_heads: 2
  • rope_theta: 999999.4420358813
  • sliding_window: 4096
  • vocab_size: 49152

モデル固有の補足

デプロイ前に、正確なトークナイザーとチャットテンプレート、サポートされるコンテキスト長、サービングエンジン、出力形式、ワークロード固有の評価を確認してください。モデルカードと設定はアーティファクトを記述するものであり、利用可能なサービスや性能保証を示すものではありません。

重みメモリの計画

本ガイドは独立に検証された論理パラメータ数を保持していないため、数値による重みメモリの見積もりを省略しています。この正確なリポジトリリビジョンについてパラメータ数が検証された場合は、重みのみの下限としてパラメータ数×パラメータあたりのバイト数を用い、KVキャッシュ、コンテキスト、アクティベーション、ランタイム、同時実行数は別途考慮してください。

リビジョンと再現性

メタデータと設定はリビジョン733247c55e3f73af49ce8e9c7949bf14af205928に固定されています。評価を再現する際はこのコミットを固定してください。リポジトリのブランチは変更される可能性があり、このソース確認はモデルの重み自体を検証するものではありません。

公開レコード

  • タスク: text-generation
  • モデルタイプ: starcoder2
  • アーキテクチャ: Starcoder2ForCausalLM
  • ライセンスラベル: bigcode-openrail-m
  • アクセス: 公開リポジトリ。適用されるライセンスと公開元の条件を確認してください
  • リビジョン: 733247c55e3f73af49ce8e9c7949bf14af205928

出典と確認