chbae624/vllm-translategemma-12b-it

chbae624/vllm-translategemma-12b-it est répertorié sur Hugging Face comme modèle text-generation. Cette page consigne l'instantané public du dépôt 81d99b4299ce797e9fa5141ade4384e57f5e9442 ; vérifiez la révision indiquée, la licence et la prise en charge d'exécution avant de l'utiliser.

Mis à jour le

Computraq prépare son lancement. Ces guides décrivent les préparatifs et le cadre proposé ; ils n’établissent aucun service actif, aucune intégration ni aucun partenariat.

Identité et accès

L'enregistrement de l'éditeur identifie ce dépôt comme chbae624/vllm-translategemma-12b-it. Son instantané public actuel est 81d99b4299ce797e9fa5141ade4384e57f5e9442. L'accès est dépôt public ; consultez la licence applicable et les conditions de l'éditeur ; le libellé de licence consigné est gemma. Un dépôt public ou un téléchargement sous conditions ne confère pas une autorisation pour tous les usages.

Faits de configuration

La configuration épinglée indique le type de modèle gemma3 et l'architecture Gemma3ForConditionalGeneration. Le hub de modèles l'étiquette pour text-generation ; ces libellés décrivent les métadonnées du dépôt et n'établissent pas de performance de référence.

  • text_config.head_dim: 256
  • text_config.hidden_size: 3840
  • text_config.intermediate_size: 15360
  • text_config.max_position_embeddings: 131072
  • text_config.num_attention_heads: 16
  • text_config.num_hidden_layers: 48
  • text_config.num_key_value_heads: 8
  • text_config.rms_norm_eps: 1e-06
  • text_config.rope_theta: 1000000
  • text_config.sliding_window: 1024
  • text_config.vocab_size: 262208
  • vision_config.hidden_size: 1152
  • vision_config.intermediate_size: 4304
  • vision_config.num_attention_heads: 16
  • vision_config.num_hidden_layers: 27

Qualification propre au modèle

Les métadonnées du dépôt identifient un modèle multimodal (image). Vérifiez le processeur, les voies image/audio/vidéo, les limites d'entrée et la prise en charge du moteur d'exécution ; le débit de tokens en texte seul ne mesure pas complètement cette charge de travail.

Planification de la mémoire des poids

Ce guide ne retient pas de décompte logique de paramètres vérifié indépendamment, il omet donc une estimation numérique de la mémoire des poids. Si un décompte est vérifié pour cette révision exacte du dépôt, utilisez nombre de paramètres × octets par paramètre pour un plancher des poids seuls ; tenez ensuite compte séparément du cache KV, du contexte, des activations, de l'exécution et de la concurrence.

Révision et reproductibilité

Les métadonnées et la configuration sont épinglées à la révision 81d99b4299ce797e9fa5141ade4384e57f5e9442. Épinglez ce commit lors de la reproduction d'une évaluation. Les branches du dépôt peuvent changer, et cette vérification à la source ne valide pas les poids du modèle eux-mêmes.

Enregistrement publié

  • Tâche : text-generation
  • Type de modèle : gemma3
  • Architecture : Gemma3ForConditionalGeneration
  • Libellé de licence : gemma
  • Accès : dépôt public ; consultez la licence applicable et les conditions de l'éditeur
  • Révision : 81d99b4299ce797e9fa5141ade4384e57f5e9442

Sources et vérification