ibm-granite/granite-4.0-micro

ibm-granite/granite-4.0-micro figura en Hugging Face como un modelo de text-generation. Esta página registra la instantánea pública del repositorio 56111ae135df9c53a78c99028e7bc24035a9e979; verifique la revisión, la licencia y el soporte de ejecución indicados antes de usarlo.

Actualizado

Computraq está preparando su lanzamiento. Estas guías explican los preparativos y el marco propuesto; no establecen un servicio activo, una integración ni una colaboración.

Identidad y acceso

El registro del publicador identifica este repositorio como ibm-granite/granite-4.0-micro. Su instantánea pública actual es 56111ae135df9c53a78c99028e7bc24035a9e979. El acceso es repositorio público; revise la licencia aplicable y los términos del publicador; la etiqueta de licencia registrada es apache-2.0. Un repositorio público o una descarga con acceso restringido no establece permiso para todos los usos.

Datos de configuración

La configuración fijada indica el tipo de modelo granitemoehybrid y la arquitectura GraniteMoeHybridForCausalLM. El hub de modelos lo etiqueta para text-generation; estas etiquetas describen metadatos del repositorio y no establecen el rendimiento en benchmarks.

  • hidden_size: 2560
  • intermediate_size: 8192
  • max_position_embeddings: 131072
  • num_attention_heads: 40
  • num_experts_per_tok: 0
  • num_hidden_layers: 40
  • num_key_value_heads: 8
  • num_local_experts: 0
  • rms_norm_eps: 1e-05
  • rope_theta: 10000000
  • torch_dtype: bfloat16
  • vocab_size: 100352

Cualificación específica del modelo

Esta configuración o los metadatos del publicador marcan el modelo como una mezcla de expertos. Confirme si el entorno de ejecución de servicio admite sus capas de enrutamiento y distinga los parámetros totales de los parámetros activos por token; aquí no se infiere ningún recuento de activos a menos que el publicador lo indique explícitamente.

La configuración o las etiquetas identifican componentes recurrentes, híbridos o de espacio de estados. Confirme el manejo de estados, los límites de secuencia, el comportamiento de batching y la implementación del entorno de ejecución; las suposiciones basadas únicamente en transformer pueden no aplicarse.

Planificación de memoria de pesos

Esta guía no conserva un recuento lógico de parámetros verificado de forma independiente, por lo que omite una estimación numérica de memoria de pesos. Si se verifica un recuento para esta revisión exacta del repositorio, use el recuento de parámetros × bytes por parámetro para un mínimo solo de pesos; después tenga en cuenta por separado la caché KV, el contexto, las activaciones, el entorno de ejecución y la concurrencia.

Revisión y reproducibilidad

Los metadatos y la configuración están fijados a la revisión 56111ae135df9c53a78c99028e7bc24035a9e979. Fije este commit al reproducir una evaluación. Las ramas del repositorio pueden cambiar, y esta verificación de fuentes no valida los pesos del modelo en sí.

Registro publicado

  • Tarea: text-generation
  • Tipo de modelo: granitemoehybrid
  • Arquitectura: GraniteMoeHybridForCausalLM
  • Etiqueta de licencia: apache-2.0
  • Acceso: repositorio público; revise la licencia aplicable y los términos del publicador
  • Revisión: 56111ae135df9c53a78c99028e7bc24035a9e979

Fuentes y verificación