Identidad y acceso
El registro del publicador identifica este repositorio como ibm-granite/granite-4.1-30b. Su instantánea pública actual es 4fae6278f7132abf5e971f9de49ebbad09c54cce. El acceso es repositorio público; revise la licencia aplicable y los términos del publicador; la etiqueta de licencia registrada es apache-2.0. Un repositorio público o una descarga con acceso restringido no establece permiso para todos los usos.
Datos de configuración
La configuración fijada indica el tipo de modelo granite y la arquitectura GraniteForCausalLM. El hub de modelos lo etiqueta para text-generation; estas etiquetas describen metadatos del repositorio y no establecen el rendimiento en benchmarks.
- hidden_size: 4096
- intermediate_size: 32768
- max_position_embeddings: 131072
- num_attention_heads: 32
- num_hidden_layers: 64
- num_key_value_heads: 8
- rms_norm_eps: 1e-05
- rope_theta: 50000000
- torch_dtype: bfloat16
- vocab_size: 100352
Cualificación específica del modelo
Antes del despliegue, confirme el tokenizador y la plantilla de chat exactos, la longitud de contexto admitida, el motor de servicio, el formato de salida y la evaluación específica de la carga de trabajo. La model card y la configuración describen artefactos, no un servicio disponible ni una garantía de rendimiento.
Planificación de memoria de pesos
Esta guía no conserva un recuento lógico de parámetros verificado de forma independiente, por lo que omite una estimación numérica de memoria de pesos. Si se verifica un recuento para esta revisión exacta del repositorio, use el recuento de parámetros × bytes por parámetro para un mínimo solo de pesos; después tenga en cuenta por separado la caché KV, el contexto, las activaciones, el entorno de ejecución y la concurrencia.
Revisión y reproducibilidad
Los metadatos y la configuración están fijados a la revisión 4fae6278f7132abf5e971f9de49ebbad09c54cce. Fije este commit al reproducir una evaluación. Las ramas del repositorio pueden cambiar, y esta verificación de fuentes no valida los pesos del modelo en sí.
Registro publicado
- Tarea: text-generation
- Tipo de modelo: granite
- Arquitectura: GraniteForCausalLM
- Etiqueta de licencia: apache-2.0
- Acceso: repositorio público; revise la licencia aplicable y los términos del publicador
- Revisión: 4fae6278f7132abf5e971f9de49ebbad09c54cce