Identidad y acceso
El registro del publicador identifica este repositorio como deepseek-ai/DeepSeek-V3. Su instantánea pública actual es e815299b0bcbac849fa540c768ef21845365c9eb. El acceso es repositorio público; revise la licencia aplicable y los términos del publicador; la etiqueta de licencia registrada es no indicado en el registro público. Un repositorio público o una descarga con acceso restringido no establece permiso para todos los usos.
Datos de configuración
La configuración fijada indica el tipo de modelo deepseek_v3 y la arquitectura DeepseekV3ForCausalLM. El hub de modelos lo etiqueta para text-generation; estas etiquetas describen metadatos del repositorio y no establecen el rendimiento en benchmarks.
- hidden_size: 7168
- intermediate_size: 18432
- max_position_embeddings: 163840
- n_routed_experts: 256
- num_attention_heads: 128
- num_experts_per_tok: 8
- num_hidden_layers: 61
- num_key_value_heads: 128
- quantization_config.quant_method: fp8
- rms_norm_eps: 1e-06
- rope_theta: 10000
- torch_dtype: bfloat16
- vocab_size: 129280
- quantization_config.activation_scheme: dynamic
- quantization_config.fmt: e4m3
Cualificación específica del modelo
Esta configuración o los metadatos del publicador marcan el modelo como una mezcla de expertos. Confirme si el entorno de ejecución de servicio admite sus capas de enrutamiento y distinga los parámetros totales de los parámetros activos por token; aquí no se infiere ningún recuento de activos a menos que el publicador lo indique explícitamente.
Este repositorio parece describir una variante cuantizada o de precisión reducida (no indicado en el registro público). Confirme el formato real de los pesos y los kernels del entorno de ejecución a partir de los archivos fijados; el tamaño de almacenamiento por sí solo no es un recuento lógico de parámetros ni un requisito garantizado de memoria de GPU.
Planificación de memoria de pesos
Esta guía no conserva un recuento lógico de parámetros verificado de forma independiente, por lo que omite una estimación numérica de memoria de pesos. Si se verifica un recuento para esta revisión exacta del repositorio, use el recuento de parámetros × bytes por parámetro para un mínimo solo de pesos; después tenga en cuenta por separado la caché KV, el contexto, las activaciones, el entorno de ejecución y la concurrencia.
Revisión y reproducibilidad
Los metadatos y la configuración están fijados a la revisión e815299b0bcbac849fa540c768ef21845365c9eb. Fije este commit al reproducir una evaluación. Las ramas del repositorio pueden cambiar, y esta verificación de fuentes no valida los pesos del modelo en sí.
Registro publicado
- Tarea: text-generation
- Tipo de modelo: deepseek_v3
- Arquitectura: DeepseekV3ForCausalLM
- Etiqueta de licencia: no indicado en el registro público
- Acceso: repositorio público; revise la licencia aplicable y los términos del publicador
- Revisión: e815299b0bcbac849fa540c768ef21845365c9eb