정체성 및 접근
게시자 기록은 이 저장소를 dphn/Dolphin-Mistral-24B-Venice-Edition(으)로 식별합니다. 현재 공개 스냅샷은 b23ff40b4a25e4f93de432bd896d4464479a9f79입니다. 접근은 공개 저장소; 적용 가능한 라이선스 및 게시자 약관을 검토하십시오이며, 기록된 라이선스 라벨은 apache-2.0입니다. 공개 저장소 또는 게이트 다운로드가 모든 사용에 대한 허가를 의미하지는 않습니다.
구성 정보
고정된 구성은 모델 유형 mistral3 및 아키텍처 Mistral3ForConditionalGeneration를 보고합니다. 모델 허브는 이를 text-generation로 태그하며, 이러한 라벨은 저장소 메타데이터를 설명할 뿐 벤치마크 성능을 입증하지 않습니다.
- text_config.head_dim: 128
- text_config.hidden_size: 5120
- text_config.intermediate_size: 32768
- text_config.max_position_embeddings: 131072
- text_config.num_attention_heads: 32
- text_config.num_hidden_layers: 40
- text_config.num_key_value_heads: 8
- text_config.rms_norm_eps: 1e-05
- text_config.rope_theta: 1000000000.0
- text_config.torch_dtype: bfloat16
- text_config.vocab_size: 131072
- torch_dtype: bfloat16
- vision_config.head_dim: 64
- vision_config.hidden_size: 1024
- vision_config.intermediate_size: 4096
- vision_config.num_attention_heads: 16
- vision_config.num_hidden_layers: 24
- vision_config.rope_theta: 10000.0
- vision_config.torch_dtype: bfloat16
모델별 특성
저장소 메타데이터는 멀티모달 모델(이미지)을 식별합니다. 프로세서, 이미지/오디오/비디오 경로, 입력 제한, 서빙 런타임 지원을 확인하십시오. 텍스트 전용 토큰 처리량은 이 워크로드의 완전한 척도가 아닙니다.
가중치 메모리 계획
이 가이드는 독립적으로 검증된 논리적 파라미터 수를 보유하지 않으므로 수치적 가중치 메모리 추정을 생략합니다. 이 정확한 저장소 리비전에 대해 수치가 검증되면, 가중치 전용 하한으로 파라미터 수 × 파라미터당 바이트를 사용하고, KV 캐시, 컨텍스트, 활성화, 런타임, 동시성을 별도로 고려하십시오.
리비전 및 재현성
메타데이터와 구성은 리비전 b23ff40b4a25e4f93de432bd896d4464479a9f79에 고정되어 있습니다. 평가를 재현할 때 이 커밋을 고정하십시오. 저장소 브랜치는 변경될 수 있으며, 이 소스 검사는 모델 가중치 자체를 검증하지 않습니다.
게시된 기록
- 작업: text-generation
- 모델 유형: mistral3
- 아키텍처: Mistral3ForConditionalGeneration
- 라이선스 라벨: apache-2.0
- 접근: 공개 저장소; 적용 가능한 라이선스 및 게시자 약관을 검토하십시오
- 리비전: b23ff40b4a25e4f93de432bd896d4464479a9f79