ibm-granite/granite-4.0-tiny-preview

ibm-granite/granite-4.0-tiny-preview은(는) Hugging Face에 text-generation 모델로 등록되어 있습니다. 이 페이지는 공개 저장소 스냅샷 4ec5f963443b2e15e9be82595289e96ff082e280을 기록합니다. 사용 전에 명시된 리비전, 라이선스, 런타임 지원을 확인하십시오.

수정일

Computraq는 출시를 준비하고 있습니다. 이 가이드는 준비 사항과 제안된 체계를 설명하며, 실제 운영 중인 서비스·통합·파트너십을 의미하지 않습니다.

정체성 및 접근

게시자 기록은 이 저장소를 ibm-granite/granite-4.0-tiny-preview(으)로 식별합니다. 현재 공개 스냅샷은 4ec5f963443b2e15e9be82595289e96ff082e280입니다. 접근은 공개 저장소; 적용 가능한 라이선스 및 게시자 약관을 검토하십시오이며, 기록된 라이선스 라벨은 apache-2.0입니다. 공개 저장소 또는 게이트 다운로드가 모든 사용에 대한 허가를 의미하지는 않습니다.

구성 정보

고정된 구성은 모델 유형 granitemoehybrid 및 아키텍처 GraniteMoeHybridForCausalLM를 보고합니다. 모델 허브는 이를 text-generation로 태그하며, 이러한 라벨은 저장소 메타데이터를 설명할 뿐 벤치마크 성능을 입증하지 않습니다.

  • hidden_size: 1536
  • intermediate_size: 512
  • max_position_embeddings: 131072
  • num_attention_heads: 12
  • num_experts_per_tok: 6
  • num_hidden_layers: 40
  • num_key_value_heads: 4
  • num_local_experts: 62
  • rms_norm_eps: 1e-05
  • rope_theta: 10000
  • vocab_size: 49160

모델별 특성

이 구성 또는 게시자 메타데이터는 모델을 전문가 혼합(mixture of experts)으로 표시합니다. 서빙 런타임이 라우팅 레이어를 지원하는지 확인하고, 전체 파라미터와 토큰당 활성 파라미터를 구분하십시오. 게시자가 명시적으로 밝히지 않는 한 여기서 활성 수치를 추론하지 않습니다.

구성 또는 태그는 순환, 하이브리드 또는 상태 공간 구성 요소를 식별합니다. 상태 처리, 시퀀스 제한, 배칭 동작, 런타임 구현을 확인하십시오. 트랜스포머 전용 가정은 적용되지 않을 수 있습니다.

가중치 메모리 계획

이 가이드는 독립적으로 검증된 논리적 파라미터 수를 보유하지 않으므로 수치적 가중치 메모리 추정을 생략합니다. 이 정확한 저장소 리비전에 대해 수치가 검증되면, 가중치 전용 하한으로 파라미터 수 × 파라미터당 바이트를 사용하고, KV 캐시, 컨텍스트, 활성화, 런타임, 동시성을 별도로 고려하십시오.

리비전 및 재현성

메타데이터와 구성은 리비전 4ec5f963443b2e15e9be82595289e96ff082e280에 고정되어 있습니다. 평가를 재현할 때 이 커밋을 고정하십시오. 저장소 브랜치는 변경될 수 있으며, 이 소스 검사는 모델 가중치 자체를 검증하지 않습니다.

게시된 기록

  • 작업: text-generation
  • 모델 유형: granitemoehybrid
  • 아키텍처: GraniteMoeHybridForCausalLM
  • 라이선스 라벨: apache-2.0
  • 접근: 공개 저장소; 적용 가능한 라이선스 및 게시자 약관을 검토하십시오
  • 리비전: 4ec5f963443b2e15e9be82595289e96ff082e280

출처 및 검증