Identität und Zugang
Der Publisher-Eintrag identifiziert dieses Repository als tiiuae/Falcon-H1-0.5B-Base. Der aktuelle öffentliche Snapshot ist 59fb76e8c5d3fc7441b062be638e1ba0afd5c687. Der Zugang ist öffentliches Repository; prüfen Sie die anwendbare Lizenz und die Publisher-Bedingungen; das aufgezeichnete Lizenzlabel ist other. Ein öffentliches Repository oder ein gated Download begründet keine Erlaubnis für jede Nutzung.
Konfigurationsfakten
Die gepinnte Konfiguration gibt Modelltyp falcon_h1 und Architektur FalconH1ForCausalLM an. Der Model Hub taggt es für text-generation; diese Labels beschreiben Repository-Metadaten und belegen keine Benchmark-Leistung.
- head_dim: 64
- hidden_size: 1024
- intermediate_size: 2048
- max_position_embeddings: 16384
- num_attention_heads: 8
- num_hidden_layers: 36
- num_key_value_heads: 2
- rms_norm_eps: 1e-05
- rope_theta: 100000000000.0
- torch_dtype: bfloat16
- vocab_size: 32784
Modellspezifische Qualifizierung
Bestätigen Sie vor dem Deployment den exakten Tokenizer und das Chat-Template, die unterstützte Kontextlänge, die Serving-Engine, das Ausgabeformat und die arbeitslastspezifische Evaluierung. Die Modellkarte und die Konfiguration beschreiben Artefakte, keinen verfügbaren Dienst und keine Leistungsgarantie.
Gewichtsspeicher-Planung
Dieser Leitfaden enthält keine unabhängig verifizierte logische Parameteranzahl und lässt daher eine numerische Gewichtsspeicher-Schätzung aus. Wenn eine Anzahl für diese exakte Repository-Revision verifiziert wird, verwenden Sie Parameteranzahl × Bytes pro Parameter als Untergrenze für die Gewichte allein; berücksichtigen Sie dann separat KV-Cache, Kontext, Aktivierungen, Laufzeit und Nebenläufigkeit.
Revision und Reproduzierbarkeit
Die Metadaten und die Konfiguration sind auf Revision 59fb76e8c5d3fc7441b062be638e1ba0afd5c687 gepinnt. Pinnen Sie diesen Commit, wenn Sie eine Evaluierung reproduzieren. Repository-Branches können sich ändern, und diese Quellenprüfung validiert die Modellgewichte selbst nicht.
Veröffentlichter Eintrag
- Task: text-generation
- Modelltyp: falcon_h1
- Architektur: FalconH1ForCausalLM
- Lizenzlabel: other
- Zugang: öffentliches Repository; prüfen Sie die anwendbare Lizenz und die Publisher-Bedingungen
- Revision: 59fb76e8c5d3fc7441b062be638e1ba0afd5c687