Granite 3.0
指示チューニングofficialmultilingualenterprise
第3世代の汎用言語モデル。効率性とエンタープライズ用途に最適化。最大12兆トークンで学習。12言語対応(日本語含む)。MoE版(1B-A400M、3B-A800M)も提供。
技術仕様
アーキテクチャ
Decoder-only Transformer / MoE
プロンプトテンプレート
フォーマット: granite
システムプロンプト:
<|start_of_role|>system<|end_of_role|>{system}<|end_of_text|>ユーザープロンプト:
<|start_of_role|>user<|end_of_role|>{prompt}<|end_of_text|>アシスタントプロンプト:
<|start_of_role|>assistant<|end_of_role|}>
パラメータバリエーション
Granite 3.0 3B-A800M(3B)
HuggingFaceMoE版。800M活性化パラメータで低遅延を実現。
MoEアクティブパラメータ: 800M
VRAM2GB
GGUFファイルは登録されていません
関連モデル
家系図
現在のモデル: Granite 3.0