AIwiki

Granite 3.1

指示チューニング
開発者
IBM
ライセンス
Apache 2.0
リリース日
2024/12/18
コンテキスト長
128,000 トークン
対応言語
en, de, es, fr, ja, pt, ar, cs, it, ko, nl, zh
ベースモデル
granite-3.0
officialmultilinguallong-contextenterprise

128Kコンテキスト対応、性能大幅向上。OpenLLM Leaderboardトップクラス。IFEval（指示遵守）、MuSR（マルチステップ推論）で大幅改善。Samsung SDS、Lockheed Martinで導入。

HuggingFaceGitHub

技術仕様

アーキテクチャ

Decoder-only Transformer / MoE

パラメータバリエーション

Granite 3.1 8B Instruct(8B)

HuggingFace

128Kコンテキスト対応フラッグシップ。

VRAM4.5GB

GGUFファイルは登録されていません

Granite 3.1 2B Instruct(2B)

HuggingFace

128Kコンテキスト対応軽量版。

VRAM1.5GB

GGUFファイルは登録されていません

Granite 3.1 3B-A800M(3B)

HuggingFace

MoE版、128Kコンテキスト対応。

MoEアクティブパラメータ: 800M
VRAM2GB

GGUFファイルは登録されていません

Granite 3.1 1B-A400M(1B)

HuggingFace

超軽量MoE版、128Kコンテキスト対応。

MoEアクティブパラメータ: 400M
VRAM1GB

GGUFファイルは登録されていません

関連モデル

Granite Code

8 バリエーション

Granite 3.0

4 バリエーション

Granite Guardian 3.0

2 バリエーション

Granite Guardian 3.1

2 バリエーション

Granite 3.2

2 バリエーション

Granite Vision 3.2

1 バリエーション

Granite Guardian 3.2

2 バリエーション

Granite 3.3

2 バリエーション

Granite Vision 3.3

1 バリエーション

Granite 4.0

7 バリエーション

家系図

現在のモデル: Granite 3.1