モデル一覧 ›

Gemma 4 12B

Google 日本語画像入力

比較に入れる

パラメータ

12B

dense

いちばん小さい量子化

6.3GB

MLX 4bit

KV キャッシュ（8K・FP16）

0.38GB

公称コンテキスト 256K

乗るスペック

64/ 64

クラスタ構成を含む・8K

Gemma 4 12B は、作業ごとにどのくらいか

AIエージェント軽量級（Claude Haiku 5.5・Gemini 3.8 Flash と同じくらい）。勝つ確率: Claude Opus 5.5 に 22%・Claude Sonnet 5.5 に 19%・Claude Haiku 5.5 に 49%（1 ベンチ・比べた相手 4 モデル）
コーディング軽量級未満（1 ベンチ・比べた相手 14 モデル）
検索・調べもの数字なし（判定できません）
知識・推論中位級未満。勝つ確率: Claude Sonnet 5.5 に 10%・Claude Haiku 5.5 に 13%（3 ベンチ・比べた相手 32 モデル）
数学目印なし（1 ベンチ・比べた相手 6 モデル）
日本語目印なし（1 ベンチ・比べた相手 7 モデル）
画像理解目印なし（1 ベンチ・比べた相手 7 モデル）

同じベンチに数字のある2モデルを「対戦」とみなし、作業ごとにレーティングを付けています（チェスや LLM のアリーナと同じ考え方）。数字は各社の自己申告が中心で条件は揃っていないので、目安として見てください。

作業ごとの位置

Gemma 4 12Bクラウドモデル（点に乗せると名前）縦線は階層の目印（右ほど強い）

用途で変わる：チャット・コーディング・AIエージェント

チャット

コンテキスト 8K

短いやりとり。速く返ってくることが大事。数字は推定 decode tok/s と、その長さで乗る中で最も高精度な量子化

乗るスペック 9 / 9・最小構成で 13.8 GB（うち KV 0.4 GB）

コーディング

コンテキスト 64K

リポジトリのコードを読み込んで直す。数字は推定 decode tok/s と、その長さで乗る中で最も高精度な量子化

乗るスペック 9 / 9・最小構成で 14.2 GB（うち KV 0.8 GB）

AIエージェント

コンテキスト 128K

ツール呼び出しを繰り返し、履歴と結果がコンテキストに溜まる。数字は推定 decode tok/s と、その長さで乗る中で最も高精度な量子化

乗るスペック 9 / 9・最小構成で 14.7 GB（うち KV 1.3 GB）

コンテキスト長と推定 decode 速度

コンテキストが長いほど KV キャッシュを読む分だけ遅くなる。線が切れたところで乗らなくなる

M5 Max 64GBM5 Ultra 256GBRTX 4090 24GB

用途ごとに見るベンチ

Gemma 4 12B はどのあたりか

Terminal-Bench 2.0：Gemma 4 12B の数字なし
τ²-Bench：5 モデル中 3 位。クラウドでいちばん近いのは Claude Opus 4.6（91.9）。それより下のクラウドはなし
SWE-bench Verified：Gemma 4 12B の数字なし
Humanity's Last Exam：25 モデル中 25 位。クラウドでいちばん近いのは Qwen3.7 Plus（34.7）。それより下のクラウドはなし
Artificial Analysis Intelligence Index：Gemma 4 12B の数字なし同じ条件

数字はベンダー自己申告などの出典の値で、条件（推論モード・ツールの有無など）は揃っていません。目安として見てください。

スペックごとの判定

スペック	判定	推奨量子化	必要メモリ	利用可能	最大コンテキスト	推定 tok/s
RTX 5070 12GBllama.cpp	乗る	Q4_K_M	8.8 GB	11.0 GB	144K	53.3
RTX 3060 12GBllama.cpp	乗る	Q4_K_M	8.8 GB	11.0 GB	144K	31.5
M5 16GBMLX	乗る	MLX 4bit	8.0 GB	12.0 GB	256K	12.0
M4 16GBMLX	乗る	MLX 4bit	8.0 GB	12.0 GB	256K	9.4
RTX 5080 16GBllama.cpp	乗る	Q6_K	11.4 GB	15.0 GB	256K	55.6
RTX 5070 Ti 16GBllama.cpp	乗る	Q6_K	11.4 GB	15.0 GB	256K	52.6
RTX 5060 Ti 16GBllama.cpp	乗る	Q6_K	11.4 GB	15.0 GB	256K	29.3
RTX 4080 SUPER 16GBllama.cpp	乗る	Q6_K	11.4 GB	15.0 GB	256K	44.9
RTX 4070 Ti SUPER 16GBllama.cpp	乗る	Q6_K	11.4 GB	15.0 GB	256K	41.6
RTX 4060 Ti 16GBllama.cpp	乗る	Q6_K	11.4 GB	15.0 GB	256K	19.6
M5 Pro 24GBMLX	乗る	MLX 8bit	13.8 GB	18.0 GB	256K	13.1
M5 24GBMLX	乗る	MLX 8bit	13.8 GB	18.0 GB	256K	6.5
M4 Pro 24GBMLX	乗る	MLX 8bit	13.8 GB	18.0 GB	256K	11.7
M4 24GBMLX	乗る	MLX 8bit	13.8 GB	18.0 GB	256K	5.1
RTX 4090 24GBllama.cpp	乗る	Q8_0	14.3 GB	23.0 GB	256K	47.3
RTX 3090 24GBllama.cpp	乗る	Q8_0	14.3 GB	23.0 GB	256K	44.5
Radeon RX 7900 XTX 24GBllama.cpp	乗る	Q8_0	14.3 GB	23.0 GB	256K	45.5
M5 32GBMLX	乗る	MLX 8bit	13.8 GB	24.0 GB	256K	6.5
M4 32GBMLX	乗る	MLX 8bit	13.8 GB	24.0 GB	256K	5.1
M2 Max 32GBMLX	乗る	MLX 8bit	13.8 GB	24.0 GB	256K	17.1
M1 Max 32GBMLX	乗る	MLX 8bit	13.8 GB	24.0 GB	256K	17.1
RTX 5090 32GBllama.cpp	乗る	Q8_0	14.3 GB	31.0 GB	256K	73.7
M5 Max 36GBMLX	乗る	MLX 8bit	13.8 GB	27.0 GB	256K	19.6
M4 Max 36GBMLX	乗る	MLX 8bit	13.8 GB	27.0 GB	256K	17.5
M3 Max 36GBMLX	乗る	MLX 8bit	13.8 GB	27.0 GB	256K	12.8
M5 Max 48GBMLX	乗る	MLX 8bit	13.8 GB	36.0 GB	256K	26.2
M5 Pro 48GBMLX	乗る	MLX 8bit	13.8 GB	36.0 GB	256K	13.1
M4 Max 48GBMLX	乗る	MLX 8bit	13.8 GB	36.0 GB	256K	23.3
M4 Pro 48GBMLX	乗る	MLX 8bit	13.8 GB	36.0 GB	256K	11.7
M3 Max 48GBMLX	乗る	MLX 8bit	13.8 GB	36.0 GB	256K	17.1
RTX 6000 Ada 48GBllama.cpp	乗る	Q8_0	14.3 GB	47.0 GB	256K	45.5
RTX A6000 48GBllama.cpp	乗る	Q8_0	14.3 GB	47.0 GB	256K	37.7
M5 Max 64GBMLX	乗る	MLX 8bit	13.8 GB	48.0 GB	256K	26.2
M5 Pro 64GBMLX	乗る	MLX 8bit	13.8 GB	48.0 GB	256K	13.1
M4 Max 64GBMLX	乗る	MLX 8bit	13.8 GB	48.0 GB	256K	23.3
M4 Pro 64GBMLX	乗る	MLX 8bit	13.8 GB	48.0 GB	256K	11.7
M3 Max 64GBMLX	乗る	MLX 8bit	13.8 GB	48.0 GB	256K	17.1
M2 Ultra 64GBMLX	乗る	MLX 8bit	13.8 GB	48.0 GB	256K	34.2
M2 Max 64GBMLX	乗る	MLX 8bit	13.8 GB	48.0 GB	256K	17.1
M1 Ultra 64GBMLX	乗る	MLX 8bit	13.8 GB	48.0 GB	256K	34.2
M1 Max 64GBMLX	乗る	MLX 8bit	13.8 GB	48.0 GB	256K	17.1
Ryzen AI Max+ 395 64GBllama.cpp	乗る	Q8_0	14.3 GB	57.6 GB	256K	11.2
M5 Ultra 96GBMLX	乗る	MLX 8bit	13.8 GB	72.0 GB	256K	51.2
M3 Ultra 96GBMLX	乗る	MLX 8bit	13.8 GB	72.0 GB	256K	35.0
M3 Max 96GBMLX	乗る	MLX 8bit	13.8 GB	72.0 GB	256K	12.8
M2 Max 96GBMLX	乗る	MLX 8bit	13.8 GB	72.0 GB	256K	17.1
RTX PRO 6000 Blackwell 96GBllama.cpp	乗る	Q8_0	14.3 GB	95.0 GB	256K	73.7
M5 Max 128GBMLX	乗る	MLX 8bit	13.8 GB	96.0 GB	256K	26.2
M4 Max 128GBMLX	乗る	MLX 8bit	13.8 GB	96.0 GB	256K	23.3
M3 Max 128GBMLX	乗る	MLX 8bit	13.8 GB	96.0 GB	256K	17.1
M2 Ultra 128GBMLX	乗る	MLX 8bit	13.8 GB	96.0 GB	256K	34.2
M1 Ultra 128GBMLX	乗る	MLX 8bit	13.8 GB	96.0 GB	256K	34.2
DGX Spark 128GBllama.cpp	乗る	Q8_0	14.3 GB	115 GB	256K	13.8
Ryzen AI Max+ 395 128GBllama.cpp	乗る	Q8_0	14.3 GB	115 GB	256K	11.2
M2 Ultra 192GBMLX	乗る	MLX 8bit	13.8 GB	144 GB	256K	34.2
M5 Ultra 256GBMLX	乗る	MLX 8bit	13.8 GB	192 GB	256K	51.2
M3 Ultra 256GBMLX	乗る	MLX 8bit	13.8 GB	192 GB	256K	35.0
HPE Private Cloud AI Small（RTX PRO 6000 ×4）llama.cpp	乗る	Q8_0	14.3 GB	380 GB	256K	138
M5 Ultra 512GBMLX	乗る	MLX 8bit	13.8 GB	384 GB	256K	51.2
M3 Ultra 512GBMLX	乗る	MLX 8bit	13.8 GB	384 GB	256K	35.0
M5 Max 128GB ×2Thunderbolt 5（RDMA）・exo / MLX distributed	乗る	MLX 8bit	14.8 GB	192 GB	256K	36.7
M5 Ultra 512GB ×2Thunderbolt 5（RDMA）・exo / MLX distributed	乗る	MLX 8bit	14.8 GB	768 GB	256K	55.8
M5 Ultra 512GB ×4Thunderbolt 5（RDMA）・exo / MLX distributed	乗る	MLX 8bit	16.8 GB	1536 GB	256K	58.4
DGX Spark 128GB ×2ConnectX-7（200GbE 直結）・vLLM（Ray・テンソル並列）	乗る	BF16	29.8 GB	230 GB	256K	14.2

量子化ごとのサイズ

形式	量子化	サイズ	実効 bit	リポジトリ
BF16	BF16	22.3 GB	15.95	google/gemma-4-12B-it
GGUF	Q4_K_M	6.6 GB	4.75	unsloth/gemma-4-12b-it-GGUF
GGUF	Q6_K	9.1 GB	6.52	unsloth/gemma-4-12b-it-GGUF
GGUF	Q8_0	11.8 GB	8.45	unsloth/gemma-4-12b-it-GGUF
MLX	MLX 4bit	6.3 GB	4.49	lmstudio-community/gemma-4-12B-it-MLX-4bit
MLX	MLX 6bit	9.1 GB	6.49	lmstudio-community/gemma-4-12B-it-MLX-6bit
MLX	MLX 8bit	11.8 GB	8.48	lmstudio-community/gemma-4-12B-it-MLX-8bit

Hugging Face のファイルサイズ（本体の重みのみ）。実効 bit はサイズ ÷ 総パラメータ。

基本情報

パラメータ: 12B（dense）
層数: 48
KV を持つ層: 40層×4,096要素（窓 1K）、8層×512要素
入力: テキスト・画像
ライセンス: apache-2.0
公開日: 2026-05-23
配布元: google/gemma-4-12B-it

起動コマンドの例

mlx_lm.server --model lmstudio-community/gemma-4-12B-it-MLX-4bit

llama-server -hf unsloth/gemma-4-12b-it-GGUF:Q4_K_M -c 8192

ollama run hf.co/unsloth/gemma-4-12b-it-GGUF:Q4_K_M

vllm serve google/gemma-4-12B-it --max-model-len 8192

ECN 実測

このモデルの ECN 実測はまだありません。

ベンチマークと出典

ベンチマーク	スコア	出典	条件	日付
MMLU-Pro	77.2	ベンダー	instruction-tuned, vendor self-report (mode not specified in card)	2026-05-23
AIME 2026	77.5	ベンダー	instruction-tuned, vendor self-report (mode not specified in card); no tools	2026-05-23
LiveCodeBench	72	ベンダー	instruction-tuned, vendor self-report (mode not specified in card); LiveCodeBench v6	2026-05-23
GPQA Diamond	78.8	ベンダー	instruction-tuned, vendor self-report (mode not specified in card)	2026-05-23
τ²-Bench	69	ベンダー	instruction-tuned, vendor self-report (mode not specified in card); 'Tau2 (average over 3)' domains	2026-05-23
Humanity's Last Exam	5.2	ベンダー	instruction-tuned, vendor self-report (mode not specified in card); no tools	2026-05-23
MMMLU（多言語）	83.4	ベンダー	instruction-tuned, vendor self-report (mode not specified in card)	2026-05-23
MMMU-Pro	69.1	ベンダー	instruction-tuned, vendor self-report (mode not specified in card)	2026-05-23

Gemma 4 12B

コンテキスト長と必要メモリ

スペックごとの推定速度