Llama 4 Scout 17B-16E

Meta 画像入力長文
比較に入れる
パラメータ
108.6B
アクティブ 17B(MoE)
いちばん小さい量子化
56.9GB
MLX 4bit
KV キャッシュ(8K・FP16)
1.50GB
公称コンテキスト 10M
乗るスペック
21/ 64
クラスタ構成を含む・8K

コンテキスト長と必要メモリ

横線は各スペックの利用可能メモリ。線より下なら乗る
4bit 前後6bit 前後8bit 前後16bit各ビット帯でいちばん小さい量子化・KV FP16
0GB200GB400GB600GB800GB1000GB4K8K16K32K64K128K256K512K1M2M4M8M10Mコンテキスト長 →RTX 4090 24GB 23GBM5 Max 128GB 96GBM5 Ultra 512GB 384GB

スペックごとの推定速度

decode tok/s・8K・乗る構成だけ・推奨量子化

Llama 4 Scout 17B-16E は、作業ごとにどのくらいか

  • AIエージェント数字なし(判定できません)
  • コーディング軽量級未満(1 ベンチ・比べた相手 14 モデル)
  • 検索・調べもの数字なし(判定できません)
  • 知識・推論中位級未満。勝つ確率: Claude Sonnet 5.5 に 9%・Claude Haiku 5.5 に 12%(2 ベンチ・比べた相手 26 モデル)
  • 数学数字なし(判定できません)
  • 日本語数字なし(判定できません)
  • 画像理解目印なし(1 ベンチ・比べた相手 3 モデル)

同じベンチに数字のある2モデルを「対戦」とみなし、作業ごとにレーティングを付けています(チェスや LLM のアリーナと同じ考え方)。数字は各社の自己申告が中心で条件は揃っていないので、目安として見てください。

作業ごとの位置

Llama 4 Scout 17B-16Eクラウドモデル(点に乗せると名前)縦線は階層の目印(右ほど強い)
AIエージェントツールを使って作業を進める(ターミナル操作…最上位級中位級軽量級数字なし
コーディング実際のリポジトリのバグ修正、競技プログラミ…中位級軽量級軽量級未満
検索・調べものWeb を検索して答えを探し当てる数字なし
知識・推論専門知識の問題、難問最上位級中位級中位級未満
数学数学オリンピック級の問題数字なし
日本語日本語を含む多言語での知識問題数字なし
画像理解図表・写真を読んで答える目印なし

用途で変わる:チャット・コーディング・AIエージェント

チャット

コンテキスト 8K

短いやりとり。速く返ってくることが大事。数字は推定 decode tok/s と、その長さで乗る中で最も高精度な量子化

乗るスペック 6 / 9・最小構成で 62.3 GB(うち KV 1.5 GB)

RTX PRO 6000 Blac…79.1Q4_K_MM5 Ultra 256GB34.2MLX 8bitM5 Ultra 512GB34.2MLX 8bitM5 Max 128GB30.1Q4_K_MDGX Spark 128GB11.8Q6_KRyzen AI Max+ 395…9.6Q6_K

乗らない: M5 Max 64GB・RTX 4090 24GB・RTX 5090 32GB

コーディング

コンテキスト 64K

リポジトリのコードを読み込んで直す。数字は推定 decode tok/s と、その長さで乗る中で最も高精度な量子化

乗るスペック 6 / 9・最小構成で 64.9 GB(うち KV 4.1 GB)

RTX PRO 6000 Blac…67.8Q4_K_MM5 Ultra 256GB29.9MLX 8bitM5 Ultra 512GB29.9MLX 8bitM5 Max 128GB24.3Q4_K_MDGX Spark 128GB10.1Q6_KRyzen AI Max+ 395…8.1Q6_K

乗らない: M5 Max 64GB・RTX 4090 24GB・RTX 5090 32GB

AIエージェント

コンテキスト 128K

ツール呼び出しを繰り返し、履歴と結果がコンテキストに溜まる。数字は推定 decode tok/s と、その長さで乗る中で最も高精度な量子化

乗るスペック 6 / 9・最小構成で 67.9 GB(うち KV 7.1 GB)

RTX PRO 6000 Blac…58.4Q4_K_MM5 Ultra 256GB26.1MLX 8bitM5 Ultra 512GB26.1MLX 8bitM5 Max 128GB19.9Q4_K_MDGX Spark 128GB8.6Q6_KRyzen AI Max+ 395…7.0Q6_K

乗らない: M5 Max 64GB・RTX 4090 24GB・RTX 5090 32GB

コンテキスト長と推定 decode 速度

コンテキストが長いほど KV キャッシュを読む分だけ遅くなる。線が切れたところで乗らなくなる
M5 Max 128GBM5 Ultra 256GBRTX PRO 6000 Blackwell 96GB
0204060801004K8K16K32K64K128K256K512K1Mコンテキスト長 →↑ decode tok/s(推定)チャット 8Kコーディング 64KAIエージェント 128K

用途ごとに見るベンチ

Llama 4 Scout 17B-16E はどのあたりか

  • Terminal-Bench 2.0:Llama 4 Scout 17B-16E の数字なし
  • τ²-Bench:Llama 4 Scout 17B-16E の数字なし
  • SWE-bench Verified:Llama 4 Scout 17B-16E の数字なし
  • Humanity's Last Exam:Llama 4 Scout 17B-16E の数字なし
  • Artificial Analysis Intelligence Index:Llama 4 Scout 17B-16E の数字なし同じ条件

数字はベンダー自己申告などの出典の値で、条件(推論モード・ツールの有無など)は揃っていません。目安として見てください。

Terminal-Bench 2.0

6 モデル・各社の自己申告(条件はばらばら)

τ²-Bench

5 モデル・各社の自己申告(条件はばらばら)
Claude Opus 4.691.9Gemma 4 31B76.9Gemma 4 12B69.0Gemma 4 26B-A4B68.2Gemma 4 E4B42.2

SWE-bench Verified

10 モデル・各社の自己申告(条件はばらばら)

Humanity's Last Exam

25 モデル・各社の自己申告(条件はばらばら)

ツールありの数字しかない GLM-5.3・GLM-5.3-Flash・Claude Opus 5.5・GLM-5.3 (API)・Muse Spark Open 816B-A42B は除外

Claude Fable 5.160.9Claude Sonnet 5.556.9Kimi K3.1 Pro51.1Kimi K3.1 Pro (AP…51.1Claude Haiku 5.545.9Kimi K343.5Claude Sonnet 543.2DeepSeek V4 Pro (…42.7DeepSeek V4.1 Fla…42.6GLM-5.240.5Claude Opus 4.640.0DeepSeek V4 Pro37.7DeepSeek V4.1 Fla…36.8Qwen3.8 Flash-Next35.9Qwen3.7 Plus34.7Qwen3.8 27B30.8Qwen3.6 27B24.0Qwen3.6 35B-A3B21.4Gemma 4 31B19.5MiniMax M2.519.4gpt-oss-120b14.9gpt-oss-20b10.9Seed-OSS 36B10.1Gemma 4 26B-A4B8.7Gemma 4 12B5.2

Artificial Analysis Intelligence Index

26 モデル・全モデル同じ条件(第三者が測定)
Claude Opus 5.559.0GPT-6 Astra57.0GPT-6.1 Sol55.0Claude Sonnet 5.555.0GPT-6.1 Terra51.0Gemini 4 Argon50.0Claude Fable 5.149.0Kimi K3.1 Pro46.0Kimi K3.1 Pro (AP…46.0Muse Wonder44.0Claude Haiku 5.536.0Grok 4.735.0Qwen3.8 Max34.0DeepSeek V4.1 Fla…33.0GLM-5.332.0GLM-5.3 (API)32.0Gemini 3.8 Flash31.0GLM-5.3-Flash28.0GPT-6 Luna28.0Mistral Large 4 (…26.0Mistral Large 4 (…26.0Muse Spark Open 8…25.0DeepSeek V4 Pro (…23.0Qwen3.8 27B20.0Gemini 3.5 Flash-…12.0Gemma 4 31B4.0

スペックごとの判定

スペック判定推奨量子化必要メモリ利用可能最大コンテキスト推定 tok/s
RTX 5070 12GBllama.cpp 乗らない Q4_K_M 66.9 GB 11.0 GB — —
RTX 3060 12GBllama.cpp 乗らない Q4_K_M 66.9 GB 11.0 GB — —
M5 16GBMLX 乗らない MLX 4bit 62.3 GB 12.0 GB — —
M4 16GBMLX 乗らない MLX 4bit 62.3 GB 12.0 GB — —
RTX 5080 16GBllama.cpp 乗らない Q4_K_M 66.9 GB 15.0 GB — —
RTX 5070 Ti 16GBllama.cpp 乗らない Q4_K_M 66.9 GB 15.0 GB — —
RTX 5060 Ti 16GBllama.cpp 乗らない Q4_K_M 66.9 GB 15.0 GB — —
RTX 4080 SUPER 16GBllama.cpp 乗らない Q4_K_M 66.9 GB 15.0 GB — —
RTX 4070 Ti SUPER 16GBllama.cpp 乗らない Q4_K_M 66.9 GB 15.0 GB — —
RTX 4060 Ti 16GBllama.cpp 乗らない Q4_K_M 66.9 GB 15.0 GB — —
M5 Pro 24GBMLX 乗らない MLX 4bit 62.3 GB 18.0 GB — —
M5 24GBMLX 乗らない MLX 4bit 62.3 GB 18.0 GB — —
M4 Pro 24GBMLX 乗らない MLX 4bit 62.3 GB 18.0 GB — —
M4 24GBMLX 乗らない MLX 4bit 62.3 GB 18.0 GB — —
RTX 4090 24GBllama.cpp 乗らない Q4_K_M 66.9 GB 23.0 GB — —
RTX 3090 24GBllama.cpp 乗らない Q4_K_M 66.9 GB 23.0 GB — —
Radeon RX 7900 XTX 24GBllama.cpp 乗らない Q4_K_M 66.9 GB 23.0 GB — —
M5 32GBMLX 乗らない MLX 4bit 62.3 GB 24.0 GB — —
M4 32GBMLX 乗らない MLX 4bit 62.3 GB 24.0 GB — —
M2 Max 32GBMLX 乗らない MLX 4bit 62.3 GB 24.0 GB — —
M1 Max 32GBMLX 乗らない MLX 4bit 62.3 GB 24.0 GB — —
RTX 5090 32GBllama.cpp 乗らない Q4_K_M 66.9 GB 31.0 GB — —
M5 Max 36GBMLX 乗らない MLX 4bit 62.3 GB 27.0 GB — —
M4 Max 36GBMLX 乗らない MLX 4bit 62.3 GB 27.0 GB — —
M3 Max 36GBMLX 乗らない MLX 4bit 62.3 GB 27.0 GB — —
M5 Max 48GBMLX 乗らない MLX 4bit 62.3 GB 36.0 GB — —
M5 Pro 48GBMLX 乗らない MLX 4bit 62.3 GB 36.0 GB — —
M4 Max 48GBMLX 乗らない MLX 4bit 62.3 GB 36.0 GB — —
M4 Pro 48GBMLX 乗らない MLX 4bit 62.3 GB 36.0 GB — —
M3 Max 48GBMLX 乗らない MLX 4bit 62.3 GB 36.0 GB — —
RTX 6000 Ada 48GBllama.cpp オフロードで動く Q4_K_M 66.9 GB 47.0 GB — —
RTX A6000 48GBllama.cpp オフロードで動く Q4_K_M 66.9 GB 47.0 GB — —
M5 Max 64GBMLX 乗らない MLX 4bit 62.3 GB 48.0 GB — —
M5 Pro 64GBMLX 乗らない MLX 4bit 62.3 GB 48.0 GB — —
M4 Max 64GBMLX 乗らない MLX 4bit 62.3 GB 48.0 GB — —
M4 Pro 64GBMLX 乗らない MLX 4bit 62.3 GB 48.0 GB — —
M3 Max 64GBMLX 乗らない MLX 4bit 62.3 GB 48.0 GB — —
M2 Ultra 64GBMLX 乗らない MLX 4bit 62.3 GB 48.0 GB — —
M2 Max 64GBMLX 乗らない MLX 4bit 62.3 GB 48.0 GB — —
M1 Ultra 64GBMLX 乗らない MLX 4bit 62.3 GB 48.0 GB — —
M1 Max 64GBMLX 乗らない MLX 4bit 62.3 GB 48.0 GB — —
Ryzen AI Max+ 395 64GBllama.cpp 乗らない Q4_K_M 66.9 GB 57.6 GB — —
M5 Ultra 96GBMLX 乗る MLX 4bit 62.3 GB 72.0 GB 62K 60.1
M3 Ultra 96GBMLX 乗る MLX 4bit 62.3 GB 72.0 GB 62K 41.0
M3 Max 96GBMLX 乗る MLX 4bit 62.3 GB 72.0 GB 62K 15.0
M2 Max 96GBMLX 乗る MLX 4bit 62.3 GB 72.0 GB 62K 20.0
RTX PRO 6000 Blackwell 96GBllama.cpp 乗る Q4_K_M 66.9 GB 95.0 GB 404K 79.1
M5 Max 128GBMLX 乗る MLX 4bit 62.3 GB 96.0 GB 522K 30.8
M4 Max 128GBMLX 乗る MLX 4bit 62.3 GB 96.0 GB 522K 27.4
M3 Max 128GBMLX 乗る MLX 4bit 62.3 GB 96.0 GB 522K 20.0
M2 Ultra 128GBMLX 乗る MLX 4bit 62.3 GB 96.0 GB 522K 40.1
M1 Ultra 128GBMLX 乗る MLX 4bit 62.3 GB 96.0 GB 522K 40.1
DGX Spark 128GBllama.cpp 乗る Q6_K 89.5 GB 115 GB 310K 11.8
Ryzen AI Max+ 395 128GBllama.cpp 乗る Q6_K 89.5 GB 115 GB 310K 9.6
M2 Ultra 192GBMLX 乗る MLX 8bit 115 GB 144 GB 311K 22.8
M5 Ultra 256GBMLX 乗る MLX 8bit 115 GB 192 GB 1.2M 34.2
M3 Ultra 256GBMLX 乗る MLX 8bit 115 GB 192 GB 1.2M 23.3
HPE Private Cloud AI Small(RTX PRO 6000 ×4)llama.cpp 乗る Q8_0 115 GB 380 GB 4.7M 112
M5 Ultra 512GBMLX 乗る MLX 8bit 115 GB 384 GB 4.8M 34.2
M3 Ultra 512GBMLX 乗る MLX 8bit 115 GB 384 GB 4.8M 23.3
M5 Max 128GB ×2Thunderbolt 5(RDMA)・exo / MLX distributed 乗る MLX 8bit 116 GB 192 GB 1.2M 27.2
M5 Ultra 512GB ×2Thunderbolt 5(RDMA)・exo / MLX distributed 乗る MLX 8bit 116 GB 768 GB 10M 43.9
M5 Ultra 512GB ×4Thunderbolt 5(RDMA)・exo / MLX distributed 乗る MLX 8bit 118 GB 1536 GB 10M 51.1
DGX Spark 128GB ×2ConnectX-7(200GbE 直結)・vLLM(Ray・テンソル並列) ギリ BF16 220 GB 230 GB — 10.0

量子化ごとのサイズ

形式量子化サイズ実効 bitリポジトリ
BF16 BF16 202 GB 16.01 meta-llama/Llama-4-Scout-17B-16E-Instruct
GGUF Q4_K_M 60.9 GB 4.81 unsloth/Llama-4-Scout-17B-16E-Instruct-GGUF
GGUF Q6_K 82.4 GB 6.51 unsloth/Llama-4-Scout-17B-16E-Instruct-GGUF
GGUF Q8_0 107 GB 8.44 unsloth/Llama-4-Scout-17B-16E-Instruct-GGUF
MLX MLX 4bit 56.9 GB 4.50 mlx-community/Llama-4-Scout-17B-16E-Instruct-4bit
MLX MLX 6bit 82.2 GB 6.50 mlx-community/Llama-4-Scout-17B-16E-Instruct-6bit
MLX MLX 8bit 108 GB 8.50 mlx-community/Llama-4-Scout-17B-16E-Instruct-8bit

Hugging Face のファイルサイズ(本体の重みのみ)。実効 bit はサイズ ÷ 総パラメータ。

基本情報

パラメータ
108.6B(アクティブ 17B)(MoE)
層数
48
KV を持つ層
36層×2,048要素(窓 8K)、12層×2,048要素
入力
テキスト・画像
ライセンス
llama4
公開日
2025-04-02
配布元
meta-llama/Llama-4-Scout-17B-16E-Instruct

起動コマンドの例

mlx_lm.server --model mlx-community/Llama-4-Scout-17B-16E-Instruct-4bit
llama-server -hf unsloth/Llama-4-Scout-17B-16E-Instruct-GGUF:Q4_K_M -c 8192
ollama run hf.co/unsloth/Llama-4-Scout-17B-16E-Instruct-GGUF:Q4_K_M
vllm serve meta-llama/Llama-4-Scout-17B-16E-Instruct --max-model-len 8192

ECN 実測

このモデルの ECN 実測はまだありません。

ベンチマークと出典

ベンチマークスコア出典条件日付
MMMU 69.4 ベンダー instruction-tuned, 0-shot, vendor self-report (read via unsloth mirror README) 2025-04-02
LiveCodeBench 32.8 ベンダー instruction-tuned, 0-shot, vendor self-report (read via unsloth mirror README); LCB 10/01/2024-02/01/2025 2025-04-02
MMLU-Pro 74.3 ベンダー instruction-tuned, 0-shot, vendor self-report (read via unsloth mirror README) 2025-04-02
GPQA Diamond 57.2 ベンダー instruction-tuned, 0-shot, vendor self-report (read via unsloth mirror README) 2025-04-02