Llama 4 Scout 17B-16E
コンテキスト長と必要メモリ
横線は各スペックの利用可能メモリ。線より下なら乗るスペックごとの推定速度
decode tok/s・8K・乗る構成だけ・推奨量子化Llama 4 Scout 17B-16E は、作業ごとにどのくらいか
- AIエージェント数字なし(判定できません)
- コーディング軽量級未満(1 ベンチ・比べた相手 14 モデル)
- 検索・調べもの数字なし(判定できません)
- 知識・推論中位級未満。勝つ確率: Claude Sonnet 5.5 に 9%・Claude Haiku 5.5 に 12%(2 ベンチ・比べた相手 26 モデル)
- 数学数字なし(判定できません)
- 日本語数字なし(判定できません)
- 画像理解目印なし(1 ベンチ・比べた相手 3 モデル)
同じベンチに数字のある2モデルを「対戦」とみなし、作業ごとにレーティングを付けています(チェスや LLM のアリーナと同じ考え方)。数字は各社の自己申告が中心で条件は揃っていないので、目安として見てください。
作業ごとの位置
用途で変わる:チャット・コーディング・AIエージェント
チャット
コンテキスト 8K短いやりとり。速く返ってくることが大事。数字は推定 decode tok/s と、その長さで乗る中で最も高精度な量子化
乗るスペック 6 / 9・最小構成で 62.3 GB(うち KV 1.5 GB)
乗らない: M5 Max 64GB・RTX 4090 24GB・RTX 5090 32GB
コーディング
コンテキスト 64Kリポジトリのコードを読み込んで直す。数字は推定 decode tok/s と、その長さで乗る中で最も高精度な量子化
乗るスペック 6 / 9・最小構成で 64.9 GB(うち KV 4.1 GB)
乗らない: M5 Max 64GB・RTX 4090 24GB・RTX 5090 32GB
AIエージェント
コンテキスト 128Kツール呼び出しを繰り返し、履歴と結果がコンテキストに溜まる。数字は推定 decode tok/s と、その長さで乗る中で最も高精度な量子化
乗るスペック 6 / 9・最小構成で 67.9 GB(うち KV 7.1 GB)
乗らない: M5 Max 64GB・RTX 4090 24GB・RTX 5090 32GB
コンテキスト長と推定 decode 速度
コンテキストが長いほど KV キャッシュを読む分だけ遅くなる。線が切れたところで乗らなくなる用途ごとに見るベンチ
Llama 4 Scout 17B-16E はどのあたりか
- Terminal-Bench 2.0:Llama 4 Scout 17B-16E の数字なし
- τ²-Bench:Llama 4 Scout 17B-16E の数字なし
- SWE-bench Verified:Llama 4 Scout 17B-16E の数字なし
- Humanity's Last Exam:Llama 4 Scout 17B-16E の数字なし
- Artificial Analysis Intelligence Index:Llama 4 Scout 17B-16E の数字なし同じ条件
数字はベンダー自己申告などの出典の値で、条件(推論モード・ツールの有無など)は揃っていません。目安として見てください。
Terminal-Bench 2.0
6 モデル・各社の自己申告(条件はばらばら)τ²-Bench
5 モデル・各社の自己申告(条件はばらばら)SWE-bench Verified
10 モデル・各社の自己申告(条件はばらばら)Humanity's Last Exam
25 モデル・各社の自己申告(条件はばらばら)ツールありの数字しかない GLM-5.3・GLM-5.3-Flash・Claude Opus 5.5・GLM-5.3 (API)・Muse Spark Open 816B-A42B は除外
Artificial Analysis Intelligence Index
26 モデル・全モデル同じ条件(第三者が測定)スペックごとの判定
| スペック | 判定 | 推奨量子化 | 必要メモリ | 利用可能 | 最大コンテキスト | 推定 tok/s |
|---|---|---|---|---|---|---|
| RTX 5070 12GBllama.cpp | 乗らない | Q4_K_M | 66.9 GB | 11.0 GB | — | — |
| RTX 3060 12GBllama.cpp | 乗らない | Q4_K_M | 66.9 GB | 11.0 GB | — | — |
| M5 16GBMLX | 乗らない | MLX 4bit | 62.3 GB | 12.0 GB | — | — |
| M4 16GBMLX | 乗らない | MLX 4bit | 62.3 GB | 12.0 GB | — | — |
| RTX 5080 16GBllama.cpp | 乗らない | Q4_K_M | 66.9 GB | 15.0 GB | — | — |
| RTX 5070 Ti 16GBllama.cpp | 乗らない | Q4_K_M | 66.9 GB | 15.0 GB | — | — |
| RTX 5060 Ti 16GBllama.cpp | 乗らない | Q4_K_M | 66.9 GB | 15.0 GB | — | — |
| RTX 4080 SUPER 16GBllama.cpp | 乗らない | Q4_K_M | 66.9 GB | 15.0 GB | — | — |
| RTX 4070 Ti SUPER 16GBllama.cpp | 乗らない | Q4_K_M | 66.9 GB | 15.0 GB | — | — |
| RTX 4060 Ti 16GBllama.cpp | 乗らない | Q4_K_M | 66.9 GB | 15.0 GB | — | — |
| M5 Pro 24GBMLX | 乗らない | MLX 4bit | 62.3 GB | 18.0 GB | — | — |
| M5 24GBMLX | 乗らない | MLX 4bit | 62.3 GB | 18.0 GB | — | — |
| M4 Pro 24GBMLX | 乗らない | MLX 4bit | 62.3 GB | 18.0 GB | — | — |
| M4 24GBMLX | 乗らない | MLX 4bit | 62.3 GB | 18.0 GB | — | — |
| RTX 4090 24GBllama.cpp | 乗らない | Q4_K_M | 66.9 GB | 23.0 GB | — | — |
| RTX 3090 24GBllama.cpp | 乗らない | Q4_K_M | 66.9 GB | 23.0 GB | — | — |
| Radeon RX 7900 XTX 24GBllama.cpp | 乗らない | Q4_K_M | 66.9 GB | 23.0 GB | — | — |
| M5 32GBMLX | 乗らない | MLX 4bit | 62.3 GB | 24.0 GB | — | — |
| M4 32GBMLX | 乗らない | MLX 4bit | 62.3 GB | 24.0 GB | — | — |
| M2 Max 32GBMLX | 乗らない | MLX 4bit | 62.3 GB | 24.0 GB | — | — |
| M1 Max 32GBMLX | 乗らない | MLX 4bit | 62.3 GB | 24.0 GB | — | — |
| RTX 5090 32GBllama.cpp | 乗らない | Q4_K_M | 66.9 GB | 31.0 GB | — | — |
| M5 Max 36GBMLX | 乗らない | MLX 4bit | 62.3 GB | 27.0 GB | — | — |
| M4 Max 36GBMLX | 乗らない | MLX 4bit | 62.3 GB | 27.0 GB | — | — |
| M3 Max 36GBMLX | 乗らない | MLX 4bit | 62.3 GB | 27.0 GB | — | — |
| M5 Max 48GBMLX | 乗らない | MLX 4bit | 62.3 GB | 36.0 GB | — | — |
| M5 Pro 48GBMLX | 乗らない | MLX 4bit | 62.3 GB | 36.0 GB | — | — |
| M4 Max 48GBMLX | 乗らない | MLX 4bit | 62.3 GB | 36.0 GB | — | — |
| M4 Pro 48GBMLX | 乗らない | MLX 4bit | 62.3 GB | 36.0 GB | — | — |
| M3 Max 48GBMLX | 乗らない | MLX 4bit | 62.3 GB | 36.0 GB | — | — |
| RTX 6000 Ada 48GBllama.cpp | オフロードで動く | Q4_K_M | 66.9 GB | 47.0 GB | — | — |
| RTX A6000 48GBllama.cpp | オフロードで動く | Q4_K_M | 66.9 GB | 47.0 GB | — | — |
| M5 Max 64GBMLX | 乗らない | MLX 4bit | 62.3 GB | 48.0 GB | — | — |
| M5 Pro 64GBMLX | 乗らない | MLX 4bit | 62.3 GB | 48.0 GB | — | — |
| M4 Max 64GBMLX | 乗らない | MLX 4bit | 62.3 GB | 48.0 GB | — | — |
| M4 Pro 64GBMLX | 乗らない | MLX 4bit | 62.3 GB | 48.0 GB | — | — |
| M3 Max 64GBMLX | 乗らない | MLX 4bit | 62.3 GB | 48.0 GB | — | — |
| M2 Ultra 64GBMLX | 乗らない | MLX 4bit | 62.3 GB | 48.0 GB | — | — |
| M2 Max 64GBMLX | 乗らない | MLX 4bit | 62.3 GB | 48.0 GB | — | — |
| M1 Ultra 64GBMLX | 乗らない | MLX 4bit | 62.3 GB | 48.0 GB | — | — |
| M1 Max 64GBMLX | 乗らない | MLX 4bit | 62.3 GB | 48.0 GB | — | — |
| Ryzen AI Max+ 395 64GBllama.cpp | 乗らない | Q4_K_M | 66.9 GB | 57.6 GB | — | — |
| M5 Ultra 96GBMLX | 乗る | MLX 4bit | 62.3 GB | 72.0 GB | 62K | 60.1 |
| M3 Ultra 96GBMLX | 乗る | MLX 4bit | 62.3 GB | 72.0 GB | 62K | 41.0 |
| M3 Max 96GBMLX | 乗る | MLX 4bit | 62.3 GB | 72.0 GB | 62K | 15.0 |
| M2 Max 96GBMLX | 乗る | MLX 4bit | 62.3 GB | 72.0 GB | 62K | 20.0 |
| RTX PRO 6000 Blackwell 96GBllama.cpp | 乗る | Q4_K_M | 66.9 GB | 95.0 GB | 404K | 79.1 |
| M5 Max 128GBMLX | 乗る | MLX 4bit | 62.3 GB | 96.0 GB | 522K | 30.8 |
| M4 Max 128GBMLX | 乗る | MLX 4bit | 62.3 GB | 96.0 GB | 522K | 27.4 |
| M3 Max 128GBMLX | 乗る | MLX 4bit | 62.3 GB | 96.0 GB | 522K | 20.0 |
| M2 Ultra 128GBMLX | 乗る | MLX 4bit | 62.3 GB | 96.0 GB | 522K | 40.1 |
| M1 Ultra 128GBMLX | 乗る | MLX 4bit | 62.3 GB | 96.0 GB | 522K | 40.1 |
| DGX Spark 128GBllama.cpp | 乗る | Q6_K | 89.5 GB | 115 GB | 310K | 11.8 |
| Ryzen AI Max+ 395 128GBllama.cpp | 乗る | Q6_K | 89.5 GB | 115 GB | 310K | 9.6 |
| M2 Ultra 192GBMLX | 乗る | MLX 8bit | 115 GB | 144 GB | 311K | 22.8 |
| M5 Ultra 256GBMLX | 乗る | MLX 8bit | 115 GB | 192 GB | 1.2M | 34.2 |
| M3 Ultra 256GBMLX | 乗る | MLX 8bit | 115 GB | 192 GB | 1.2M | 23.3 |
| HPE Private Cloud AI Small(RTX PRO 6000 ×4)llama.cpp | 乗る | Q8_0 | 115 GB | 380 GB | 4.7M | 112 |
| M5 Ultra 512GBMLX | 乗る | MLX 8bit | 115 GB | 384 GB | 4.8M | 34.2 |
| M3 Ultra 512GBMLX | 乗る | MLX 8bit | 115 GB | 384 GB | 4.8M | 23.3 |
| M5 Max 128GB ×2Thunderbolt 5(RDMA)・exo / MLX distributed | 乗る | MLX 8bit | 116 GB | 192 GB | 1.2M | 27.2 |
| M5 Ultra 512GB ×2Thunderbolt 5(RDMA)・exo / MLX distributed | 乗る | MLX 8bit | 116 GB | 768 GB | 10M | 43.9 |
| M5 Ultra 512GB ×4Thunderbolt 5(RDMA)・exo / MLX distributed | 乗る | MLX 8bit | 118 GB | 1536 GB | 10M | 51.1 |
| DGX Spark 128GB ×2ConnectX-7(200GbE 直結)・vLLM(Ray・テンソル並列) | ギリ | BF16 | 220 GB | 230 GB | — | 10.0 |
量子化ごとのサイズ
| 形式 | 量子化 | サイズ | 実効 bit | リポジトリ |
|---|---|---|---|---|
| BF16 | BF16 | 202 GB | 16.01 | meta-llama/Llama-4-Scout-17B-16E-Instruct |
| GGUF | Q4_K_M | 60.9 GB | 4.81 | unsloth/Llama-4-Scout-17B-16E-Instruct-GGUF |
| GGUF | Q6_K | 82.4 GB | 6.51 | unsloth/Llama-4-Scout-17B-16E-Instruct-GGUF |
| GGUF | Q8_0 | 107 GB | 8.44 | unsloth/Llama-4-Scout-17B-16E-Instruct-GGUF |
| MLX | MLX 4bit | 56.9 GB | 4.50 | mlx-community/Llama-4-Scout-17B-16E-Instruct-4bit |
| MLX | MLX 6bit | 82.2 GB | 6.50 | mlx-community/Llama-4-Scout-17B-16E-Instruct-6bit |
| MLX | MLX 8bit | 108 GB | 8.50 | mlx-community/Llama-4-Scout-17B-16E-Instruct-8bit |
Hugging Face のファイルサイズ(本体の重みのみ)。実効 bit はサイズ ÷ 総パラメータ。
基本情報
- パラメータ
- 108.6B(アクティブ 17B)(MoE)
- 層数
- 48
- KV を持つ層
- 36層×2,048要素(窓 8K)、12層×2,048要素
- 入力
- テキスト・画像
- ライセンス
- llama4
- 公開日
- 2025-04-02
- 配布元
- meta-llama/Llama-4-Scout-17B-16E-Instruct
起動コマンドの例
mlx_lm.server --model mlx-community/Llama-4-Scout-17B-16E-Instruct-4bit llama-server -hf unsloth/Llama-4-Scout-17B-16E-Instruct-GGUF:Q4_K_M -c 8192 ollama run hf.co/unsloth/Llama-4-Scout-17B-16E-Instruct-GGUF:Q4_K_M vllm serve meta-llama/Llama-4-Scout-17B-16E-Instruct --max-model-len 8192 ECN 実測
このモデルの ECN 実測はまだありません。
ベンチマークと出典
| ベンチマーク | スコア | 出典 | 条件 | 日付 |
|---|---|---|---|---|
| MMMU | 69.4 | ベンダー | instruction-tuned, 0-shot, vendor self-report (read via unsloth mirror README) | 2025-04-02 |
| LiveCodeBench | 32.8 | ベンダー | instruction-tuned, 0-shot, vendor self-report (read via unsloth mirror README); LCB 10/01/2024-02/01/2025 | 2025-04-02 |
| MMLU-Pro | 74.3 | ベンダー | instruction-tuned, 0-shot, vendor self-report (read via unsloth mirror README) | 2025-04-02 |
| GPQA Diamond | 57.2 | ベンダー | instruction-tuned, 0-shot, vendor self-report (read via unsloth mirror README) | 2025-04-02 |