モデル一覧 ›
Ling 2.6 Flash
inclusionAI エージェントコーディング
パラメータ
104B
アクティブ 7.4B（MoE）
いちばん小さい量子化
54.6GB
MLX 4bit
KV キャッシュ（8K・FP16）
0.28GB
公称コンテキスト 128K
乗るスペック
18/ 64
クラスタ構成を含む・8K
コンテキスト長と必要メモリ
横線は各スペックの利用可能メモリ。線より下なら乗る4bit 前後6bit 前後8bit 前後16bit各ビット帯でいちばん小さい量子化・KV FP16
スペックごとの推定速度
decode tok/s・8K・乗る構成だけ・推奨量子化Ling 2.6 Flash は、作業ごとにどのくらいか
- AIエージェント数字なし（判定できません）
- コーディング数字なし（判定できません）
- 検索・調べもの数字なし（判定できません）
- 知識・推論数字なし（判定できません）
- 数学数字なし（判定できません）
- 日本語数字なし（判定できません）
- 画像理解数字なし（判定できません）
同じベンチに数字のある2モデルを「対戦」とみなし、作業ごとにレーティングを付けています（チェスや LLM のアリーナと同じ考え方）。数字は各社の自己申告が中心で条件は揃っていないので、目安として見てください。
作業ごとの位置
Ling 2.6 Flashクラウドモデル（点に乗せると名前）縦線は階層の目印（右ほど強い）
用途で変わる：チャット・コーディング・AIエージェント
チャット
コンテキスト 8K短いやりとり。速く返ってくることが大事。数字は推定 decode tok/s と、その長さで乗る中で最も高精度な量子化
乗るスペック 4 / 9・最小構成で 58.6 GB（うち KV 0.3 GB）
乗らない: M5 Max 64GB・RTX 4090 24GB・RTX 5090 32GB・RTX PRO 6000 Blackwell 96GB・Ryzen AI Max+ 395 128GB
コーディング
コンテキスト 64Kリポジトリのコードを読み込んで直す。数字は推定 decode tok/s と、その長さで乗る中で最も高精度な量子化
乗るスペック 4 / 9・最小構成で 60.6 GB（うち KV 2.3 GB）
乗らない: M5 Max 64GB・RTX 4090 24GB・RTX 5090 32GB・RTX PRO 6000 Blackwell 96GB・Ryzen AI Max+ 395 128GB
AIエージェント
コンテキスト 128Kツール呼び出しを繰り返し、履歴と結果がコンテキストに溜まる。数字は推定 decode tok/s と、その長さで乗る中で最も高精度な量子化
乗るスペック 4 / 9・最小構成で 62.8 GB（うち KV 4.5 GB）
乗らない: M5 Max 64GB・RTX 4090 24GB・RTX 5090 32GB・RTX PRO 6000 Blackwell 96GB・Ryzen AI Max+ 395 128GB
コンテキスト長と推定 decode 速度
コンテキストが長いほど KV キャッシュを読む分だけ遅くなる。線が切れたところで乗らなくなるM5 Max 128GBM5 Ultra 256GBDGX Spark 128GB
用途ごとに見るベンチ
Ling 2.6 Flash はどのあたりか
- Terminal-Bench 2.0：Ling 2.6 Flash の数字なし
- τ²-Bench：Ling 2.6 Flash の数字なし
- SWE-bench Verified：Ling 2.6 Flash の数字なし
- Humanity's Last Exam：Ling 2.6 Flash の数字なし
- Artificial Analysis Intelligence Index：Ling 2.6 Flash の数字なし同じ条件
数字はベンダー自己申告などの出典の値で、条件（推論モード・ツールの有無など）は揃っていません。目安として見てください。
Terminal-Bench 2.0
6 モデル・各社の自己申告（条件はばらばら）τ²-Bench
5 モデル・各社の自己申告（条件はばらばら）SWE-bench Verified
10 モデル・各社の自己申告（条件はばらばら）Humanity's Last Exam
25 モデル・各社の自己申告（条件はばらばら）ツールありの数字しかない GLM-5.3・GLM-5.3-Flash・Claude Opus 5.5・GLM-5.3 (API)・Muse Spark Open 816B-A42B は除外
Artificial Analysis Intelligence Index
26 モデル・全モデル同じ条件（第三者が測定）スペックごとの判定
| スペック | 判定 | 推奨量子化 | 必要メモリ | 利用可能 | 最大コンテキスト | 推定 tok/s |
|---|---|---|---|---|---|---|
| RTX 5070 12GBllama.cpp | このランタイム向けの量子化がありません | |||||
| RTX 3060 12GBllama.cpp | このランタイム向けの量子化がありません | |||||
| M5 16GBMLX | 乗らない | MLX 4bit | 58.6 GB | 12.0 GB | — | — |
| M4 16GBMLX | 乗らない | MLX 4bit | 58.6 GB | 12.0 GB | — | — |
| RTX 5080 16GBllama.cpp | このランタイム向けの量子化がありません | |||||
| RTX 5070 Ti 16GBllama.cpp | このランタイム向けの量子化がありません | |||||
| RTX 5060 Ti 16GBllama.cpp | このランタイム向けの量子化がありません | |||||
| RTX 4080 SUPER 16GBllama.cpp | このランタイム向けの量子化がありません | |||||
| RTX 4070 Ti SUPER 16GBllama.cpp | このランタイム向けの量子化がありません | |||||
| RTX 4060 Ti 16GBllama.cpp | このランタイム向けの量子化がありません | |||||
| M5 Pro 24GBMLX | 乗らない | MLX 4bit | 58.6 GB | 18.0 GB | — | — |
| M5 24GBMLX | 乗らない | MLX 4bit | 58.6 GB | 18.0 GB | — | — |
| M4 Pro 24GBMLX | 乗らない | MLX 4bit | 58.6 GB | 18.0 GB | — | — |
| M4 24GBMLX | 乗らない | MLX 4bit | 58.6 GB | 18.0 GB | — | — |
| RTX 4090 24GBllama.cpp | このランタイム向けの量子化がありません | |||||
| RTX 3090 24GBllama.cpp | このランタイム向けの量子化がありません | |||||
| Radeon RX 7900 XTX 24GBllama.cpp | このランタイム向けの量子化がありません | |||||
| M5 32GBMLX | 乗らない | MLX 4bit | 58.6 GB | 24.0 GB | — | — |
| M4 32GBMLX | 乗らない | MLX 4bit | 58.6 GB | 24.0 GB | — | — |
| M2 Max 32GBMLX | 乗らない | MLX 4bit | 58.6 GB | 24.0 GB | — | — |
| M1 Max 32GBMLX | 乗らない | MLX 4bit | 58.6 GB | 24.0 GB | — | — |
| RTX 5090 32GBllama.cpp | このランタイム向けの量子化がありません | |||||
| M5 Max 36GBMLX | 乗らない | MLX 4bit | 58.6 GB | 27.0 GB | — | — |
| M4 Max 36GBMLX | 乗らない | MLX 4bit | 58.6 GB | 27.0 GB | — | — |
| M3 Max 36GBMLX | 乗らない | MLX 4bit | 58.6 GB | 27.0 GB | — | — |
| M5 Max 48GBMLX | 乗らない | MLX 4bit | 58.6 GB | 36.0 GB | — | — |
| M5 Pro 48GBMLX | 乗らない | MLX 4bit | 58.6 GB | 36.0 GB | — | — |
| M4 Max 48GBMLX | 乗らない | MLX 4bit | 58.6 GB | 36.0 GB | — | — |
| M4 Pro 48GBMLX | 乗らない | MLX 4bit | 58.6 GB | 36.0 GB | — | — |
| M3 Max 48GBMLX | 乗らない | MLX 4bit | 58.6 GB | 36.0 GB | — | — |
| RTX 6000 Ada 48GBllama.cpp | このランタイム向けの量子化がありません | |||||
| RTX A6000 48GBllama.cpp | このランタイム向けの量子化がありません | |||||
| M5 Max 64GBMLX | 乗らない | MLX 4bit | 58.6 GB | 48.0 GB | — | — |
| M5 Pro 64GBMLX | 乗らない | MLX 4bit | 58.6 GB | 48.0 GB | — | — |
| M4 Max 64GBMLX | 乗らない | MLX 4bit | 58.6 GB | 48.0 GB | — | — |
| M4 Pro 64GBMLX | 乗らない | MLX 4bit | 58.6 GB | 48.0 GB | — | — |
| M3 Max 64GBMLX | 乗らない | MLX 4bit | 58.6 GB | 48.0 GB | — | — |
| M2 Ultra 64GBMLX | 乗らない | MLX 4bit | 58.6 GB | 48.0 GB | — | — |
| M2 Max 64GBMLX | 乗らない | MLX 4bit | 58.6 GB | 48.0 GB | — | — |
| M1 Ultra 64GBMLX | 乗らない | MLX 4bit | 58.6 GB | 48.0 GB | — | — |
| M1 Max 64GBMLX | 乗らない | MLX 4bit | 58.6 GB | 48.0 GB | — | — |
| Ryzen AI Max+ 395 64GBllama.cpp | このランタイム向けの量子化がありません | |||||
| M5 Ultra 96GBMLX | 乗る | MLX 4bit | 58.6 GB | 72.0 GB | 128K | 150 |
| M3 Ultra 96GBMLX | 乗る | MLX 4bit | 58.6 GB | 72.0 GB | 128K | 103 |
| M3 Max 96GBMLX | 乗る | MLX 4bit | 58.6 GB | 72.0 GB | 128K | 37.6 |
| M2 Max 96GBMLX | 乗る | MLX 4bit | 58.6 GB | 72.0 GB | 128K | 50.1 |
| RTX PRO 6000 Blackwell 96GBllama.cpp | このランタイム向けの量子化がありません | |||||
| M5 Max 128GBMLX | 乗る | MLX 6bit | 84.1 GB | 96.0 GB | 74K | 54.4 |
| M4 Max 128GBMLX | 乗る | MLX 6bit | 84.1 GB | 96.0 GB | 74K | 48.4 |
| M3 Max 128GBMLX | 乗る | MLX 6bit | 84.1 GB | 96.0 GB | 74K | 35.4 |
| M2 Ultra 128GBMLX | 乗る | MLX 6bit | 84.1 GB | 96.0 GB | 74K | 70.8 |
| M1 Ultra 128GBMLX | 乗る | MLX 6bit | 84.1 GB | 96.0 GB | 74K | 70.8 |
| DGX Spark 128GBllama.cpp | このランタイム向けの量子化がありません | |||||
| Ryzen AI Max+ 395 128GBllama.cpp | このランタイム向けの量子化がありません | |||||
| M2 Ultra 192GBMLX | 乗る | MLX 8bit | 110 GB | 144 GB | 128K | 54.7 |
| M5 Ultra 256GBMLX | 乗る | MLX 8bit | 110 GB | 192 GB | 128K | 82.1 |
| M3 Ultra 256GBMLX | 乗る | MLX 8bit | 110 GB | 192 GB | 128K | 56.0 |
| HPE Private Cloud AI Small（RTX PRO 6000 ×4）llama.cpp | このランタイム向けの量子化がありません | |||||
| M5 Ultra 512GBMLX | 乗る | MLX 8bit | 110 GB | 384 GB | 128K | 82.1 |
| M3 Ultra 512GBMLX | 乗る | MLX 8bit | 110 GB | 384 GB | 128K | 56.0 |
| M5 Max 128GB ×2Thunderbolt 5（RDMA）・exo / MLX distributed | 乗る | MLX 8bit | 111 GB | 192 GB | 128K | 57.7 |
| M5 Ultra 512GB ×2Thunderbolt 5（RDMA）・exo / MLX distributed | 乗る | MLX 8bit | 111 GB | 768 GB | 128K | 86.7 |
| M5 Ultra 512GB ×4Thunderbolt 5（RDMA）・exo / MLX distributed | 乗る | MLX 8bit | 113 GB | 1536 GB | 128K | 89.3 |
| DGX Spark 128GB ×2ConnectX-7（200GbE 直結）・vLLM（Ray・テンソル並列） | 乗る | FP8 | 113 GB | 230 GB | 128K | 39.1 |
量子化ごとのサイズ
| 形式 | 量子化 | サイズ | 実効 bit | リポジトリ |
|---|---|---|---|---|
| BF16 | BF16 | 200 GB | 16.54 | inclusionAI/Ling-2.6-flash |
| FP8 | FP8 | 101 GB | 8.38 | inclusionAI/Ling-2.6-flash-FP8 |
| MLX | MLX 4bit | 54.6 GB | 4.51 | mlx-community/Ling-2.6-flash-mlx-4bit |
| MLX | MLX 6bit | 78.8 GB | 6.51 | mlx-community/Ling-2.6-flash-mlx-6bit |
| MLX | MLX 8bit | 103 GB | 8.52 | mlx-community/Ling-2.6-flash-mlx-8bit |
Hugging Face のファイルサイズ（本体の重みのみ）。実効 bit はサイズ ÷ 総パラメータ。
基本情報
- パラメータ
- 104B（アクティブ 7.4B）（MoE）
- 層数
- 32
- KV を持つ層
- 32層×576要素
- 入力
- テキスト
- ライセンス
- mit
- 公開日
- 2026-04-28
- 配布元
- inclusionAI/Ling-2.6-flash
起動コマンドの例
mlx_lm.server --model mlx-community/Ling-2.6-flash-mlx-4bitvllm serve inclusionAI/Ling-2.6-flash-FP8 --max-model-len 8192ECN 実測
このモデルの ECN 実測はまだありません。
ベンチマークと出典
登録されたベンチマークの数字はまだありません。