Mistral Large 4 (Le Chonk) 完整解析：1 兆參數開放權重多模態 MoE 架構、稀疏 MLA 注意力、DSpark 推測解碼與本地部署指南

文章摘要：法國 AI 實驗室 Mistral AI 於 2026 年 10 月 6 日首度推出代號為「Le Chonk」的旗艦模型 Mistral Large 4 公開預覽版，並於 2026 年 10 月底正式在 Hugging Face 釋出 Mistral-Large-4-1T-A52B 開放權重版本與 官方正式開源公告。該模型採用稀疏混合專家（MoE）架構，總參數量達 1 兆（1T），每處理一個 Token 僅激活 490 億（49B）核心參數（含詞嵌入與輸出層共 520 億 / 52B 參數），原生支援 100 萬（1M）Tokens 上下文視窗、多模態圖文理解與 160 種以上語言。相較於月初預覽版，正式開源版本透過持續擴展的強化學習（RL），將 Terminal-Bench 4.0 成績從 28.3% 大幅推升至 41%，並在 Artificial Analysis Coding Agent Index 上以 減少 47% Token 消耗量 的高效率追平 GLM-5.3（48%）。本文完整整理官方模型卡、技術公告與 vLLM 推論配方中的底層架構、基準測試表現、授權條款與部署指南。

Mistral Large 4 (Mistral-Large-4-1T-A52B) 四大核心亮點

根據 Mistral AI 官方開源公告 與 Hugging Face 官方模型卡，本次釋出的 Mistral-Large-4-1T-A52B 針對軟體工程代理、企業級資安防禦與高效率推論進行了全方位升級：

1. 強化學習持續擴展，編程代理與推理效率雙重躍升：研發團隊在預覽版發布後持續運行大規模強化學習，且訓練收益尚未出現飽和跡象。正式開源版不僅以 19.7% 奪下 Cognition FrontierCode 2.0 開放權重模型第一名，在 Terminal-Bench 4.0 更較預覽版暴增 13 個百分點達 41%；同時在 Artificial Analysis Coding Agent Index 取得 48%，以少用 47% Tokens 的精簡輸出達到與 GLM-5.3 相當的水準，大幅降低實際代理工作流的推論延遲與 API 成本。
2. 專為資安防禦者打造（Built for Defenders），兼顧漏洞修補與惡意攔截：傳統閉源模型（如 Claude Opus 5.5 與 GPT-6 Astra）常因安全過濾器誤判而拒絕合法的漏洞重現與修補任務。Mistral Large 4 在 Artificial Analysis Cyber Index 拿下 51% 總分（其中開源軟體真實漏洞重現與修補單項高達 82%、Cybench 解題率達 93%），能協助資安團隊執行惡意程式逆向分析、漏洞驗證與撰寫偵測規則；同時在 JailbreakBench、StrongREJECT 與 AgentHarm 等惡意攻擊測試中維持高達 97% 的拒絕率，並在 Lakera B3 代理安全基準 創下 97.1% 的間接提示詞注入防禦率。
3. 三段動態推理強度與原生多模態視覺定位：支援在單次 API 或本地請求中動態切換 low（快速對話與簡單任務）、medium（日常速度與品質平衡）與 high（預設，針對複雜邏輯、多步驟編程與長鏈路代理）三種推理模式。內建 Pixtral 風格視覺編碼器，支援任意解析度與長寬比影像輸入，在處理百萬像素衛星影像、工程 CAD 圖紙與密集場景視覺定位（Dense 200 測試 達 42%，超越 GPT-6 Astra 的 41%）表現突出。
4. 歐洲主權 AI 基礎設施訓練與彈性開源授權：模型於 Mistral 自營的歐洲資料中心內，動用 3,800 張 NVIDIA Grace Blackwell GPU 從頭訓練完成，背後由歐洲科技史最大規模的 30 億歐元 D 輪融資支撐。權重採用修改版 MIT 授權（Mistral Ecosystem Open-Weight License），允許企業與開發者免費使用、修改、微調與商業化部署（僅對外轉售推論 API 的 MaaS 平台需另行取得商業授權）。

底層架構與關鍵技術規格解析

結合 Hugging Face 官方模型卡、vLLM 官方部署配方 與 NVIDIA NIM 模型文件，Mistral-Large-4-1T-A52B 在 1 兆參數規模下導入了多項針對長上下文與推論吞吐量的底層最佳化設計：

1. 稀疏 MLA 注意力與跨層 KV 共享：支撐百萬級上下文的記憶體關鍵

在 72 層網路中，Mistral Large 4 採用了多頭潛在注意力（Multi-head Latent Attention, MLA）結合動態稀疏注意力索引器（DSA Sparse Indexer，每次選取關鍵的 Top-2048 Keys），並透過跨層 KV 共享（Cross-layer KV Sharing）與預設 FP8 潛在 KV 快取（fp8_ds_mla）大幅降低長序列推論的顯示記憶體佔用。根據 vLLM 實測資料，在 8 張 NVIDIA GB300 GPU 上使用 NVFP4 權重搭配解碼上下文平行（TP8 DCP8）時，KV Cache 總容量可達 2,876 萬（28.76M）Tokens，足以在記憶體空間上同時容納約 27 個百萬 Token 級別的並發請求。

2. 內建 DSpark 推測解碼：無須外掛獨立草稿模型即可加速 1.9 至 2.2 倍

與需要額外載入外部草稿模型的傳統推測解碼不同，Mistral-Large-4-1T-A52B 的 FP8 與 NVFP4 檢查點皆直接內建 DSpark 草稿頭。該模組由 3 層 BF16 精度的稠密滑動視窗 MLA 草稿層與遞迴馬可夫頭（Recurrent Markov Head）組成，在每次驗證步固定提前預測 3 個候選 Tokens。根據 Hugging Face 模型卡 與 vLLM 實測報告，啟用 DSpark 在完全不改變主模型輸出分佈的前提下，平均接受長度（Acceptance Length）達 2.8 至 3.1 Tokens，在單使用者互動場景下將每輸出 Token 延遲（TPOT）壓低至 3.13 毫秒（NVFP4），整體輸出吞吐量提升 1.9 倍至 2.2 倍。

基準測試全解析：編程代理、資安防禦與企業工作流表現

根據 Mistral Large 4 開源發布公告、預覽版技術報告 與 Vals AI 獨立評測，Mistral Large 4 在軟體工程、終端機操作、網路安全與金融法律知識工作上展現出強勁競爭力：

1. 軟體工程、代理與安全基準橫向對比表

2. Surge Code 盲測人類偏好勝率（Blind Pairwise Evaluation）

除了自動化基準分數外，Mistral 官方公告 亦公開了由第三方平台 Surge Code 執行的雙盲人類開發者偏好對決結果。在隱藏模型名稱的真實編程任務評估中，Mistral Large 4 對決主流開放權重模型皆取得過半勝率，僅次於閉源旗艦 Claude Opus 5.5：

• Mistral Large 4 vs. GLM-5.3：勝率 64% : 36%
• Mistral Large 4 vs. Kimi K3：勝率 64% : 36%
• Mistral Large 4 vs. DeepSeek V4.1 Flash：勝率 56% : 44%
• Mistral Large 4 vs. Claude Opus 5.5：勝率 22% : 78%

此外，在科學編程與跨領域應用上，Mistral Large 4 於 SciCode-Verified 創下開放權重模型最高紀錄，能單次直接生成完整的 Hartree–Fock 量子化學模擬程式；在自動化辦公基準 AutomationBench（涵蓋 Gmail、Google Sheets、Slack 與 Salesforce 共 657 項商業流程）亦取得 59.9%，並在長週期專業交付基準 AA-Briefcase 達到 1,393 Elo。

本地部署與雲端推論實戰指南（vLLM、SGLang、Mistral Vibe CLI）

根據 Hugging Face 模型卡 與 vLLM 官方部署配方，由於模型總參數達 1T（FP8 權重約 1.06 TB，8 卡環境每張 GPU 約需 128 GiB 顯示記憶體；NVFP4 權重約 610 GB，每張 GPU 約需 76 GiB），官方推薦使用 8 張 NVIDIA GB300 / B300 / B200（運行 NVFP4 或 FP8）、2 節點共 16 張 H200（運行 FP8 TP16）或 AMD Instinct MI350X（運行 MXFP4 / FP8）進行部署。

1. 使用 vLLM 部署（官方首選，支援 DSpark 推測解碼）

目前需拉取專用 Docker 映像檔 vllm/vllm-openai:mistral-large-4（AMD ROCm 環境請使用 vllm/vllm-openai-rocm:mistral-large-4），映像檔內已預載 mistral_common[image] >= 1.13.0、FlashMLA 稀疏注意力與 fp8_ds_mla 快取支援：

# 1. 拉取 Mistral Large 4 專用 vLLM 映像檔
docker pull vllm/vllm-openai:mistral-large-4

# 2. 啟動 8 卡張量平行服務，並開啟 DSpark 3-Token 推測解碼
docker run --runtime nvidia --gpus all \
  -v ~/.cache/huggingface:/root/.cache/huggingface \
  -p 8000:8000 \
  --ipc=host \
  vllm/vllm-openai:mistral-large-4 \
  --model mistralai/Mistral-Large-4-1T-A52B \
  --tensor-parallel-size 8 \
  --tool-call-parser mistral \
  --reasoning-parser mistral \
  --enable-auto-tool-choice \
  --gpu-memory-utilization 0.85 \
  --speculative-config '{"method": "dspark", "num_speculative_tokens": 3}'

服務啟動後，即可透過 OpenAI 相容端點傳入 reasoning_effort（可選 "low"、"medium"、"high"）與多模態圖片網址：

from openai import OpenAI

client = OpenAI(api_key="EMPTY", base_url="http://localhost:8000/v1")

response = client.chat.completions.create(
    model="mistralai/Mistral-Large-4-1T-A52B",
    reasoning_effort="high",
    messages=[{
        "role": "user",
        "content": [
            {"type": "text", "text": "請解析這張架構圖的核心資料趨勢："},
            {"type": "image_url", "image_url": {"url": "https://example.com/chart.png"}},
        ],
    }],
)
print("思考過程：", response.choices[0].message.reasoning)
print("最終回答：", response.choices[0].message.content)

2. 使用 SGLang 部署

若偏好使用 SGLang 推論引擎，官方同樣提供了專用映像檔 lmsysorg/sglang:mistral-large-4，並可透過 --speculative-algorithm DSPARK 直接啟用內建推測解碼：

docker pull lmsysorg/sglang:mistral-large-4

sglang serve \
  --model-path mistralai/Mistral-Large-4-1T-A52B \
  --tp-size 8 \
  --mem-fraction-static 0.85 \
  --speculative-algorithm DSPARK \
  --max-running-requests 64 \
  --reasoning-parser auto \
  --tool-call-parser auto \
  --host 0.0.0.0 \
  --port 30000

3. 搭配 Mistral Vibe CLI 打造本地終端機編程代理

Mistral 同步更新了開源終端機編程代理工具 Mistral Vibe CLI（GitHub 儲存庫），開發者可將其連接至自建的本地 vLLM 伺服器：

# 安裝 Mistral Vibe CLI
curl -LsSf https://mistral.ai/vibe/install.sh | bash
# 或透過 uv 安裝：
uv tool install mistral-vibe

接著在 ~/.vibe/config.toml 中設定本地 vLLM 端點與 1M 上下文自動壓縮門檻：

display_name = "Mistral Large 4 (local vLLM)"
description = "Mistral Large 4 mode using local vLLM"
safety = "neutral"
active_model = "mistral-large-4"

[[providers]]
name = "vllm"
api_base = "http://<your-host-url>:8000/v1"
api_key_env_var = ""
backend = "generic"
api_style = "reasoning"

[[models]]
name = "mistralai/Mistral-Large-4-1T-A52B"
provider = "vllm"
alias = "mistral-large-4"
thinking = "high"
thinking_levels = ["low", "medium", "high"]
temperature = 1.0
supports_images = true
max_context_length = 1048576
auto_compact_threshold = 800000

[tools.bash]
default_timeout = 1200

4. 社群量化版本（GGUF / Ollama）與官方 API 定價

針對需要以 llama.cpp 或混合 CPU/GPU 記憶體運行的開發者，Hugging Face 社群已釋出多個量化版本，包括 Unsloth Dynamic 3.0 GGUF、ggml-org 官方 GGUF 與 NVFP4-GGUF，亦可透過 Ollama 模型庫 或 llama serve -hf ggml-org/Mistral-Large-4-1T-A52B-GGUF 啟動（支援搭配 -md dspark-Mistral-Large-4-1T-A52B-Q8_0.gguf --spec-type draft-dspark 進行推測解碼）。

若直接透過 Mistral Studio 官方 API 或 NVIDIA NIM 呼叫雲端服務，官方標準 API 定價如下：

• 輸入 Tokens：$0.70 / 百萬 Tokens
• 快取命中輸入（Cached Input）：$0.07 / 百萬 Tokens（相當於 1 折優惠）
• 輸出 Tokens：$2.10 / 百萬 Tokens

相關參考連結

• Mistral AI 官方開源發布公告：Mistral Large 4 (Le Chonk) is now open weight
• Hugging Face 官方模型主頁：mistralai/Mistral-Large-4-1T-A52B
• Mistral AI 預覽版技術發布頁：Introducing Mistral Large 4
• vLLM 官方部署與效能調校配方：mistralai/Mistral-Large-4-1T-A52B
• NVIDIA NIM 模型卡與線上體驗：mistralai/mistral-large-4-1t-a52b
• Mistral Vibe 終端機編程代理 CLI 官網 與 GitHub 儲存庫
• Unsloth 量化模型倉庫：GGUF、FP8、NVFP4
• ggml-org 量化模型倉庫：GGUF 與 NVFP4-GGUF
• Ollama 模型庫：mistral-large-4
• Vals AI 獨立基準評測頁：Mistral Large 4 OSS
• Developer’s Digest 授權條款與 vLLM 指南解析