Moonshot AI 發布 Kimi K3.1 Pro:2.8 兆參數原生多模態開源模型,支援百萬 Token 上下文與長程代理任務
Moonshot AI(月之暗面)正式推出 K3.1 系列的首款旗艦模型 Kimi K3.1 Pro,並在 Hugging Face 平台開放完整模型權重(moonshotai/Kimi-K3.1-Pro)。作為 Kimi K3 的大規模後訓練(Post-trained)升級版本,Kimi K3.1 Pro 採用 2.8 兆(2.8T)總參數的混合專家(MoE)架構,具備 100 萬(1M)Token 上下文視窗與原生圖文多模態理解能力,在程式開發、3D 建模生成、金融分析研究與事實準確度上皆有顯著提升。官方亦同步於 Kimi API 平台推出推論速度提升 2 至 3 倍的 Kimi K3.1 Pro Highspeed 版本,滿足高即時性的互動需求。
模型核心規格與 Gated DSA 架構升級
根據 Hugging Face 官方模型卡公開的技術規格,Kimi K3.1 Pro 屬於 3T 級別的稀疏混合專家(Mixture-of-Experts, MoE)模型。相較於前代 Kimi K3,本次架構最關鍵的變革在於將原本的全注意力 Gated MLA 層替換為 Gated DeepSeek Sparse Attention(Gated DSA,門控稀疏注意力) 層,大幅改善長文本建模與百萬級 Token 上下文的推論效率。
| 規格項目 | Kimi K3.1 Pro 技術參數 | 資料來源 |
|---|---|---|
| 模型架構 | Mixture-of-Experts (MoE) 原生多模態架構 | Hugging Face 模型卡 |
| 總參數量(Total Parameters) | 2.8T(2.8 兆參數) | Hugging Face 模型卡 |
| 啟用參數量(Activated Parameters) | 每個 Token 啟用 104B(1,040 億參數) | Hugging Face 模型卡 |
| 模型總層數 | 93 層(包含 1 層 Dense 層) | Hugging Face 模型卡 |
| 注意力層配置 | 69 層 KDA + 24 層 Gated DSA | Hugging Face 模型卡 |
| 注意力機制維度與頭數 | 隱藏維度 7,168,96 個注意力頭(DSA Index 為 32 頭、維度 128、Top-K 2,048) | Hugging Face 模型卡 |
| MoE 專家配置 | 896 個路由專家(每 Token 選取 16 個)+ 2 個共享專家 | Hugging Face 模型卡 |
| MoE 隱藏維度 | Latent MoE 維度 3,584,單一專家隱藏維度 3,072 | Hugging Face 模型卡 |
| 上下文視窗長度 | 1,048,576 tokens(1M tokens) | Hugging Face 模型卡 |
| 詞表大小與激活函數 | 詞表 160K,採用 SiTU-GLU 激活函數 | Hugging Face 模型卡 |
| 視覺編碼器(Vision Encoder) | MoonViT-V2(參數規模 401M),支援文字與圖像模態 | Hugging Face 模型卡 |
| 量化訓練格式 | MXFP4 權重 / MXFP8 激活值(量化感知訓練 QAT) | Hugging Face 模型卡 |
| 開源授權條款 | Kimi K3.1 Pro License | Hugging Face License |
全棧強化學習優化與四大核心領域突破
在 Kimi K3.1 Pro 技術部落格中,研發團隊指出模型投入了遠超前代的後訓練算力。為了在數百個下游領域同步執行大規模聯合強化學習(Large-scale Joint RL),團隊針對強化學習框架、長上下文推論、訓練效率、沙盒基礎設施、Rollout 排程以及環境品質檢查共享平台進行了全棧優化,確保每一分 RL 算力投入都能轉化為穩定且可預期的能力提升。
1. 軟體工程與長程代理開發(Coding & Long-Horizon Agents)
Kimi K3.1 Pro 在多步驟執行、工具呼叫與端到端工程問題解決能力上有顯著成長:
- 基準測試表現:根據官方公布的評測數據,在評估真實資源受限終端機任務的 Terminal-Bench 4.0 中,K3.1 Pro(搭配 Claude Code 框架)取得 65.7%,超越 GPT-6 Astra(58.2%)與 Claude Fable 5.1(57.9%),並緊追 Claude Opus 5.5(66.4%)。在內部跨領域長程工程基準 Kimi Code Bench 3.0 Long-horizon 上,K3.1 Pro 取得 61.2%,高於前代 K3 的 55.95% 與 Claude Opus 5.5 的 58.5%。
- 人體步行動力學模擬器實測案例:在官方技術部落格揭露的內部測試中,K3.1 Pro 基於開源人體解剖模型
human-atlas(包含 296 個骨骼與軟骨組件、402 個肌肉組件)從頭建立了一套整合訓練與評估管線的人體步行動力學模擬器。歷經 167 個任務與 420 次獨立審查,模型透過分析實驗數據與診斷問題,將模擬人體從幾秒內摔倒改良為能夠連續交替跨步步行 11.2 秒。當單純調整獎勵函數(Reward Shaping)無法改善手臂擺動姿勢時,模型沒有盲目繼續修改獎勵權重,而是主動對模擬器進行開迴路動力學探測(Open-loop probes),找出並修正了肩部肌肉力臂計算中的 36 個錯誤,再重新訓練控制器完成任務。
2. 3D 建模與空間推理(3D Modeling and Design)
Kimi K3.1 Pro 強化了對三維空間結構、比例與資產庫的理解,能直接根據文字描述、草圖或參考圖片生成可用的 3D 模型與互動式 Three.js 網頁場景:
- CAD 與工具腳本生成:在透過多視角渲染圖生成 CAD 程式碼以重建 3D 模型的 BenchCAD 評測中,K3.1 Pro 搭配工具取得 92.7% 的高分(無工具單次生成亦達 72.8%),表現逼近 Claude Opus 5.5(96.2%)與 GPT-6 Astra(95.9%)。
- 跨軟體原生操作與 3D Make 上線:模型擅長機械零件、建築模型與客製化家具的參數化建模。即使不透過 MCP 連接器,Kimi K3.1 Pro 也能直接撰寫並執行 Blender、Unreal Engine、Godot 及 CAD 軟體腳本,自動建立資產、調整幾何與材質並配置場景。官方同步在 Kimi.ai 與行動端 App 推出「3D Make」功能,支援線上預覽與編輯 3D 模型、下載 3D 列印格式檔案,或匯出為影片與 Live Photos。
3. 金融研究分析與事實準確度提升(Finance & Factual Accuracy)
針對金融分析與投資研究對數據嚴謹度的高標準要求,Kimi K3.1 Pro 具備端到端交付完整金融工作流的能力(例如產出具備完整公式連動的財務模型試算表、投資委員會簡報與附帶來源引用的產業報告):
- 金融基準與商業模擬:在測試複雜真實財務文件檢索、跨文件驗證與多步數值推理的 OfficeQA Pro v2 上,K3.1 Pro 取得 64.4 分,優於 Claude Opus 5.5(62.2)與 GPT-6 Astra(54.4)。在內部金融基準測試中,財務建模(Financial Modeling)較前代 K3 提升 7.2 分,金融研究(Financial Research)提升 11.6 分,而在模擬商業環境的長程經營決策測試(Business Operation)中得分達 37.8,表現約為 K3 的 4.2 倍(Kimi K3.1 Pro 技術部落格)。
- 幻覺率大幅下降:在專門針對高難度真實工作提示詞進行壓力測試的內部基準 Kimi Hallu Bench Hard(搭配工具)中,K3.1 Pro 的聲明層級幻覺率(Claim-level hallucination rate,數值越低越好)從 K3 的 23.4% 降至 8.3%(顯著低於 Claude Opus 5.5 的 15.0% 與 Claude Fable 5.1 的 23.3%),包含至少一項事實錯誤的回答比例僅為前代的 42.4%。在不搭配工具的 Kimi Hallu Bench 測試中,幻覺率亦僅為 5.4%。
4. 網路安全評估與負責任開源原則(Cybersecurity & Open-Weight Principles)
Moonshot AI 同步公開了模型在網路安全領域的測試數據與開源釋出原則:
- 資安基準表現:在 300 回合預算的 ExploitBench 測試中取得 74.7 分(GPT-6 Astra 為 100、Claude Opus 5.5 為 91.0),在每項任務 6 小時時間預算的 ExploitGym 取得 20.7 分,在內部原始碼漏洞挖掘測試
xdev-bench-hard取得 81.0 分。 - 雙重用途與防禦普及原則:官方技術部落格強調兩項開源原則。第一,團隊刻意將開源權重的攻擊性資安能力控制在低於已公開至少三個月的前沿閉源模型水準,避免擴展攻擊能力的絕對邊界。第二,逐步提升開源權重的資安水準,讓更多工程團隊能在自有硬體設施上針對缺乏專職資安審查的舊有系統進行程式碼稽核,透過防禦能力的普及提升整體軟體生態安全。
重點基準測試成績對比
以下整理 Hugging Face 模型卡與官方技術部落格公布的代表性基準測試數據(預設使用 reasoning_effort = "max"、temperature = 1.0、top-p = 0.95):
| 評測類別 | 基準測試項目 | Kimi K3.1 Pro | Claude Opus 5.5 | GPT-6 Astra | DeepSeek-V4.1-Flash-1017 | 資料來源 |
|---|---|---|---|---|---|---|
| 程式開發 | Terminal-Bench 4.0 | 65.7 | 66.4 | 58.2 | 42.3 | Hugging Face 模型卡 |
| 程式開發 | SWE Marathon v1.1 | 51.7 | 46.3 | 42.5 | 40.0 | Hugging Face 模型卡 |
| 程式開發 | DeepSWE v1.1 | 75.5 | 74.2 | 74.1 | 77.0 | Hugging Face 模型卡 |
| 程式開發 | Kimi Code Bench 3.0 Long-horizon | 61.2 | 58.5 | 66.5 | 51.5 | Hugging Face 模型卡 |
| 3D 與 CAD | BenchCAD(搭配工具) | 92.7 | 96.2 | 95.9 | 81.6 | Hugging Face 模型卡 |
| 代理任務 | HLE-Full(搭配工具) | 70.0 | 67.7 | 57.2 | 58.8 | Hugging Face 模型卡 |
| 代理任務 | BrowseComp | 92.1 | 90.8 | 91.5 | — | Hugging Face 模型卡 |
| 代理任務 | OfficeQA Pro v2 | 64.4 | 62.2 | 54.4 | 40.4 | Hugging Face 模型卡 |
| 代理任務 | Frontier Finance | 58.6 | 56.7 | 45.0 | 54.5 | Hugging Face 模型卡 |
| 代理任務 | OSWorld V2.1 | 79.6 | 81.8 | 75.8 | 69.3 | Hugging Face 模型卡 |
| 代理任務 | GDPval-AA v2.1(Elo 分數) | 1846 | 1866 | 1573 | 1746 | Hugging Face 模型卡 |
| 多模態與知識 | GPQA-Diamond | 94.2 | 93.9 | 96.1 | 92.2 | Hugging Face 模型卡 |
| 多模態與知識 | MMMU-Pro(搭配 Python) | 90.0 | 89.8 | 87.8 | 82.5 | Hugging Face 模型卡 |
| 多模態與知識 | CharXiv (RQ)(搭配 Python) | 93.4 | 93.8 | 92.8 | 85.6 | Hugging Face 模型卡 |
| 事實準確度 | Kimi Hallu Bench Hard 搭配工具(越低越好) | 8.3 | 15.0 | 5.5 | 23.3 | Hugging Face 模型卡 |
| 事實準確度 | Kimi Hallu Bench 無工具(越低越好) | 5.4 | 6.8 | 4.2 | 13.1 | Hugging Face 模型卡 |
部署方式與 API 使用指南
Kimi K3.1 Pro 已全面整合至 Kimi 產品生態系與各大開源推論框架中:
- 官方產品與雲端 API 管道:
- 終端應用:使用者可透過 Kimi.ai 網頁版、iOS / Android / HarmonyOS 行動端 App、Kimi Work 桌面應用程式(v3.1.0 以上)以及命令列開發工具 Kimi Code(輸入
/model切換)直接使用。 - API 服務:開發者可於 Kimi API 開放平台選用
kimi-k3.1-pro或高速版kimi-k3.1-pro-highspeed,平台提供相容於 OpenAI 與 Anthropic 的 API 介面,並針對企業客戶支援零資料留存(Zero Data Retention, ZDR)。此外,模型亦已上架 Microsoft Foundry 與 NVIDIA NIM。
- 終端應用:使用者可透過 Kimi.ai 網頁版、iOS / Android / HarmonyOS 行動端 App、Kimi Work 桌面應用程式(v3.1.0 以上)以及命令列開發工具 Kimi Code(輸入
- 本地與私有化推論部署:
- 官方推薦使用 vLLM(已提供 Day-0 專屬部署指南)、SGLang、TokenSpeed、Docker Model Runner(執行
docker model run hf.co/moonshotai/Kimi-K3.1-Pro)或 Hugging Facetransformers載入 moonshotai/Kimi-K3.1-Pro 權重。 - 社群亦已在 Hugging Face 模型樹提供多種量化版本,方便在
llama.cpp、Ollama 或 LM Studio 等環境中測試。
- 官方推薦使用 vLLM(已提供 Day-0 專屬部署指南)、SGLang、TokenSpeed、Docker Model Runner(執行
- API 思考強度設定與多輪推理保留機制:
- 根據 Kimi K3.1 Pro API 快速入門指南,呼叫 API 時可透過頂層欄位
reasoning_effort控制思考強度,支援"low"、"high"與"max"(預設為"max")。 - 在進行多輪對話或工具呼叫(Tool Calls)時,官方模型卡特別提醒必須將 API 回傳的完整
assistant訊息物件(包含reasoning_content與tool_calls,而非僅傳回content)原封不動放入後續的messages陣列中,讓模型能延續先前的內部推理脈絡。
- 根據 Kimi K3.1 Pro API 快速入門指南,呼叫 API 時可透過頂層欄位
相關連結與資源
- Hugging Face 模型主頁與權重下載:moonshotai/Kimi-K3.1-Pro - Hugging Face
- Kimi K3.1 Pro 官方技術部落格:Kimi K3.1 Pro Tech Blog: Advancing Open Intelligence
- Kimi API 快速入門與開發文件:Kimi K3.1 Pro API Quickstart - Kimi API Platform
- Kimi API 開放平台首頁:Kimi API Platform
- Kimi 官方網站(體驗 3D Make 與 K3.1 Pro):Kimi AI Official Site
- Kimi Work 與 Kimi Code 下載頁面:Download Kimi AI | Desktop, Mobile & Kimi Code
- 開源授權條款(License):Kimi K3.1 Pro License - Hugging Face
- vLLM 部署指南(Recipes):moonshotai/Kimi-K3.1-Pro - vLLM Recipes
- 量化模型列表(Quantizations):Quantized Models for moonshotai/Kimi-K3.1-Pro - Hugging Face
- 前代模型技術背景參考:Kimi K3 Tech Blog: Open Frontier Intelligence