DeepSeek-V3.2-Exp 大揭秘：更高效、更經濟的長文本處理新選擇

AI 新創公司 DeepSeek 推出了最新的實驗性模型 DeepSeek-V3.2-Exp，其核心亮點在於引入了創新的「深度稀疏注意力機制 (DeepSeek Sparse Attention, DSA)」。這項技術旨在大幅提升處理長文本時的訓練與推理效率，同時維持與前代模型相當的頂尖性能。更令人振奮的是，伴隨新模型的發布，其 API 價格也大幅下調超過 50%，為開發者和企業用戶帶來了更具成本效益的 AI 解決方案。

在人工智慧的快車道上，效率與成本始終是推動技術普及的兩大關鍵引擎。就在最近，備受矚目的 AI 公司 DeepSeek 投下了一顆震撼彈，正式發布並開源了其最新的實驗性大型語言模型——DeepSeek-V3.2-Exp。 這不僅僅是一次常規的迭代更新，更是一次架構上的大膽探索，預示著下一代 AI 模型可能的發展方向。

那麼，這個新模型究竟有何過人之處？簡單來說，它在處理「長文本」這類極度消耗運算資源的任務時，變得更快、也更便宜了。 而這一切，都歸功於其背後的核心技術：深度稀疏注意力機制 (DeepSeek Sparse Attention, DSA)。

什麼是深度稀疏注意力機制 (DSA)？為什麼它很重要？

想像一下，當你在閱讀一篇萬字長文並試圖回答其中一個問題時，你會通讀全文，但大腦會自動聚焦在與問題最相關的幾個段落上，而不是逐字逐句地分析所有內容。傳統的 AI 注意力機制就像是一個過於認真的學生，它會讓模型中的每個詞都去關注文章裡的所有詞，這種「全面關注」在文本很短時沒問題，但一旦文本長度增加，運算量就會呈平方級增長，變得極其昂貴和緩慢。

DeepSeek 的 DSA 技術正是為了解決這個痛點而生。 它為模型引入了一套智慧的篩選系統，主要包含兩個部分：

1. 閃電索引器 (Lightning Indexer)： 這是一個輕量級的評分員（本身也是一個小型 Transformer 模型）。當模型處理一個詞（查詢 token）時，這個索引器會快速掃描前文所有的詞，並為它們的「相關性」打分。由於這個過程使用了高效的 FP8 格式和較少的計算單元，所以速度飛快。
2. 細粒度權杖選擇 (Fine-grained Token Selection)： 根據索引器的評分，系統只會挑選出分數最高的 top-k（例如 2048）個詞，讓當前的詞只對這些最相關的「候選人」進行深度注意力計算。

透過這種方式，DSA 成功地將運算複雜度從 $O(L²)$ 降低到 $O(Lk)$，其中 $L$ 是文本長度，$k$ 是被選中的少量關鍵詞。 這意味著，即使文本長度達到 128K 甚至更長，模型也能保持高效運作，不會被龐大的計算量壓垮。

性能不減，效率倍增

通常，提升效率可能意味著犧牲性能。但 DeepSeek-V3.2-Exp 最令人稱道的一點，便是在引入 DSA 後，其在各大公開評測基準上的表現與前代強大的 V3.1-Terminus 模型幾乎持平。

無論是在考驗綜合知識的 MMLU-Pro，還是檢驗程式碼能力的 Codeforces、Aider-Polyglot，以及模擬代理任務的 BrowseComp 等多個領域，V3.2-Exp 都展現了與前代不相上下的實力。 儘管在某些特定任務（如 HMMT 數學競賽）上略有下降，官方解釋這可能是因為新模型傾向於生成更精簡的推理過程所致，但總體而言，這次架構升級成功實現了「魚與熊掌兼得」。

成本大幅降低，開發者與企業的福音

技術的進步最終要體現在應用層面的價值上。伴隨著 V3.2-Exp 的發布，DeepSeek 大幅調降了其 API 的價格，降幅超過 50%。 根據官方公佈的最新定價，輸入 token 的成本（快取未命中）降至每百萬 token 0.28 美元，而輸出 token 更是降至每百萬 token 0.42 美元。

對於需要處理大量文件、進行複雜 RAG（檢索增強生成）或開發長文本分析工具的開發者和企業來說，這無疑是一個巨大的好消息。 更低的成本意味著更高的部署可行性和更廣闊的應用前景。

如何開始使用 DeepSeek-V3.2-Exp？

DeepSeek-V3.2-Exp 作為一個開源模型，已經在 Hugging Face 等平台上架，並提供了完整的程式碼和相關資源，方便社群進行研究和部署。

• 對於開發者： 可以立即測試 V3.2-Exp 的 API，評估其在特定應用場景下的表現，特別是在長文本處理方面的成本和效率優勢。
• 對於企業用戶： 考慮將現有應用遷移至新模型，以享受顯著的成本節省。
• 對於研究人員： 深入研究 DSA 的理論基礎，探索這種高效架構在其他模型上的應用潛力。

總結與展望

DeepSeek-V3.2-Exp 的推出，不僅是 DeepSeek 自身在模型架構上的一次重要突破，也為整個 AI 領域提供了處理長文本挑戰的新思路。 透過創新的稀疏注意力機制，它成功地在不犧牲太多性能的前提下，大幅提升了運算效率並降低了使用成本。

雖然這目前還是一個「實驗性」版本，其在某些任務上的表現仍有微調空間，但它所展現出的巨大潛力，無疑為大型語言模型的未來發展指明了一個更高效、更經濟、更可持續的方向。

• DeepSeek-V3.2-Exp HuggingFace

常見問題解答 (FAQ)

Q1：DeepSeek-V3.2-Exp 和 V3.1-Terminus 的根本區別是什麼？ A1：最主要的區別在於注意力機制的實現。V3.2-Exp 引入了「深度稀疏注意力 (DSA)」，可以選擇性地計算注意力權重，從而大幅降低處理長文本時的運算複雜度。雖然模型參數規模 (67B) 保持不變，但 V3.2-Exp 在訓練和推理效率上實現了質的飛躍。

Q2：稀疏注意力會影響模型的輸出品質嗎？ A2：根據官方的基準測試，V3.2-Exp 在絕大多數任務上的表現與 V3.1-Terminus 相當。DSA 經過精心設計，旨在保留最重要的注意力連結，因此對輸出品質的影響極小。

Q3：V3.2-Exp 會完全取代 V3.1-Terminus 嗎？ A3：目前 V3.2-Exp 是一個實驗性版本，主要用於技術驗證和社群測試。DeepSeek 官方表示會暫時保留 V3.1-Terminus 的 API 接口，以便用戶進行比較測試，並會根據社群的回饋來決定 V3.2 正式版的發布計畫。