Qwen3.8 強勢登場：2.4T 超大規模參數，重新定義 AI 程式開發與智能代理新標準

突破開源邊界：Qwen3.8-2.4T-A95B 深度解析與部署指南

在大型語言模型競相爭鳴的時代，開源社群迎來了里程碑式的突破。Qwen 團隊正式發布了 Qwen3.8-2.4T-A95B，這是官方首次將其最頂級的 Max 級別（Qwen-Max-class） 技術引入開源領域。

這款模型擁有高達 2.4 兆（2.4 Trillion） 的總參數規模，而在推論執行時，透過先進的混合專家（MoE）路由機制，僅需啟用其中 950 億（95B） 個活躍參數。這意味著開發者能在不犧牲推論效率的前提下，享受到超大規模密集模型的極致推理與表達能力。

圖片來源: Qwen/Qwen3.8-2.4T-A95B · Hugging Face

領先的混合專家（MoE）架構設計

Qwen3.8 採用的並非傳統的簡單 MoE，其內部結構經過了高度精密的數學重構：

• 神經網路深度：模型總共包含 92 層（Layers）。
• 混合佈局（Hidden Layout）：採用 23 組「3 × (Gated DeltaNet → MoE) → 1 × (Gated Attention → MoE)」的循環佈局，其中創新性地結合了線性注意力機制 Gated DeltaNet（128 個 V 頭、16 個 QK 頭）與門控注意力機制 Gated Attention（64 個 Q 頭、4 個 KV 頭）。
• 專家路由規模：總專家數多達 512 個，推論時動態路由啟用 10 個路由專家與 1 個共享專家（10 Routed + 1 Shared），顯著平衡了專家間的協作效率。
• 多代幣預測（MTP）：模型引入了多步訓練的 MTP 預測機制，極大地提高了模型對未來 Token 軌跡的預測流暢度與推理一致性。

核心優勢與代理任務（Agent）執行

Qwen3.8 在前代（Qwen3.5、Qwen3.6）的強大基礎上進行了全面升級，尤其在自動化編程、專業研究以及**長周期代理任務（Long-horizon Agentic Tasks）**上展現出顯著成效：

1. 環境回饋與自我修正：在 Agent 執行模式下，模型具備極強的自主規劃能力，能靈活處理執行環境反饋的報錯或阻礙，實現端到端的全自動任務閉環。
2. 超長原生上下文：模型**原生支援 262,144 個 Token（約 256K）的上下文長度，且透過精細的外推演算法，可以進一步擴展至高達 1,010,000（約 1M）**個 Token，能輕易吞吐極其龐大的技術文檔與完整的程式庫代碼。

推理深度與思維控制（Thinking System）

Qwen3.8 是一款「原生思考模型」。所有互動過程的推理步驟都會自動封裝在特殊的 <think> ... </think> 標籤中輸出，讓開發者能完全透明地檢視 AI 的邏輯演進。此外，官方提供了靈活的思維控制參數：

• reasoning_effort（思維努力程度）：
  • xhigh（預設）：啟動最深度的邏輯推理，適合處理極其複雜的算法設計、學術證明或多步驟決策。
  • medium：在準確性、思考深度與響應延遲（TTFT）之間取得最佳平衡。
  • low：進行高效精簡的推理，優化生成速度並降低運算成本。
• preserve_thinking（保留思維歷史）：
  • 此參數預設為 True。它允許模型在多輪對話中，將歷史消息中的「思維推理上下文」完整保留並傳遞，確保 AI 在應對長線任務時，其思考邏輯與前置決策不會隨對話輪數增加而斷裂。

開發者實作與部署建議

1. 推薦推論引擎

在生產環境或高吞吐量負載下，官方強烈建議使用專用的 GPU 服務引擎以獲得最佳推理效率：

• SGLang：提供最極致的並發吞吐與敏捷的靜態圖編譯優化。
• vLLM：具備最成熟的記憶體管理與廣泛的硬體支援。
• TokenSpeed：專注於超高吞吐、大上下文與超低延遲優化的加速框架。

2. API 最佳參數配置

在呼叫 Qwen3.8 進行生成時，請參照以下官方黃金採樣參數組合：

• temperature=1.0
• top_p=0.95
• top_k=20
• min_p=0.0
• presence_penalty=0.0
• repetition_penalty=1.0

避坑指南：若在特定場景遇到重覆生成或陷入循環，可將 presence_penalty 在 0.0 到 2.0 之間微調，但過高的懲罰值可能會導致語言混雜（Language Mixing）以及推理流暢度的輕微下降。

3. 預留足夠的輸出長度（Token Limits）

為了避免模型的思維鏈在推理中途被強制切斷，對於支持將內部思維（Reasoning）與最終回應（Final Output）分開限制 Token 上限的框架，強烈建議在 1M 上下文內進行如下配置：

• Reasoning Content（思維推理內容上限）：設定為 262,144 Tokens。
• Final Response（最終回應內容上限）：設定為 131,072 Tokens。

Python 快速上手程式碼（OpenAI SDK）

以下示範如何使用標準的 openai 庫呼叫本地端或雲端相容的 Qwen3.8 服務：

import os
from openai import OpenAI

# 需先配置環境變數 export OPENAI_BASE_URL="您的推論端點" 與 OPENAI_API_KEY
client = OpenAI()

messages = [
    {"role": "user", "content": "請用 Python 寫一個快速排序演算法，並解釋空間複雜度。"}
]

completion = client.chat.completions.create(
    model="Qwen/Qwen3.8-2.4T-A95B",
    messages=messages,
    extra_body={
        "chat_template_kwargs": {
            "enable_thinking": True,    # 預設開啟，強烈建議不要關閉
            "preserve_thinking": True,   # 預設開啟，多輪對話關鍵
        },
    },
    reasoning_effort="xhigh",  # 可選 level: xhigh, medium, low
    stream=True,
    stream_options={"include_usage": True},
)

# 實現思維鏈與答案的分離流式列印
is_answering = False
for chunk in completion:
    if not chunk.choices:
        continue
    
    delta = chunk.choices.delta
    
    # 讀取並列印思考過程
    if hasattr(delta, "reasoning_content") and delta.reasoning_content is not None:
        if not is_answering:
            print("=== 思考過程 ===")
        print(delta.reasoning_content, end="", flush=True)
        
    # 讀取並列印最終回答
    if hasattr(delta, "content") and delta.content:
        if not is_answering:
            print("

=== 最終回答 ===")
            is_answering = True
        print(delta.content, end="", flush=True)

常見問題與關鍵辨析

Q：Qwen3.8-2.4T-A95B 支援多模態（如視覺輸入）嗎？ 答：不支援。開源發布的 Qwen3.8-2.4T-A95B 是一款純文字模型（Text-only），無法解析圖片或影片。若您需要多模態能力，必須使用官方託管在 Qwen Cloud（Qwen 雲）上的 Qwen3.8-Max 線上版本，其原生整合了高保真視覺輸入。

Q：可以關閉該模型的思考模式（Non-thinking）以加快生成速度嗎？ 答：對於本地開源部署的 Qwen3.8-2.4T-A95B 來說，無法關閉思考模式。該模型強制要求在所有互動中都必須啟用思維鏈以確保高水準的推理準確度，任何對話都會自動以 <think> 標記開頭。如果您有強烈的「非思考（non-thinking）」極速回答需求，建議改用 Qwen Cloud 線上版的 Qwen3.8-Max，該託管版本提供了非思考模式的支持。

Q：Qwen Cloud 的 API 呼叫參數與本地端開源框架有何不同？ 答：若您使用 Qwen Cloud 的官方託管服務，其 extra_body 的設定需進行扁平化調整：

• Qwen Cloud 格式：extra_body={"enable_thinking": True, "preserve_thinking": True}。
• 本地開源框架（如 vLLM/SGLang）格式：extra_body={"chat_template_kwargs": {"enable_thinking": True, "preserve_thinking": True}}。

Q：與前代模型相比，其性能提升有多顯著？ 答：在多項極限代理測試中，其性能取得了爆發性的飛躍。例如，在針對自駕 Terminal 操作與環境適應力的 Terminal Bench 2.1 測試中，它取得了 86.6% 的頂尖高分，大幅領先同家族前代模型，在 SWE-bench Pro 與 PaperBench 等軟體工程及科研推理基準上亦展現出極具競爭力的卓越實力。