Reflection AI 開源 501B 稀疏混合專家推理模型 Beam 1.0：僅激活 23B 參數、1M 上下文架構、13 億沙盒非同步強化學習與本地部署指南

美國 AI 研究實驗室 Reflection AI 於 2026 年 10 月 5 日首度預告旗下首款開放權重（Open-Weight）模型 Beam，並於 2026 年 10 月 16 日正式在 Hugging Face 釋出 Beam-1.0-501B-A23B 完整模型權重（授權條款為 Apache 2.0）。同步公開的還包含 官方正式發布文章、Beam 官方模型卡、Beam 安全技術報告，以及由 Rust 核心驅動的開源終端代理框架 Mirror CLI。

Beam-1.0-501B-A23B 採用稀疏混合專家（Sparse Mixture-of-Experts, MoE）架構，具備 5,013 億（501.3B）總參數，但在處理每個 Token 時僅激活 234 億（23.4B）參數，並支援高達 100 萬（1M）Tokens 的上下文視窗。官方定位並非單純追求參數規模上限，而是聚焦於「推論效率（Intelligence per Token）」、軟體工程與長週期代理工作流（Long-Horizon Agentic Workloads）：官方測試指出，Beam 在高難度推理基準上達到與 GLM-5.2 相當的解題品質，同時僅消耗約 1/3 至 1/4 的推論算力與推理 Token 數量。

本文依據 Reflection AI 官方發布部落格、Introducing Beam 技術解析、Hugging Face 官方模型卡、Hugging Face 深度技術指南 以及 Artificial Analysis 與 OpenRouter 的第三方實測數據，完整梳理 Beam 1.0 的架構設計、預訓練與強化學習工程、23 項基準評測表現，以及本地與雲端部署教學。

核心亮點與模型規格總覽

根據 Hugging Face 模型卡 與 Hugging Face 官方技術部落格，Beam 1.0 專為高效率推理、軟體工程、MCP 工具調用與數學科學解題打造，核心特性涵蓋以下四個面向：

1. 高 Token 效率的可控深度推理：模型內建五段推理強度參數（low、medium 預設、high、xhigh、max），並支援跨對話回合保留思維鏈（preserve_thinking）。官方數據顯示，其達到同級開源模型解題品質所需的推理 Token 數量減少約 3 倍。
2. 軟體工程與代理框架深度整合：針對解決真實 GitHub Issue、CLI 終端操作與 DevOps 環境進行最佳化，同步開源專屬的 Mirror CLI 代理框架，並相容於 Pi、OpenCode、Hermes Agent 與 OpenClaw。
3. 首日支援完整量化精度與推測解碼：官方一次釋出 BF16 原生權重、適用於 Hopper 架構的 FP8 權重、專為 NVIDIA Blackwell 硬體最佳化的 NVFP4 4-bit 權重，以及 2B 規模的推測解碼草稿模型 Beam-1.0-501B-A23B-DFlash2。
4. Apache 2.0 商業友善授權：無營收門檻或商業限制，官方明確允許將模型輸出用於蒸餾（Distillation）、訓練其他模型、微調、量化與企業內部部署。

Beam-1.0-501B-A23B 官方技術規格表

以下規格整理自 Beam 官方模型卡 與 Hugging Face 技術拆解文章：

底層架構深度解析：三大關鍵設計

根據 Hugging Face 技術部落格 與 Introducing Beam 技術報告，Beam 1.0 在 Transformer 底層結構上針對長序列記憶體佔用與深層強化學習穩定性進行了三項核心改良：

1. 混合注意力與可擴展 Softmax 查詢縮放（KV Cache 節省約 83%）

在 52 層解碼器中，Beam 採用 43 層局部滑動視窗注意力與 9 層全局注意力（每 6 層配置 1 層全局注意力，外加最後一層）的交錯設計：

• 位置編碼分流：43 個滑動視窗層僅關注前 512 個 Tokens，採用標準 RoPE 處理相對位置；9 個全局注意力層則完全不使用位置編碼，改用「可擴展 Softmax 查詢縮放（Scalable-Softmax Query Scaling）」，將每個 Query 乘以隨可見 Token 位置緩慢增長的溫度縮放因子 (1 + (pos + 1) / 2048) ** 0.1，防止在百萬級長文本下出現 Softmax 分佈過度平坦化的問題。
• KV Cache 記憶體大幅壓縮：每層每 Token 需快取 2 × 8 KV heads × 128 dims = 2,048 個數值。由於 43 個滑動視窗層最多只保留 512 個 Tokens 的快取便停止增長，僅 9 個全局層需要保存完整序列，因此每 Token 的 KV Cache 增長率從全全局層的 208 KiB 降至 36 KiB（約為原來的六分之一）。

以下為 Hugging Face 部落格 實測單一序列在 BF16 精度下的 KV Cache 顯存佔用對照：

2. 無共享專家的群組限制路由與近乎均勻的專家負載

Beam 的前 3 層使用稠密（Dense）SwiGLU MLP，第 4 至 52 層則替換為包含 256 個專家的 MoE 區塊（每個專家為中間層維度 2,560 的 SwiGLU MLP，約含 3,900 萬參數），專家層佔了全模型 98.4% 的參數量。

其路由器（Router）沿用了類似 DeepSeek-V3 的群組限制路由（Group-Limited Routing），但不設置共享專家（No Shared Expert）：

1. 路由器先以 Sigmoid 函數為全部 256 個專家打分。
2. 將 256 個專家分為 8 組（每組 32 個專家），依各組前兩高分數總和選出最佳的 4 個群組。
3. 在這 4 個群組內挑出分數最高的 8 個專家進行運算，輸出結果經正規化權重加總後乘上 2.5 的縮放係數。

為了避免專家坍塌並承受後續大規模強化學習的分佈偏移，Reflection AI 在無輔助損失負載平衡（Auxiliary-Loss-Free Load Balancing）的基礎上，導入了專家偏差更新的餘弦衰減（Cosine Decay）與序列級平衡機制。在預訓練完成時，跨 MoE 層最繁忙專家的平均負載僅為理想均勻值的 1.04 倍。

3. 恆定尺度殘差流（Constant-Scale Residual Stream）

傳統 Transformer 將每個子層（Sublayer）的輸出以權重 1 直接累加至殘差流中，導致激活值範數（Norm）隨網路深度不斷膨脹。

根據 Hugging Face 技術拆解，Beam 將輸入 Embedding 視為第 1 步，在總共 104 次子層累加的第 $k$ 步中，以權重 $\frac{1}{\sqrt{k}}$ 加入當前子層輸出，並以權重 $\sqrt{\frac{k-1}{k}}$ 保留既有殘差流。由於兩個權重的平方和恆等於 1，殘差流從第 1 層到第 52 層皆維持恆定尺度，且最終隱藏狀態中每個子層輸出與初始 Embedding 的權重完全相等。搭配前後雙重正規化（SandwichNorm）、元素級注意力門控、FP32 殘差累加，以及最終 Logits 在 $\pm 30$ 處的 FP32 tanh 軟截斷（Softcap），使模型在預訓練與長達數週的強化學習中未出現不可恢復的梯度尖峰。

訓練工程揭秘：23.8T 預訓練與 13 億沙盒非同步強化學習

根據 Introducing Beam 官方技術文章 與 正式發布公告，Beam 的能力建立在自研預訓練基礎設施與超大規模強化學習（High-Compute RL）之上：

1. 23.8 兆 Tokens 預訓練與兩階段數據過濾

• 硬體叢集與有效訓練時間（Goodput）：研究團隊在 6,144 張 NVIDIA GB300 NVL72 GPU 組成的叢集上，於 4 週內完成端到端預訓練。透過自研的拓撲感知 Kubernetes 排程器與靜默數據損壞（SDC）自動回滾系統，全程僅執行 9 次半自動回滾，訓練後期的有效算力佔比（Goodput）達到 92.3%。
• 保留被傳統過濾器誤殺的高品質程式碼：預訓練語料涵蓋 23.8 兆（23.8 Trillion）Tokens。團隊訓練了專屬的網頁、程式碼與 STEM 品質分類器：一方面篩除約 95% 的原始網路低品質語料；另一方面則找回了傳統開源數據框架會誤刪的約 1.8 兆高品質 Tokens（其中包含 87% 的精選網頁程式碼語料）。此外，團隊還動用數千張 GPU 運行視覺語言 OCR 管線，將 PB 級的 PDF 科學教材與技術文獻轉化為高品質純文字訓練語料。
• 1M 上下文中期訓練（Mid-training）：中期訓練階段整合結構化程式碼儲存庫、長流程任務與長篇邏輯推理文檔，將有效上下文視窗延伸至 100 萬 Tokens。

2. 10,500 張 GB300 與 13 億個沙盒的高算力強化學習

在完成預訓練與中期訓練後，Reflection AI 投入了開源實驗室中罕見規模的強化學習資源：

• 算力與環境規模：動用 10,500 張 NVIDIA GB300 GPU 連續訓練 4 週，在近 100 萬個涵蓋軟體工程、終端機操作、競賽編程、STEM 與網頁搜尋的驗證環境中，生成超過 1 億次（100M+）完整推理軌跡（Rollouts，最長上下文達 256K Tokens）。整個訓練與評分過程累計啟動了約 13 億個（1.3 Billion）沙盒環境，平均維持 11 萬個並發軌跡與最高 17 萬個並發沙盒（尖峰時段跨 GCP 與 AWS 的 23 個叢集共動用 883,006 個 vCPU，90% 的新沙盒可在 10 秒內就緒）。
• 容忍「落後 107 個權重版本」的全非同步強化學習：為了讓推論車隊與訓練器獨立全速運轉（推論與訓練 GPU 比例動態維持在 3.9:1 至 5.4:1），團隊將每個生成的 Token 標記產生它的模型版本號，解決了非同步策略梯度中的「策略過時（Policy Staleness）」與引擎數值不一致問題。即使批次中最舊的樣本來自 1 天前（落後當前策略 107 個權重版本） 的檢查點，訓練數值依然保持穩定。
• 12 秒極速權重同步：新模型權重透過 RoCE 跨機櫃分層傳輸再經由 NVLink 機櫃內共享，中位數僅需 12 秒即可同步至整個推論車隊，跨機櫃流量減少 75%，更新速度提升 2.2 倍。
• 跨領域能力湧現：官方觀察到，在僅包含推理、軟體工程與終端機任務（完全不含網頁瀏覽任務）的 RL 訓練階段中，Beam 的網頁瀏覽基準分數依然穩定上升；當賦予網路存取權限時，模型更自行學會搜尋並呼叫其他大型語言模型，或調用 OCR API 來讀取自己無法直接檢視的文件。

3. 多教師同策略蒸餾（MOPD）與 Iris 安全評測

在安全對齊階段，團隊從預訓練檢查點另外訓練了一個專門負責安全與對齊的教師模型，再透過多教師同策略蒸餾（Multi-Teacher On-Policy Distillation, MOPD），將「大規模 RL 能力教師」與「安全對齊教師」融合至最終模型，並結合審慎對齊（Deliberative Alignment）讓模型在推理過程中內化安全規範。

根據 Beam 安全技術報告 與 Hugging Face 模型卡 公布的內部安全基準 Iris Safety Evaluations (ISE) 成績，三種精度版本在有害請求攔截與正常請求配合度上表現一致：

官方 23 項基準測試與同級開源模型橫向對比

1. BF16、FP8 與 NVFP4 三種精度完整基準測試

根據 Hugging Face 官方模型卡（測試參數統一為 temperature=0.7、top_p=0.99），將 1 TB 的 BF16 權重壓縮至約 280 GB 的 NVFP4 或 FP8 後，各項基準得分幾乎無損，部分指標（如 SWE Bench Pro v2-Hard 與 DeepSearchQA）甚至在量化版本上略高：

2. 與主流開源前沿模型橫向對比（優劣勢客觀分析）

根據 Introducing Beam 官方對照表 與 DataCamp 獨立技術評析，將 Beam 與當前主流開源模型（GLM 5.2、GLM 5.3、Kimi K3、Qwen 3.8-Max、DeepSeek V4.1 Flash、Inkling、Nemotron 3 Ultra）對比後，可以清楚看出其定位差異：

• 效率優勢：在 AIME 2026（97.7%）、GPQA Diamond（90.6%）、SWE Bench Pro v1（66.1%）與 MCP Atlas（80.8%）上，僅激活 23B 參數的 Beam 與參數規模更大的 GLM 5.2 及 2T+ 等級的 Qwen 3.8-Max 表現接近，且消耗的推論 FLOPs 僅約 GLM 5.2 的四分之一至三分之一。
• 能力邊界：DataCamp 分析 指出，若不計算力成本、單看絕對峰值能力，Kimi K3、GLM 5.3 與 DeepSeek V4.1 Flash 在多步軟體工程（如 DeepSWE v1.1 差距達 24 至 30 個百分點）與深度網頁搜尋（BrowseComp / DeepSearchQA）上仍明顯領先。因此 Beam 的核心競爭力在於高吞吐量、低單次任務成本與長上下文低顯存佔用。

第三方獨立評測與實機測試（Artificial Analysis & Hugging Face Vibe Evals）

1. Artificial Analysis 獨立評測數據

根據第三方中立評測機構 Artificial Analysis 的 Beam 1.0 報告：

• 智慧指數（Intelligence Index v4.3.2）：獲得 30 分（在 120 款受測模型中排名第 19，顯著高於同級模型中位數 19 分）。
• 推論輸出速度：高達 227.9 tokens/s，在 77 款受測模型中高居 第 2 名（遠超同級中位數 68 tokens/s，亦高於 DeepSeek V4.1 Flash 的 176 tokens/s 與 GLM-5.3 的 81 tokens/s）。
• 回答精煉度（Verbosity）：跑完全套智慧指數測試僅生成 7,900 萬（79M）Tokens（同級模型中位數為 1.3 億 Tokens），印證了模型在訓練階段透過長度懲罰（Length Penalty）養成的精簡推理特性。
• 單次任務平均成本：在智慧指數測試中，平均每項任務花費 0.57 美元（低於 GPT-6.1 Sol 的 $0.72、GLM-5.3 的 $2.01 與 Claude Opus 5.5 的 $5.98，但高於 MiMo-V2.6-Pro 的 $0.13 與 DeepSeek V4.1 Flash 的 $0.27）。

2. Hugging Face 團隊五項實機測試（Low vs. High 推理強度對照）

Hugging Face 技術團隊 在五項真實開發任務上分別測試了 low 與 high 兩種推理強度（Reasoning Effort），展示了調整推理強度對解題正確率與 Token 消耗的影響：

此外，在社群與官方早期實測中，開發者已使用 Beam 搭配 Pi 代理框架 建構出結合 Apple MLX 與 Parakeet v3 模型的原生 macOS 選單列離線語音聽寫應用 BeamSpeak；CoreWeave 工程師 Lorenzo Balderrama Porras 則讓 Beam 在沙盒中即時編寫並執行 Python 腳本解開 3D 密室逃脫謎題（官方部落格案例）。

硬體需求、本地部署與雲端 API 串接指南

1. 硬體顯存需求規劃

根據 Hugging Face 部署指南，儘管 Beam 每 Token 僅運算 23B 參數，但全部 256 個專家皆須常駐於顯存中，各精度版本的硬體配置建議如下：

• NVFP4 4-bit 權重（約 280 GB，推薦首選）：專為 NVIDIA Blackwell 架構設計，保留接近 BF16 的精準度。雖然 2 張 B200（共 360 GB HBM3e）即可塞入權重，但預留給 KV Cache 與激活值的空間有限；實務上推薦使用 4 張 B200（720 GB）或 2 張 B300（每張 288 GB），亦可運行於 8 張 RTX Pro 6000。
• FP8 權重：適合 NVIDIA Hopper（H100 / H200）或 Ampere 架構 GPU，建議使用 8 張 H200（單節點） 部署。
• BF16 原生權重（約 1 TB）：建議使用 16 張 H200（兩個 8 卡節點），啟用專家並行（Expert Parallelism）時每張 GPU 約佔用 78 GB 權重顯存（注意：設備數量必須能整除專家總數 256）。

2. 使用 SGLang 與 vLLM 啟動本地推論伺服器（支援 DFlash2 推測解碼）

Beam 在發布首日即原生支援 SGLang、vLLM 與 transformers>=5.20.1。官方強烈建議搭配 DFlash2 推測解碼草稿模型（一次向前預測最多 15 個 Tokens 並由主模型單次前向驗證），以大幅提升生成吞吐量：

# 方案 A：在 4 張 NVIDIA Blackwell (B200/B300) 上透過 SGLang 部署 NVFP4 權重 + DFlash2 推測解碼
python -m sglang.launch_server \
  --model-path reflection/Beam-1.0-501B-A23B-NVFP4 \
  --served-model-name beam \
  --tp 4 \
  --attention-backend trtllm_mha \
  --page-size 64 \
  --context-length 1048576 \
  --mem-fraction-static 0.85 \
  --enable-unified-memory \
  --speculative-algorithm DFLASH \
  --speculative-draft-model-path reflection/Beam-1.0-501B-A23B-DFlash2 \
  --speculative-dflash-block-size 8 \
  --tool-call-parser beam --reasoning-parser beam \
  --host 0.0.0.0 --port 30000

若使用 Hopper 架構（如 8 張 H200），只需將模型改為 reflection/Beam-1.0-501B-A23B-FP8、--tp 改為 8，並將 --attention-backend 改為 fa3。

若偏好使用 vLLM（以 16 張 GPU 運行 BF16 權重並啟用 DFlash2 為例）：

# 方案 B：使用 vLLM 部署並啟用 DFlash2 推測解碼
vllm serve reflection/Beam-1.0-501B-A23B \
  --tensor-parallel-size 16 \
  --served-model-name beam \
  --speculative-config '{
    "method": "dflash",
    "model": "reflection/dflash2-drafter-preview",
    "num_speculative_tokens": 15
  }'

3. 使用 Hugging Face Transformers 進行推論與內建解析

安裝 transformers>=5.20.1 後，Beam 的 Tokenizer 內建了 parse_response 方法，無須自行撰寫正則表達式，即可直接將模型輸出拆解為思維鏈（Reasoning）、最終回答與工具調用（Tool Calls）：

from transformers import AutoModelForCausalLM, AutoTokenizer

model_id = "reflection/Beam-1.0-501B-A23B"
tokenizer = AutoTokenizer.from_pretrained(model_id)
model = AutoModelForCausalLM.from_pretrained(
    model_id, dtype="auto", device_map="auto"
)

messages = [
    {"role": "system", "content": "You should only answer with a number."},
    {"role": "user", "content": "What is 17 * 23?"},
]

inputs = tokenizer.apply_chat_template(
    messages,
    add_generation_prompt=True,
    tokenize=True,
    return_dict=True,
    return_tensors="pt",
    reasoning_effort="medium"  # 可選: "low", "medium", "high", "xhigh", "max"
).to(model.device)

input_len = inputs["input_ids"].shape[-1]
outputs = model.generate(**inputs, max_new_tokens=2000)

# 直接解析出包含 reasoning、content 與 tool_calls 的結構化字典
parsed_message = tokenizer.parse_response(
    outputs[0][input_len:], prefix=inputs["input_ids"][0]
)
print(parsed_message)

4. 透過 Ollama、OpenRouter 與官方 API 快速體驗

若手邊沒有多卡伺服器，可透過以下雲端端點或代理工具立即使用 Beam 1.0：

• Ollama 雲端模型與代理啟動（Ollama Beam 頁面）：

# 直接在終端機對話
ollama run beam:cloud

# 直接掛載至主流編程代理框架啟動
ollama launch claude --model beam:cloud
ollama launch opencode --model beam:cloud
ollama launch hermes --model beam:cloud
ollama launch openclaw --model beam:cloud

• OpenRouter 統一 API 與各供應商報價（OpenRouter Beam 專頁）： OpenRouter 代號為 reflection/beam-1.0-501b-a23b，目前已由四家推論供應商提供服務：

• Nebius Token Factory：輸入 $0.25 / 1M Tokens、輸出 $1.00 / 1M Tokens（中位數速度 121 tokens/s，目前成本最低）。

• Together AI：輸入 $0.40 / 1M Tokens、輸出 $1.20 / 1M Tokens、快取讀取 $0.04 / 1M（中位數速度 155 tokens/s）。

• CoreWeave：輸入 $1.00 / 1M Tokens、輸出 $3.00 / 1M Tokens、快取讀取 $0.10 / 1M（中位數速度 159 tokens/s）。

• Baseten：輸入 $1.30 / 1M Tokens、輸出 $4.30 / 1M Tokens、快取讀取 $0.13 / 1M（中位數速度高達 429 tokens/s，首字延遲僅 0.21 秒）。

• 微調與後訓練支援：官方已聯合生態系釋出基於 Hugging Face TRL (SFTTrainer) 的單節點 8x B300 LoRA SFT 微調配方（吞吐量約 19,000 tokens/s），以及與 RadixArk 合作的 Miles GRPO 強化學習配方（在 4 個 8x H200 節點上執行 LoRA GRPO，可將 AIME 2025 準確率從 42.9% 提升至 64.2%），並預告將於近期釋出自我蒸餾（Self-Distillation）腳本。

相關連結

• Reflection AI 官方發布公告：Beam is now available
• reflection/Beam-1.0-501B-A23B（Hugging Face 官方模型倉庫）