Upstage Solar Open 2 開源模型登場！2 張 H200 就能跑 250B AI Agent，支援 100 萬 Token

降低企業自架 AI 門檻！Upstage 發表 Solar Open 2 開源模型，兩張顯卡搞定 250B 級別自動化工作流

Upstage 推出的最新開源模型 Solar Open 2，透過混合專家與混合注意力架構，讓企業能在有限的硬體預算下，順暢運行具備 100 萬 Token 上下文能力的 AI 代理，極大幅度降低自架模型與日常營運的運算成本。

企業想在自家硬體上運行大型語言模型，最常碰到的鐵板就是硬體預算不足。過去如果想讓模型處理寫程式、整理試算表甚至自動搜尋資料，往往得砸大錢買一整排頂級伺服器。最近韓國 AI 團隊 Upstage 推出的 Solar Open 2 開源模型 恰好打中了這個痛點。

這是一台擁有 2500 億（250B）參數的巨型模型，但有趣的是，它在實際運算時只會動用 150 億（15B）參數。簡單來說，技術團隊只需要兩張量化後的 NVIDIA H200 顯卡，就能在自家的伺服器裡把它順暢跑起來。對於非常注重資料隱私、不想把機密文件往外傳的團隊來說，這絕對是一個令人振奮的好消息。

單純聊天已經不夠看，自主 AI 代理成為辦公室新寵

你可能也有這種感覺，過去的大型語言模型就像一個問答機器人，你問一句他答一句。然而現在大家要的不只是對話，而是能幫忙幹活的「AI 代理」（AI Agents）。

這些 AI 代理必須自己跑去翻文件、寫程式碼、甚至呼叫外部工具來完成交辦任務。這跟簡單的問答完全是兩回事。代理在處理任務時，可能要連續執行幾十個步驟。這時候模型需要具備三項特質：

• 長任務的連續執行力
• 吃下超長文件與歷史紀錄的大胃口
• 精準理解指令並且不亂呼叫工具

只要中間有一個步驟出錯，整個後續工作就會直接毀掉。

為真實辦公場景打造，拒絕紙上談兵的訓練資料

為了讓 Solar Open 2 成為辦公室裡的即戰力，開發團隊從預訓練階段就灌入了大量的真實工作場景。這些場景涵蓋了網路搜尋、工具調用（MCP）、終端機寫程式，以及處理各種複雜的辦公文件。

你看過那些講得頭頭是道，一操作就出錯的 AI 嗎？ Upstage 團隊為了避免這個問題，專門開發了一套資料驗證機制。訓練資料裡的每一個搜尋任務或程式修改，都必須在真實環境中實際執行並通過檢驗。模型不只要給出看起來合理的答案，更要確保最終的任務結果是正確無誤的。

特別是在處理試算表公式、跨文件比對資訊這類日常工作中，這款模型展現了相當紮實的執行力。

250B 巨無霸卻只要 15B 運算量？MoE 架構的省電秘密

為什麼一個 250B 規模的模型可以跑得這麼輕快？秘密就在於混合專家架構（MoE）。

你可以把 Solar Open 2 想像成一家擁有 320 位專業顧問和 1 位全能總管的大型公司。當遇到特定問題時，路由機制只會挑選最合適的 8 位專家加上 1 位總管出來開會處理，其他人則繼續休息。

當 AI 代理需要頻繁呼叫模型時，每次生成文字的成本直接決定了產品的營運費用。因為每次運算只會用到約 15B 的參數，它既保有巨型模型的知識豐富度，又大幅降低了每一次 Token 生成時的計算負擔。這對需要精打細算營運成本的企業而言，可說是兼顧效能與省錢的好方法。

吞下 100 萬字大文章也不卡死，混合注意力機字的妙用

處理大型專案時，模型如果記憶力不夠大，看後面忘前面，那就糟糕了。Solar Open 2 直接支援高達 100 萬（1M）Token 的上下文長度。

為了支援這麼長的記憶容量又不把顯存吃光，它用了很聰明的混合注意力架構。在全部 48 層網絡中，只有四分之一使用傳統的 Softmax 注意力，其餘四分之三全採用線性注意力（Linear Attention）。

傳統模型處理長文本時，記憶體需求會像滾雪球一樣越來越大。但是線性注意力層能把序列資訊固定在特定大小的狀態中，直接把顯存負擔砍掉了 75%。此外，模型還取消了傳統的位置編碼（NoPE），這讓它在面對超出訓練長度的超級長文時，依然能夠維持極佳的上下文理解力與邏輯連貫性。

不靠硬碰硬，選擇性權重轉移讓訓練省時又省力

訓練一個 250B 規模的模型通常需要耗費天文數字般的算力。 Upstage 團隊這次展現了精妙的工程巧思，開發出「選擇性權重轉移」（Selective Weight Transfer）技術。

他們沒有從零開始隨機初始化所有參數，而是從上一代的 Solar Open 100B 模型中，挑選出可以延用至新架構的核心權重作為基礎。

實測數據顯示，採用這種轉移技術的模型，只需要大約 120 億（12B）個 Token 的訓練量就能達到預定目標。相較之下，從零開始訓練的模型則需要 220 億（22B）個 Token。這意味著他們只花了 58% 的訓練資料量就達到了同樣的效果，大幅縮短了研發週期。

實測表現大公開，用三分之一的運算量挑戰巨型模型

口說無憑，到底這款模型的實際表現如何？在多項業界標準評測中，Solar Open 2 展現了極高的競爭力。

在知識推理測驗 MMLU-Pro 中獲得 86.2 分，在程式碼編寫測驗 LiveCodeBench 更是拿到 92.4 的高分。更令人驚豔的是在韓國辦公實務評測 Ko-GDPval 上，該測試模擬了律師、會計師等 58 種專業職務的真實工作成果，Solar Open 2 取得了 86.8 的高分，幾乎追平了體積比它大上 6 倍的 DeepSeek-V4-Pro（86.9 分）。

這裡最核心的關鍵在於： DeepSeek-V4-Pro 每次運算需要啟動約 49B 的參數，而 Solar Open 2 只需要 15B。用三分之一的計算資源就能達到同等的工作品質，營運成本的差距不言而喻。

** 圖片來源: https://www.upstage.ai/blog/en/solar-open-2 *

常見問題快速解答

• 我們可以在完全斷網的私有雲環境部署這款模型嗎？
  完全可以。這正是開源權重最大的好處，企業機密資料完全不需要離開公司內部網路。

• 部署 Solar Open 2 需要什麼等級的硬體配置？
  如果是量化版本，最少只需要 2 張 NVIDIA H200 GPU 就能順暢運行。若要運行標準精度並支援全量 100 萬 Token 上下文，則建議配置 4 到 8 張 H200 GPU。

開發團隊如何手刀開始？硬體部署與工具無縫對接

如果你迫不及待想嘗試這款模型，Upstage 已經將模型權重完整上架至 Hugging Face 平台，並允許商業用途使用。

在軟體生態方面，它對現有的熱門工具支援相當完善。你可以直接透過 vLLM 伺服器進行部署，它提供的 API 接口可完美相容 OpenAI 與 Anthropic 的規格。這代表你可以直接把 Claude Code 或是 Hermes Agent 等高階代理工具的後端，輕鬆切換成 Solar Open 2。

如果你只是想先體驗看看，也可以直接上 Upstage Playground 進行線上測試。對於正在尋找高性價比、安全可靠 AI 代理方案的團隊來說，這無疑是一個值得評估的強勢選擇。