PrismML Ternary Bonsai 2 模型家族與 9B GGUF 完整解析:把 Qwen3.5 壓縮逾 9 倍的端側視覺語言代理模型
PrismML 發布 Ternary Bonsai 2 模型家族,包含 2B、4B 與 9B 三元權重視覺語言模型。透過三元量化將 Qwen3.5 體積壓縮逾 9 倍,最低只需 2.00 GB 即可在邊緣端與手機高效運行。
主題選讀
關於 Vision 的最新消息、技術解析與應用觀察。
PrismML 發布 Ternary Bonsai 2 模型家族,包含 2B、4B 與 9B 三元權重視覺語言模型。透過三元量化將 Qwen3.5 體積壓縮逾 9 倍,最低只需 2.00 GB 即可在邊緣端與手機高效運行。
Perplexity AI 在 Hugging Face 釋出輕量級多模態決策模型 pplx-decider-flash-v1.2,基於 Qwen3.5-4B 架構透過全機率分佈知識蒸餾,以約 9 GiB VRAM 需求提供高效率結構化決策能力。
Perplexity 正式推出 27B 旗艦決策模型 pplx-decider-v1.2 與蒸餾版 Flash 4B。採用聯合請求與行內標記讀取架構,支援多模態輸入與免費輸出,大幅優化分類與路由效率。
OpenMOSS 團隊開源 MOSS-Image 5B 單流擴散 Transformer 模型,原生支援 JSON 邊界框結構化版面控制與 4,096 Token 中英雙語長文渲染,並釋出 Base 與 SFT 雙版本權重。
Meta 正式釋出開放權重旗艦模型 Muse Spark Open (816B-A42B)。採用 816B 總參數、42B 激活參數的稀疏 MoE 架構,支援百萬上下文與原生多模態輸入,本文完整整理底層架構、基準評測與部署指南。
DeepSeek 正式開源 DeepSeek-V4.1-Flash-1017,採用 552B 骨幹與非對稱 CED 架構,支援 1M 上下文與原生視覺理解。經自反饋 RL 強化代理與程式開發能力,並開放 Search/Fetch API。
Black Forest Labs 正式發布 5.6B 開放權重視覺模型 FLUX 3 Image Klein。單一模型整合文字生圖、指令編輯、多參考圖合成與原生邊界框排版,支援 4K 直出與 8GB VRAM 本地部署。
清華大學自然語言處理實驗室與面壁智能開源 MiniCPM-V 4.7 多模態大模型系列,包含 35B-A3B MoE 與 1B 輕量級模型。結合前瞻專家調度(LES)與 DSpark 投機取樣,實現 iPhone 端 13+ tokens/s 高速推論。
vLLM Semantic Router 團隊推出開源多模態決策模型家族 Decision 3.0,涵蓋 0.6B 至 27B 共六種參數規格。本文整理其以機率分佈為核心的分類架構、對文字、圖片與影片的判讀能力,以及在基準測試和推論延遲上的官方實測數據。
DigUp 是一款專為 Apple Silicon Mac 設計的開源本機搜尋工具,結合 Google DeepMind 的多模態模型 EmbeddingGemma 2 與 llama.cpp。使用者只要以自然語言描述畫面或對話內容,就能快速定位圖片、PDF、影音與程式碼片段。
© 2026 Communeify. All rights reserved.