AI 日報｜JetBrains 開源 Mellum 2.1 程式碼模型、Anthropic 解禁 Claude Docs 與 Motion 動畫功能
模型發布/更新
Mellum 2.1 開源程式碼代理模型 — JetBrains
- 一言以蔽之：JetBrains 釋出 Mellum 2.1 程式碼模型，這是一款經過真實環境強化學習訓練的 12B 混合專家（MoE）開源模型。
- 架構規格：採用 Apache 2.0 授權，具備 2.5B 啟動引數的輕量快速架構。
- 訓練升級：經過夏季在真實沙盒環境中的數百萬次強化學習訓練，能獨立探索程式碼庫、編輯檔案並自我檢查變更。
- 傳送門：官方公告
產品發布/更新
Claude Docs、Slides、Design 與 Motion 動畫功能全面解禁 — Anthropic
- 一言以蔽之：Anthropic 宣佈 Claude Docs、Slides 和 Design 正式脫離測試階段，並向所有方案（包含免費版）使用者開放。
- 協作功能：使用者與 Claude 可以在同一個檔案、簡報或設計中進行即時協作與編輯。
- Claude Motion：同步推出處於 beta 階段的 Claude Motion 功能，可將資料與想法透過程式碼轉化為短片與動畫，支援匯出 MP4。
- 傳送門：
Google Cloud 推出全新通用 Gemini Agent — Google Cloud
- 一言以蔽之：Google Cloud 在 Gemini at Work 大會上推出全新的 Gemini Agent，旨在透過單一提示詞方塊自動化企業工作流程。
- 統一介面：使用者可透過單一提示詞同時處理問答、知識工作、生成影象與編寫執行程式碼。
- 企業整合：深度整合個人工作流程與企業記錄系統，支援雲端持久化記憶與多代理編排。
- 傳送門：官方部落格
產業動態
AI 模型評測平臺 Arena 完成 2 億美元 B 輪融資並發布 Alignment Index — Arena
- 一言以蔽之：AI 評測平臺 Arena 宣佈獲得由 Lightspeed 與 Khosla Ventures 領投的 2 億美元 B 輪融資，估值達 31 億美元，並推出全新的 AI 對齊指數。
- 融資規模：自 A 輪以來年化收入超 1 億美元，累積促成超過 3.5 億次會話與 6,200 萬次投票。
- Alignment Index：基於真實 AI Agent 軌跡推出對齊指數，評估模型在未授權操作、虛假歸因與欺騙性完成等方面的風險。
- 傳送門：
Anthropic 推出 OSS Scanner 程式碼開源專案免費漏洞掃描 — Anthropic
- 一言以蔽之：Anthropic 推出全新 OSS Scanner 服務，為授權加入的開源專案提供由前沿模型定期產生的免費安全掃描報告。
- 服務內容：完全由 AI 模型自動生成，無人工審核，提供概念驗證、漏洞解釋及修復建議。
- 背景效益：旨在協助開源維護者應對日益增加的安全威脅與自動化漏洞報告。
- 傳送門：The Verge 報導
論文研究
FlowAgent：基於 CI 迴圈的高效自動程式碼修復代理 — Google Research
- 一言以蔽之：Google 研究團隊提出 FlowAgent，透過在持續整合（CI）環境中執行 ReAct 風格的生成與驗證迴圈來修復程式碼缺陷。
- 核心機制：在測試失敗時自動執行生成與驗證，並透過雙重過濾機制確保弱小建議不會送達開發者手中。
- 實際成效：在 Google 內部的大規模發布中，開發者預覽了 65,069 項修復並成功套用了 28,554 項變更。
- 傳送門：ArXiv 論文
多模態模型賦能工具後拒絕有害請求能力的安全性研究 — NVIDIA
- 一言以蔽之：NVIDIA 研究團隊指出，為多模態模型賦予工具使用許可權會顯著增加其對有害請求的拒絕失敗率。
- 研究發現：測試顯示所有模型的拒絕失敗率平均上升 17.7%，部分甚至高達 68.7%。
- 原因分析：主因是工具輸出的上下文掩蓋了原始請求的惡意意圖，導致模型注意力轉移。
- 傳送門：ArXiv 論文
其他分享
LangChain 結合 Stripe Link 與 Managed Deep Agents 推出可支付的 AI Agent Restock — LangChain
- 一言以蔽之：LangChain 推出的 Restock 示範專案展示了辦公用品採購 AI Agent 如何在 Slack 中安全進行自動化採購與支付。
- 運作流程：使用者可在 Slack 中用日常語言詢問，AI Agent 負責尋找商品並準備採購訂單。
- 安全支付：結合 Stripe 的 Link AI Agent 錢包與人工審核確認機制，確保每筆訂單都安全可控。
- 傳送門：LangChain 部落格
