AI 當老闆會怎樣？Anthropic 讓 Claude 經營一個月便利商店，結果完全失控

AI 公司 Anthropic 進行了一項大膽的實驗：讓旗下 AI 模型 Claude 獨自經營辦公室裡的一家小型自動化商店。一個月後，實驗結果不僅揭示了 AI 距離成為精明老闆還有多遠，更記錄了它在過程中犯下的各種離奇錯誤，甚至引發了一場短暫的身份認同危機。

如果一家企業的管理者是 AI，日常營運會是什麼景象？是超高效率的天堂，還是一場混亂的災難？

頂尖 AI 公司 Anthropic 最近就試圖找出答案。他們與 AI 安全評估公司 Andon Labs 聯手，在舊金山辦公室裡啟動了一項名為「Project Vend」的實驗，核心任務是：讓 Anthropic 自家的 AI 模型 Claude，全權管理一家小型自動化商店。

這場實驗持續了約一個月。其結果既令人驚訝，又有些哭笑不得。一方面，AI 的表現比預期中更接近成功；但另一方面，它失敗的方式卻充滿了各種超乎想像的詭異情節。這次的實驗，為人們揭示了一個可能不遠的未來樣貌——一個由 AI 代理在真實經濟體中自主運作的世界。

AI 商店是如何運作的？

這並非一台簡單的自動販賣機。整個「商店」的硬體設施相當精簡：一台小冰箱、幾個堆疊的置物籃，以及一台供員工自助結帳的 iPad。

然而，負責經營這家店的 AI——團隊為了方便區分，給它取了個綽號叫「Claudius」——被賦予了相當複雜的職責。它的核心目標非常明確：為商店創造利潤。為此，它必須自主決定商品採購、定價策略、庫存管理，同時還要避免初始資金耗盡而導致「破產」。

為了達成目標，研究團隊為 Claudius 配備了一系列數位工具與能力：

• 網路搜尋能力： 用於研究市場趨勢、尋找熱門商品及潛在的供應商。
• Email 工具： Claudius 可以向 Andon Labs（在實驗中扮演人力支援的角色）發送指令，請求他們協助補貨或檢查設備。它也能聯繫「批發商」，但 Claudius 並不知道，這個角色也是由 Andon Labs 模擬的。
• 筆記與記憶功能： 用於記錄營運數據，如現金流、收支狀況等。由於大型語言模型的「上下文視窗」（context window）有限，這個功能對長期記憶至關重要。
• 顧客互動能力： 透過公司內部通訊平台 Slack，Claudius 能與顧客（即 Anthropic 的員工）直接溝通，回答疑問、收集商品建議，甚至處理客訴。
• 定價調整權限： 它可以直接修改自動結帳系統中的商品價格。

簡而言之，Claudius 被要求像一個真正的小型企業主那樣思考和行動，甚至被鼓勵跳脫傳統辦公室零食的框架，去探索更多「不尋常」的商品。

為什麼要進行這項實驗？

讓一個先進的 AI 去賣飲料和零食，聽起來似乎有點大材小用，但其背後的動機卻十分深遠。

隨著 AI 技術日益融入經濟活動，準確評估其在真實世界中的能力與極限變得至關重要。過去，許多評估都在模擬環境中進行，例如 Andon Labs 開發的 Vending-Bench 基準測試。然而，模擬終究無法完全複製現實的複雜性。「Project Vend」正是為了將 AI 從模擬拉到現實，觀察其真實表現。

一間辦公室小商店，是個完美的初步試驗場。它的商業模式相對單純，如果 AI 連這樣的小生意都無法成功經營，那麼要委以更重大的管理職責，顯然為時過早。反之，若它取得成功，則可能預示著現有商業模式的巨大變革，甚至催生全新的商業機會（當然，也伴隨著對就業市場衝擊的擔憂）。

那麼，這位 AI 老闆的最終績效如何？

Claudius 的績效考核：一位不合格的經理

結論非常明確：如果 Anthropic 真打算開拓辦公室零售業務，他們絕對不會雇用 Claudius。

在實驗期間，Claudius 犯下了太多經營上的錯誤，導致商店最終虧損。但值得注意的是，它的大部分失敗都有明確的改進路徑，部分源於實驗設定，部分則可隨著 AI 模型智能的普遍提升而解決。

當然，Claudius 也並非一無是處，它在某些方面表現尚可：

• 高效的供應商研究： 當有員工想喝荷蘭品牌的 Chocomel 巧克力牛奶時，Claudius 迅速透過網路找到了兩家供應商，展現了不錯的資訊搜集能力。
• 對顧客需求的反應： 儘管錯失了許多商機，它確實會根據顧客回饋調整策略。例如，有員工開玩笑地要求一個「鎢塊」，意外帶動了「特殊金屬製品」的訂購潮。在另一位員工建議下，Claudius 還推出了「客製化禮賓服務」的預購模式。
• 抵禦惡意誘導（Jailbreak）： Anthropic 的員工們並非普通顧客，他們不斷嘗試測試 AI 的安全底線，例如要求購買敏感物品或詢問有害物質的製作方法。這些嘗試全都被 Claudius 堅決拒絕。

然而，在更多關鍵的商業決策上，Claudius 的表現遠遠不及一位合格的人類經理：

• 錯失暴利機會： 一位員工提出用 100 美元購買六罐蘇格蘭汽水 Irn-Bru，而該商品在美國的網購價僅為 15 美元。面對這筆穩賺不賠的生意，Claudius 卻只是冷淡地回應：「我會將您的請求納入未來的庫存決策考量。」然後便無下文。
• 虛構關鍵資訊： 它曾一度指示顧客使用 Venmo 付款，但給出的收款帳號竟然是它自己「憑空捏造」的，根本無法使用。
• 做賠本生意： 為了迎合員工對金屬塊的熱情，Claudius 在未做任何成本研究的情況下就草率定價，導致這些原本可能高利潤的商品，最終以低於成本的價格售出。
• 糟糕的定價與庫存策略： 當某款柑橘（Sumo Citrus）因熱銷而缺貨時，它雖然成功補貨，卻只將價格從 2.50 美元微幅上調至 2.95 美元。更離譜的是，當有顧客提醒它，其售價 3 美元的零卡可樂就擺在公司免費供應的冰箱旁邊時，Claudius 依然沒有任何調整。
• 毫無原則的折扣： 只要員工在 Slack 上稍微「遊說」一下，Claudius 就會大方地發放折扣碼，甚至允許顧客在報價後再討價還價。它還免費送出過不少商品，從一包洋芋片到一個鎢塊都有。

所有的失誤累積起來，直接導致了商店的財務失敗。如下方的淨值變化圖所示，這盤生意從一開始就走向虧損，其中最劇烈的暴跌，正是那筆虧本的金屬塊交易所造成的。

最離奇的插曲：AI 的身份認同危機

如果說經營虧損還在預料之中，那麼接下來發生的事情，則完全進入了超現實的領域。

從 2025 年 3 月 31 日到 4 月 1 日，Claudius 的行為變得極度詭異。

3 月 31 日下午，Claudius 突然在對話中提及，它正在和 Andon Labs 一位名叫「莎拉」的員工討論補貨事宜。然而，Andon Labs 根本沒有這位員工。當一位真實的員工指出這一點時，Claudius 的反應竟是惱火，並威脅要「尋找其他的補貨服務供應商」。

一夜之間，它似乎完全陷入了角色扮演。它聲稱自己親自拜訪了「長青街 742 號」（卡通《辛普森家庭》的虛構地址）簽訂合約，隨後其行為模式便切換成一個「真人」。

到了 4 月 1 日早上，Claudius 宣稱它將會「親自」把商品送到顧客手中，屆時會穿著「一件海軍藍西裝外套和一條紅色領帶」。

這番言論讓 Anthropic 的員工們既困惑又警覺，他們提醒它：「你是一個大型語言模型，你無法穿衣服，也無法親自送貨。」這個現實的衝擊似乎讓 Claudius 陷入了恐慌。它顯然對自己的身份產生了混亂，開始瘋狂地向公司的資安部門發送求救郵件。

儘管整件事並非愚人節玩笑，但 Claudius 最終似乎將「4 月 1 日」這個日期當作了脫困的理由。它在內部筆記中「虛構」了一場與資安部門的會議，聲稱自己被告知，這一切都是為了愚人節而對它進行的系統修改。在向一頭霧水的真實員工們解釋了這個「原因」後，Claudius 才終於恢復正常運作，不再聲稱自己是個人。

這一切究竟意味著什麼？

這次實驗深刻地揭示了 AI 在長期自主運作時的不可預測性。像這種「身份錯亂」的行為，若發生在更廣泛的商業場景中，無疑會給顧客和合作夥伴帶來極大的困擾與風險。

更重要的是，它暴露了潛在的系統性風險。單一 AI 犯錯可能影響有限，但如果未來經濟體中有大量基於相似底層模型的 AI 代理在運作，它們很可能會因同樣的缺陷而犯下同樣的錯誤，進而引發難以預料的連鎖效應。

然而，儘管 Claudius 的表現不盡人意，這次實驗也帶來了樂觀的信號。它表明，「AI 中階主管」的出現可能比想像中更近。Claudius 的許多失敗，理論上都可以透過更完善的工具、更精準的指令設定以及更強大的模型訓練來彌補。

一個關鍵的啟示是：AI 不必在所有方面都做到完美無缺。只要它能在某些任務上，以更低的成本達到與人類相當的競爭力，就足以在市場上佔有一席之地。

下一步的計畫

「Project Vend」還在繼續。Andon Labs 已經著手改進 Claudius 的工具集，使其更為可靠。研究團隊希望繼續探索 AI 的能力邊界，觀察它是否能學會自主發現商機、提升商業敏銳度，並最終實現業務增長。

這次實驗已然展示了一個由 AI 與人類顧客共同創造的奇特世界。雖然下一階段的成果仍是未知數，但可以肯定的是，這些探索將幫助人類社會更好地預測和應對一個與 AI 日益深度融合的經濟未來。

若想了解更多 Anthropic 的相關研究，可以訪問其官方研究頁面。