Breeze TTS 2:語音合成的新選擇
當電腦學會嘆氣或清嗓子,人機對話的感覺就完全不同了。過去的語音合成技術大多語氣平淡,Breeze TTS 2 則試圖改變這一點。這款於 2026 年 8 月 25 日甫釋出的 3B(30億參數)語音合成模型,支援中英文雙語,讓文字轉語音不只是朗讀,還能帶有情緒與生命力。
什麼是 Breeze TTS 2?
這是一個專為即時互動開發的語音合成模型。在權威 AI 評測機構 Artificial Analysis 的 TTS 競技場(Speech Arena)最新數據中,它成功登頂開放權重(Open-weight)模型榜首,在表現力與音質上甚至超越眾多知名的開源與商業系統。
除了語音複製,它的語音設計(Voice Design)與語音引導(Voice Direction)能力是開發者的亮點。相較於傳統系統,它具備強大的自然語言指令遵循能力。你可以直接用自然語言引導模型,或在無參考音訊的情況下進行語音設計(例如輸入描述「一位溫柔自信的年輕女性,聲音清晰,語氣親切,表達輕快而富有感染力」),模型就能根據文字描述刻畫出對應的音色與語調。
Artificial Analysis 評測數據與其他 TTS 模型對比
根據 Artificial Analysis 的最新評測結果,Breeze TTS 2 在開放權重 TTS 模型領域展現了頂尖的性能實力:
1. 原生音色排行榜 (Provider Voices Leaderboard)
在測試各家模型原生音色表現的排行榜中,Breeze TTS 2 以 1215 Elo 分數高居開放權重模型第一名:
| 排名 | 模型名稱 | 團隊 / 機構 | Elo 分數 |
|---|---|---|---|
| 1 | Breeze TTS 2 | BreezeBlue | 1215 |
| 2 | Fish Audio S2 Pro | Fish Audio | 1125 |
| 3 | Step Audio EditX | StepFun | 1102 |
| 4 | Voxtral TTS | Mistral | 1082 |
| 5-6 | Magpie-Multilingual 357M | NVIDIA | 1066 |
| 5-6 | Kokoro 82M v1.0 | Kokoro | 1060 |
| 7-8 | Maya1 | Maya Research | 1045 |
| 7-8 | Higgs Audio V3 TTS | Boson AI | 1042 |
| 9 | Chatterbox | Resemble AI | 1020 |
| 11 | Zonos-v0.1 | Zyphra | 1000 |
| 12 | VibeVoice 7B | Microsoft | 969 |
| 13 | OpenVoice v2 | OpenVoice | 954 |
| 14-15 | XTTS v2 | Coqui | 920 |
數據分析亮點:
- 大幅領先對手:Breeze TTS 2 的 Elo 分數比第二名的 Fish Audio S2 Pro(1125 分)高出 90 分,形成了顯著的分數差距。
- 遠超經典開源模型:相較於廣為人知的 XTTS v2(920 分)與 OpenVoice v2(954 分),Breeze TTS 2 在自然度與聽感上取得了跨世代的突破。
2. 受控音色克隆排行榜 (Controlled Voices Leaderboard)
在統一使用 8 個相同複製音色(4 個美音、4 個英音)的基準測試中,Breeze TTS 2 同樣表現優異:
- 開放權重排名第 3:Breeze TTS 2 獲得 1002 Elo 分數,與 Fish Audio S2 Pro(1002 分)並列,僅落後領先的 Mistral Voxtral TTS(1010 分)8 分。
- 全榜排名第 16:在包含所有封閉源商業 API 與開源模型的總榜 39 個模型中名列第 16 位,展現出極強的音色複製能力。
主要技術特色
1. 內建語音事件 (Vocal Events)
這能有效增加語音的真實感。透過在文本中加入特定標籤,你可以讓合成語音自動加入呼吸、笑聲、咳嗽或清嗓子等聲音,並將這些情緒完美編織進音訊中。 需要特別注意的是,語音事件的標籤語法會因語言而異:
- 英文文本: 使用圓括號
(),例如(laugh)、(cough)、(clears throat)、(sigh)。 - 中文文本: 使用方括號
[],例如[笑]、[咳嗽]、[清嗓子]、[嘆氣]。
2. 雙語支援與語音設計
該模型同時支援中文與英文。它不需要參考音檔就能生成獨特聲音——只要輸入描述(如「聲音溫暖且自信的女性」),並搭配 --cfg-scale 4 參數來強化模型對指令的遵循度,模型就能完美呈現對應的音色。
3. 低延遲與串流效能
對於即時互動應用,延遲至關重要。根據測試,Breeze TTS 2 在 NVIDIA H100 GPU 上:
- 超低首字延遲 (TTFA): 在啟用極速預熱路徑下,首字生成延遲可低於 40 毫秒 (ms)。
- 即時串流 (Streaming): 實時率 (RTF) 達到 0.32,意即能以約 3.1 倍的實時速度快速串流生成音訊(生成 24 kHz 單聲道 16-bit PCM 音訊)。
開發與使用
若手邊有 NVIDIA GPU,安裝過程如下:
- 需求: Linux 環境、Python 3.10 以上版本,以及支援 CUDA 的 NVIDIA GPU(基本推理約需 7.7 GiB 顯存,啟用極速模式需 14.4 GiB 顯存)。
- 安裝: 透過 Git 克隆 Breeze TTS 官方程式碼庫 後安裝依賴套件即可:
git clone https://github.com/breezeblue-ai/breeze-tts.git cd breeze-tts python -m pip install -r requirements.txt - 入門(語音複製 Voice Clone): 提供一段乾淨的參考音檔(Reference Audio)及其準確的文字稿(Reference Text),模型即可捕捉該音色的音色、節奏、情緒與語調。
開發者亦可啟動單並發串流 API,並透過 curl 指令發送 API 請求,實現極低延遲的即時語音生成。
常見問題
誰可以使用?(授權條款)
Breeze TTS 2 採取雙重授權機制:
- 原始碼: 採用寬鬆的 Apache 2.0 授權。
- 模型權重、檢查點及衍生模型: 採用 BreezeBlue 研究與非商業用途授權 (BreezeBlue Research and Non-Commercial License)。商業應用需另行取得 RESONIA, INC. 的書面授權,可聯繫官方信箱:[[email protected]]。
硬體要求為何?
- 基本推理模式 (Eager Inference): 約需 7.7 GiB 顯存,建議配備至少 12GB 顯存 的 GPU。
- 極速編譯模式 (Fast Path): 若要透過
--fast-all參數啟用全圖編譯與 CUDA Graph 加速以追求極速,顯存約需 14.4 GiB,建議配備 24GB 顯存 的顯示卡(例如 NVIDIA H100 或 A100,預設支援 H100,A100 可在編譯時設定FLASH_ATTN_CUDA_ARCHS=80)。
法律與社會責任?
使用者必須對生成的內容負責。未經授權的語音複製、身分冒用、詐欺以及其他非法或有害用途均被嚴格禁止。
結語
Breeze TTS 2 讓語音技術在情緒控制上更具彈性,對於開發虛擬助理或遊戲語音的應用場景相當實用。欲線上體驗,可造訪 Hugging Face Space 線上 Demo;欲進一步下載模型或進行本地測試,可前往 Hugging Face 官方模型頁面 體驗。
