VibeThinker-1.5B：小さなモデルが大きな論理を動かす、AIの推論能力はもはや大手企業の専売特許ではない

AI界に新たな挑戦者が登場！Weibo AIチームが開発したVibeThinker-1.5Bモデルは、わずか15億のパラメータと極めて低い訓練コストで、その数百倍の規模を持つ巨大モデルを数々の数学およびプログラミングのベンチマークで打ち負かしました。これは、AIの未来がもはや「大きければ大きいほど良い」というわけではないことを意味するのでしょうか？本稿では、VibeThinker-1.5Bの背後にある独自の訓練方法、驚異的な性能、そしてそれがAI分野にもたらす示唆について深く探ります。

あなたも、複雑な論理推論の世界で覇権を握れるのは、何千億、あるいは何兆ものパラメータを持つ巨大なモデルだけだと思っていませんでしたか？長い間、AI分野は「モデルが大きければ大きいほど能力が高い」という暗黙のルールに従っているように見えました。しかし、Weibo AIチームが最近オープンソース化したVibeThinker-1.5Bモデルは、驚くべき方法でこの「常識」に挑戦状を叩きつけました。

このモデルはわずか15億のパラメータしか持たず、訓練コストも7,800ドルと非常に低いにもかかわらず、多くの高難易度の数学およびプログラミングコンテストのベンチマークで、GPT OSS-20B Mediumなどの大規模モデルに匹敵し、一部の巨大モデルを超える推論能力を示しました。これは一体どのようにして成し遂げられたのでしょうか？

小さな巨人の大きな力：VibeThinker-1.5Bの驚異的なパフォーマンス

まず、VibeThinker-1.5Bの「戦績」を見てみましょう。AIME24、AIME25、HMMT25という3つの主要な数学ベンチマークにおいて、そのスコアはパラメータ規模が400倍以上もあるDeepSeek R1モデルを全面的に上回りました。具体的には：

• AIME24: 80.3 vs. 79.8
• AIME25: 74.4 vs. 70.0
• HMMT25: 50.4 vs. 41.7

このような成績は単なる数字上の勝利ではありません。さらに重要なのは、小規模なモデルでも、綿密に設計・訓練されれば、複雑な論理推論タスクで巨大モデルと互角に渡り合えるポテンシャルを十分に持っていることを証明した点です。さらに印象的なのは、VibeThinker-1.5Bの基礎モデルはこれらのテストで非常に低いスコアしか記録しておらず、その優れたパフォーマンスが偶然ではなく、独自の訓練方法の直接的な成果であることを示しています。

数学的推論に加えて、VibeThinker-1.5Bはコード生成においても同様に優れています。現実世界のプログラミング能力を評価するテストであるLiveCodeBench V6では、51.1というスコアでMagistral Mediumの50.3点をわずかに上回り、その強力な推論性能を改めて浮き彫りにしました。

成功の秘訣：「スペクトルからシグナルへ」の原則

では、VibeThinker-1.5Bは限られたリソースでどのようにしてこれほど卓越したパフォーマンスを実現したのでしょうか？その答えは、革新的なポストトレーニング手法である「スペクトルからシグナルへの原則」（Spectrum-to-Signal Principle, SSP）にあります。

この原則は少し抽象的に聞こえるかもしれませんが、その核心的な考え方は実は非常に直感的です。従来のモデル訓練方法は、一方通行の道を走る車のように、方向は明確ですが他の可能性を見逃しがちです。一方、SSPフレームワークは異なり、訓練プロセスを主に2つの段階に分けます。

1. スペクトル段階 (Spectrum Phase)： 教師ありファインチューニング（SFT）の段階で、モデルは「2段階多様性探索蒸留」技術を採用します。簡単に言うと、モデルに単一の正解を見つけるだけでなく、さまざまな問題解決のアプローチや解決策を探求するように促します。これは、学生が問題を解く際に、答えを書くだけでなく、複数の異なる解法を試すことで思考を広げ、広範な解決策の「スペクトル」を形成するようなものです。

2. シグナル段階 (Signal Phase)： 次に、強化学習（RL）の段階で、モデルは「最大エントロピー誘導ポリシー最適化」（MaxEnt-Guided Policy Optimization, MGPO）フレームワークを利用します。この段階の目標は、前に生成された多様な解決策の中から、最も正確で効率的な「シグナル」を強化することです。モデルは、まだ確信が持てない問題に特に注意を払い、不確実性の中から効率的に学習し、最終的に最適な問題解決戦略を特定します。

これら2つの段階を体系的に統合することで、VibeThinker-1.5Bは「多様性」をその核心的な設計原則として確立し、小さなサイズを維持しながら、従来の訓練パラダイムを超える強力で堅牢な推論能力を発展させることができました。

これはAIの未来にとって何を意味するのか？

VibeThinker-1.5Bの登場は、単なる技術的なブレークスルーではありません。それはAI研究および応用分野全体に深い示唆をもたらします。

第一に、「パラメータ至上主義」の考え方に力強く挑戦しています。長い間、業界ではモデルの能力を向上させる鍵はパラメータ規模を拡大し続けることだと広く考えられてきました。しかし、VibeThinker-1.5Bの成功は、革新的な訓練アーキテクチャと最適化戦略が、パラメータ規模の不足を大幅に補い、「小が大を制す」ことを実現できると証明しました。

第二に、これにより高度なAI研究への参入障壁が大幅に下がります。巨大モデルの訓練と推論コストは非常に高額で、しばしば巨大テック企業しか負担できません。VibeThinker-1.5Bは、8000ドル未満の訓練コストで世界クラスの性能を達成しました。これは間違いなくAI技術の普及を促進し、より多くの中小企業、スタートアップ、独立した研究者が最先端のAI開発に参加できるようになるでしょう。

VibeThinker-1.5Bを使い始めるには？

このモデルに興味があるなら、朗報です。Weibo AIチームは、VibeThinker-1.5Bのモデルの重みと技術報告書をHugging FaceとGithubでオープンソース化しています。自分でモデルをダウンロードし、自分のプロジェクトでテストすることができます。

公式の推奨によると、このモデルは特にコンテスト形式の数学やプログラミングの問題を解決するのに適しています。最良の結果を得るためには、推論時に以下のパラメータ設定を行うことが推奨されます。

• temperature: 0.6 または 1.0
• max_token_length: 40960
• top_p: 0.95
• top_k: -1

結論：小規模モデルの春は来たか？

VibeThinker-1.5Bの登場は、AI分野に新鮮な空気を吹き込んだかのようです。それは、計算能力とパラメータを積み重ねるだけでなく、より賢いアルゴリズムとアーキテクチャ設計を通じてAIの可能性を引き出すことができることを示してくれました。

もちろん、これは大規模モデルが歴史の舞台から姿を消すことを意味するわけではありません。しかし、多くの特定の分野、特に効率的な推論能力が求められるシナリオでは、VibeThinker-1.5Bのような「小さくても美しい」「小さくても精巧な」モデルが、ますます重要な役割を果たすことになるでしょう。おそらく、これこそがAIが成熟し、普及するための必然的な道筋なのかもしれません。