テンセント混元が再び！ノートPCやスマホでも動く軽量AIモデル4種をオープンソース化

投稿日: 2025-08-04 • 更新日: 2025-08-04 • 1 分で読めます

テンセント混元チームが再びAIコミュニティを震撼させ、0.5Bから7Bまでの小型モデル4種を正式にオープンソース化しました。これらのモデルはコンシューマー向けハードウェア向けに設計されており、驚異的な256kの長文処理能力と強力なエージェント機能を備え、高性能AIがもはやクラウドの巨人だけの専売特許ではないことを示します。あなたのノートPCやスマホも、賢いAI頭脳を持つことができます。

大規模言語モデルがどれほど強力な計算資源を必要とするかについて、誰もがまだ議論している最中、テンセント混元チームは静かに爆弾を投下し、0.5B、1.8B、4B、7Bのパラメータ規模をカバーする4つの新しい小型モデルのオープンソース化を発表しました。

これは単なるモデルの縮小ではなく、綿密に計画されたAI普及活動です。これは、強力な人工知能がもはや遠いクラウドサーバーの部屋に存在するだけでなく、私たちの日常生活に真に入り込み、ノートパソコン、携帯電話、スマートコックピット、さらにはスマート家電でスムーズに動作できることを意味します。

単に小さいだけでなく、「エッジ」のために生まれたスマートコア

「エッジAI」という言葉を聞いたことがあるかもしれません。少し専門的に聞こえますが、概念は実は非常にシンプルです。つまり、データをクラウドに送ってから返すのではなく、AIがデバイス上で直接計算を行うということです。その利点は明らかです。応答が速く、プライバシーがより保護されます。

テンセントが今回発表した4つのモデルは、まさにこのトレンドのために生まれました。これらは特別に設計され、コンシューマー向けのグラフィックカードに最適化されており、消費電力が低いため、リソースが限られたデバイスへの展開に非常に適しています。

さらに重要なことに、このプロジェクトはすでにArm、Qualcomm、Intel、MediaTekなどの世界のトップチップメーカーから支持を得ています。これは何を意味するのでしょうか？それは、これらのモデルが設計当初から私たちの日常のデバイスのハードウェアとの互換性を考慮しており、さまざまなプラットフォームで効果的に性能を発揮できることを保証しているということです。

速い思考と遅い思考、1つのモデルで2つの賢さ

今回の混元モデルで最も興味深い点の一つは、いわゆる「ハイブリッド推論モデル」をサポートしていることです。これにより、モデルは私たち人間のように2つの思考モードを持つことができます。

速い思考モード： 素早く簡潔な答えが必要な場合、すぐに効率的な応答を返します。「このテキストを英語に翻訳して？」と尋ねると、すぐに結果を教えてくれ、余計なことは言いません。
遅い思考モード： 「予算と交通手段の提案を含めて、5日間の東京旅行を計画して」といった複雑な問題に直面した場合、モデルはより深い推論モードを起動し、問題を段階的に分解して、より包括的で整理された答えを提供します。

この柔軟な設計により、開発者はアプリケーションのシナリオに応じて自由に選択でき、迅速な反応が必要なリアルタイムアシスタントであれ、深い思考が必要な分析ツールであれ、最適な動作モードを見つけることができます。

数字が物語る：実測データが実力を証明

もちろん、「速い思考と遅い思考」という概念は素晴らしい響きですが、これらのモデルはプレッシャーの下で実際にどのように機能するのでしょうか？テンセントが公式に発表したベンチマークテストの成績がその答えを示しています。言語理解（MMLU）、数学的推論（GSM8K、MATH）、複雑なタスクの分解（BBH）など、業界で認められた複数の評価セットにおいて、混元シリーズの小型モデルは、そのサイズに見合わない強力な実力を示しました。

上のグラフから明らかなように、モデルのパラメータが0.5B（水色）から1.8B（青）へ、そして4B（紺色）へと増加するにつれて、各種評価におけるスコアは顕著かつ安定して向上しています。

いくつかの重要な指標を見てみましょう。

総合的な知識と能力を試すMMLU評価では、4Bモデルは74.0点を達成しました。
数学の文章問題解決能力を試すGSM8Kでは、4Bモデルはさらに印象的な87.5点を獲得しました。
そして、より挑戦的な数学的推論評価であるMATHでも、4Bモデルは72.3点を獲得しました。

これらのデータは、混元モデルのアーキテクチャの優位性とトレーニング戦略の有効性を証明しています。小型モデルであっても、中核的な能力において多くの大規模モデルに匹敵することができます。

写真のような記憶力？256kの長文ウィンドウの驚異的な実力

AIとチャットしていて、数文話しただけで前に言ったことを忘れられてしまったという悔しい経験を覚えていますか？テンセント混元の小型モデルは、この問題を完全に解決しました。

これらはネイティブで最大256kの超長コンテキストウィンドウをサポートしています。

256kとはどういう意味でしょうか？これは、モデルが一度に40万字の漢字または50万語の英単語の内容を読み込んで記憶できることを意味します。例えるなら、『ハリー・ポッター』の小説を3冊一気に読み終え、登場人物の関係、魔法の呪文、物語の筋書きをすべてはっきりと覚えていて、さらにはその後の展開について深く議論できるほどです！

FAQ：これらのモデルはこんなに小さいのに、性能は落ちないのですか？

それは良い質問です。上のデータからわかるように、モデルのサイズは小さくなりましたが、特定の能力においては逆に強くなっています。綿密なデータ構築と強化学習により、これらのモデルはエージェント能力において非常に優れた性能を発揮し、タスク計画、ツール呼び出し（Excelの操作など）、詳細検索、旅行ガイドの計画などの複雑なタスクをこなすことができます。超長記憶力こそが、これらの複雑なタスクを実現するための重要な基盤です。

クラウドからリビングルームへ、テンセントは自社の「ポケットロケット」モデルをどう応用しているか

理論は素晴らしいですが、実際の応用例を見てみましょう。実際、これらの「ポケットロケット」モデルは、すでにテンセントのいくつかの製品で大活躍しています。

テンセント会議AIアシスタント＆WeChat Read AIアシスタント： 256kの長文能力に依存して、AIは会議全体の録音や本一冊の内容を完全に理解し、正確な要約や質疑応答を行うことができます。
テンセントモバイルマネージャー： 携帯電話上で直接小型モデルを使用してスパムメッセージを識別し、ミリ秒レベルの遮断速度を実現し、すべての計算はローカルで行われ、ユーザーのプライバシーがアップロードされることは一切ありません。
テンセントスマートコックピットアシスタント： 消費電力と応答速度に非常に敏感な車載環境において、デュアルモデル協調アーキテクチャにより、小型モデルの低消費電力、高効率の特性を十分に活用し、スムーズな音声対話体験を提供します。

FAQ：これらのモデルを実行するには、どのようなハードウェアが必要ですか？

これが、これらのモデルの最大の利点の一つです。これらのモデルは、1枚のコンシューマー向けグラフィックカードだけで展開できるように設計されています。一部のモデルは、高性能なパソコン、携帯電話、タブレットで直接実行することもでき、AIをいじるためのハードルの高さを大幅に下げています。

開発者にとっての朗報：簡単な展開、オープンなエコシステム

開発者やAI愛好家にとって、これは間違いなく朗報です。テンセント混元モデルは強力なだけでなく、非常にオープンです。

SGLang、vLLM、TensorRT-LLMなどの主流の推論フレームワークをサポートし、複数の量子化形式もサポートしているため、展開と最適化が非常に簡単です。

さらに重要なことに、すべてのモデルとコードはGitHubとHugging Faceでオープンソース化されており、開発者は自由にダウンロード、使用、微調整することができます。

公式体験ウェブサイト： テンセント混元モデル広場
GitHubプロジェクトリンク：
Hugging Faceモデルリンク（Instruction-Tunedバージョン）：

要約すると、テンセントが今回オープンソース化した小型モデルは、技術的なブレークスルーであるだけでなく、AIの民主化と普及を促進する重要な一歩です。これらは、高性能AIが必ずしも巨大で高価なものとイコールではないことを証明しています。よりスマートで便利な未来は、私たちの身の回りにあるこれらの日常的なデバイスから始まるのかもしれません。