arXiv (NLP)AI
Gemma 4技術報告書:マルチモーダル性能を大幅強化した次世代オープンモデルファミリー
Gemma 4 Technical Report
この記事についてAIに質問する →
日本語要約青い用語にマウスを合わせると解説が表示されます
Googleが開発した新世代のオープンウェイト言語モデル「Gemma 4」が発表されました。このモデルファミリーは、計算効率と推論能力の向上を目指して設計されており、2.3Bから31Bのパラメータ規模で、密集型とMixture-of-Experts(MoE)アーキテクチャの両方が用意されています。
Gemma 4の最大の特徴は、その包括的なマルチモーダル対応能力にあります。すべてのモデルサイズに対して改善されたビジョンおよびオーディオエンコーダが搭載されており、特に12Bモデルではエンコーダレスの統一アーキテクチャを採用することで、生の音声と画像パッチを直接処理できるようになりました。さらに、「シンキングモード」と呼ばれる新機能を統合したことで、応答を生成する前に推論トレースを生成することが可能になり、より深い思考プロセスを経て回答を提供できます。
設計上の重要な選択により、推論速度、メモリ効率、計算効率が大幅に改善され、長文脈処理能力も強化されています。ベンチマークテストの結果、Gemma 4はSTEM分野、マルチモーダル処理、長文脈処理において顕著な性能向上を実現し、人間による評価タスクでも同規模やそれ以上のフロンティアモデルに匹敵する性能を発揮しています。このようにGemma 4は、オープンソースモデルの性能と実用性の新たな標準を確立した意義深いリリースとなっています。