Gemma 4 12Bは、ラップトップに直接高性能なマルチモーダルインテリジェンスをもたらすよう設計されており、モバイルファーストの効率性と高度な推論を組み合わせています。
Olivier Lacombe
Google DeepMind プロダクトマネジメント担当ディレクター
Gus Martins
Google DeepMind プロダクトマネージャー
Your browser does not support the audio element.
記事を聴く
このコンテンツは Google AI によって生成されました。生成 AI は実験段階です
[[duration]] 分
本日、私たちはラップトップに直接エージェント型のマルチモーダルインテリジェンスをもたらすよう設計された最新モデル「Gemma 4 12B」を紹介します。エッジ向けの E4B とより高度な 26B Mixture of Experts (MoE) のギャップを埋める Gemma 4 12B は、メモリ使用量を抑えつつ強力な機能を提供します。また、ネイティブの音声入力を備えた中規模モデルとしては初のモデルとなります。
開発者コミュニティのおかげで、Gemma 4 モデルは累計 1 億 5,000 万ダウンロードを突破しました。身体支援用のウェアラブルロボットアームから、エンタープライズ向け AI セキュリティまで、さまざまなものが構築されています。この最新モデルの追加で、皆さんが何を構築するのか楽しみです。
Gemma 4 12B の独自性を支えるポイントは次のとおりです。
- 新しい統一アーキテクチャ: マルチモーダルエンコーダーを使用せず、視覚入力と音声入力が直接 LLM バックボーンに流れます。
- 高度な推論: 26B モデルに迫るベンチマーク性能で、強力なマルチステップ推論やエージェント型ワークフローを実現します。
- ラップトップ対応: VRAM またはユニファイドメモリ 16GB だけでローカル実行が可能です。
- オープンで利用しやすい: Apache 2.0 ライセンスで公開されており、開発者エコシステム全体でサポートされています。
- Drafter 対応: Gemma 4 12B には、遅延を低減するための Multi-Token Prediction (MTP) drafter が搭載されています。
これらの機能により、速度や推論能力を犠牲にすることなく、高度なマルチモーダル機能を日常的なハードウェアで利用できます。では、Gemma 4 12B がどのようにしてこれを実現しているのか、詳しく見ていきましょう。
最先端のエージェントをローカルで実行
Gemma 4 12B は、標準的なベンチマークにおいて、より大規模な 26B MoE モデルに迫る性能を発揮しながら、メモリ使用量は半分未満に抑えています。16GB RAM のコンシューマーラップトップでローカル実行できるため、強力なマルチモーダルおよびエージェント型の体験をその場で実現できます。
独自の効率的で統一されたアーキテクチャを体験する
Gemma 4 12B の際立った特徴は、視覚入力と音声入力を処理する合理的なアプローチです。従来のマルチモーダルモデルは通常、画像や音声を言語モデルに渡す前に翻訳する別個のエンコーダーに依存していました。これらの分割エンコーダーは遅延を増やし、メモリ使用量を増大させるため、私たちは Gemma 4 12B をエンコーダーフリーのアーキテクチャで訓練し、音声と視覚入力を直接統合できるようにしました。
Gemma 4 12B がマルチモーダル入力をネイティブに処理する方法は次のとおりです。
- 視覚: Gemma 4 の視覚エンコーダーを、単一の行列乗算、位置埋め込み、正規化のみで構成される軽量な埋め込みモジュールに置き換えました。これにより、LLM バックボーンが視覚処理を引き継ぐことができます。
- 音声: 音声処理はさらに簡素化しました。音声エンコーダーを完全に削除し、生の音声信号をテキストトークンと同じ次元空間に射影します。
詳細な内訳を知りたい開発者の方は、Gemma 4 12B のコンパニオン記事である Developer Guide をご覧ください。
今すぐ始めましょう
- 自分で試す: LM Studio、Ollama、Google AI Edge Gallery App、Google AI Edge Eloquent アプリ、LiteRT-LM CLI で数クリックで試すことができます。
- 重みをダウンロード: Hugging Face と Kaggle から事前学習済みおよび指示調整済みのチェックポイントを直接ダウンロードできます。
- 統合と学習: 開発者向けドキュメント と クイックスタートノートブック を確認できます。
- お気に入りの開発ツールを使用: Hugging Face Transformers、llama.cpp、MLX、SGLang、vLLM でローカル推論パイプラインを実装したり、Unsloth で効率的にファインチューニングしたりできます。
- Gemma Skills でエージェント開発を解放: エージェントが最新の Gemma の進化を活用して構築できるように、公式の Skills Repository をリリースします。これは、Gemma モデルを使用したエージェント構築を可能にするスキルライブラリです。
- 自由にデプロイ: Google Cloud を使用して本番環境でエンドポイントを起動します。Gemini Enterprise Agent Platform Model Garden、Cloud Run、GKE を通じて自由にデプロイできます。
関連ストーリー
0 Comments
Log in to join the conversation.No comments yet. Be the first to share your thoughts.