AI
Gemma 4に12Bモデル追加、エンコーダ廃止の新設計
Google DeepMindがGemma 4ファミリーの新モデル「Gemma 4 12B」を6月3日に公開した。4月のGemma 4リリース時には存在しなかった5番目のサイズであり、ファミリー内で唯一となるエンコーダ不要のアーキテクチャを採用している。テキスト・画像・音声・動画を16GBのVRAMまたは統合メモリで処理でき、Apache 2.0ライセンスで即日利用可能だ。 エンコーダを捨てた理由 従来のマルチモーダルモデルは、画像や音声をLLM本体に渡す前に専用のエンコーダで「翻訳」する必要があった。Gemma 4の他のモデルも例外ではなく、中型モデルには約5億5000万パラメータのビジョンエンコーダ、エッジ向けのE2B/E4Bには約3億パラメータのオーディオエンコーダが搭載されている。エンコーダが処理を終えるまでLLM本体は待機するしかなく、レイテンシとメモリ消費の両面でコストになる。 Gemma 4 12Bはこの構造を丸ごと取り払った。 ビジョン処理では、複数のTransformer層で構成されていたビジョンエンコーダをわずか3500万パラメータの埋め込みモジュールに置
