Google stellt kompaktes multimodales Embedding-Modell EmbeddingGemma 2 vor

Goo­gle hat Em­bed­ding­Gem­ma 2 ver­öf­fent­licht, ein of­fe­nes Em­bed­ding-Mo­dell, das fünf ver­schie­de­ne Da­ten­ty­pen – Text, Bild, Video, Audio und Code – in den­sel­ben 768-di­men­si­o­na­len Vek­tor­raum ab­bil­det12. Das auf Gemma 4 ba­sie­ren­de Mo­dell kommt mit nur 740 Mil­li­o­nen Pa­ra­me­tern aus und be­nö­tigt laut Her­stel­ler­an­ga­ben nur rund 191 MB Ar­beitsspei­cher für die reine Text- und Code-Va­ri­a­n­te12. Trotz sei­ner ge­rin­gen Größe über­trifft es nach Goo­gles An­ga­ben teils dop­pelt so große Kon­kur­renz­mo­del­le1.

Die Ar­chi­tek­tur ist mo­du­lar auf­ge­baut: Ent­wick­ler laden nur die En­co­der, die sie tat­säch­lich be­nö­ti­gen, wobei die Voll­ver­si­on mit allen Mo­da­li­tä­ten bis zu 740 Mil­li­o­nen Pa­ra­me­ter um­fasst2. Durch das Trai­ning mit Ma­tryos­h­ka Re­pre­sen­ta­ti­on Lear­ning las­sen sich die er­zeug­ten Vek­to­ren zudem nach­träg­lich ver­klei­nern, was auf Ge­rä­ten mit be­grenz­tem Spei­cher­platz hilf­reich ist, da be­reits eine Mil­li­on Vek­to­ren meh­re­re Gi­ga­byte be­an­spru­chen kön­nen2. Der Kon­tex­t­um­fang wurde zudem von 2.048 auf 8.192 Token ver­vier­facht, was nach Un­ter­neh­men­s­an­ga­ben bis zu 5,5 Mi­nu­ten Audio oder 58 Vi­deo­f­ra­mes ab­deckt2.

Das Mo­dell läuft di­rekt auf dem Gerät und ist über Li­teRT und Me­dia­Pi­pe Tasks be­reits nutz­bar, eine In­te­gra­ti­on in An­dro­id ML Kit mit NPU-Be­schleu­ni­gung soll in den kom­men­den Wo­chen fol­gen12. In Kom­bi­na­ti­on mit Gemma 4 er­mög­licht Em­bed­ding­Gem­ma 2 da­ten­schutz­freund­li­che Off­line-RAG-An­wen­dun­gen, etwa für die lo­ka­le Durch­su­chung von Fotos und Vi­de­os ohne Cloud-An­bin­dung12. Die Ver­öf­fent­li­chung unter Apa­che-2.0-Li­zenz stieß auch auf Ha­cker News auf deut­li­ches In­ter­es­se mit über 250 Punk­ten3.