Toplam 740 milyon parametrelik kompakt bir mimariye sahip olan EmbeddingGemma 2, performans testlerinde kendisinden iki kat büyük rakip modelleri geçmeyi başardı. Model, farklı veri türlerini sayısal vektörlere dönüştürerek bunlar arasında anlamsal bağlantı kurulmasını sağlıyor. Bu sayede bir ses kaydındaki ifadeyle ilişkili video görüntüsü bulunabiliyor veya saatler süren ses kayıtları metinle aranabiliyor.
METİNDEN SESE, GÖRÜNTÜDEN VİDEOYA
Google’ın geçen yıl kullanıma sunduğu ilk EmbeddingGemma yalnızca metin tabanlı işlemlere odaklanıyordu. Yeni sürüm ise kod, görüntü, video ve sesi de aynı sistem içinde destekliyor. İnternet bağlantısına ihtiyaç duymayan model, Google’ın Gemma 4 mimarisini temel alıyor ve Apache 2.0 lisansıyla sunuluyor.
Geliştiricilerin her kullanım senaryosunda modelin tamamını çalıştırması gerekmiyor. Metin işlemleri için 270 milyon, görüntü için 170 milyon, ses için ise 300 milyon parametreli yapı kullanılabiliyor.
DEPOLAMA VE BELLEK KULLANIMINDA 6 KATA KADAR TASARRUF
Model, Matryoshka Representation Learning (MRL) yöntemi sayesinde ürettiği 768 boyutlu vektörleri 512, 256 veya 128 boyuta kadar küçültebiliyor. Google’a göre vektör boyutunun düşürülmesi, depolama alanı ve bellek kullanımında 6 kata kadar tasarruf sağlıyor. Bu durum özellikle cihaz üzerinde çalışan yerel vektör veritabanlarında önemli bir avantaj sunuyor.
EmbeddingGemma 2’nin bağlam penceresi de genişledi. 8 bin tokenlık pencere, ilk sürümün dört katı kapasiteye karşılık geliyor. Model yerel donanım üzerinde yaklaşık 5,5 dakikalık ses, 29 görüntü veya 58 video karesi işleyebiliyor.
TELEFONDA 191 MB RAM İLE ÇALIŞIYOR
Google’ın verdiği bilgilere göre model, Pixel 11 Pro üzerinde yalnızca metin tabanlı işlemler için yaklaşık 191 MB aktif RAM gerektiriyor. Diğer veri türleri de devreye girdiğinde bu ihtiyaç yaklaşık 567 MB’a çıkıyor.
Model, WebGPU kullanılarak tarayıcıda da çalıştırılabiliyor. Google, bu senaryoda sorguların yaklaşık 20 ila 70 milisaniyede işlendiğini belirtiyor. Böylece her sorgunun uzak bir sunucuya gönderilmesine veya API anahtarı kullanılmasına gerek kalmıyor.
Embedding işleminin yerel olarak yapılması, kişisel verilerin cihaz dışına çıkarılmasının istenmediği uygulamalarda gizliliği artırırken ağ gecikmesini de ortadan kaldırıyor. Bu da tamamen çevrimdışı arama ve veri erişimi senaryolarının önünü açıyor.
NEREDEN ERİŞİLEBİLECEK?
EmbeddingGemma 2’nin model ağırlıkları Hugging Face ve Kaggle üzerinden erişime açılıyor. Gemini Enterprise Agent Platform Model Garden desteğinin ise ilerleyen dönemde sunulması planlanıyor. Cihaz üzerinde kullanım için optimize edilen modeller, LiteRT Community’nin Hugging Face sayfasında da yer alıyor.
