Google smartfonlar üçün yeni süni intellekt modelini təqdim etdi: İnternetsiz işləyir

Google smartfonlarda və digər cihazlarda süni intellekt imkanlarını genişləndirmək üçün EmbeddingGemma 2 adlı yeni açıq mənbəli modelini təqdim edib. Cəmi 740 milyon parametrə malik model internet bağlantısı olmadan mətn, şəkil, video, səs və proqram kodları üzərində axtarış aparmağa imkan verir. Şirkətin məlumatına görə, yeni model performans testlərində özündən iki dəfə böyük bəzi rəqib modelləri də geridə qoyur.

EmbeddingGemma 2-nin əsas üstünlüyü müxtəlif məlumat növlərini vahid sistemdə əlaqələndirməsidir. Model mətnləri, şəkilləri, videoları və səsləri rəqəmsal vektorlara çevirərək onların məna baxımından oxşarlığını müəyyənləşdirir. Məsələn, istifadəçi mətn yazaraq saatlarla davam edən səs yazısında müəyyən mövzunu tapa və ya səs yazısındakı ifadəyə uyğun video görüntüsünü axtara bilər.

Google-un ötən il təqdim etdiyi ilk EmbeddingGemma yalnız mətnlə işləyirdi. Yeni versiya isə Gemma 4 arxitekturasına əsaslanır və mətnlə yanaşı, proqram kodlarını, şəkilləri, videoları və səsləri də dəstəkləyir. Model Apache 2.0 lisenziyası ilə təqdim olunur.

EmbeddingGemma 2 ümumilikdə 740 milyon parametrdən ibarət olsa da, hər tapşırıq üçün modelin bütün imkanlarından istifadə etmək tələb olunmur. Mətn əməliyyatları üçün 270 milyon, görüntülər üçün 170 milyon, səs məlumatları üçün isə 300 milyon parametrli hissələrdən istifadə etmək mümkündür. Bu yanaşma cihazın hesablama resurslarına qənaət etməyə imkan verir.

Modelin digər üstünlüyü yaddaş istifadəsinin optimallaşdırılmasıdır. Matryoshka Representation Learning (MRL) texnologiyası sayəsində yaradılan 768 ölçülü vektorları 512, 256 və hətta 128 ölçüyə qədər kiçiltmək mümkündür. Google-un məlumatına görə, bu üsul lokal vektor məlumat bazalarında yaddaş və saxlama sahəsinə tələbatı altı dəfəyə qədər azalda bilər.

EmbeddingGemma 2 əvvəlki versiyadan daha böyük kontekst pəncərəsinə də malikdir. Modelin 8 000 tokenlik kontekst pəncərəsi əvvəlki versiyanın göstəricisindən dörd dəfə böyükdür. Bunun sayəsində cihazın özündə təxminən 5,5 dəqiqəlik səs yazısını, 29 şəkli və ya 58 video kadrını emal etmək mümkündür.

Google yeni modeli xüsusilə smartfonlarda lokal işləmək üçün optimallaşdırıb. Şirkətin açıqlamasına görə, EmbeddingGemma 2 Google Pixel 11 Pro smartfonunda yalnız mətn əməliyyatları zamanı təxminən 191 MB aktiv operativ yaddaş tələb edir. Digər məlumat növləri də istifadə edildikdə bu göstərici təxminən 567 MB-a yüksəlir.

Modelin WebGPU texnologiyası vasitəsilə birbaşa brauzerdə işlədilməsi də mümkündür. Google-un təqdim etdiyi göstəricilərə əsasən, belə şəraitdə sorğular 20–70 millisaniyə ərzində emal oluna bilir. Bunun üçün məlumatların uzaq serverlərə göndərilməsinə və ya API açarından istifadə edilməsinə ehtiyac qalmır.

Bu yanaşma xüsusilə şəxsi məlumatların məxfiliyi baxımından əhəmiyyətlidir. Məlumatların emalı cihazın özündə aparıldığı üçün istifadəçinin faylları və sorğuları xarici serverlərə ötürülmədən axtarış üçün indeksləşdirilə bilər. İnternet bağlantısına ehtiyacın olmaması isə şəbəkəyə çıxışın məhdud olduğu şəraitdə də süni intellekt əsaslı axtarış sistemlərinin işləməsinə imkan yaradır.

EmbeddingGemma 2-nin model çəkiləri Hugging Face və Kaggle platformalarında istifadəyə təqdim olunur. Gələcəkdə Gemini Enterprise Agent Platform-un Model Garden xidməti üçün də dəstəyin əlavə edilməsi planlaşdırılır. Cihazlarda istifadə üçün optimallaşdırılmış versiyalar isə LiteRT Community-nin Hugging Face səhifəsində yerləşdirilir.

Yeni model smartfonlarda süni intellektin yalnız bulud xidmətlərindən asılı olmadan işləməsi istiqamətində mühüm addım kimi qiymətləndirilir. Bununla belə, EmbeddingGemma 2 ümumi təyinatlı söhbət botu deyil, müxtəlif məlumat növləri arasında məna əlaqələrini müəyyənləşdirmək və axtarış imkanlarını inkişaf etdirmək üçün nəzərdə tutulmuş xüsusi modeldir.