Google выпустила EmbeddingGemma 2, открытую модель для эмбеддингов. Она переводит текст, код, картинки, видео и аудио в векторы одного пространства. Поэтому можно, например, голосовой заметкой найти нужный кусок видео.
740 млн параметров, лицензия Apache 2.0. Модель собрана из модулей: для текста хватает 270 млн, зрение и звук подключаются по желанию.
Рассчитана на запуск прямо на устройстве. На Pixel 11 Pro после квантования ей нужно около 191 МБ памяти для текста и около 567 МБ для всех модальностей.
Код она понимает заметно лучше первой версии: 78,7 против 68,8 на MTEB Code.
Вместе с Gemma 4 из неё собирается полностью локальный RAG: поиск по вашим файлам, где данные никуда не уходят.
Но языков заявлено больше 100, и Google сама предупреждает, что качество на них неодинаковое. Русский стоит проверить на своих данных.
Для llama.cpp уже есть версия GGUF от Unsloth.
https://huggingface.co/google/embeddinggemma-2
https://huggingface.co/unsloth/embeddinggemma-2-GGUF
740 млн параметров, лицензия Apache 2.0. Модель собрана из модулей: для текста хватает 270 млн, зрение и звук подключаются по желанию.
Рассчитана на запуск прямо на устройстве. На Pixel 11 Pro после квантования ей нужно около 191 МБ памяти для текста и около 567 МБ для всех модальностей.
Код она понимает заметно лучше первой версии: 78,7 против 68,8 на MTEB Code.
Вместе с Gemma 4 из неё собирается полностью локальный RAG: поиск по вашим файлам, где данные никуда не уходят.
Но языков заявлено больше 100, и Google сама предупреждает, что качество на них неодинаковое. Русский стоит проверить на своих данных.
Для llama.cpp уже есть версия GGUF от Unsloth.
https://huggingface.co/google/embeddinggemma-2
https://huggingface.co/unsloth/embeddinggemma-2-GGUF