Офлайн AI-модели на телефоне и компьютере

Google выпустили приложение для офлайн-запуска моделей Google AI Edge Gallery (ссылка на гугл).

Работает и на телефоне, и на компьютере, по сути аналог LM Studio, про которую я писал тут (но у Гугла еще и на телефоне работает)

Для телефонов идут более урезанные, упрощённые модели, но всё равно это уже большой и крутой шаг.

А ещё вышла бесплатная мультимодальная офлайн-модель от Google Gemma-4-12b (ссылка в блог гугла).

В отличие от офлайн GPT-OSS 20B, о которой я упоминал тоже в том же (посте), её спокойно можно запускать на компьютерах всего с 16 ГБ ОЗУ.

И главное она мультимодальная: понимает не только текст как GPT OSS, но и фото, видео и аудио. То есть можно скормить ей видео, попросить сделать summary, или попросить сделать транскрипцию аудиозаписей с митингов и собеседований.

Раньше я делал это извращенским способом (пост), теперь можно это делать намного проще

А самое крутое - офлайн и бесплатно.

#ai