Гугл тихо, но уверенно включил рубильник новой эры локальных ИИ-агентов.
Их модель Gemma 4 E4B теперь самостоятельно пилит в iOS-симуляторе: свайпает экраны, тыкает по кнопкам и вводит текст ровно так, как это делал бы живой человек. В качестве «рук» ИИ использует агентный тулкит Argent.
Но главная магия кроется не в самом факте управления, а в том, как это работает. Из своих 26 млрд параметров модель для инференса использует только 4 миллиарда. Результат? Полноценный ИИ-агент живет прямо на вашем смартфоне, без привязки к интернету и облакам.
При всем этом нейронка не урезана по смыслу: она настоящая мультимодалка (видит, слышит, читает), жует контекст на 128K токенов и нативно умеет в function calling — без этого агентом быть невозможно, это база.
Сухой остаток для гиков:
• Веса в квантизации: ~2.5 ГБ
• Требования к железу: 8 ГБ ОЗУ
• Скорость на iPhone 15 Pro: 10–15 токенов в секунду
• Вся математика крутится на GPU устройства. Ваши данные вообще не покидают телефон.
Похоже, личные автономные помощники, которые не сливают данные в облако, перестали быть фантастикой. Ждем, когда вылезут из симуляторов в реальные девайсы.
Для теста можно воспользоваться приложением - Google AI Edge Gallery. Скачиваете на смартфон Gemma 4 модель и тестируете оффлайн. Бонусом, можно написать TS скрипт и подключить в приложение, чтобы модель могла в скиллы.
Их модель Gemma 4 E4B теперь самостоятельно пилит в iOS-симуляторе: свайпает экраны, тыкает по кнопкам и вводит текст ровно так, как это делал бы живой человек. В качестве «рук» ИИ использует агентный тулкит Argent.
Но главная магия кроется не в самом факте управления, а в том, как это работает. Из своих 26 млрд параметров модель для инференса использует только 4 миллиарда. Результат? Полноценный ИИ-агент живет прямо на вашем смартфоне, без привязки к интернету и облакам.
При всем этом нейронка не урезана по смыслу: она настоящая мультимодалка (видит, слышит, читает), жует контекст на 128K токенов и нативно умеет в function calling — без этого агентом быть невозможно, это база.
Сухой остаток для гиков:
• Веса в квантизации: ~2.5 ГБ
• Требования к железу: 8 ГБ ОЗУ
• Скорость на iPhone 15 Pro: 10–15 токенов в секунду
• Вся математика крутится на GPU устройства. Ваши данные вообще не покидают телефон.
Похоже, личные автономные помощники, которые не сливают данные в облако, перестали быть фантастикой. Ждем, когда вылезут из симуляторов в реальные девайсы.
Для теста можно воспользоваться приложением - Google AI Edge Gallery. Скачиваете на смартфон Gemma 4 модель и тестируете оффлайн. Бонусом, можно написать TS скрипт и подключить в приложение, чтобы модель могла в скиллы.