Рядовой телефон сейчас позволяет выполнять крайне широкий круг задач, при крайне высокой энергоэффективности, а за ней — автономности.

Некоторые флагманы даже могут запускать большие языковые модели полностью локально. Разумеется, телефон — не серверный кластер, вследствие чего ответы будут «тупее». При этом, все это работает «на ходу», так ещё и в карман помещается.

Автор на постоянной основе использует модель Google Gemma 4 на двенадцать миллиардов параметров. Основная проблема — приложение, которое запускает модель, не поддерживает ускоритель NPU процессора Tensor. Отсюда и терпимо-медленная скорость.

Для большинства задач она достаточно «умная». Даже такой «цифровой помощник» имеет высокую полезность в ситуации непредсказуемости окружения.

По необходимости, про развёртывание такого ИИ можно сделать отдельный пост.

Вам повезёт. || Интернет-сайт