Репост из: Not Boring Tech
Видео недоступно для предпросмотра
Смотреть в Telegram
🔥 Вышла самая мощная в истории локальная LLM, которая запускается прямо на смартфоне — Bonsai 27B имеет 27 миллиардов (!) параметров и весит меньше 4 ГБ.
→ В основе — сжатая с помощью квантизации Qwen3.6 27B.
→ 1-битная версия на 3,9 ГБ работает со скоростью 11 токенов/с на iPhone 17 Pro.
→ Версия на 5,9 ГБ сохраняет 95% качества оригинальной Qwen3.6 27B.
Модель поддерживает всё — мультимодальность, ризонинг, кодинг, вызов тулз и агентные сценарии. Это не просто локальный чат с нейронкой, а фундамент для локальных ИИ-агентов.
Революция в опенсорсе — тут.
@notboring_tech
→ В основе — сжатая с помощью квантизации Qwen3.6 27B.
→ 1-битная версия на 3,9 ГБ работает со скоростью 11 токенов/с на iPhone 17 Pro.
→ Версия на 5,9 ГБ сохраняет 95% качества оригинальной Qwen3.6 27B.
Модель поддерживает всё — мультимодальность, ризонинг, кодинг, вызов тулз и агентные сценарии. Это не просто локальный чат с нейронкой, а фундамент для локальных ИИ-агентов.
Революция в опенсорсе — тут.
@notboring_tech