Видео недоступно для предпросмотра
Смотреть в Telegram
Появился FreeToken — инструмент, который позволяет запускать тяжёлые модели даже на слабом железе.
Он оптимизирует нагрузку между GPU, CPU и оперативной памятью. Результаты впечатляют: Qwen3.6 35B запускается на ноутбуке с RTX 4060 8 ГБ и выдаёт до 39 токенов в секунду. DeepSeek-V4-Flash 284B на ПК с RTX 5090 — до 25 токенов в секунду.
👉Пробуем
AI Integration
Он оптимизирует нагрузку между GPU, CPU и оперативной памятью. Результаты впечатляют: Qwen3.6 35B запускается на ноутбуке с RTX 4060 8 ГБ и выдаёт до 39 токенов в секунду. DeepSeek-V4-Flash 284B на ПК с RTX 5090 — до 25 токенов в секунду.
👉Пробуем
AI Integration