Pavel Zloi dan repost
Стрим про локальный инференс
В среду 12 августа в 18:00 MSK выходим в эфир с Валерием Ковальски, автором канала NeuralDeep.
Тема: максимально выгодный локальный инференс.
Специально договорились не готовиться. Берём железо, включаем камеру и выясняем всё вживую, а сравнительную табличку соберём по ходу разговора. В кадре будем показывать видеокарты и серверы.
О чём пойдёт разговор:
- начнём с ноутбуков - что на них вообще можно запустить и с какой скоростью;
- видеокарты и память - какие брать, сколько нужно и за что реально платишь;
- где проходит баланс между ценой, скоростью и точностью;
- запуск моделей на малом железе в продакшене - у нас обоих накопился боевой опыт.
PS. В тот же день выйдет Qwen 3.8 27B, так что заодно пощупаем свежий релиз прямо на стриме.
Когда - среда, 12 августа, 18:00 MSK
Где - https://www.twitch.tv/evilfreelancer
В среду 12 августа в 18:00 MSK выходим в эфир с Валерием Ковальски, автором канала NeuralDeep.
Тема: максимально выгодный локальный инференс.
Специально договорились не готовиться. Берём железо, включаем камеру и выясняем всё вживую, а сравнительную табличку соберём по ходу разговора. В кадре будем показывать видеокарты и серверы.
О чём пойдёт разговор:
- начнём с ноутбуков - что на них вообще можно запустить и с какой скоростью;
- видеокарты и память - какие брать, сколько нужно и за что реально платишь;
- где проходит баланс между ценой, скоростью и точностью;
- запуск моделей на малом железе в продакшене - у нас обоих накопился боевой опыт.
PS. В тот же день выйдет Qwen 3.8 27B, так что заодно пощупаем свежий релиз прямо на стриме.
Когда - среда, 12 августа, 18:00 MSK
Где - https://www.twitch.tv/evilfreelancer