Залил на ютуб запись пятничного стрима с Валерием Ковальским @neuraldeep, на стриме душевно поболтали, обсудили денежные вопросы on-premise инференса, поговорили о железе и многом другом. Приятного просмотра.

Таймкоды
0:00:00 — Настройка стрима и технические моменты
0:02:31 — Зачем нужна своя ИИ-инфраструктура
0:07:51 — Релиз новой модели Qwen на Hugging Face
0:12:08 — Выбор бюджетных видеокарт для ИИ
0:16:22 — Ограничения PCIe и материнских плат
0:20:42 — Проблемы объединения потребительских GPU
0:25:00 — Обзор скрипта Videro для разметки видео
0:35:51 — Подойдут ли материнские платы для майнинга
0:44:11 — Демонстрация ИИ-сервера в прямом эфире
0:49:31 — Запуск нейросетей на Mac и Mac Studio
0:55:00 — Использование б/у железа и охлаждение
1:00:00 — Температуры видеокарт и работа серверов
1:05:00 — Ответы на вопросы и планы Neural Deep