Потребление нейросетей и электромобиля
Последние месяцы я активно гоняю нейросети и периодически ловлю мысль: “блин, оно же жрёт электричество”.
Померил потребление по комнате в офисе. Важно: это не “чисто инференс на видеокарте”, а общее потребление — весь ПК на максималках целиком (CPU/GPU/БП/мониторы) плюс всякая мелочь в комнате.
Цифры такие: с просто включенным компом ~600 Вт, а когда всё под нагрузкой — 950–1000 Вт. Округлим до 1 кВт.
Уже год езжу на электрокаре (о потреблении электричек писал статью на хабр). У машины батарея 66 кВт⋅ч. Хватает максимум на 350 км. Если перевести это в “расход энергии на километр”, получается так:
• 66 кВт⋅ч / 350 км — около 0.2 кВт⋅ч на км
• значит 1 час работы нейронок на моем ПК (~1 кВт⋅ч) — это примерно 5–5.5 км езды.
И вот тут становится спокойнее.
Моя дорога на тренировку — 4 км в один конец. Туда‑обратно легко набегает 8–10 км. То есть только сгонять на тренировку это уже 2 часа активной работы нейронок :)
Понятно, что это всё в масштабе моих личных цифр и “человеческих” потреблений — без датацентров и промышленности. Но такое сравнение успокаивает: нейросети “кушают”, но на фоне повседневных вещей это не выглядит чем-то запредельным — можно не париться.
Последние месяцы я активно гоняю нейросети и периодически ловлю мысль: “блин, оно же жрёт электричество”.
Померил потребление по комнате в офисе. Важно: это не “чисто инференс на видеокарте”, а общее потребление — весь ПК на максималках целиком (CPU/GPU/БП/мониторы) плюс всякая мелочь в комнате.
Цифры такие: с просто включенным компом ~600 Вт, а когда всё под нагрузкой — 950–1000 Вт. Округлим до 1 кВт.
Уже год езжу на электрокаре (о потреблении электричек писал статью на хабр). У машины батарея 66 кВт⋅ч. Хватает максимум на 350 км. Если перевести это в “расход энергии на километр”, получается так:
• 66 кВт⋅ч / 350 км — около 0.2 кВт⋅ч на км
• значит 1 час работы нейронок на моем ПК (~1 кВт⋅ч) — это примерно 5–5.5 км езды.
И вот тут становится спокойнее.
Моя дорога на тренировку — 4 км в один конец. Туда‑обратно легко набегает 8–10 км. То есть только сгонять на тренировку это уже 2 часа активной работы нейронок :)
Понятно, что это всё в масштабе моих личных цифр и “человеческих” потреблений — без датацентров и промышленности. Но такое сравнение успокаивает: нейросети “кушают”, но на фоне повседневных вещей это не выглядит чем-то запредельным — можно не париться.