В России запустили суперкомпьютер на 176 ускорителях H100
В один вычислительный комплекс объединили 22 сервера, каждый из которых получил по восемь NVIDIA H100 с 80 ГБ памяти. Всего внутри 176 ускорителей, почти 14 ТБ памяти GPU и около 34 ТБ оперативной памяти. Систему собрали российские компании Е-Флопс и АМДтехнологии.
Кластер разделён на два физически изолированных сегмента. Внутренний работает без доступа в интернет и предназначен для моделей, использующих закрытые корпоративные данные. Внешний рассчитан также на сторонних пользователей и обычные научные вычисления. Серверы в обоих контурах одинаковые, поэтому их можно физически переключать между сегментами, когда одному из них требуется больше мощности.
Разработчики заявляют пиковую производительность свыше 11 Пфлопс в вычислениях двойной точности и более 700 Пфлопс в операциях FP8 и INT8, используемых нейросетями. Второе число получено для теоретического режима с разреженными вычислениями: без него пик был бы примерно вдвое ниже. Результаты тестов на реальных моделях пока не опубликованы. Комплекс работает в одном из российских банков. Название заказчика, стоимость проекта и происхождение установленных H100 не раскрываются.
#утренниегаджеты
В один вычислительный комплекс объединили 22 сервера, каждый из которых получил по восемь NVIDIA H100 с 80 ГБ памяти. Всего внутри 176 ускорителей, почти 14 ТБ памяти GPU и около 34 ТБ оперативной памяти. Систему собрали российские компании Е-Флопс и АМДтехнологии.
Кластер разделён на два физически изолированных сегмента. Внутренний работает без доступа в интернет и предназначен для моделей, использующих закрытые корпоративные данные. Внешний рассчитан также на сторонних пользователей и обычные научные вычисления. Серверы в обоих контурах одинаковые, поэтому их можно физически переключать между сегментами, когда одному из них требуется больше мощности.
Разработчики заявляют пиковую производительность свыше 11 Пфлопс в вычислениях двойной точности и более 700 Пфлопс в операциях FP8 и INT8, используемых нейросетями. Второе число получено для теоретического режима с разреженными вычислениями: без него пик был бы примерно вдвое ниже. Результаты тестов на реальных моделях пока не опубликованы. Комплекс работает в одном из российских банков. Название заказчика, стоимость проекта и происхождение установленных H100 не раскрываются.
#утренниегаджеты