Объезд по кремнию: в ВШЭ придумали, как процессорам для ЦОД пережить внутренние сбои
Сейчас будет научная информация, но она важная.
Учёные из МИЭМ ВШЭ и Самарского университета представили алгоритм LRF-3D для трёхмерных сетей на кристалле (3D NoC). Зачем он нужен?
⏹️ GPU в дата-центрах при интенсивной ИИ-нагрузке быстро деградируют и требуют замены в среднем раз в 3 года. Новый алгоритм помогает самому кристаллу процессора сохранять работоспособность, когда часть внутренних транзисторных блоков выходит из строя.
⏹️ Исходный код математической модели уже выложили в открытый доступ.
⏹️ Есть ли другие алгоритмы? Они существуют, но либо перегружают чип вычислениями, либо строят слишком длинные пути обхода «мёртвых» зон в GPU.
Авторы LRF-3D предложили компромиссную схему:
🔽 Маршрутизатор анализирует только соседние рабочие узлы, а, наткнувшись на дефектный сектор, делает шаг назад и сразу отсекает заблокированное направление.
🔽 Симуляции на 36 сценариях показали, что при выходе из строя до 50% узлов отклонение длины пути от эталонного алгоритма A* составляет всего 1,64%. По качеству маршрута это превосходит популярный алгоритм LOFT более чем в 137 раз.
🔽 LRF-3D принимает решения в 16,7 раза быстрее A* и в 22,5 раза быстрее LOFT, успешно доставляя 86% пакетов при отказе 13-30% узлов сети.
⭐️ Пока разработка существует на уровне программного моделирования. Впереди — долгие испытания и доработки. Продления жизни всей ИИ-карты алгоритм не гарантирует, но повышает шансы, что чип с частичным внутренним повреждением продолжит работать, а не пойдёт в отставку раньше срока. Операторам ЦОД такая живучесть кремния точно понравится.
🕹️ Серверная в Telegram | в MAX
Сейчас будет научная информация, но она важная.
Учёные из МИЭМ ВШЭ и Самарского университета представили алгоритм LRF-3D для трёхмерных сетей на кристалле (3D NoC). Зачем он нужен?
⏹️ GPU в дата-центрах при интенсивной ИИ-нагрузке быстро деградируют и требуют замены в среднем раз в 3 года. Новый алгоритм помогает самому кристаллу процессора сохранять работоспособность, когда часть внутренних транзисторных блоков выходит из строя.
⏹️ Исходный код математической модели уже выложили в открытый доступ.
⏹️ Есть ли другие алгоритмы? Они существуют, но либо перегружают чип вычислениями, либо строят слишком длинные пути обхода «мёртвых» зон в GPU.
Авторы LRF-3D предложили компромиссную схему:
🔽 Маршрутизатор анализирует только соседние рабочие узлы, а, наткнувшись на дефектный сектор, делает шаг назад и сразу отсекает заблокированное направление.
🔽 Симуляции на 36 сценариях показали, что при выходе из строя до 50% узлов отклонение длины пути от эталонного алгоритма A* составляет всего 1,64%. По качеству маршрута это превосходит популярный алгоритм LOFT более чем в 137 раз.
🔽 LRF-3D принимает решения в 16,7 раза быстрее A* и в 22,5 раза быстрее LOFT, успешно доставляя 86% пакетов при отказе 13-30% узлов сети.
⭐️ Пока разработка существует на уровне программного моделирования. Впереди — долгие испытания и доработки. Продления жизни всей ИИ-карты алгоритм не гарантирует, но повышает шансы, что чип с частичным внутренним повреждением продолжит работать, а не пойдёт в отставку раньше срока. Операторам ЦОД такая живучесть кремния точно понравится.
🕹️ Серверная в Telegram | в MAX