Оказывается #DeepSeek начала использовать чипы Huawei для новой модели R2, но во время попыток обучить модель на этих чипах провалились из-за технических проблем, что привело к задержке выпуска R2.
Попытка #DeepSeek обучить модель R2 на чипах Huawei Ascend 910C столкнулась с трудностями:
- Нестабильность оборудования: Чипы Ascend страдали от проблем с надежностью, что делало невозможным успешное завершение тренировочных процессов.
-Скорость соединения между чипами Huawei была ниже, чем у Nvidia, что замедляло обучение.
- Программная экосистема Huawei (CANN) менее развита по сравнению с CUDA от Nvidia, что создавало дополнительные сложности. DeepSeek, оптимизировавшая свои процессы под Nvidia, столкнулась с необходимостью значительной переработки программного стека.
В результате команда не смогла завершить ни одного успешного тренировочного цикла на чипах Huawei, несмотря на помощь команды инженеров Huawei. Это привело к задержке выпуска R2, изначально запланированного на май 2025 года.
В итоге DeepSeek вернулась к использованию чипов Nvidia H20 для обучения, но продолжила использовать чипы Huawei для задач вывода, которые требуют меньшей вычислительной мощности.
Попытка #DeepSeek обучить модель R2 на чипах Huawei Ascend 910C столкнулась с трудностями:
- Нестабильность оборудования: Чипы Ascend страдали от проблем с надежностью, что делало невозможным успешное завершение тренировочных процессов.
-Скорость соединения между чипами Huawei была ниже, чем у Nvidia, что замедляло обучение.
- Программная экосистема Huawei (CANN) менее развита по сравнению с CUDA от Nvidia, что создавало дополнительные сложности. DeepSeek, оптимизировавшая свои процессы под Nvidia, столкнулась с необходимостью значительной переработки программного стека.
В результате команда не смогла завершить ни одного успешного тренировочного цикла на чипах Huawei, несмотря на помощь команды инженеров Huawei. Это привело к задержке выпуска R2, изначально запланированного на май 2025 года.
В итоге DeepSeek вернулась к использованию чипов Nvidia H20 для обучения, но продолжила использовать чипы Huawei для задач вывода, которые требуют меньшей вычислительной мощности.