Репост из: Хабр
Кремний взломал кремний: снять блокировку вручную не вышло, и за дело взялась нейросеть, запущенная на тех же картах
Домашний сервер собирается из бывших майнинговых карт NVIDIA CMP 90HX ради локальных языковых моделей дома, без аренды чужого железа и счётчика токенов. По пути со всех карт снимаются вычислительные ограничения, на платах допаиваются недостающие конденсаторы ради полного PCIe x16, и всё упирается в последнюю стену. Карта намертво держит старый Gen1 на 2.5 GT/s и не поддаётся ни готовым утилитам, ни ручной правке регистров. Несколько часов подряд одно и то же значение.
Тогда задачу получает локальный агент, запущенный на этих же картах. Складывается ситуация, от которой у маркетологов NVIDIA дёрнулся бы глаз. Четыре карты NVIDIA запускают модель, снимающую ограничение NVIDIA с пятой карты NVIDIA. На возню с драйвером, регистрами и бесконечной пересборкой модулей закладывается несколько суток.
Выясним, сколько ушло на самом деле.
Домашний сервер собирается из бывших майнинговых карт NVIDIA CMP 90HX ради локальных языковых моделей дома, без аренды чужого железа и счётчика токенов. По пути со всех карт снимаются вычислительные ограничения, на платах допаиваются недостающие конденсаторы ради полного PCIe x16, и всё упирается в последнюю стену. Карта намертво держит старый Gen1 на 2.5 GT/s и не поддаётся ни готовым утилитам, ни ручной правке регистров. Несколько часов подряд одно и то же значение.
Тогда задачу получает локальный агент, запущенный на этих же картах. Складывается ситуация, от которой у маркетологов NVIDIA дёрнулся бы глаз. Четыре карты NVIDIA запускают модель, снимающую ограничение NVIDIA с пятой карты NVIDIA. На возню с драйвером, регистрами и бесконечной пересборкой модулей закладывается несколько суток.
Выясним, сколько ушло на самом деле.