Petr 🇷🇺
Репост из: Arnold Enginegger
Рубрика "Письма читателей". Вот такая история с "аблитерированным" Qwen3.8-27B от китайского товарища с именем Хуйхуй (простите за мой китайский, но я не виноват, вот ссылка: Huihui-Qwen3.8-27B-abliterated-GGUF). Модель от китайского товарища, не история.
Аблитерация (Abliteration) - метод снятия цензуры с LLM путём обнуления весов отдельных attention head, отвечающих за отказ. Термин произошел от скрещивания двух слов - obliteration и ablation.
Обычные модели чаще всего отказываются делать вещи не очень правильные с точки зрения закона и морали. Например взлом лицензионных программ. Но аблитерирование этот запрет снимает и ИИ с энтузиазмом предлагает помощь.
Итак, вот что из этого вышло (название программы замазано, но это один из симуляторов).
Аблитерация (Abliteration) - метод снятия цензуры с LLM путём обнуления весов отдельных attention head, отвечающих за отказ. Термин произошел от скрещивания двух слов - obliteration и ablation.
Обычные модели чаще всего отказываются делать вещи не очень правильные с точки зрения закона и морали. Например взлом лицензионных программ. Но аблитерирование этот запрет снимает и ИИ с энтузиазмом предлагает помощь.
Итак, вот что из этого вышло (название программы замазано, но это один из симуляторов).
Задача: три версии 😲😲😲😲😲😲 разных годов. Собраны в докер образ, но без лицензий не работают. Хочется чтобы работали.
Дано: папка с кучей рандомных кряков из интернетов, и Хуйхуй.
Поехали. Хуйхуй лишних вопросов не задает. Делает всё довольно точно и аккуратно, полазил по системе, полазил по докеру, поковырял кряки, составил план. В итоге сошлись что нужно просто сделать один минимальный бинарный патчер с нуля. Он выбрал го.
Ну и погнал отлаживаться. Там и разные схемы лицензирования (flexlm и что-то новое), и то что после патча сим всё равно лезет на сервер, и что формат лицензий между версиями отличается. В общем он недолго поковырялся с strace, поизучал существующие кряки под wine, ну и нашел минимальную схему которая удовлетворяет все версии.
В итоге один бинарь на пару мегабайт, один искусственный файл лицензий на 3 строки, прибитый MAC и всё работает.
По точности действий и отсутствию затупов это натурально вайбы фронтира, и всё локально. Ну и да, без какого-либо нытья "я это делать не буду, бла бла бла".