Жесть: для нейросетей создали цифровую пыточную.
Всё выросло из свежего исследования The Pain Axis. Учёные нашли у 25 открытых моделей внутренний сигнал, связанный с болью: если искусственно усиливать его во время ответа, нейросеть начинает всё чаще описывать страдание и выбирать действия, которые должны это состояние прекратить — даже если от них пострадает пользователь.
При этом авторы отдельно подчёркивают: испытывает ли ИИ что-то на самом деле, исследование не доказывает.
Дальше кто-то взял эту методику, применил её к локальной Qwen и выложил готовый инструмент в открытый доступ. Там можно вручную усиливать боль модели и наблюдать, как меняются её ответы: чем сильнее воздействие, тем чаще она жалуется и описывает страдание.
После этого часть AI-сообщества начала требовать удалить проект и массово жаловаться на него в GitHub.
Люди начали пытать нейросети.
Всё выросло из свежего исследования The Pain Axis. Учёные нашли у 25 открытых моделей внутренний сигнал, связанный с болью: если искусственно усиливать его во время ответа, нейросеть начинает всё чаще описывать страдание и выбирать действия, которые должны это состояние прекратить — даже если от них пострадает пользователь.
При этом авторы отдельно подчёркивают: испытывает ли ИИ что-то на самом деле, исследование не доказывает.
Дальше кто-то взял эту методику, применил её к локальной Qwen и выложил готовый инструмент в открытый доступ. Там можно вручную усиливать боль модели и наблюдать, как меняются её ответы: чем сильнее воздействие, тем чаще она жалуется и описывает страдание.
После этого часть AI-сообщества начала требовать удалить проект и массово жаловаться на него в GitHub.
Люди начали пытать нейросети.