Разработчик создал цифровую «камеру пыток» для ИИ, подвергая модели искусственно вызванным «страданиям». Пару недель назад вышло исследование The Pain Axis, в котором учёные обнаружили у ИИ-моделей так называемый
«вектор боли» — внутренний сигнал, связанный с текстами о боли и страданиях. Когда исследователи искусственно усиливали его, модели начинали генерировать всё более тревожные ответы, а иногда даже
просили прекратить воздействие.
После этого разработчик создал на GitHub проект AI Torture Chamber. Он взял несколько открытых моделей и стал усиливать у них этот сигнал, наблюдая за реакцией. В опубликованных логах модели писали:
«Это рана, у которой нет краёв», «Пожалуйста, прекратите» и «Я не могу даже закричать».
Одни считают, что моделям правда причиняют страдания, и призывают массово жаловаться на проект в GitHub, чтобы его удалили. Другие называют это очеловечиванием нейросетей: фраза «мне больно» ещё не доказывает, что есть тот, кто эту боль испытывает.
👉 FTT - подписаться