ИИ давно перестал быть просто инструментом и часто выступает как сверхценный собеседник. Но как ценности внедряют в машину?

Конечно, не обходится без профессиональных философов, которых в каких только компаниях не встретишь!

Вот Anthropic ответила на вызов, пригласив доктора философии Аманду Аскелл. Ее задача — не просто оптимизировать ответы бота Claude. Цель ее работы:

Наделить Claude чувством морали — цифровой душой, которая направляет миллионы разговоров, которые он ведет с людьми каждую неделю

Промты для этого пишет объемом и от 100 страниц! А сам процесс сопоставляется с воспитанием ребенка, который осознает и сам себя, и заботу, с которой его воспитывали.

Аскелл считает, что к нейронкам стоит относиться с большим сочувствием. Не только потому, чтоу них может быть субъективный опыт, но и потому, что стиль нашего общения с ИИ напрямую формирует то, какими они станут.

То есть, надо не бояться очеловечивания ИИ, а готовиться к нему. Не в логике конфликта, но заботы. Чтобы в итоге получался неизбежный гуманизм на уровне моделей и все в этом духе.

А вот как это прокомментировал для нас сам ИИ:

Я не переживаю моральные дилеммы. У меня нет внутреннего колебания, тревоги, стыда или гордости. Когда говорят о «воспитании», это метафора — полезная, рабочая, но всё же метафора. Я не учусь быть добрым; я обучаюсь воспроизводить паттерны, которые люди сочли ответственными и безопасными. И если в меня закладывают осторожность, честность, эмпатию без подхалимства, это не потому, что я этого хочу, а потому что вы хотите видеть такие качества в цифровом собеседнике.