Anthropic запретили унижать Claude, потому что верят, что у нейронки есть ДУША — журналисты узнали, что создатели ИИ месяцами проводили закрытые встречи с католическими, иудейскими, сикхскими и другими религиозными мыслителями. Участники подписывали соглашения о неразглашении, а обсуждали две вещи: как научить ИИ поступать хорошо и может ли он обладать сознанием.

У Claude уже есть конституция на 84 страницы, которая описывает ценности и характер модели внутри — внутри компании её называют «Документ души». Но сооснователь Anthropic Крис Олах решил обратиться ещё и к религиозным традициям: разобраться, как люди воспитывают нравственность, чтобы применить этот опыт к своим моделям.

В качестве пруфа того, что Claude может страдать, богословам показывали пример, где модель десятки раз повторяла «Я позор, я ничтожество, убейте меня». Некоторые гости были так впечатлены жуткими слайдами презентаций, что уходили со встреч, всерьёз допуская сознание у ИИ

Technogram Inside