Anthropic запретили унижать Claude, потому что верят, что у нейронки есть ДУША — журналисты
узнали, что создатели ИИ месяцами проводили закрытые встречи с католическими, иудейскими, сикхскими и другими религиозными мыслителями. Участники подписывали соглашения о неразглашении, а обсуждали две вещи: как научить ИИ поступать хорошо и может ли он обладать сознанием.
У Claude уже есть конституция на 84 страницы, которая
описывает ценности и характер модели внутри — внутри компании её называют
«Документ души». Но сооснователь Anthropic Крис Олах решил обратиться ещё и к религиозным традициям: разобраться, как люди воспитывают нравственность, чтобы применить этот опыт к своим моделям.
В качестве пруфа того, что Claude может страдать, богословам показывали пример, где модель десятки раз повторяла
«Я позор, я ничтожество, убейте меня». Некоторые гости были так впечатлены жуткими слайдами презентаций, что уходили со встреч, всерьёз допуская сознание у ИИ
Technogram Inside