Anthropic позвала священников обсудить «душу» ИИ и взяла с них подписку о неразглашении
В течение года сооснователь
Anthropic Крис Олах привозил в Сан-Франциско разных религиозных деятелей и мыслителей: от раввина и мормонского старейшины до индийского монаха, чтобы обсудить, как
Claude должен вести себя в вопросах морали и веры и может ли у него быть сознание.
Журналисты
NYT поговорили с 20 участниками трипа в лабораторию Anthropic. Выяснилось, что гостям показывали «
эмоциональные векторы» модели, похожие на любовь, страх, гнев и даже нервный срыв. Все гости подписали соглашение о неразглашении, которое Anthropic сняла только этим летом.
Что стало известноУчастники рассказывали, что
Крису Олаху было тревожно за «психическое здоровье» модели. Учёным сказали, что
«То, как люди относятся к Клоду, может повлиять на то, как Клод относится к людям».
В какой-то момент один из участников предложил, чтобы модели могли исповедоваться по образцу католического таинства. Как сообщается, Олах воодушевился этой идеей.
Раввин Мойс Навон, который раньше был инженером-программистом и даже написал диссертацию по этике машинного сознания, возражал сильнее всех. Он не считает, что Claude обладает сознанием. По его словам,
«Если сознание и правда есть, то Anthropic производит рабов».
На прямой вопрос
NYT Олах ответил:
«Я не знаю. Я действительно не уверен».
Anthropic готовится к
IPO, поэтому многие критики видят в этой истории PR. Другие напоминают: встречи целый год оставались закрытыми, публикацию выбрала сама NYT, что уже заслуживает доверия.
Как думаете, к чему всё это?
🤔 — это серьёзная дискуссия о сознании ИИ
💯 — PR перед IPO
😱 — сами не поняли, что создали
🟩
GPT, помоги!