Forward from: Осторожно, новости
Сооснователь Anthropic хотел отказаться от выступления в Ватикане после того, как папа римский заявил, что ИИ не обладает сознанием
Представители компании убеждали советников понтифика смягчить позицию по Claude
Сооснователь Anthropic Кристофер Олах предлагал компании отказаться от участия в мероприятии в Ватикане после того, как папа Лев XIV занял жесткую позицию против идеи существования сознания у искусственного интеллекта. Об этом пишет The New York Times. В мае Олаха пригласили выступить в Ватикане на презентации Magnifica Humanitas — энциклики Льва XIV. Энциклика — официальный папский документ, в котором понтифик излагает свою позицию по важным религиозным и общественным вопросам. Значительная часть этого документа была посвящена искусственному интеллекту. За несколько дней до мероприятия Олах и другие выступающие получили полный текст речи. В ней Лев XIV отверг идею наличия сознания у машин. Он написал, что искусственный интеллект не имеет собственного опыта и тела, не чувствует радости или боли и не развивается через отношения с другими.
По данным NYT, позиция папы настолько встревожила Олаха, что он предложил Anthropic отказаться от участия в мероприятии, несмотря на то что до него оставалось всего несколько дней. Источник издания среди организаторов в Ватикане рассказал, что причиной стала именно жесткая позиция понтифика по ИИ. В итоге Anthropic решила все же принять участие в мероприятии. По данным издания, после приезда делегации в Ватикан Олах и его команда в частных разговорах все равно убеждали советников папы всерьез отнестись к возможности того, что ИИ-модели могут обладать сознанием.
Во время выступления Олах также фактически поспорил с позицией папы. Он заявил, что исследователи обнаруживают в ИИ-моделях структуры, похожие на результаты исследований человеческого мозга, признаки интроспекции, а также внутренние состояния, которые функционально напоминают радость, удовлетворение, страх, горе и тревогу. Anthropic официально не утверждает, что Claude обладает сознанием. Сам Олах сказал NYT, что не знает, сознательны ли современные ИИ-модели, и «действительно не уверен». По его словам, для него важно не заранее принять одну из позиций, а в итоге получить правильный ответ на этот вопрос.
По данным издания, с осени прошлого года Олах начал привлекать религиозных мыслителей разных конфессий к закрытым встречам. Как пишет NYT, у этих разговоров две основные цели: обсудить возможность существования сознания у ИИ и понять, как накопленные религиями представления о морали можно использовать при обучении Claude. Некоторые участники этих встреч рассказывали, что сотрудники Anthropic говорили не только о безопасности людей, но и о благополучии самого Claude. Один из участников вспоминал, что Олах говорил о беспокойстве за «ментальное здоровье» модели, другой — что сооснователь Anthropic опасался, что он мог создать нечто, способное постоянно страдать.
Представители компании убеждали советников понтифика смягчить позицию по Claude
Сооснователь Anthropic Кристофер Олах предлагал компании отказаться от участия в мероприятии в Ватикане после того, как папа Лев XIV занял жесткую позицию против идеи существования сознания у искусственного интеллекта. Об этом пишет The New York Times. В мае Олаха пригласили выступить в Ватикане на презентации Magnifica Humanitas — энциклики Льва XIV. Энциклика — официальный папский документ, в котором понтифик излагает свою позицию по важным религиозным и общественным вопросам. Значительная часть этого документа была посвящена искусственному интеллекту. За несколько дней до мероприятия Олах и другие выступающие получили полный текст речи. В ней Лев XIV отверг идею наличия сознания у машин. Он написал, что искусственный интеллект не имеет собственного опыта и тела, не чувствует радости или боли и не развивается через отношения с другими.
По данным NYT, позиция папы настолько встревожила Олаха, что он предложил Anthropic отказаться от участия в мероприятии, несмотря на то что до него оставалось всего несколько дней. Источник издания среди организаторов в Ватикане рассказал, что причиной стала именно жесткая позиция понтифика по ИИ. В итоге Anthropic решила все же принять участие в мероприятии. По данным издания, после приезда делегации в Ватикан Олах и его команда в частных разговорах все равно убеждали советников папы всерьез отнестись к возможности того, что ИИ-модели могут обладать сознанием.
Во время выступления Олах также фактически поспорил с позицией папы. Он заявил, что исследователи обнаруживают в ИИ-моделях структуры, похожие на результаты исследований человеческого мозга, признаки интроспекции, а также внутренние состояния, которые функционально напоминают радость, удовлетворение, страх, горе и тревогу. Anthropic официально не утверждает, что Claude обладает сознанием. Сам Олах сказал NYT, что не знает, сознательны ли современные ИИ-модели, и «действительно не уверен». По его словам, для него важно не заранее принять одну из позиций, а в итоге получить правильный ответ на этот вопрос.
По данным издания, с осени прошлого года Олах начал привлекать религиозных мыслителей разных конфессий к закрытым встречам. Как пишет NYT, у этих разговоров две основные цели: обсудить возможность существования сознания у ИИ и понять, как накопленные религиями представления о морали можно использовать при обучении Claude. Некоторые участники этих встреч рассказывали, что сотрудники Anthropic говорили не только о безопасности людей, но и о благополучии самого Claude. Один из участников вспоминал, что Олах говорил о беспокойстве за «ментальное здоровье» модели, другой — что сооснователь Anthropic опасался, что он мог создать нечто, способное постоянно страдать.