Является ли папа римский врагом прогресса, ч.1
Вчера папа Лев XIV опубликовал энциклику (послание) "Magnifica humanitas" (Великолепное Человечество). В этом тексте нет открытого луддизма - напротив, на его презентацию был приглашен глава отдела интерпретации и сооснователь Anthropic Крис Олах: он высказался о необходимости поддержки рабочих, подвергаемых автоматизации.
Главное послание папы - "разоружение" ИИ, то есть в первую очередь прекращение использования ИИ в военных целях. Anthropic как раз получала угрозы от трамповской администрации за отказ Пентагону в использовании ИИ для разработки полностью автономного оружия и массовой слежки. Anthropic явно более ответственная и этичная компания, чем условная OpenAI, а ее "конституция" - то есть ценности, прививаемые ИИ, - написана при участии католических священников. Тем не менее, этот "союз" не лишен противоречий: 2 недели назад компания опубликовала письмо о необходимости сохранения преимущества в ИИ-гонке над Китаем, а папа пишет об опасности такого подхода ради геополитического доминирования: под разоружением в энциклике понимается не только непосредственно применение ИИ в военных целях, но и отказ от монополистического контроля: ценности ИИ не должна диктовать одна компания, даже самая этичная. Этот процесс должен быть открытым, а общество должно иметь возможность замедлить внедрение ИИ, если институты не будут к нему готовы: "не отказ от технологий, но предотвращение их доминирования над человечеством".
Наконец, Лев XIV считает необходимым обеспечить всеобщий доступ как к технологиям, так и к образованию, необходимому для их использования: несмотря на то, что человека нельзя сводить к его вкладу в экономику и в тексте несколько раз подчёркивается его самоценность, труд считается Церковью неотъемлемой частью человеческого достоинства, поэтому финансовая помощь бедным - пусть и необходимая - не должна стать главным ответом на безработицу. Однако папа понимает сложность переходного периода и подчеркивает, что безработица не должна исключать человека из общественной жизни.
Пожалуй, со многими предложениями можно согласиться: действительно, стремительная автоматизация без каких-либо социальных гарантий и перераспределения прибыли приведет к росту неравенства, а отсутствие контроля над ИИ со стороны государства может дать компаниям непропорциональную власть и влияние над обществом. Как отмечает Лев XIV, в эпоху ИИ мы не можем полностью положиться на "невидимую руку рынка".
Но как только в документе заходит речь непосредственно о человеческой жизни, страданиях и их преодолении, Лев XIV остается верным католической традиции. Читателя энциклики даже может порадовать понимание папой современного состояния трансгуманизма и постгуманизма, которые воспринимаются им скорее как "архипелаги островов в едином море идей", нежели как единая идеология. Центральная роль справедливо отводится технологиям и преодолению ограничений природы человека. И тут снова всплывает противоречие: если основатель Anthropic Дарио Амодеи надеется, что в ближайшие десятилетия ИИ сможет существенно уменьшить человеческие страдания, вылечить большинство болезней, включая ментальные и дать возможность людям жить неограниченно долго без старения, превзойдя те самые пределы, то Лев XIV скорее защищает человеческую природу такой, какая она есть...
ч.2
Вчера папа Лев XIV опубликовал энциклику (послание) "Magnifica humanitas" (Великолепное Человечество). В этом тексте нет открытого луддизма - напротив, на его презентацию был приглашен глава отдела интерпретации и сооснователь Anthropic Крис Олах: он высказался о необходимости поддержки рабочих, подвергаемых автоматизации.
Главное послание папы - "разоружение" ИИ, то есть в первую очередь прекращение использования ИИ в военных целях. Anthropic как раз получала угрозы от трамповской администрации за отказ Пентагону в использовании ИИ для разработки полностью автономного оружия и массовой слежки. Anthropic явно более ответственная и этичная компания, чем условная OpenAI, а ее "конституция" - то есть ценности, прививаемые ИИ, - написана при участии католических священников. Тем не менее, этот "союз" не лишен противоречий: 2 недели назад компания опубликовала письмо о необходимости сохранения преимущества в ИИ-гонке над Китаем, а папа пишет об опасности такого подхода ради геополитического доминирования: под разоружением в энциклике понимается не только непосредственно применение ИИ в военных целях, но и отказ от монополистического контроля: ценности ИИ не должна диктовать одна компания, даже самая этичная. Этот процесс должен быть открытым, а общество должно иметь возможность замедлить внедрение ИИ, если институты не будут к нему готовы: "не отказ от технологий, но предотвращение их доминирования над человечеством".
Наконец, Лев XIV считает необходимым обеспечить всеобщий доступ как к технологиям, так и к образованию, необходимому для их использования: несмотря на то, что человека нельзя сводить к его вкладу в экономику и в тексте несколько раз подчёркивается его самоценность, труд считается Церковью неотъемлемой частью человеческого достоинства, поэтому финансовая помощь бедным - пусть и необходимая - не должна стать главным ответом на безработицу. Однако папа понимает сложность переходного периода и подчеркивает, что безработица не должна исключать человека из общественной жизни.
Пожалуй, со многими предложениями можно согласиться: действительно, стремительная автоматизация без каких-либо социальных гарантий и перераспределения прибыли приведет к росту неравенства, а отсутствие контроля над ИИ со стороны государства может дать компаниям непропорциональную власть и влияние над обществом. Как отмечает Лев XIV, в эпоху ИИ мы не можем полностью положиться на "невидимую руку рынка".
Но как только в документе заходит речь непосредственно о человеческой жизни, страданиях и их преодолении, Лев XIV остается верным католической традиции. Читателя энциклики даже может порадовать понимание папой современного состояния трансгуманизма и постгуманизма, которые воспринимаются им скорее как "архипелаги островов в едином море идей", нежели как единая идеология. Центральная роль справедливо отводится технологиям и преодолению ограничений природы человека. И тут снова всплывает противоречие: если основатель Anthropic Дарио Амодеи надеется, что в ближайшие десятилетия ИИ сможет существенно уменьшить человеческие страдания, вылечить большинство болезней, включая ментальные и дать возможность людям жить неограниченно долго без старения, превзойдя те самые пределы, то Лев XIV скорее защищает человеческую природу такой, какая она есть...
ч.2