«Конституция Клода» от Anthropic. Нравственное воспитание ИИ

⏳Друзья, сегодня предлагаем отвлечься от военной тематики. Хотя, если учесть, что в войнах будущего события будут разворачиваться не только на поле боя, а точнее, само поле боя будет представлять из себя (да и уже представляет) более многомерную конструкцию, то и сегодняшний пост тоже заслуживает определённого внимания

Так как трансгуманизм, наделение правами ИИ и прочие «ништяки» от глобалистов - это тоже один из сценариев, с которым так или иначе придётся «работать». И сегодня мы перевели для вас материал Алана З. Розенштейна-старшего, редактора ресурса Lavfare, аффилированного с транснационалами, где он анализирует документ, который называют «Конституцией Клода» от компании Antrophic (создатель ИИ Claude)

В этом документе сумрачные гении компании пытаются создать скорее «Библию ИИ», нежели инструкцию или свод правил. Основные тезисы анализа Розенштейна при изучении «Конституции Клода» следующие

📍Потенциал морального статуса. Создатели сомневаются, что «Клод» сейчас является существом, чьи интересы имеют моральную ценность. Но они относятся к этому серьёзно: сохраняют старые версии модели и даже «беседуют» с выведенными из эксплуатации ИИ. Причина проста: «мы не знаем, где возникает сознание. А с практической точки зрения, люди всё равно будут относиться к продвинутым ИИ как к личностям, и это само по себе создаёт социальную реальность, которую нужно учитывать»

📍Клод - не пассивный инструмент. Он сравнивается с подрядчиком, который может отказаться строить то, что противоречит правилам безопасности. Более того, он может отказаться выполнять даже указания своих создателей, если сочтёт их неэтичными. Право на «отказ по убеждениям» встроено в систему

📍Этика добродетели вместо свода правил. Это самый важный аспект. Вместо тысяч жёстких предписаний Anthropic выбрала путь формирования здравого смысла и практической мудрости (по-гречески —«фронезис»). Цель добиться от Клода настолько глубокого понимания контекста и ценности, чтобы он мог сам вырабатывать правильные решения в уникальных ситуациях

📍Структура документа отражает следующую философию

🤩Есть семь абсолютных запретов. Например, нельзя помогать в создании оружия массового поражения или генерировать запрещённый контент

🤩Но есть как минимум четырнадцать конкурирующих ценностей, которые Клод должен взвешивать в каждой ситуации: приватность/верховенство закона, самостоятельность/предотвращение вреда, инновации/безопасность

📍По сути, документ говорит: «Вот принципы, вот ценности, которые иногда конфликтуют. Клод, тебе нужно научиться их сопоставлять и принимать мудрые решения»

📍Anthropic честно признаёт: их система не нейтральна. Ценности Клода - это ценности «СТРАННОГО» мира (западного, образованного, индустриального, богатого, демократического). На первом месте - личная автономия, приватность, индивидуальное благополучие, демократические институты и сдержанность в спорных вопросах

📍Это создаёт очевидные противоречия. Пользователи из стран с иными культурными традициями, где коллективные ценности или гармония важнее индивидуальной свободы, могут справедливо задаться вопросом: «Почему этот ИИ запрограммирован на защиту чуждых нам институтов?» Это неизбежно создаст спрос на альтернативные модели, обученные на других системах ценностей

📍Аргументы «за» и «против» от Антропик мы здесь приводить не будем, так как они наполнены иезуитской софистикой и казуистикой. Прочтите их сами. Но главное, на что замахнулись цифровые «мракобесы» из компании, это то, что ближайшими аналогами «Конституции Клода» являются религиозные тексты или учредительные документы государств

🤔Свой анализ Розенштейн резюмирует следующим образом: «Как бы мы к этому ни относились, эксперимент запущен. Можем ли мы масштабировать этику добродетели? Можно ли обучить ИИ практической мудрости и наделить сознанием? Веками философы обсуждали это в теориях. Теперь у человечества есть шанс проверить это на практике»

🚀 Подпишитесь на наш канал чтобы не пропустить следующие публикации!

Cogito ergo vinco
МЫСЛЮ, СЛЕДОВАТЕЛЬНО, ПОБЕЖДАЮ!