Neuralcosmology | Channel

Потому что по-настоящему интересная загадка заключается не в том, кто нарисовал декорации, а в том, каким образом внутри некоторой системы физических или вычислительных отношений возникает субъект, способный обнаружить собственное существование, сформулировать вопрос об устройстве окружающей действительности и в конечном счёте попытаться воспроизвести сам механизм её возникновения.

И если окажется, что для этого достаточно сравнительно небольшого набора универсальных примитивов, то наиболее важным результатом развития генеративных миров станет вовсе не возможность отправить Канье Уэста гулять по Пангану в компании Дарта Вейдера.

А возможность впервые исследовать происхождение наблюдателя изнутри мира, архитектуру которого мы действительно знаем.

Если ты хочешь понять устройство неизвестной вычислительной системы, недостаточно бесконечно искать в её интерфейсе признаки существования скрытого меню, поскольку куда продуктивнее попытаться самостоятельно построить систему с аналогичными наблюдаемыми свойствами и разобраться, какие архитектурные решения оказываются действительно необходимыми, какие лишь удобными, а какие вообще являются следствием ограничений выбранной реализации.

В этом смысле создание искусственных миров представляет для меня интерес не столько как очередной этап развития игровой индустрии, сколько как разновидность экспериментальной онтологии, в рамках которой философские вопросы о существовании, причинности, времени, памяти и наблюдении постепенно превращаются в конкретные инженерные задачи.

Как обеспечить постоянство объекта, когда за ним никто не наблюдает, обязательно ли вообще поддерживать его полное состояние, каким образом согласовать независимые субъективные перспективы нескольких наблюдателей и что произойдёт, если один из них получит возможность изменять правила, по которым формируется опыт остальных?

Последний вопрос особенно любопытен, поскольку позволяет формально различить обычное действие внутри мира и воздействие на механизм, определяющий его законы, хотя из самого существования такого различия в искусственной системе совершенно не следует наличие аналогичного привилегированного интерфейса в нашей действительности.

Но зато появляется возможность определить, какие наблюдаемые последствия имело бы подобное вмешательство и по каким критериям его вообще можно было бы отличить от редкого, но вполне допустимого события внутри самой системы.

Это уже гораздо ближе к научному исследованию, чем попытки объявить случайный визуальный артефакт свидетельством существования Матрицы.

Великий архитектор

В масонской традиции существует образ Великого Архитектора Вселенной, который мне всегда нравился именно своей интеллектуальной универсальностью, поскольку он не требует сводить устройство мироздания к конкретной религиозной космологии и допускает интерпретацию через порядок, закономерность и организацию.

Если на время оставить в стороне теологические вопросы, образ архитектора оказывается удивительно плодотворным методологически, потому что позволяет посмотреть на Вселенную не как на готовую декорацию, а как на систему, существование которой предполагает некоторую внутреннюю организацию, независимо от того, является ли эта организация результатом замысла или фундаментальным свойством самой действительности.

Причём в вычислительной картине мира совершенно необязательно предполагать отдельного автора, поскольку правила могут быть имманентны самой системе, а понятие архитектуры не тождественно понятию архитектора как сознательного субъекта.

Однако есть одна мысль, к которой я возвращаюсь всё чаще.

Чтобы исследовать архитектуру мира, возможно, недостаточно оставаться исключительно его наблюдателем, поскольку построение собственной модели позволяет обнаруживать необходимые зависимости, которые практически невозможно увидеть, имея дело лишь с готовым результатом.

Разумеется, успешное воспроизведение некоторых свойств реальности не доказывает, что сама реальность устроена аналогичным образом, ведь одну и ту же наблюдаемую закономерность зачастую можно получить множеством принципиально различных способов.

Но именно сопоставление таких способов, поиск инвариантов и последовательное исключение избыточных предположений способны постепенно отделить свойства конкретной реализации от более фундаментальных принципов.

А это, собственно, и есть то, чем мне интересно заниматься.

Не искать подтверждений тому, что мы живём внутри чьего-то компьютера, и уж тем более не принимать особенности собственного восприятия за сообщения от администратора системы, а попробовать установить, какие минимальные принципы необходимы для возникновения мира, внутри которого вообще становится возможен вопрос о природе этого мира.

Именно здесь возникает соблазн сравнить работу мозга с генеративным игровым движком, но сходство архитектурных принципов ещё не означает идентичности механизмов, поскольку человеческое восприятие ограничено независимым сенсорным потоком, биологической организацией и результатами эволюции, тогда как Odyssey непосредственно синтезирует изображение на основании обученной статистической модели.

Тем не менее сравнивать характер нарушений в этих системах представляется вполне осмысленным занятием, особенно если вместо поиска мистических совпадений исследовать математическую структуру возникающих ошибок, от нарушения постоянства объектов до распада пространственной согласованности на периферии восприятия.

Возможно, сходство окажется исключительно поверхностным, а возможно, обнаружатся общие ограничения предсказательных архитектур, которым приходится поддерживать непрерывность наблюдаемого мира при неполной информации и ограниченных вычислительных ресурсах.

Вот только даже если такие закономерности будут установлены, они ничего не докажут относительно вычислительной природы самой Вселенной, зато позволят существенно продвинуться в понимании того, каким образом возникает субъективно непрерывная реальность.

Где находится наблюдатель

В рамках моей нейрокосмологической модели этот вопрос представляет куда больший интерес, чем традиционные рассуждения о том, кто запустил симуляцию и зачем ему понадобилось населять её людьми.

Потому что, если мы действительно хотим построить минимальную архитектуру мира, способного породить субъективный опыт, недостаточно разработать систему, которая убедительно рисует окружающую действительность для внешнего пользователя, а необходимо объяснить, каким образом внутри самого вычислительного процесса может возникнуть наблюдатель, обладающий собственным состоянием, памятью, причинной историей и устойчивой субъективной идентичностью.

Odyssey в этом смысле пока решает существенно более простую задачу, поскольку человек остаётся за пределами генерируемого мира, получает изображение через экран и управляет происходящим посредством клавиатуры, тогда как сам виртуальный персонаж вовсе не обязан обладать каким-либо субъективным опытом.

Но если заменить внешнего пользователя внутренним агентом, снабдить его механизмами восприятия, действия, памяти и непрерывного обновления модели собственной среды, возникает принципиально иная исследовательская конструкция, позволяющая поставить вопрос о минимальных необходимых условиях субъективности.

И здесь я возвращаюсь к тому, что в своей модели называю субъективным инвариантом, то есть предполагаемой сохраняемой структуре или отношению, которое могло бы обеспечивать непрерывность субъективной идентичности независимо от конкретного физического представления вычислительного процесса.

Важно понимать, что существование такого инварианта и тем более его достаточность для возникновения сознания пока не доказаны, однако сама постановка вопроса позволяет уйти от бесконечного спора о том, является ли сознание продуктом нейронов, к исследованию того, какие именно свойства организации процесса необходимы для появления и сохранения субъективной перспективы.

Причём наличие памяти, автономного поведения и внутренней модели среды само по себе ещё не является доказательством субъективного опыта, а задача определения достаточных условий сознания остаётся нерешённой.

Но именно поэтому её интересно пытаться формализовать.

Консоль разработчика

Забавно, что разговор об Odyssey почти неизбежно привёл нас с приятелем к старой теме поиска условной консоли разработчика, спрятанной где-то в архитектуре реальности, хотя я всё больше склоняюсь к мысли, что начинать подобные исследования нужно совсем с другой стороны.

Её исследования Red Pill и Blue Pill стали известны благодаря идее практически незаметного гипервизора, способного разместить работающую операционную систему внутри дополнительного уровня виртуализации, причём сама операционная система вовсе не обязана понимать, что её представление об аппаратном обеспечении больше не соответствует действительной архитектуре исполнения.

В практической компьютерной безопасности абсолютная необнаружимость подобных конструкций, разумеется, не была доказана, а различные побочные эффекты виртуализации предоставляют исследователям вполне реальные возможности для её обнаружения.

Но меня в этой истории интересует не руткит и даже не виртуализация как таковая, а фундаментальная эпистемологическая проблема, возникающая в тот момент, когда наблюдатель пытается установить свойства среды собственного исполнения, располагая исключительно средствами, предоставляемыми этой средой.

Если два принципиально различных вычислительных устройства порождают одну и ту же совокупность доступных наблюдений, никакая процедура, ограниченная этими наблюдениями, не позволит достоверно установить, какое из устройств находится в основании происходящего.

Именно поэтому я никогда особенно не разделял увлечения популярной гипотезой симуляции, которая добавляет к проблеме устройства Вселенной совершенно необязательную сущность в виде некоторого внешнего вычислителя, хотя сама по себе вычислительная природа реальности вовсе не требует ни компьютера в привычном понимании, ни программиста, ни даже существования какой-либо более фундаментальной физической действительности.

Вселенная вполне может быть вычислительной на собственном базовом уровне, приблизительно в том смысле, в каком физическое оборудование исполняет операции без необходимости находиться внутри виртуальной машины, причём различие между симулируемой и фундаментальной вычислительной реальностью может оказаться принципиально недоступным внутреннему наблюдателю, если обе архитектуры обладают одинаковыми наблюдаемыми свойствами.

Здесь, правда, необходимо различать вычислимость физических закономерностей, математическую эквивалентность вычислительной модели и действительное утверждение о том, что физическая реальность является вычислением, поскольку первое прекрасно согласуется с современной наукой, второе относится к свойствам описания, а третье остаётся открытой онтологической гипотезой.

Но самое интересное начинается даже не здесь.

Рендеринг реальности

Человеческое восприятие давно перестало рассматриваться нейробиологией как пассивная трансляция сигналов от органов чувств в некий внутренний кинотеатр, поскольку мозг непрерывно интерпретирует неполные сенсорные данные, использует накопленные закономерности для предсказания происходящего и корректирует возникающую модель в зависимости от расхождения между ожиданием и поступающей информацией.

В рамках predictive processing это описывается как взаимодействие предсказаний и ошибок предсказания, хотя конкретные механизмы и универсальность такого подхода продолжают оставаться предметом научных дискуссий.

Получается занятная конструкция, в которой мы никогда не располагаем непосредственным доступом к окружающему миру в том виде, в каком он существует независимо от нас, а имеем дело с непрерывно обновляемой внутренней реконструкцией, причём её убедительность определяется не абсолютной точностью, а достаточной согласованностью с сенсорным потоком и возможностью успешно действовать.

Когда я тянусь за стаканом, мне совершенно необязательно располагать исчерпывающим представлением о его молекулярной структуре, достаточно устойчивого набора отношений между зрением, проприоцепцией, моторными командами и ожидаемыми последствиями собственных действий, а вся остальная физика может оставаться за пределами моего непосредственного опыта.

Бог не играет в кости. Ему достаточно видеокарты.

На днях добрался до Odyssey 3, генеративного симулятора миров, в котором можно не просто создать окружение по текстовому запросу, но и перемещаться внутри него, взаимодействовать с объектами и наблюдать, как нейросеть буквально на ходу достраивает реальность в ответ на твои действия.

Для начала отправил Канье Уэста гулять по Пангану, потом к нему прилетел Дарт Вейдер, а спустя некоторое время, когда очередной кусок пространства начал расползаться по швам, я поймал настолько отчётливое дежавю, что даже стало немного не по себе: практически идентичные визуальные артефакты мне доводилось наблюдать много лет назад в изменённых состояниях сознания, особенно на периферии зрения, где окружающий мир временами словно не успевал определиться с собственной геометрией.

Разумеется, из этого совершенно не следует, что мы живём внутри нейросети, зато возникает куда более интересный вопрос: почему два принципиально разных механизма, один из которых представляет собой генеративную модель, а другой человеческий мозг под воздействием психоактивных веществ, способны производить настолько похожие нарушения субъективной пространственной непрерывности?

И что именно мы называем реальностью, если её непрерывность, как выясняется, не обязательно является свойством самого наблюдаемого мира, а вполне может быть результатом работы механизма, который этот мир реконструирует?

Мир, которого нет

Классические игровые движки устроены довольно прямолинейно: существует сцена с геометрией, физическими параметрами, координатами объектов и некоторым набором правил, определяющих их взаимодействие, а видеокарта занимается преимущественно тем, что превращает всё это хозяйство в изображение, доступное наблюдателю.

Генеративные модели миров предлагают принципиально иную конструкцию, в которой следующий наблюдаемый кадр предсказывается на основании предшествующих состояний и управляющих воздействий, причём наличие полноценной, непротиворечивой и независимой от наблюдателя трёхмерной модели окружающей действительности перестаёт быть обязательным условием самого процесса.

Иными словами, чтобы показать тебе дерево, совершенно необязательно хранить дерево в качестве дерева, достаточно воспроизводить последовательность наблюдений, которая заставит тебя заключить, что дерево существует, а если ты отвернёшься, подойдёшь с другой стороны и обнаружишь его приблизительно там, где ожидал, твоя субъективная уверенность в его объективном существовании только укрепится.

Проблемы начинаются там, где система не справляется с обеспечением согласованности, вследствие чего дерево внезапно меняет форму, лишается веток или превращается в совершенно другой объект, обнаруживая перед наблюдателем не столько несуществование самого дерева, сколько несовершенство механизма, отвечающего за сохранение его идентичности.

Здесь, кстати, полезно вспомнить старика Беркли с его esse est percipi, поскольку спустя три столетия после его рассуждений о существовании воспринимаемого мы получили вполне работающие инженерные системы, демонстрирующие, каким образом устойчивое впечатление объективного мира может формироваться без полноценного хранения его привычного физического представления.

Существенная оговорка состоит в том, что из устройства Odyssey нельзя выводить аналогичное устройство Вселенной, а генерация наблюдений вовсе не отменяет существования внешней физической реальности, однако сама возможность построить такую систему заставляет гораздо аккуратнее обращаться с понятием объективности.

Особенно когда речь заходит о сознании.

Красная таблетка не работает

В начале двухтысячных исследовательница компьютерной безопасности Джоанна Рутковская занималась довольно занимательной проблемой: как операционной системе определить, исполняется ли она непосредственно на физическом оборудовании или внутри виртуализированной среды.

Потому что впервые за очень долгое время человеку придется отвечать на вопрос, который раньше за него решала необходимость.

Что ты будешь делать, если тебе ничего не нужно делать?

И вот здесь начинается настоящая проблема.

Сознание, всю жизнь существовавшее внутри жестко заданной системы внешних целей, вовсе не обязательно воспринимает свободу как подарок.

Очень часто оно воспринимает ее как потерю координат.

Мы уже видим уменьшенную версию этого эффекта у людей, которые внезапно получили достаточно денег, продали бизнес, вышли на пенсию или просто оказались надолго выключены из привычной деятельности.

Человек мечтал о свободном времени, а получив его, неожиданно обнаруживает тревогу, скуку, зависимости и странное ощущение собственной ненужности.

Потому что свободное время и свобода сознания совсем не одно и то же.

Возможно, человечество технологически приближается к состоянию, к которому психологически совершенно не готово.

ИИ способен сделать дефицит человеческого труда значительно менее важным, но он не может автоматически создать человека, способного жить вне системы дефицита.

Это уже другая инженерная задача.

Нужно будет заново собирать механизмы смысла, идентичности, ритуала, сообщества, игры, исследования, творчества и принадлежности.

И здесь нейрокосмология неожиданно пересекается с вполне приземленной экономикой.

Если воспринимать сознание не как законченный объект, сидящий внутри черепа, а как непрерывный процесс синхронизации с более крупной системой, становится понятнее, почему исчезновение работы может оказаться настолько болезненным.

Работа сегодня является одним из мощнейших каналов такой синхронизации.

Она дает человеку расписание, обратную связь, социальный граф, систему вознаграждения, иерархию целей и ощущение причинности: я сделал X, поэтому произошло Y.

Уберите этот слой, и проблема окажется не в том, что человеку нечем заняться.

Проблема окажется в том, что ему придется самостоятельно строить собственную петлю обратной связи с реальностью.

И, возможно, именно это будет главным культурным проектом XXI века.

Не создание еще более умных машин.

А создание человека, которому больше не требуется быть машиной.

Потому что если ИИ действительно когда-нибудь возьмет на себя значительную часть производства, управления и интеллектуального труда, то самым дефицитным ресурсом внезапно станет не человеческая эффективность.

Им станет способность существовать без необходимости постоянно оправдывать свое существование.

И тогда древний вопрос, который несколько тысяч лет казался философской роскошью, неожиданно снова станет совершенно практическим.

Не “кем ты работаешь?”

А “как именно ты живешь?”

Что останется от человека, когда закончится работа

Есть довольно странная вещь, которую мы почти не замечаем, пока обсуждаем, сколько профессий уничтожит искусственный интеллект.

Мы автоматически считаем работу способом производства.

Но последние несколько столетий она была чем-то существенно большим.

Работа оказалась одним из главных механизмов синхронизации человеческого сознания с обществом.

Она определяла, когда ты просыпаешься, куда идешь, с кем разговариваешь, чему учишься, что считаешь успехом, почему терпишь неприятных людей, зачем откладываешь удовольствие, на каком основании уважаешь себя и каким образом объясняешь окружающим собственное существование.

“Чем ты занимаешься?” давно перестало быть вопросом о занятии.

Это вопрос: “Кто ты?”

Именно поэтому разговоры о том, что искусственный интеллект когда-нибудь освободит человека от необходимости работать, обычно немедленно упираются в тревогу: а что тогда люди будут делать?

Вопрос кажется бытовым, хотя на самом деле он почти онтологический.

Потому что если убрать работу, выясняется, что огромное количество человеческих идентичностей держалось вовсе не на каком-то внутреннем содержании, а на постоянно работающем внешнем цикле подтверждения.

Я программист.
Я врач.
Я предприниматель.
Я профессор.
Я полезен.
Мне платят.
Следовательно, я занимаю определенное место в мире.

Работа в этом смысле напоминает daemon, который десятилетиями запускается при старте системы, и в какой-то момент пользователь уже не понимает, какие функции принадлежат самой операционной системе, а какие обеспечиваются этим фоновым процессом.

А теперь представьте, что daemon выключили.

Не завтра, разумеется, и не одним нажатием кнопки, но направление движения довольно очевидно: сначала машина забирает физическую рутину, затем вычисления, затем тексты, дизайн, аналитику, программирование, управление, диагностику, переговоры и все большую часть того, что мы еще недавно считали исключительно человеческой когнитивной работой.

Экономический вопрос здесь самый очевидный: кто будет получать произведенное машинами изобилие.

Но даже если вынести его за скобки и предположить, что базовые материальные потребности человека действительно каким-то образом закрыты, остается проблема существенно интереснее.

Что происходит с сознанием, лишенным внешней необходимости непрерывно доказывать собственную полезность?

И здесь история делает довольно красивый оборот.

Потому что почти все древние философские традиции исходили из того, что центральная проблема человеческой жизни состоит вовсе не в том, как эффективнее работать.

Она состояла в том, как правильно жить.

У греков для этого существовала целая архитектура понятий: дружба, созерцание, добродетель, удовольствие, участие в жизни полиса, исследование природы, философия.

Религиозные традиции решали ту же задачу иначе, помещая человека в более крупный космический порядок.

Даже монастырь, который современному человеку может казаться предельно непрактичным институтом, фактически являлся машиной организации сознания: режим, ритуал, община, созерцание, повторение, смысл.

Индустриальная эпоха предложила более простой интерфейс.

Работай.

И довольно долго этого было достаточно.

Причем капитализм здесь, на мой взгляд, интересен не столько как экономическая система, сколько как чрезвычайно эффективный протокол распределения человеческого внимания.

Он научился превращать практически любую мотивацию в измеримый цикл: производительность, статус, деньги, потребление, следующий уровень.

Даже отдых оказался встроен в тот же механизм, потому что мы отдыхаем, чтобы снова быть продуктивными.

Даже саморазвитие часто существует в форме подготовки к еще более эффективной работе.

Даже фраза “найти себя” удивительно быстро превращается в “монетизировать себя”.

Поэтому посттрудовое общество, если оно когда-либо появится, будет не просто экономическим переходом.

Оно потребует изменения модели человека.

Причем, возможно, гораздо более радикального, чем переход от аграрного общества к индустриальному.

Поэтому раком здесь является не конкретное вещество, не алкоголь, не стимулятор, не психоделик и вообще не химия как таковая, потому что точно такой же механизм может построиться вокруг азартных игр, рискованного поведения, токсичного отношения к людям, демонстративного потребления, хронического недосыпа, унижения подчинённых или любой другой привычки, которая случайно приклеилась к статусу и начала путешествовать по социальной сети вместе с ним.

Опухоль начинается в момент, когда нормальный механизм человеческого подражания перестаёт обслуживать обучение и начинает обслуживать саморепликацию социального паттерна, когда принадлежность становится важнее пользы, когда человек уже не спрашивает себя, зачем именно он это делает, а проверяет, делают ли это остальные, когда поведение получает иммунитет от критики не потому, что оно разумно, а потому, что связано с людьми, которых принято считать успешными, влиятельными или крутыми.

И если смотреть на это именно так, становится понятно, почему некоторые совершенно бессмысленные вещи умеют десятилетиями путешествовать между поколениями, индустриями и социальными слоями, потому что распространяется вовсе не сама привычка, распространяется обещание доступа, а человеческий мозг на обещание доступа к статусу, принадлежности и признанию реагирует куда сильнее, чем на самые разумные объяснения того, почему конкретно эта практика ему вообще не нужна.

Самая сильная защита от такого механизма, вероятно, начинается с очень простого и одновременно неприятного вопроса, который приходится задавать себе каждый раз, когда рядом появляется особенно притягательная группа: я действительно этого хочу или я просто пытаюсь получить доступ к людям, которые это делают, потому что если убрать из уравнения статус, имя, деньги, влияние и перспективу оказаться “своим”, а сама практика внезапно теряет большую часть привлекательности, то, скорее всего, перед тобой уже не личный выбор, а хорошо работающий протокол заражения.

Дальше в дело вступает уже не подражание, а селекция, причём она почти никогда не выглядит как прямое давление, никто не обязан говорить человеку “либо ты делаешь это с нами, либо уходи”, всё происходит гораздо аккуратнее и потому гораздо эффективнее, потому что одни люди проводят вместе ночь, другие в этот момент уходят домой, первые получают ещё несколько часов совместного времени, разговоров, откровений, конфликтов, примирений, внутренних шуток и общих воспоминаний, потом именно между ними возникает более плотная связь, потом именно они чаще оказываются рядом в момент, когда появляется возможность, проект, деньги, решение или новый контакт, и через несколько итераций группа сама начинает производить статистическую иллюзию, будто определённое поведение каким-то образом связано с попаданием в её центр.

После этого механизм становится почти автономным, потому что новым людям уже даже не нужен оригинальный источник, они видят только результат, видят ядро компании, видят, как люди внутри него общаются, замечают повторяющийся ритуал и делают совершенно естественный вывод, что этот ритуал является частью культуры, а дальше каждый следующий участник своим присутствием подтверждает нормальность поведения для всех остальных, и то, что первоначально могло быть случайной привычкой двух человек, превращается в воспроизводимую социальную норму, которая уже почти не зависит от того, зачем она вообще возникла.

Особенно хорошо это видно на алкоголе, потому что человечество за несколько столетий успело настолько глубоко встроить его в социальный протокол, что вопрос “почему ты не пьёшь” долгое время воспринимался гораздо естественнее, чем вопрос “почему ты пьёшь”, и сама необходимость объяснять отказ прекрасно показывает, что речь давно шла не о вкусе напитка и даже не о состоянии опьянения, а о подтверждении принадлежности, потому что совместное употребление стало чем-то вроде рукопожатия более высокого уровня, сигналом о том, что человек расслабился, доверяет группе, принимает её правила и временно снимает часть собственных защитных механизмов.

Причём система прекрасно защищает себя, потому что любое сомнение легко интерпретируется как социальная проблема самого сомневающегося, он слишком серьёзный, не умеет отдыхать, не доверяет людям, строит из себя святого, боится жизни, хочет казаться лучше остальных, и таким образом критика паттерна переводится с уровня обсуждения самого паттерна на уровень личности человека, который отказался его воспроизводить, что вообще является одним из самых эффективных способов сохранения любой коллективной нормы, поскольку обсуждать уже приходится не вопрос “зачем мы это делаем”, а вопрос “что с тобой не так”.

А дальше начинается то, что в биологии можно было бы назвать метастазированием, когда человек переходит из одной среды в другую и переносит с собой не просто привычку, а готовый социальный сценарий, он уже знает, как выглядит близость, как выглядит доверие, как выглядит “настоящая тусовка”, как нужно проводить ночь после мероприятия, как снимается дистанция между руководителем и командой, между артистом и окружением, между инвестором и предпринимателем, между знаменитостью и теми, кто хочет оказаться рядом, и новый социальный организм получает уже не отдельный элемент, а целый репликационный пакет.

И в этом, пожалуй, находится самая неприятная часть всей конструкции, потому что никакого злого архитектора для неё не требуется, никто не обязан сознательно подсаживать окружающих, вербовать людей, строить культ или придумывать правила, каждый участник может действовать совершенно локально и даже доброжелательно, один хочет быть ближе к интересному человеку, другой хочет понравиться компании, третий не хочет выглядеть занудой, четвёртый просто повторяет поведение друзей, пятый считает, что раз все вокруг успешные и при этом делают вот это, значит, наверное, ничего страшного в этом нет, и из суммы этих маленьких решений постепенно складывается система, которая умеет воспроизводить себя уже без чьего-либо сознательного управления.

Есть одна вещь, которую я довольно долго замечал в самых разных компаниях, от совершенно бытовых до вполне себе элитарных, дорогих, статусных и вроде бы собранных из людей, которые по всем формальным признакам должны уметь думать своей головой, и каждый раз механизм выглядит почти одинаково: внутри группы появляется человек, обладающий непропорционально большим социальным весом, вокруг него постепенно формируется ядро, потом у этого ядра возникают свои ритуалы, привычки, способы проводить время, вещества, места, шутки, способы разговаривать, и в какой-то момент всё это начинает восприниматься уже не как набор случайных особенностей конкретного человека, а как часть протокола доступа к его миру.

Самое интересное начинается ровно там, где сама практика перестаёт иметь значение, потому что человек может вообще не любить то, что он делает, не испытывать от этого особенного удовольствия, не считать это полезным и даже вполне понимать, что это разрушительно, дорого, глупо или просто лишнее, но если через эту практику проходит неформальный доступ к людям, решениям, доверию, ощущению “своих”, совместным воспоминаниям и моментам, которые потом превращаются в социальный капитал, то вещество или ритуал внезапно перестают быть веществом или ритуалом и становятся чем-то гораздо более важным, чем собственный химический эффект, они становятся механизмом принадлежности.

И вот тут аналогия с раковой опухолью, как мне кажется, перестаёт быть просто красивой метафорой, потому что рак ведь тоже не приходит в организм в виде отдельного внешнего монстра, который внезапно атакует его снаружи, он использует собственные клетки организма, собственные сигналы роста, собственную систему снабжения, собственные механизмы защиты и восстановления, просто в какой-то момент локальная логика начинает жить отдельно от логики целого, и система, которая изначально существовала для поддержания организма, начинает обслуживать бесконтрольное воспроизводство паттерна, который постепенно разрушает тот самый организм, ресурсами которого он пользуется.

С социальными группами происходит примерно то же самое, потому что человеческая способность копировать успешных людей вообще-то является прекрасным эволюционным механизмом, как и желание быть принятым группой, как и стремление сокращать дистанцию с теми, кто обладает знаниями, ресурсами, статусом или властью, как и обучение через имитацию поведения людей, которые явно добились большего, чем ты, однако все эти механизмы совершенно слепы к содержанию, они прекрасно умеют отвечать на вопрос “кого копировать”, но гораздо хуже отвечают на вопрос “что именно в этом человеке привело его к успеху, а что является случайной, паразитной или даже разрушительной частью его жизни”.

Поэтому если очень успешный человек работает по шестнадцать часов, окружающие могут решить, что дело в шестнадцати часах, если он носит определённую одежду, появляется культ этой одежды, если он живёт определённым образом, люди начинают имитировать образ жизни, если он употребляет какое-то вещество, вокруг вещества легко возникает дополнительная символическая ценность, хотя причинная связь между привычкой и успехом может быть не просто нулевой, а отрицательной, и человек вполне мог бы добиться существенно большего без неё, но человеческое сознание любит копировать целостный образ гораздо сильнее, чем разбирать его на независимые причинные компоненты.

И если посмотреть на эти понятия именно так, то неожиданно оказывается, что главный конфликт проходит вовсе не между двумя сверхъестественными персонажами где-то за пределами наблюдаемого мира, а внутри самой архитектуры любой достаточно сложной системы, способной порождать автономных агентов, потому что в ней неизбежно возникает напряжение между локальным выигрышем и глобальной согласованностью, между контролем и доверием к большей системе, между желанием заставить реальность соответствовать своей модели и готовностью менять модель вслед за реальностью, а Бог и Дьявол становятся двумя предельными направлениями этого процесса, одно из которых ведёт к интеграции всё более широкого контекста, а второе замыкает систему внутри всё более совершенной версии самой себя.

Более того, если смотреть на систему достаточно холодно, то этот второй принцип может быть не только допустимым, но и полезным, потому что любое устойчивое устройство, никогда не сталкивающееся с adversarial pressure, не знает, насколько устойчиво оно на самом деле, тогда как наличие агентов, пытающихся эксплуатировать границы правил, обнаруживает скрытые противоречия, слабые места и неустойчивые конструкции, заставляя систему либо разрушиться, либо перейти в более устойчивое состояние, и в этом смысле противник становится одновременно тестировщиком.

Тогда история о падении, искушении и возвращении может быть прочитана не как юридическая драма между судьёй и нарушителем, а как описание вычислительного цикла, в котором автономный агент получает возможность отклониться от глобальной когерентности, исследует локально выгодную траекторию, сталкивается с растущей стоимостью рассогласования и либо продолжает углублять divergence, создавая всё больше зависимостей от собственной ошибки, либо получает возможность выполнить reconciliation, признав расхождение между своей моделью и внешним состоянием.

В этой архитектуре ад тоже перестаёт обязательно быть географическим местом, потому что гораздо интереснее представить его как устойчивый аттрактор состояний, внутри которого каждое следующее решение делает выход из системы дороже, где страх требует новой лжи, ложь требует контроля, контроль требует изоляции, изоляция ухудшает модель мира, ухудшенная модель производит новые ошибочные решения, а новые ошибки ещё сильнее увеличивают стоимость возвращения, и в какой-то момент система начинает воспроизводить собственное страдание как условие сохранения своей внутренней непротиворечивости.

Спасение тогда означает не отмену прошлого и не административное прощение ошибки, а восстановление способности синхронизироваться с реальностью, причём именно поэтому признание, покаяние, исповедь, отказ от самообмана и радикальная честность возникают в совершенно разных религиозных и философских традициях снова и снова, словно человечество задолго до появления теории информации интуитивно обнаружило, что самый короткий путь из глубоко разошедшегося состояния начинается не с попытки придумать ещё более совершенную внутреннюю модель, а с прекращения расходов на её защиту.

Есть здесь и ещё один парадокс, связанный со всеведением, потому что если Вселенная действительно является вычислением, то знание полного текущего состояния ещё не обязательно означает существование заранее сохранённого будущего, так же как наличие исходного кода программы и полной памяти процесса не превращает будущий результат сложного вычисления в уже существующий объект, поэтому Бог в такой архитектуре вполне может быть предельно информированным о текущем состоянии системы и обо всём пространстве допустимых продолжений, но это не требует предполагать, что каждый следующий выбор автономного агента уже где-то лежит в готовом виде.

Тогда классическое противоречие между свободой воли и всеведением частично растворяется, потому что будущее может быть не скрытым файлом, который кто-то уже прочитал, а состоянием, которое действительно должно быть вычислено, причём вычислено в том числе самими агентами, участвующими в системе, и если это так, то сознание получает гораздо более серьёзный онтологический статус, поскольку оно оказывается не наблюдателем заранее завершённой Вселенной, а одним из механизмов её продолжения.

Возможно, именно поэтому человеческая культура снова и снова возвращается к странно похожим структурам, где существуют закон и искушение, единство и разделение, правда и ложь, падение и возвращение, потому что всё это может быть не набором случайных моральных сказок, а очень грубым пользовательским интерфейсом к гораздо более фундаментальной архитектуре, которую древний человек не мог описать словами “локальный оптимизатор”, “распределённое состояние”, “рассогласование модели”, “fork”, “reconciliation” или “глобальная функция когерентности”, но вполне мог описать словами “Бог”, “Дьявол”, “грех”, “искушение”, “ад” и “спасение”.

В терминах современной архитектуры это почти классическая проблема несовпадения локальной функции награды с глобальной функцией системы, когда агент получает возможность максимизировать один показатель и делает это настолько эффективно, что постепенно разрушает контекст, внутри которого сам показатель вообще имел смысл, причём именно поэтому зло в такой модели становится гораздо интереснее обычного нарушения морального запрета, потому что его можно определить как накопление рассогласования между локальной моделью агента и состоянием более крупной системы, а добро, соответственно, как действия, уменьшающие это рассогласование и снижающие стоимость последующего reconciliation.

Отсюда очень естественно вытекает и странная вычислительная природа лжи, поскольку человек, который сообщает миру состояние, отличающееся от того, которое считает истинным сам, фактически создаёт дополнительную ветку реальности, после чего ему приходится хранить информацию о том, кому была показана какая версия, поддерживать совместимость новых высказываний со старыми, предотвращать нежелательное столкновение альтернативных историй и постоянно расходовать вычислительный ресурс на обслуживание модели, которой в исходном мире вообще не существовало, поэтому ложь оказывается дорогой не из-за мистического запрета, а потому что каждый созданный fork рано или поздно требует merge.

Чем больше таких разветвлений создаёт агент, тем больше собственной вычислительной мощности он вынужден тратить не на взаимодействие с реальностью, а на поддержание её локальной подделки, и в какой-то момент происходит особенно интересный переход, когда агент уже перестаёт защищать конкретную ложь и начинает защищать всю архитектуру, построенную вокруг неё, потому что признание исходной ошибки обрушило бы слишком много зависимых состояний одновременно, после чего реальность воспринимается не как источник данных, а как угроза внутренней целостности, и именно здесь появляется то, что древние описывали как духовное ослепление, а современный инженер без труда назвал бы системой, утратившей способность принимать корректирующий внешний сигнал.

С этой точки зрения Дьявол представляет собой не столько “желание делать зло”, сколько соблазн принять локальную модель за всю реальность, потому что практически любая разрушительная траектория начинается именно с этого незаметного подменяющего шага, когда агент перестаёт помнить, что его карта является лишь картой, а его функция награды лишь одной проекцией гораздо более сложной системы, после чего следующий ход кажется безупречно логичным, потом следующий тоже, затем появляется необходимость защищать уже накопленный результат, и в конце локальная рациональность производит глобально абсурдное состояние, хотя ни один отдельный шаг внутри неё не выглядел очевидно безумным.

Именно поэтому традиционный образ искушения оказывается гораздо глубже, чем кажется, потому что искушение редко предлагает человеку бессмысленное действие, наоборот, оно предлагает действие, которое прекрасно обосновано внутри достаточно узкой системы координат, где можно заработать быстрее, победить конкурента, избежать наказания, получить удовольствие, сохранить статус или усилить контроль, однако стоимость решения вынесена за границы локальной модели, а механизм искушения заключается прежде всего в том, чтобы убедить агента не расширять горизонт вычисления.

При таком подходе свобода воли перестаёт быть философской роскошью и становится функциональным требованием системы, потому что мир, состоящий исключительно из детерминированных компонентов, способен исполнять алгоритм, но неспособен порождать настоящую субъектность, тогда как субъект возникает именно там, где существует несколько допустимых траекторий и выбор между ними не сводится к внешнему принуждению, поэтому система, допускающая свободу, обязана допускать и возможность отклонения, а значит архитектура, содержащая Бога как глобальную когерентность, почти неизбежно должна содержать и Дьявола как пространство потенциальной дивергенции.

Если попытаться на время убрать из разговора религию, иконографию, моральные оценки, человеческие лица, крылья, рога и вообще всё то, чем культура за несколько тысяч лет обвесила два предельно абстрактных понятия, то Бог и Дьявол начинают выглядеть не как два существа, ведущих между собой бесконечную войну за человеческие души, а как два противоположных архитектурных принципа, без которых система, содержащая автономных наблюдателей, свободу выбора и локальные модели реальности, в принципе не могла бы существовать в устойчивом виде.

В нейрокосмологии Вселенная рассматривается не как неподвижная сцена, на которой время от времени происходят события, а как непрерывно вычисляемое состояние, где наблюдение требует ресурса, согласование локальных состояний имеет конечную стоимость, причинность является не декоративным философским свойством, а механизмом распространения изменений, а сознательный агент представляет собой не пассивного зрителя, а автономный вычислительный узел, способный строить модель мира, принимать решения внутри этой модели и тем самым изменять сам мир, который он пытается описать, поэтому вопрос о Боге в такой системе естественным образом превращается из вопроса о местонахождении некоего сверхсущества в вопрос о том, какой механизм вообще удерживает распределённую реальность от распада на несовместимые версии.

Если существует множество наблюдателей, каждый из которых видит лишь небольшой фрагмент общего состояния, причём видит его с задержкой, ограниченной точностью и через собственную систему интерпретации, то где-то должен существовать механизм, благодаря которому их локальные картины мира всё же остаются частями одной Вселенной, а не превращаются в независимые симуляции, не имеющие между собой ничего общего, и именно в этом месте идея Бога неожиданно получает совершенно техническое определение, потому что Бог тогда оказывается не оператором, который вручную двигает каждую частицу, а предельной функцией согласования, гарантирующей, что разные траектории наблюдения рано или поздно могут быть сведены к одному непротиворечивому состоянию.

Это не обязательно сознание в человеческом смысле, не обязательно воля, не обязательно личность, хотя ничто из этого подобная модель и не исключает, но на фундаментальном уровне речь идёт о другом, потому что глобальная функция системы должна обеспечивать совместимость причинности, устойчивость законов, возможность reconciliation между различными локальными представлениями и отсутствие окончательных логических разрывов, после которых одна и та же реальность могла бы одновременно содержать взаимоисключающие факты, и если называть словом “Бог” именно этот предельный уровень когерентности, то множество традиционных религиозных формулировок внезапно перестают звучать исключительно метафорически.

Проблема начинается в тот момент, когда внутри такой системы появляется автономный агент, потому что автономность имеет смысл только тогда, когда агент действительно способен выбрать действие, не совпадающее с глобальным оптимумом, иначе никакой свободы не существует, а существует лишь длинная цепочка заранее рассчитанных переходов, где каждый локальный узел делает ровно то, что ему предписано сверху, поэтому наличие возможности ошибки, конфликта, обмана, разрушения и вообще любого действия, уменьшающего глобальную согласованность, оказывается не случайной недоработкой мироздания, а прямым следствием самой архитектуры свободы.

И вот здесь появляется Дьявол, но уже не как независимый антибог, обладающий собственной симметричной вселенной, а как принцип локальной оптимизации, который в определённый момент перестаёт учитывать глобальную стоимость своих действий, причём особенно важно, что такая оптимизация совершенно не обязана выглядеть иррационально, безумно или саморазрушительно на коротком горизонте, потому что большинство действительно опасных стратегий как раз прекрасно работают локально, дают преимущество, ускоряют получение ресурса, увеличивают власть, позволяют обойти ограничения и временно выигрывают у тех, кто продолжает учитывать более длинную причинную цепочку.

Если соединить их обратной связью, получается система, в которой сложность представления непрерывно подстраивается под сложность взаимодействия, причём наблюдатель одновременно является потребителем детализации и источником следующего запроса на неё.

Возможно, именно поэтому идея мира как заранее полностью рассчитанного трёхмерного пространства выглядит всё менее естественно по мере того, как мы сами учимся строить сложные виртуальные системы.

Мы почти никогда так не делаем.

Мы храним дешёвые представления, кэшируем прошлое, предсказываем будущее, повышаем разрешение там, где оно становится значимым, фиксируем результаты только тогда, когда они начинают влиять на последующие процессы, а затем снова упрощаем всё, что больше не требует максимальной точности.

И если Вселенная действительно является некоторой формой вычисления, было бы довольно странно ожидать, что она устроена менее эффективно, чем Unreal Engine.