Посмотрела в выходные
видео-эссе Юваль Ной Харари. Он автор всеми любимого бестселлера “Sapiens”, достаточно спорный для академического сообщества,
историк и философ, который стал известен не столько описанием прошлого, сколько умением
собирать большие траектории человеческой цивилизации. Его тексты — это всегда попытка ответить на фундаментальный вопрос:
какие структуры мышления, информации и власти формируют человеческое поведение на длинной дистанции.
Так вот, делюсь с вами мыслями из его рассуждений. Юваль Ной Харари рассуждает о главном парадоксе человечества:
почему при колоссальном уровне знаний мы продолжаем принимать разрушительные решения — доводим планету до экологического кризиса, создаём тоталитарные режимы и разрабатываем технологии, которые могут выйти из-под нашего контроля.
Его ответ нетривиален: проблема не в человеческой природе, а
в качестве информации. Люди в целом разумны, но когда они действуют на основе искажённой, манипулятивной или ложной информации, даже хорошие намерения приводят к катастрофам. И за тысячи лет качество информации почти не улучшилось — современные общества столь же уязвимы к массовым заблуждениям, как и древние племена.
Ключевую роль в истории всегда играли
истории и мифы. Фактов недостаточно, чтобы миллионы людей действовали согласованно — их объединяют нарративы:
религии, идеологии, деньги, государства. Деньги, корпорации, нации — это не объективные факты, а коллективные истории, в которые мы верим. И те, кто управляет историями – управляют обществом. (Тут я сразу вспомнила классную книгу про формирование массовых наротивов «
Законы социального заражения.» Дениелла Чинтолла).По мнению Харари, сегодня происходит беспрецедентный сдвиг:
впервые в истории истории начинает создавать не человек, а AI. Искусственный интеллект способен генерировать тексты, образы, идеи, стратегии и даже новые экономические модели — причём способами, которые человек не всегда понимает и не может предсказать. Поэтому Харари предлагает воспринимать AI не как «искусственный», а как
«инопланетный интеллект».
Пример AlphaGo показывает, что AI способен за считанные недели выйти за пределы тысячелетнего человеческого опыта и открыть новые «континенты мышления». То же самое может произойти в финансах, политике, культуре и религии. Вопрос уже не в том, опасен ли AI, а в том,
как изменится мир, если он будет формироваться не-человеческими нарративами.
Харари также объясняет, что каждая новая информационная технология — от письменности до телевидения — радикально меняла общество. AI создаёт
неорганические информационные сети, которые не знают отдыха, приватности и пауз. В таком мире всё может быть записано, сохранено и использовано против человека спустя годы, превращая жизнь в бесконечное «собеседование».
Особенную угрозу ученый видит в том, что AI — первая технология, способная
принимать решения самостоятельно. Это открывает путь к «миллионам AI-бюрократов», которые будут решать, кому дать кредит, как лечить, кого нанимать и даже как управлять государствами. В тоталитарных системах это особенно рискованно, потому что там отсутствуют механизмы исправления ошибок.
Ключевой вывод Харари:
спасти нас могут только сильные человеческие институты с самокоррекцией — демократия, наука, независимые медиа. Их отличие от тоталитарных и религиозных систем в том, что они признают возможность ошибки и умеют её исправлять.
Наконец, он разрушает миф о том, что «информация = истина». Истина — редкая, дорогая и трудоёмкая форма информации. Если просто заливать мир данными, правду утопит поток фейков и иллюзий. Поэтому Харари советует
информационную диету: меньше потреблять, внимательнее выбирать источники и давать мозгу время на «детокс».
Главный вопрос, который он оставляет:
сможем ли мы выстроить институты и культуру, которые позволят жить рядом с AI — не потеряв человеческую свободу, смысл и способность мыслить самостоятельно?
