Позавчера закрылся Институт будущего человечества. Публикую предварительный анализ и оценку его деятельности.
Оценка деятельности Future of Humanity Institute Данилой Медведевым
Future of Humanity Institute проработал с 2005 года и был закрыт 16 апреля 2024 года. Финальный отчет подготовлен Андерсом Сандбергом.
Общая оценка деятельности FHI:
- Провальная деятельность без значимых результатов.
- Преданы и проигнорированы трансгуманизм и иммортализм (Бостром был главой WTA, но он не тру трансгуманист).
- Недостижение приоритетов, governance будущим не налажен, в policy ничего ценного не ушло.
- Очень слабое управление самим проектом.
- Ник Бостром и Андерс Сандберг — скучные академические философы.
- Слабость пиара (примеры успешного пиара: Бент Фливберг, Само Бурья).
- Малоэффективное использование средств.
Содержательные результаты FHI:
- Есть некоторый вклад в темы: экзистенциальные риски, эффективный альтруизм, лонгтермизм, AI alignment (но в целом все эти темы довольно слабо сработали).
Проваленные темы, проекты и идеи:
- Заброшена тема улучшения человека (human enhancement).
- Бессмертие, иммортализм и продление жизни в отчете даже не упомянуты.
- Прекращение проекта по усилению интеллекта.
- Бесполезное приглашение Эрика Дрекслера, которому не помогли что-то сделать по нанотеху.
Оценка работ по тематике интеллекта:
- Замалчивается роль Вернера Винжа и Юдковского (вклад в популяризацию рациональности и AI safety).
- Прекращение работ по cognitive enhancement в 2010 году (саму тему поднимали до этого, в т. ч. Данила Медведев на TransVision 2005).
- Отсутствие практических шагов по усилению интеллекта — провал.
- Перемещение фокуса на искусственный интеллект — преступление.
- Дорожная карта по загрузке мозга (WBE) не была потом никак развита.
Неспособность к интеграции наружу и провалы:
- FHI не вписался в Оксфордскую бюрократию, за 20 лет можно было это сделать или придумать обходной путь.
- Скандал с Сэмом Банкманом-Фридом (ЭА, крипта, мошенничество) замалчивается.
- Неясна эффективность проектов Open Philanthropy и GiveWell, но FHI точно не смогли сработаться с ними.
- FHI не выстроили связей с футурологами (футурконсалтинг, форсайты).
- Плохая работа с сообществами рационалистов и трансгуманистов.
Оценка работ по масштабным вопросам:
- Неадекватное и неэффективное выполнение работ по Global Priorities. Это никуда не пошло.
- Работы по grand futures и макростратегии без реальных результатов.
- Очевидно провалено определение приоритетов для самого FHI, что показательно.
Актуальность создания института заново:
- Необходимо решение нерешенных вопросов: бессмертие, развитие интеллекта, молекулярные нанотехнологии.
- Необходим более эффективный и результативный подход к работе с будущим.
- Всё ещё актуальна задача обеспечения благоприятного будущего человечества.
- Институт следует создавать в другом месте и с другим руководством и командой.
По вопросу создания нового института будущего человечества пишите в ЛС или в комментарии.