The Quest by Alexei Kapterev


Channel's geo and language: Russia, Russian
Category: Blogs


❊ Ведет @kapterev (kapterev.com)
❊ Про личную стратегию: счастье, смысл жизни/работы и самореализацию
❊ Максимум науки и философии, минимум эзотерики и инфобиза
❊ https://substack.com/@kapterev — только длинные посты

Related channels  |  Similar channels

Channel's geo and language
Russia, Russian
Category
Blogs
Statistics
Posts filter


Жизненно.

550 0 11 1 50

Мы привыкли к тому, что у умных людей — умные ценности, но насколько вообще интеллект и ценности связаны в среднем?

И вы знаете, несколько связаны. Самая большая позитивная связь — с ценностями благожелательности, универсализма/гуманизма и свободы (около r=0.16). Это вообще не супер-много, 2-3% объясняемых расхождений. Отрицательные связи намного больше! Самая большая — с ценностями традиции (–.29, это порядка 8-9% объясняемых расхождений), безопасности (–.22) и конформизма (–.15). По большому счету, это и есть «умная культура»: свободная, благожелательная, не-традиционная и не слишком обеспокоенная безопасностью. «Умная» — не всегда значит «самая эффективная», особенно когда безопасность выходит на первый план.

С ценностями гедонизма, стимуляции/новизны, достижений и власти практически не коррелирует интеллект. В основном связь идет через кристаллизованный, вербальный интеллект — а не через флюидный, абстрактный. То есть вполне возможно (хотя это и не доказано), что умные люди просто получают такое образование. Исследование сделано на австралийском сэмпле и есть вероятность, что «ценности умных людей» в Китае или России буду несколько отличаться. Я, правда, не думаю, что отличия будут уж очень сильными.

ИСТОЧНИК:
https://doi.org/10.1177/19485506241281025




Video is unavailable for watching
Show in Telegram

794 1 23 1 26

Сегодня у меня переезд на новую квартиру (пишу это, сидя на перемотанном защитной пленкой стуле), а завтра — лекция про факторы инновационности в командах! Приходите сами и зовите знакомых.

https://talentxmachina.com/team-innovation.html


У меня в университете был товарищ, который очень увлекался американским рестлингом и утверждал, что в реслинге происходят реальные поединки. Что эти люди реально бьют друг друга вот такими странными способами. На вопрос «почему тогда нет тотализатора?» отвечал уклончиво. Много лет спустя я узнал, что вера реальность рестлинга — это важная часть субкультуры и для этого даже есть специальное слово, это называется «кейфейб», kayfabe.

Кейфейб означает, что хотя почти все, что происходит на ринге и вокруг него на самом деле заскриптовано заранее, это считается абсолютно реальным спортом. Рестлеры, судьи, комментаторы и даже организаторы мероприятий, все дружно поддерживают эту иллюзию. Если ты внутри рестлинга, ты не можешь никогда говорить, что это все шоу. Это будет с твоей стороны, хм, неспортивно.

Огромная часть политической коммуникации, и человеческой коммуникации вообще, подчиняется тем же самым законам. Ты иногда думаешь, «как же человек может верить в такую чушь?», но потом ты понимаешь, что его абсурдные заявления — это просто часть принадлежности к клубу, к партии, к стороне в конфликте.

Люди, для которых такая принадлежность является центральной относительно их идентичности, будут отрицать абсолютно любые факты, которые идут против нарратива их стороны. Для них будет проявлением крайней нелояльности, если они начнут соглашаться хоть с чем-то из того, что говорит противоположная сторона. Это будет с их стороны, хм, неспортивно.


Дорогие, любимые люди. Мне тут пришло письмо из МИФа и я вижу, что книжка наша, «Стратегия личности» очень хорошо продается. Это все благодаря вам. На бизнес-книгах вообще трудно заработать, если только ты не Джим Коллинз, но за последние полгода это даже какие-то приятные деньги.

Но есть одно но! На сайте МИФа в разделе «Отзывы» сиротливо стоит отзыв Александра Григорьевича Асмолова, который он надиктовал мне по телефону. Если вы прочитали хотя бы одну главу — такая есть конвенция в книжном мире — и можете написать или надиктовать голосовым короткий отзыв на книгу, чтобы мы его повесили на сайт, то мы будем премного благодарны. Особенно если вы обладатель какой-то впечатляющей должности, вроде генеральный директор того или ректор сего.

Потому что — почему? Потому что мы хотим, чтобы книга наша была не просто бест-селлером, но еще и лонг-селлером. Помогите нам пожалуйста им стать.


Это надо постить в комменты ко всем постам, где описываются какие-то исследования типа «что-то связано с чем-то ужасным!» — и при этом не указан размер эффекта. А вы обоснованно подозреваете, что размер крошечный. Не благодарите.




В продолжение поста про Эффективный Альтруизм.

У философа Питера Сингера был такой известный мысленный эксперимент: если у вас на глазах тонет ребенок, но на вас надет дорогой костюм, полезете ли вы ребенка спасать? И ответ «конечно правильно будет полезть спасать несмотря на костюм». Дальше Сингер постулирует, что ценность всех людей одинакова, ценность человеческой жизни важна независимо от географической удаленности и где-то в этом месте возникает требование ко всем владельцам костюмов срочно продать их, потому что дети в Африке умирают.

Это абсурд, но это очень логичный абсурд. Альтруизм совершенно никак нельзя спасти как нормативную теорию. Хотя альтруизм является добром, нельзя ТРЕБОВАТЬ от людей альтруизма. То, что хорошо звучит как личный принцип, не обязательно будет хорошо работать как всеобщий закон. На личном уровне принцип «все люди — братья» звучит как прекрасный порыв души, но как только ты пытаешься сделать это законом, немедленно возникает вопрос «а что если кто-то НЕ ведет себя как брат?» и вот уже у тебя лагеря и «перевоспитание».

На уровне человека работают совершенно не те же самые принципы, что и на уровне страны. В своих семьях мы все коммунисты. От каждого по способностям, каждому по потребностям. На уровне деревни можно быть социалистом. Но на уровне большой многонациональной страны ни коммунистом, ни социалистом быть не получается. Попытка быть социалистом здесь создает куда больше проблем, чем решает.

Однако, хорошие новости, альтернатива альтруизму — вовсе не обязательно эгоизм! На мой субъективный взгляд, лучшая альтернатива и тому и другому — семейство этических теорий, которые называются словами вроде кооперативизм, мьючуализм (от mutial — взаимный), контрактурализм, теории общественного договора. Собственный интерес признается в них легитимным интересом. Географическая или генетическая удаленность человека на самом деле может являться причиной пониженной ценности этого человека.

Кооперативизм не требует от нас продавать костюмы ради спасения бедных африканцев. Он признает что интересы моей мамы или моих соседей важны для меня существенно больше, чем интересы африканских детей. Он не запрещает жертвовать на благотворительность — но если я буду наносить этим явный ущерб своей семье, это будет скорее осуждаемо. Кооперативизм просто требует от нас кооперироваться по дефолту. Смотреть не только на собственный интерес, но и на то, как мы можем увеличить размер всего пирога. Сравнительная табличка прилагается.

Я рекомендую кооперативизм. С ним тоже есть несколько проблем, никакая этическая теория не совершенна, но хотя бы он не требует от людей нереального.

798 1 16 1 23

В Лиссабоне скоро будет новый поток «Эволюции», и если вы где-то вокруг и вы все еще (или всегда, я — всегда) находитесь в процессе пересборки себя и социального окружения, если вы хотите обзавестись новыми друзьями и интересными знаниями, то это отличное для этого место. Большая инвестиция, по деньгам и особенно по времени, но для меня все выглядит так, что окупаемость у нее отличная. И никаким другим способом, кроме как проводить вместе время, друзей все равно завести невозможно.

https://evolution.new/lis/


Я тут решил с помощью LLM-ки посмотреть, что на самом деле делает Сократ в своих диалогах. Построил небольшой классификатор и загружал в него постепенно 10 диалогов, уточняя классификатор по ходу. У частвовали диалоги «Менон», «Критон», «Алкивиад I», «Гиппий меньший», «Лахет», «Ион», «Гиппий больший», «Горгий», «Кратил» и «Евтифрон», в сумме около 2000 вопросов.

Получилось, что на практике сократический метод можно свести примерно к пяти действиям:

1) Сначала добиться достаточно точной формулировки тезиса. Это критически важно, чтобы человек не мог потом сказать «а на самом деле я имел в виду другое». Продолжать делать эти уточнения для каждого высказанного тезиса. ~21%, «Так ты говоришь, что X или что Y?»

2) Постепенно предлагать собесенику небольшие факты-посылки, с которыми легко согласиться, и которые на первый взгляд не противоречат высказанному им тезису. ~45% «Разве мы стремимся к X, а не к Y?».

3) Помогать собеседнику самому формулировать и подтверждать следствия из его тезиса. ~7% «Тогда отсюда следует, что…?»

4) Переносить тезис собеседника на новый пример, контекст, гипотетическую ситуацию. ~18%, «А в медицине, разве мы…?»

5) Возвращаться к тезису и смотреть, выдержал ли он проверку новым контекстом и собранными фактами, ~2%. «Но ведь раньше ты говорил, что…». 

Апория (состояние замешательства) возникает, когда несколько вполне приемлемых по отдельности ответов в итоге оказывается невозможно удержать вместе, не входя в противоречие.

Отдельно пойдут мета-вопросы о ходе разговора, ~6%, где Сократ уточняет, куда мы идем и какой вопрос исследуем.

Обратите внимание на вторую, самую крупную часть. Именно от этой части возникает ощущение, что Сократ на самом деле не занимается открытым исследованием, а прекрасно знает, куда он ведет собеседника.

Хотя вот я подумал, что это может быть «ошибка выжившего». Предполагается ведь, что он вел подобные диалоги регулярно, возможно даже каждый день, а мы выбрали из них десять наиболее драматургичных. Может быть именно в этих конкретных диалогах ему особенно повезло, а в других диалогах он просто был менее удачлив в сборе этого «снежного кома» и не смог так же сильно впечатлить собеседника? Кто знает.

858 0 37 3 28

В целом, знакомство с ЭА сделало меня еще большим сторонником эгоизма и капитализма. Наша задача не в том, чтобы сделать людей более альтруистичными, а в том, чтобы через институты эгоизм работал на общее благо. Вспоминая бессмертное из Адама Смита, «Не от благожелательности мясника, пивовара или булочника ожидаем мы получить свой обед, а от соблюдения ими своих собственных интересов. Мы обращаемся не к их гуманности, а к их эгоизму, и никогда не говорим им о наших нуждах, а об их выгодах.». Будет много денег — будем много жертвовать на благотворительность. Проблема не в нехватке альтруизма. Проблема в медленном экономическом росте, а местами даже и в отрицательном.

Что касается сферы регулировании ИИ — опора исключительно на улититаризм как способ моральных рассуждений делает позиции ЭА заметными в медийном пространстве, но также очень уязвимыми для критики. Ничтожный катастрофический риск, помноженный на очень длинный временной горизонт делает так, что даже крошечный шанс катастрофы начинает оправдывать очень серьезное регулирование. Мне кажется, нам не надо заглядывать так далеко в будущее, у нас нет для этого достаточно надежных способов. Это как у Толкиена в Палантир смотреть, мы только себе навредим.

Особенности устройства человеческой психики заставляют нас преувеличивать будущие риски и дисконтировать будущие выгоды слишком сильно. У нас огромный optimism bias в сторону себя — но такой же огромный pessimism bias в сторону общества: «Я буду в порядке, но цивилизация катится в тартарары, надо срочно что-то делать». Но регулирование дорого обходится, оно реально замедляет экономический рост. Люди страдают прямо сейчас от этого. С отдаленными рисками мы разберемся по ходу.


Если вы не знаете, что такое «эффективный альтруизм» — этот пост для вас. Он сейчас снова на слуху, потому что в дебатах вокруг безопасности ИИ много эффективных альтруистов, которые любят порассуждать про катастрофические риски. Некая ирония в том, что до этого ЭА был на слуху, когда посадили основателя криптобиржи FTX, который ЭА активно финансировал. Он был одним из ранних инвесторов в Anthropic.

Эффективный альтруизм — это этическое течение и подход к благотворительности, суть которого в том, чтобы реально оценивать эффективность благотворительных проектов. Разные способы помощи отличаются в десятки и сотни раз по результативности, поэтому стоит сравнивать фонды и жертвовать наиболее эффективным. Вы же не покупаете ценные бумаги на улице, почему вы жертвуете на благотворительность на улице? Прежде чем жертвовать, надо знать не только на что пойдут деньги, но и насколько это эффективно. Типичные вопросы эффективного альтруизма: где дополнительный доллар спасет больше жизней, что уменьшит больше страдания или предотвратит больший риск.

В основе интересных вещей почти всегда интересная философия. Для ЭА — это этика утилитаризма в духе Генри Сиджвика, кстати очень важный и недооцененный философ. Его центральная идея в том, что жизнь или страдание далекого, незнакомого человека не должны иметь меньший вес только потому, что он далеко. Самые известные сторонники ЭА — это со-основатель Фейсбука Дастин Московиц, Элизер “lesswrong” Юдковский, Скотт Александр (Astral Codex Ten), философы Питер Сингер, Уилл МакАскилл и Дерек Парфит. Философы говорят, что утилитаристом быть не обязательно, что ЭА — это проект, а не философия, что ЭА — это не утилитаризм, но я реально не вижу больших отличий. Они минимальны. А это я еще хоть как-то в философии разбираюсь.

Я познакомился с ЭА во времена ковида, и он сыграл в моей жизни важную роль, особенно Скотт Александр, который, наверное самый популярный в мире психиатр. У меня тогда были околоковидные психологические сложности и информация про психиатрию меня очень интересовала :) Я совершенно согласился с тем, что благотворительность должна быть эффективной и что на одни и те же деньги можно сделать радикально разное количество добра и что наша моральная обязанность — делать как можно больше добра за те же деньги. Однако, я совершенно не согласился с их версией утилитаризма. Я продолжу настаивать, что это просто модный разлив утилитаризма и мне будет приятно, если вы согласитесь со мной.

Совершенно я не согласился с ними в том месте, где по мысли Сиджвика и Сингера, «все животные равны». Что?! Да, с их стороны это конечно риторический прием motte and bailey. На самом деле не утверждается, что интересы мыши буквально равны интересам человека. Но утверждается, что интересы мыши также и не равны нулю, и что интересы достаточно большо количества мышей могут в какой-то момент превысить интересы одного человека. К сожалению, я дисконтирую интересы мышей слишком сильно, в моих моральных подсчетах на планете нельзя разместить достаточное количество мышей, чтобы их интересы в совокупности были бы более ценны для меня, чем интересы моей мамы. Благосостояние мышей волнует меня только до тех пор, пока оно как-то связано с благосостоянием людей, а связаны они очень мало.

Это не очень альтруистично с моей стороны, но с этим нельзя ничего поделать. У сторонников ЭА на самом деле нет хороших аргументов, почему нужно быть альтруистом. И это не какой-то провал ЭА, их в принципе нет. До этого уже Сиджвик в своем 19-м веке додумался. Мы можем объяснить как альтруизм возник эволюционно — но зачем конкретному человеку быть альтруистичным мы объяснить не можем. Ему это не нужно. На самом деле, это практически определение альтруизма: когда человек делает то, что ему лично делать не нужно. Понятно, что альтруизм это тоже спектр, есть люди более склонные к альтруизму от природы и есть менее — но если нельзя убедить человека быть более альтруистичным какими-то рациональными аргументами (не подсунув ему сначала какой-то небесспорный тезис вроде «все животные равны»), то я не вижу и причин убеждать.


В понедельник, 21 сентября, в 11:40 по московскому времени меня можно будет послушать на радио «Стриж», про счастье.

https://www.youtube.com/@Strizh_Radio
https://dzen.ru/radiostrizh
https://www.instagram.com/radio_strizh
https://www.tiktok.com/@radiostrizh
https://radiostrizh.mave.digital/.


Лучшее, что происходит вокруг всей этой истории — это мемы.


Про лекции в новом учебном году: первая будет 29-го числа, вторник.

Тема: «Что помогает командам создавать новое?». Люди, автономия, среда, мотивация и лидерство: что на самом деле влияет. Как всегда, будет куча исследований, цифр и статистики. Будет также несколько практических рекомендаций о том, как сделать вашу команду более инновационной.

Поскольку у меня в прошлом году была пара инцидентов с зум-бомбингом, я к сожалению не могу больше постить ссылки в открытый доступ, теперь есть регистрация.

https://talentxmachina.com/team-innovation.html

Про остально объявлю чуть позже! Доделываю страницы.


А помните была вся эта история с «позами силы» у Эми Кадди, где они намеряли, что от поз уменьшается кортизол? Потом еще был вопрос «почему у них на графике такие ровные цифры» и ответ был такой, что измерения кортизола очень грубые. Когда вся эта конструкция посыпалась, от гормональных утверждений она отказалась сразу, а за субъективно-психологические держится, кажется до сих пор. И по во всей видимости, они реально есть — просто крошечные.

Но вот про кортизол: я тут узнал, почему так трудно выяснить корреляцию кортизола с чем-либо. Оказывается, кортизол не очень-то коррелирует сам с собой! Разные меры кортизола плохо согласуются, это в целом очень ненадежный биомаркер. Поэтому, если вам кто-то вешает на уши что от чего-то «уменьшается кортизол» — не верьте, скорее всего это ерунда.

https://www.nature.com/articles/s41380-020-0747-z


Я тут пожаловался одному человеку, что не могу оценить португальскую еду так, как ее очевидно ценят португальцы. Им прямо нравится! Они едят с таким удовольствием, которое редко у них от чего еще бывает. У русских же не бывает такого удовольствия от еды практически никогда. А я иду мимо обедающих португальцев и думаю «да как вы можете так от этого радоваться, оно же никакое?!».

Человек, которому я пожаловался, оказался бренд-шефом одного большого не-португальского ресторана. Он объяснил мне, что португальская еда реально требует сетапа, контекста. Надо придти и сесть, надо поздороваться с официантом. Надо обязательно в начале, еще до того как тебе принесли блюдо, есть кувер: хлеб с маслом и солью, оливки, пить вино. Это критичное условие. Без такой прелюдии эта еда не работает. Надо никуда не торопиться.

К тому моменту, как тебе приносят это мясо с картошкой и рисом (почему-то одновременно), твои рецепторы и состояние духа уже совершенно другое. Вот под него такая еда и адаптирована. И вот мы попробовали недавно — оказалось, ровно так оно и есть. Оказывается, существуют высококонтекстные кухни и низкоконтекстные. Я никогда об этом не думал.

Многие, кто занимались корпоративными культурами, слышали наверное про высококонтекстные и низкоконтекстные культуры. Где-то, как в Японии, принято долго устанавливать отношения (высокий контекст) и потом за секунду обо всем договариваться. Где-то, как в США (низкий контекст) принято мгновенно переходить к делу, а потом бесконечно обсуждать мелкие закорючки в контракте. То же самое с едой! Американская еда низкоконтекстная, она ничего не требует: бургер или пиццу можно есть на ходу. Японская еда требует сетапа.

Конечно, блюда бывают разные, но некоторые кухни полны высококонтекстных блюд, а некоторые — низкоконтекстных. С напитками та же история. Была такая шутка, что во всех странах есть алкогольный напиток, который идеально пьется в этой стране, но только в ней (кроме рецины, которую невозможно пить и в Греции тоже). Какой-нибудь лимончелло в Италии. Стоит купить его в дьюти-фри и увести домой, как он мгновенно теряет свои волшебные свойства.

То же самое с едой! В Португалии есть бифана — это буквально хлеб с мясом и все. Может масла они еще туда кладут. Это очень вкусно! Нигде кроме Португалии я такого не ел и не могу представить, чтобы где-то еще кроме Португалии это было вкусно. Портвейн же отлично идет во многих странах. Климат только нужен подходящий.

P.S. У этого поста в Фейсбуке 500+ лакйков. Какая же там вакханалия в комментариях, вы не представляете.


p(doom)=10%, если кто не в курсе. Эксперты оценивают вероятность уничтожения человечества искусственным интеллектом в 10%.

Конечно, возникает много вопросов. Это консенсус? Нет, это медианное мнение. Хорошо, откуда тогда берут свои оценки отдельные эксперты? Перемножением других субъективных вероятностей? Насколько вообще это проверяемое утверждение, что p(doom)=10%? Уничтожение человечества — единоразовое событие, оно либо случается либо нет. Не то что бы такое часто случалось в прошлом. Не то что бы у нас был огромный компьютер, который мог бы симулировать человеческую цивилизацию во всех ее невообразимых подробностях, прогнать сто тыщ сценариев и увидеть, что человечество погибает в 10% случаев. Хм!…. А ведь было бы неплохо, если бы у нас на самом деле был такой компьютер!…

Я к тому, что как будто бы у нас нет особых оснований доверять этим оценкам. В них заложено бесконечное количество допущений, проверить их все мы не сможем. Солнце погаснет раньше. Никакого референс-класса для подобных событий в прошлом у нас тоже нет, ровно 0% апокалиптических прогнозов до сих пор сбылись. Даже если бы это был консенсус (а, я напомню, это даже не консенсус, это просто усреднение оценок) — это же не консенсус по поводу чего-то объективно измеримого. Мы не быка здесь взвешиваем, как в известном примере про «мудрость толпы». Это консесус по поводу степени того, насколько в точности «я так чувствую». Это не будет означать, что оценка вероятности близка к реальной вероятности.

Не поймите меня неправильно, их чувства реальны. Но это чувства, это не цифры. Нужно понимать, что в данном случае значение слова «вероятность» — это не фреквентистская вероятность прошлых событий и не откалиброванная байесовская вероятность, когда у нас уже есть класс подобных событий в прошлом. Это просто ощущение. Эпистемически это совсем другой объект, чем вероятность дождя завтра или дефолта компании в течение года.

«Но Алексей, ты же сам топил за то, что присваивать количественные оценки степени уверенности». Да, но это не оценка вероятность вымирания. Это оценка интенсивности опасений. Бывают люди, которые больше склонны бояться этого, а бывают — которые менее. Угадайте, которые из них более склонны снановиться исследователями в области безопасности ИИ. Эти 10% больше характеризуют степень параноидальности людей и сообществ, чем, собственно, вероятности вымирания. Я не говорю что параноидальность это всегда что-то плохое, на выживаемость параноидальность влияет скорее хорошо. Но на прогресс — плохо.

Я думаю, это случай, когда цифры уводят нас от истины в сторону ложной точности. У меня эта проблема в работе возникает каждый день: у человека, скажем, организованность в Хогане 80/100. Но я-то знаю, что в этих измерениях может быть до 30% случайного шума, есть она вполне может быть и 65. Когда я в профессональном контексте произношу фразу «у него организованность в Хогане 100», вокруг этой цифры мгновенно образуется заметное облако незнания. В непрофессиональном контексте мне вообще нет смысла использовать эти цифры. Мне придется делать к этим цифрам слишком много оговорок, объяснять что это не абсолютный балл, а перцентиль, что многое зависит от выборки, что есть погрешности измерений… Лучше мне просто сказать «выше среднего» или «сильно выше среднего». А в случае оценок риска ИИ мы даже не знаем, какова может быть погрешность измерений! Я думаю, в даннм случае было бы честно писать что-то вроде «субъективная вероятность на уровне единиц процентов» или «субъективно это скорее вероятно, чем нет».

Филипп Тетлок в знаменитой книжке Expert Political Judgement когда-то показал, что политические «эксперты»-обозреватели предсказывают события ничуть не лучше случайности — хотя все еще лучше, чем студенты, которые просто катастрофически предвзяты и поэтому хуже даже случайности. Усреднение оценок этих «экспертов» не дало бы нам никакой точности. У меня нет больших оснований думать, что исследователи безопасности ИИ чем-то лучше политических экспертов. Система, поведение которой они пытаются спрогнозировать, сложна до невероятности.

20 last posts shown.