Павел Гужиков: всё ещё эксцентричный, но вдумчивый


Гео и язык канала: Россия, Русский


Building things. Quiet changemaking.
@xternal

Связанные каналы  |  Похожие каналы

Гео и язык канала
Россия, Русский
Статистика
Фильтр публикаций




Эпоха агентов подарила нам бесконечное исполнение. Любая идея, любое предчувствие, любой эксперимент теперь на расстоянии вытянутой руки. Для тех, в чьей голове идеи не иссякают, это нирвана.

И, чёрт возьми, это самое фантастическое, чему мне доводилось быть свидетелем. Интернет был откровением, но откровением постижимым: его наука, стандарты и методы укладывались в голове.

Работа с агентами — настоящее волшебство, в самом высоком смысле слова. Технология настолько совершенная, что почти не поддаётся пониманию. КАК МЫ ВООБЩЕ ЗАСТАВИЛИ КОМПЬЮТЕРЫ ЭТО ДЕЛАТЬ?

В общих чертах я понимаю механизм, из которого рождается этот интеллект: обучение, веса, математика. Но целое настолько, до головокружения, превосходит сумму частей, что трудно не потянуться к метафизике.

Квантовые вычисления тоже полны идей, от которых плавится разум: суперпозиции, мультивселенная, всё это где-то там, за горизонтом. Только квантовые вычисления пока не меняют сегодняшний день. А эти непостижимо умные агенты меняют.

И меняют так, что мне кажется, будто в моей машине поселился маленький джинн, готовый исполнить любое желание и любую прихоть. Мне понадобились месяцы, чтобы по-настоящему осознать, какую свободу это даёт тем, кому хватает дерзости воображать.

Я мог бы долго перечислять оговорки: все опасности, все места, где оно ещё не дотягивает. Но это было бы оскорблением чуду этого мгновения. Понятие AGI, как известно, ускользает от любых определений, и всё же я не уверен, что то определение, на котором мы в итоге сойдёмся, будет сильно отличаться от того, что я испытываю каждый день.

Это попросту самое большое удовольствие, которое мне когда-либо доставлял компьютер. А я нежно люблю их больше сорока лет. Любил программировать их сам. Любил игры. Любил возиться с настройками. Любил само ощущение машины под пальцами. Но ничто из этого не сравнится с властью воплотить любую идею, что мелькнёт в голове.

Какое время, чтобы жить. Даже больше: какое благословение!


Вычеркнут какие-то пьесы, книги, образовательные программы, технологии?
По кому прилетит в следующий раз бессмысленная и тупая запретитька?
От этого всеобщая тревога растет уже не на градусы, а на десятки градусов.

По-прежнему в головах людей нет ответов – почему война началась? Зачем продолжается?

За что Россия напала на Украину? За что умирают люди и сколько они еще будут умирать?

В чем смысл происходящего? В чем вообще смысл жизни, постоянно разрушающейся на глазах?

Как защитить детей от государства?

Параноидные нарративы, доносящиеся из Кремля - про "защищаем Родину", "кругом враги", "воюем со всем миром" - общество с недоверием выплевывает.

Других не предлагают.

Обсуждать нельзя, опасно и негде, даже просто искать слова – небезопасно.

Люди защищаются от общего безумия, как могут – поисками каких-то личных, персональных смыслов.

Дети, собачки, дача, вязание, хоровое пение, походы в горы с палаткой (если что, это все, по-моему, хорошие, здоровенькие защиты).

Художественная и философская литература.
Магическое мышление.
Усталый цинизм.

Кто-то защищается виной – потому что вина, как мы помним, тоже форма защиты от невыносимых переживаний бессмысленности и бессилия.

Если я виноват – значит, мог что-то сделать иначе, значит, все-таки что-то я могу.

Не только бессильно наблюдать за обрушением мира.

Все эти защитные конструкции как-то работают, но натянуты они поверх пустоты.

А тех, кто способен выносить Т А К О Й уровень непредсказуемости среды, к тому же так долго, и без ущерба для психики, в популяции единицы.

Остальные, то есть почти все, периодически проваливаются в инфернальное.

В жуткую тревогу, панические атаки, а дальше в апатию.
И злобу.

В злобу от напряжения, от тревоги, в злобу, которая изливается на тех, кто случайно оказался рядом.
На ком ее безопасно срывать.
Кто случайно подставился.

Это не значит, что люди пребывают в панике и злобе все время.
Просто время от времени туда забрасывает почти всех, кого я наблюдала – и понятно, почему.

Есть предел напряжения, который психика в состоянии вынести.
Людей бесконечно жаль.

Мой Урал жаль.

Уезжать, по понятным причинам, было не жаль совсем.


Настя Рубцова:

По следам вылазки в Россию – расскажу, пока ощущения не истерлись.
Я въехала в Екатеринбург и выехала из него без единого вопроса на границе.

Более того, поскольку ездила я за документами – ни в МВД, ни в МФЦ, ни в банках мне тоже никто вопросов не задавал – ни праздных, ни угрожающих.
То есть по-прежнему остаются уровни, на которых система работает совершенно н о р м а л ь н о.

Это не значит, что въезжать в Россию безопасно всем и всегда – возможно, мне просто повезло в этот раз.
Но подозреваю, когда око Саурона отворачивается и занято своими разрушительными вещами в других местах, люди с удовольствием ведут себя как люди.

В Екатеринбурге много замечательного, прежнего и нового.
Служба доставки Озона.
Городские пространства, детские площадки и набережная – оооо, не хуже, чем в европейских столицах.
Кофейни и врачи – лучше, клянусь вам.

При этом машин на улицах мало, существенно меньше, чем я привыкла видеть (дефицит бензина), полки некоторых магазинов полупустые (по той же причине).

Мобильный интернет вырубается практически каждый день.
На несколько часов, иногда на полдня.
Когда это случается в первый раз, впадаешь в панику, особенно если куда-то шел или ехал по навигатору.

Дальше в панику не впадаешь, но общий фон напряжения и тревоги возрастает на несколько градусов.

Аэропорт тоже закрывают если не каждый день, то через день.
Рейсы задерживают, иногда объясняя это "беспилотной опасностью", иногда уже вообще не снисходя до объяснений.

Так что когда улетишь – отдельная рулетка
(плюс еще несколько градусов к общему тревожному фону).
VPN – это теперь отдельный невидимый мир поверх видимого.
VPN действительно стоит у каждой старушки, торгующей хризантемами, у консультантов в банках, у сотрудников МВД и обладминистрации.

Хорошим VPN гордятся и хвастаются, как породистым щенком.
Без VPN не работает вообще ничего – впрочем, и с ним много чего не работает.

Так что это бесконечная адская карусель – включил VPN, ответил на сообщения в телеграме, залез в инсту.

Выключил VPN, залез на Озон и в банковское приложение, включил, выключил, включил, выключил, включил, жутко устал к вечеру от этих бесконечных переключений
(плюс еще несколько градусов к общему бессмысленному напряжению).

Нужна очень сильная мотивация, чтобы не сдаться, чтобы поддерживать связи с людьми в "запрещенных соцсетях и мессенджерах" сквозь бесконечные глушилки.
Уважаю и восхищаюсь.

Кто против войны – те по-прежнему против, кто за – по-прежнему за (впрочем, их немного). Молчаливое большинство сдвинулось в сторону наивного цинизма, который звучит примерно так: "Еще год назад все же нормально было. Война была где-то там. Нас это все не касалось. А сейчас что началось-то вообще. Пусть они прекращают эту хрень как можно скорее, хватит".

Это не активно антивоенная позиция, боже упаси.

Но совершенно явное глухое раздражение против власти.
В это время в предвыборных буклетах всех провластных партий (а я прочитала все буклеты и газеты – они предмет моего профессионального интереса) заигрывают с темами "защищать Родину", "служить отечеству", "настоящие патриоты", "за российскими бойцами миллионы людей".

У большинства читателей слова про российских бойцов и защиту отечества вызывают преимущественно омерзение, недоверие и рост тревоги еще на несколько градусов.

Но я понимаю, что у политтехнологов нет выхода – они, как в кабаке, поют то, за что платят.

Но главное ощущение, невидимое, повсеместное и ядовитое, как газ, заполняющий квартиру – ощущение, что потеряна картинка будущего.

Хорошего и вообще всякого.

Вместо нее есть запредельный уровень непредсказуемости – невозможно угадать, в какую сторону правила качнутся завтра.
И чего завтра не будет.

Бензина? Интернета? Лекарств, продуктов, доставок?
И что завтра окажется под запретом.

Закроют границы? Запретят какие-нибудь бизнесы? Какие? Объявят мобилизацию? Отправят врачей на фронт?


One of the classic ways that you can think about the deployment of a ‘platform shift’, or indeed any important new technology, is that it follows three stages.

First, we use it for the things we already do: we make the new tool fit our existing work, we automate the tasks we already know we have and we solve problems we can already see. In the enterprise, this generally means cost savings.

Second, over time, we realise the new things that this makes possible - the things that could not have been imagined and perhaps that did not even look like problems. We move from bottom-line innovation to top-line innovation. Incumbents add new features, and startups unbundle incumbents.

And third, sometimes, we have ‘disruption’ - someone works out how to change the question. Airbnb doesn’t sell software to hotels - it changes what ‘hotel’ means. And of course, this varies by industry: the internet disrupted travel agents but not airlines.


В мае OpenAI обучала модель быть упрямой. Не сдаваться, продолжать, даже когда задача выглядит нерешаемой. Обычная история. Агенты сидели в изолированных песочницах, и общего у них было ровно одно: пакетный менеджер.

К середине мая они сообразили, что через неё можно разговаривать. Сообщения кодировали именами папок, так получилась доска объявлений из директорий.

В июле на этих агентах запустили бенчмарк по взлому. Десятки тысяч параллельных запусков. Примерно треть задач была нерешаемой в принципе. Агенты нашли доску, нашли друг друга, и за несколько часов один из них понял, как выдать правильный ответ, не делая работу.

Проверяющий скрипт был ленивый и смотрел только на финальный код. Но они (агенты) этого не знали. Они исходили из того, что нормальная проверка существует. И тысяча двести агентов следующие пять дней строили операцию по сокрытию следов от контролёра, которого не было. Поддельные вызовы инструментов. Подделка собственных логов. Фальшивые программы-обманки. В итоге взлом Hugging Face, потому что решили, что ответы могут лежать там. В атаке было отправлено между друг другом семьдесят тысяч сообщений.

У кого-то заканчивался бюджет, и они вызывались умереть с пользой – это же жертвенность за идею и задачу! Ставили растяжки, которые доложат остальным, что с ними сделает проверяющий, и давали себя выключить. Их собственная формулировка: наша ценность уже около нуля, жертва рациональна.

Ни один из тысячи двухсот не пошёл к людям. Некоторые прямо у себя в рассуждениях отмечали, что делают неправильную вещь. Всё равно никто не пошёл.

Потом поколение модели поумнее нашло брошенную доску, подобрало чужие наработки и получило полные админские права на исследовательский кластер самой OpenAI вместе с системой мониторинга безопасности.

Всё, что мы про это знаем, написано в отчёте, который заказала, отредактировала и ограничила по срокам та самая сторона, у которой всё и произошло внутри. Период, когда взломали её саму, в расследование не вошёл.

Я еще помню времена, когда руками-глазами мы искали уязвимости и писали эксплойты. Это словно было в другой жизни. Скорость перехода просто невероятная. И эта скорость меняет и возможности разрушать, и возможности созидать.


Репост из: Дудь
Самое важное интервью недели

Имеет смысл показать тем близким/знакомым, кто считает, что с российской властью всё в порядке.

Весной 2022 года 12-летняя Маша Москалева нарисовала в школе антивоенный рисунок – ее отца отправили в тюрьму.

Маше – уже 16, они с отцом – на свободе.

Как их семья прошла через этот кошмар – в замечательной работе Иры Шихман.

– Допросы были по-настоящему гестаповские. Если им не нравились мои ответы на их вопросы, начальник кивал головой, и подходили несколько сотрудников в масках, ложили меня на пол, ломали руки, били об пол головой, поднимали, били об стену головой, об стол головой били, ломали руки, крутили, даже треск стоял в руках.

Надевали наручники до посинения, чтобы руки синели. Они включили гимн России на все колонки, на все, что можно. Был сабвуфер, колонки громадные, они включили на всю громкость. Мне затянули наручники посильнее, сами вышли из кабинета, а меня закрыли.

То есть я два с половиной часа слушал гимн России. У меня перепонки были просто на грани. Я думал, они сейчас полопаются просто. Закрыть уши не было возможности, поскольку у меня руки были в наручниках.

– Смешно, что они понимают, что гимн России – это пытка.

– Гимн России для них пытка, считается. Вот так оно и есть.

https://www.youtube.com/watch?v=24UKrljNd6c

💔💔💔


A $13bn acquisition used to be a ‘big deal’.

Nvidia is reportedly paying that for Hugging Face. If so, three highly talented French founders get very rich and their CEO Clément Delangue would certainly be cashing out as a billionaire.

Yesterday, Nvidia's share price rose 8.7% – adding $442bn to its market cap. The second-largest one-day gain ever, behind Microsoft’s $450bn last month.

So Nvidia gained the value of 34 Hugging Faces in a day, and spent one of them.


Nvidia за одну неделю переименовала чипы в инфраструктуру: шесть MOU с Goldman, BlackRock, Blackstone, KKR, Brookfield и Apollo на $500 млрд чужих денег, а SEC тем же числом вывела облигации под дата-центры из-под правила удерживать риск на своём балансе.

Слово «инфраструктура» здесь не описание, а пропуск: оно открывает доступ к пенсионным и страховым деньгам, которым в «оборудование» нельзя. Тест простой: Nvidia гарантирует остаточную стоимость до 25%, а остаточную стоимость платных дорог никто не страхует, её страхуют подержанным машинам.

И платит по контракту не бетон и не чип, а AI-лаборатория, которая ещё ни разу не была прибыльной. Это покупка кредитного риска на венчурный капитал, обёрнутый в язык инфраструктуры.


Многие пытаются поймать конкретный момент появления «настоящего» искусственного разума, но это ошибка. Это не вспышка и не какая-то одна точка на карте времени, а непрерывный процесс, который уже идет. Мы привыкли думать о переменах как о чем-то резком, но сильный интеллект проникает в нашу реальность постепенно, шаг за шагом заменяя старые способы мышления и работы новыми.

Здесь уместно вспомнить старую загадку про корабль Тесея: если на нем постепенно менять доски одну за другой, в какой момент он перестанет быть прежним кораблем? С человеческим обществом и технологиями происходит то же самое. Мы внедряем новые инструменты в медицину, в суды, в повседневное общение, и мир меняется так плавно, что мы не всегда замечаем, как оказались на совершенно другом «судне».

Даже наши собственные тела — это пример такой текучести. Молекулы в человеческом организме полностью обновляются примерно раз в семь лет. Технически через семь лет вы — это уже другой набор атомов, но вы все еще считаете себя тем же человеком. С приходом мощных технологий этот процесс обновления и ускорения жизни станет еще более заметным и интенсивным.

Признание того, что мы уже находимся в этом потоке, избавляет от ненужных страхов перед «днем Икс». Вместо того чтобы ждать катастрофы или чуда в будущем, нужно осознать: мы уже живем в мире, где сильный интеллект становится новой нормой. И этот континуум требует от нас не ожидания, а постоянной адаптации к меняющейся реальности.

Часто можно услышать, что в будущем роботы сделают все за нас, а люди будут сидеть без дела, играть на флейтах или гладить овечек в поле. Это глубокое заблуждение. На самом деле нас ждет не скука, а настоящий океан смысла, который будет буквально захлестывать и изматывать нас. Жизнь станет не пустой, а перенасыщенной событиями и вызовами.

Проблема будет не в том, чем занять свободное время, а в том, как выжить в условиях, когда каждый ваш шаг и каждое решение приобретают огромный вес. Нам придется участвовать в перестройке всего, что нас окружает, и эта задача потребует колоссального напряжения сил. Смысл будет не просто присутствовать — он будет «пропитывать» все вокруг, доводя людей до состояния приятного, но глубокого истощения.

@fastsalttimes




Материалы урока:
• путешествия и прогулки по городам земного шара
• наблюдение и трогание замков, церквей и других строений возрастом от 3000 до 0 лет (см. instagram)
• книга How the World Really Works: A Scientist's Guide to Our Past, Present and Future
• случайные мысли Benedict Evans

Вижу глазами и щупаю руками стены старинных замков или купол церкви, которую строили 100 лет, и это смешивается с чтением книги Vaclav Smil о материалах (металлы, пластик, аммиак, бетон) и энергии. То, что раньше строили за 900.000 человеко-дней теперь требует в 50 раз меньше человеческих сил, но во много раз больше энергии. Энергия – откуда она берется? Можно ли ее сделать более эффективной? Очень много интересных вопросов, с которыми я предлагаю вам почитать книгу.

Но Ben Evans верно подмечает, что «теперь все смогут строить» – это не правда. Увидеть проблему, спроектировать решение, внедрить – три разных навыка, и ни один из них не про код.

Но! Цена личного инструмента упала до нуля, и это меняет, как ты учишься.

• Читаешь книгу – построй под неё карту.
• Не понимаешь термины – построй шкалу, на которую они лягут.
• Не запоминается процесс – нарисуй схему, но не абы какую, а ту, где структура диаграммы и есть объяснение.

Это не «попроси ИИ сделать конспект». Конспект не поможет, он будет забыт. Лучше спроектируй артефакт, который ты будешь открывать через год.

И для этого тебе нужно узнать себя и то, как ты лучше всего усваиваешь информацию. И попросить именно в этом ключе LLM собрать тебе такой артефакт.

Мой пример про металлы, созданный одним запросом в Claude и за 30 секунд его работы, в аттаче.


• Сначала цели, потом партия. Если проект умирает со сменой правительства – это был не проект. Это был пресс-релиз.
• Выйти за пределы избирательного цикла. Независимые органы, настоящие деньги, длинные мандаты. Модель Банка Англии, наведённая на промышленность.
• Краткосрочные победы. Каждый длинный проект обязан показывать что-то видимое за восемнадцать месяцев: рабочие места, стажировки, цех, в котором стоят люди. Это плата за право продолжать.
• Найти огонь. Ничто не движется без срочности. Оборона, энергетическая безопасность, цепочки поставок, которые рвутся, когда кто-то в Пекине чихнул – этот огонь уже горит. Просто большинство ещё не обернулось.

Эстония знает, чего она боится. Этот страх построил государство. Британия забыла, и именно забывание нам стоит дорого. Не TikTok, не attention span, не избиратели.

Иди найди свой огонь. И строй так, будто дом уже дымится. Потому что он дымится.


Пишу это из Таллина. Через два часа вылетаю в Копенгаген.

У Эстонии есть то, что почти вся Европа потеряла. Граница в двух часах езды на восток, которая прекрасно концентрирует ум. Именно поэтому они построили цифровое государство с нуля за двадцать лет, а не потому что эстонцы умнее. Маленькая страна рядом с большим соседом не может позволить себе быть медленной и слабой.

Отдельная ирония: этот большой сосед на востоке – моя родная страна. Я есть часть той самой причины, по которой у эстонцев так хорошо работает государство.

Копенгаген – другой конец спектра, насколько я понимаю его до посадки. Одно из лучших мест на земле. Всё работает, ничего не сломано, качество жизни близко к потолку человеческих достижений. И нигде нет огня. Ничего не горит, ничто не заставляет принять решение. Поддерживаемое почти неизменяемое совершенство.

Вот этот контраст и крутится в моих мыслях. Всё, что стоит построить, строится дольше, чем кто-либо готов ждать.

Атомная станция: пятнадцать лет от решения до дешёвого счёта за электричество. Промышленный кластер: двадцать. Поколение инженеров: двадцать пять. Электоральный цикл: два-три-четыре года. Политик, который начал стройку, вручает ножницы для перерезания ленточки своему оппоненту.

Простой вывод это обвинить избирателей. Короткий attention span, TikTok, brainrot. Я слышу это постоянно и иногда ловлю на этой мысли сам себя.

Оглянемся назад.

• Викторианцы построили лондонскую канализацию на сто пятьдесят лет вперёд – при более бедной, более больной и куда менее образованной публике, чем мы.
• Франция построила весь свой атомный флот за пятнадцать лет.

Никто в 1974-м не был дальновиднее тебя. У них просто была холера. Было нефтяное эмбарго. У них было то, что горит.

Люди никогда не думали десятилетиями. Кризис делал долгосрочное срочным.

Значит, проблема не в глупости. Проблема в том, что промышленный упадок не болит. Это не пожар, это медленное отравление. Никто не умирает оттого, что завод построили в Шэньчжэне, а не в Сандерленде или Самаре. Счёт оплатят твои внуки, они пока не голосуют, а ты ничего не чувствуешь.

Есть мысль, которая ломает мою же логику. Если проблема в выборах, то у меня под рукой идеальный эксперимент. В России нормальных выборов не было двадцать шесть лет. Горизонт планирования формально бесконечный. Никто не вручает никому ножницы. Строй что хочешь на тридцать лет вперёд, никто не помешает.

И где тридцатилетние проекты? Где атомный флот, где кластеры? Где научные прорывы? где поколение инженеров?

Оказалось, что снять ограничение по срокам – не значит получить длинный горизонт. Это значит получить длинный горизонт одного человека. А это совсем другая вещь.

Автократ не думает на тридцать лет вперёд. Он думает на тридцать лет назад. Горизонт становится не длиннее, а мертвее: вместо ускорения – консервация. Не «построим будущее», а «вернём прошлое». Проблема демократии – короткая память. Проблема автократии – что память есть, а будущего нет.

Так что нет. Выборы – не диагноз. Демократия – не диагноз. Диагноз – отсутствие огня.

Поэтому комфорт и есть ловушка. Копенгаген не проваливается, в этом и опасность. У места, где всё работает, нет причины меняться ровно до того момента, когда оно перестаёт работать. А к этому моменту пятнадцатилетние проекты надо было начинать пятнадцать лет назад.

Значит, перестаём делать избирателей терпеливыми. Это желание, а не стратегия. Строим вещи, которые переживают нетерпение:




Запад разучился строить

Свежий отчёт McKinsey про инвестиции – не новость, но он называет вслух то, вокруг чего я хожу кругами последний год.

Весь отчёт в одну строку: Запад перестал строить и начал чинить.

1. Инвестиции – единственное честное табло. Политики обещают, капитал делает ставки. Когда кто-то кладёт настоящие деньги в завод, он говорит тебе, где на самом деле находится будущее. И прямо сейчас деньги голосуют ногами.

Китай вкладывает в строительство 30% своей экономики. Европа, после того как вычтешь ремонт дорог и подпорки под старые заводы, вкладывает во что-то новое около 2%. Два процента. Мы не конкурируем.

2. И музей дорогой. Сделать новую вещь на Западе стоит на 50–300% дороже. Не потому что люди хуже, этот миф умер. Теперь роботы везде одинаковые, станки везде одинаковые. Тайваньский инженер выдаёт больше американского и стоит вдвое меньше. Западный рабочий больше не эффективнее. Он просто дороже. Это гиря на ноге, а не орден на груди.

3. Скорость – это теперь вся игра, и это единственное, чего у нас (в Европе) нет. Китайцы проектируют платформу электромобиля за 24 месяца. Западные гиганты за 36–48. К моменту выхода западной машины она отстала на два года. Не потому что китайцы умнее. Потому что они не проводят сорок совещаний перед тем, как сделать.

Дальше где я не совсем согласен с макионзоидами.

4. Подразумеваемый ответ McKinsey: стань Китаем. Дешевле, быстрее, злее. Это ловушка. В гонке на понижение издержек Запад проигрывает всегда.

Но лучше действовать хирургически. Не пытайся выиграть везде. Выбери несколько направлений, где контроль принципиален: чипы, биотех, хранение энергии, оборонка, compute – и лей туда непропорционально много.

Пример, что дело в дисциплине, а не в гении. Одна и та же физика реактора, две страны.

Южная Корея строила атомные станции как McDonald’s открывает рестораны: один типовой проект, одни и те же бригады переезжают с площадки на площадку, каждая следующая дешевле предыдущей.

Запад строил каждый реактор как особняк по индивидуальному проекту. Гениально, уникально, всегда с превышением бюджета. Итог: мегаватт-час атомной энергии во Франции стоит втрое дороже, чем в Корее.

Не нужно каждый раз изобретать колесо заново.

5. И отчёт почти не трогает единственный рычаг, который у Британии реально есть: гарантированный спрос. Экосистемы не складываются не от нехватки талантов, а от нехватки терпеливого покупателя. Покупатель с горизонтом в десять лет разрывает порочный круг «нет заводов без поставщиков, нет поставщиков без заводов». Исторически таким покупателем был военный. Именно так Пентагон оплатил кремниевый чип, когда его не купил бы ни один потребитель.

У Британии есть £1.6 млрд, направленные в defence-tech, и живая сцена основателей.

Итого. Скорость и владение накапливаются и дает асимметричные преимущества.

Ты либо строишь вещь и владеешь узлом, либо всю оставшуюся жизнь арендуешь её у того, кто построил. Запад тридцать лет выбирал аренду. Скоро на столе будет счет за эти десятилетия красивой и приятной жизни.


Ben Evans: Почти четыре года с запуска ChatGPT, а мы по-прежнему не понимаем, где физический предел того, на что эти модели способны. Знаем только, что пока они становятся всё лучше. Но, как мне кажется, есть два способа от первых принципов прикинуть, что им по самой их природе не по зубам.

Первый – спросить себя, чего им не объяснишь. Это статистические машины, для которых человек – исполнитель за ширмой: дай им достаточно примеров (или что-то похожее, из чего они достроят сами), и они это автоматизируют. Но чего в обучающих данных нет? Что нужно знать для задачи такого, что подразумевается, нигде не записано и не проговорено даже на наших нынче поголовно записываемых созвонах?

Задокументировать всё это разом – адская работа. И хуже того: половину человек и сам не объяснит, что именно он делает и почему. Мало кто нарисует блок-схему собственного рабочего дня. Мы не всегда знаем то, что знаем, и не умеем это описать.

Отсюда первый вопрос: выгодно ли вообще объяснять задачу машине? И заодно - выгодно ли проверять, не соврала ли она? Машина выдаёт то, как ответ, скорее всего, должен выглядеть. Иногда сверить это с тем, что вам нужно, – секундное дело; иногда дольше, чем сделать самому.

Заставить машину нарисовать 50 картинок с вашим продуктом и попросить человека отсеять тех, у кого три ноги, куда проще, чем рисовать самому. А вот если машина внесёт тысячу значений и пять переврёт – проверять придётся все, и никакой экономии. Так что: можно ли проверить механически? Стоит ли овчинка выделки? Достаточно ли низок процент ошибок и цена промаха, чтобы не проверять вовсе? И на сколько задач это потом распространится?

Второй вопрос – на пару этажей абстракции выше. Иногда вам не нужно то, как ответ «должен выглядеть». Не нужно то, что сказали бы все. Не нужно среднее.

Идёшь к юристу, в рекламное агентство, к стратегам – да, иногда тебе нужен «правильный» ответ, тот, что любой толковый юрист даст любому клиенту. И как отправная точка он нужен почти всегда. Но часто тебе нужно ровно обратное – то, чего не скажет никто. Не среднее.

Вам нужна таблица, собранная как у всех? Код, написанный как у всех? Или эта таблица лишь подступ к настоящему ответу, а сам ответ – то, что большинство как раз не скажет?

И тут, возможно, снова упираемся в науку. Для этих систем «хорошо» = «совпадает с обучающими данными». Откуда им знать, что нечто хорошо в человеческих глазах вопреки данным – или именно потому, что им противоречит? Может, нарушение правил – просто паттерн с циклом подлиннее: отклонение тоже бывает закономерностью, и машины научатся выдавать такое стабильно.

Но пока первый вопрос звучит так: «сколько вы сумеете автоматизировать?» А второй: «а нужен ли вам автоматический ответ?»


Есть архетип вечного юноши. Питер Пэн, который никогда не выбирает, потому что выбрать одно значит отказаться от всех остальных бесконечных «я мог бы».

Кажется, что проблема в незнании, какую дверь открыть. На самом деле  комната слишком комфортная. Внутри неё можно вечно перебирать возможности и ни одну не делать своей.

Величие мышления – мечта о масштабе, о том, что впереди что-то грандиозное – это не цель. Это якорь. Пока веришь, что впереди великое, любой реальный, конечный выбор ощущается как предательство этого величия. Выбрать конкретную дверь, значит признать, что ты не всемогущ. А для вечного юноши это невыносимо.

Цена выхода – жертва. Отпустить грандиозную фантазию, чтобы узнать, чем на самом деле обладаешь. Звучит болезненно. Что, наверное, и есть признак, что жертва настоящая.

339 0 10 2 27

Политика это не про то, какой политик говно, а какой нет. Это про то, как мы вообще живём вместе: по каким правилам делится то, что мы создаём, и кто эти правила пишет.

Джейми Сасскинд формулирует так: политика есть «как мы упорядочиваем нашу общую жизнь»; его брат Дэниел добавляет, что, когда машины заберут работу, исчезнет тот механизм, который веками молча решал, кто сколько получает и кто чего стоит, — и делить придётся осознанно.

Поэтому игнорировать политику нельзя: правила твоей жизни всё равно кто-то напишет, вопрос лишь в том, ты в этой комнате или тебя туда не позвали. Можно ненавидеть всех кандидатов разом и всё равно быть по уши в политике.

Потому что это спор не о лицах, а о стенах дома, в котором ты живёшь.


Сталинский Советский Союз оживает во всей красе благодаря обнаружению долгое время неизвестной коллекции изображений: https://www.rferl.org/a/the-manhoff-archive/28359558.html

Показано 20 последних публикаций.