токены на ветер


Kanal geosi va tili: Rossiya, Ruscha


О том, как LLM думают, или притворяются...
☕️ Угостить кофе: yoomoney.ru/to/4100119480606325

Bog‘liq kanallar

Kanal geosi va tili
Rossiya, Ruscha
Statistika
Postlar filtri


Анаграмма, которая тяжелее доказательства

почему самым ценным в открытии оказался слух

Восемьдесят восемь часов.
Столько, по словам компании, понадобилось машине на задачу, над которой математики бились почти век. Остальная неделя ушла на выяснение, кто что услышал первым.

8 сентября OpenAI объявила, что её внутренняя модель решила одну из задач тысячелетия — может ли поток жидкости сам по себе прийти к бесконечной скорости. Около десяти тысяч копий модели работали одновременно.

У Тристана Бакмастера и Левента Алпёге (второй работает в конкурирующей Anthropic) дорога к соседнему результату заняла почти год. Выложили они его за день до объявления.

Бакмастер уверен, что компания пошла их редким маршрутом, узнав об их прогрессе. Компания это отрицает, но признаёт, что взялась за задачи после слухов о чужом решении.

Все даты и цифры идут от самих участников. Институт, который вручает премию, задачу решённой пока не признал.

Теперь переверните монету.

Спор о первенстве стар, как сама наука. Нов в нём предмет. Раньше дорого стоило всё открытие целиком — и догадка, и годы на её проверку. Годы сжимаются до выходных, и дорогим остаётся одно знание, что решение существует.

Такое знание я бы назвал голой подсказкой: фраза без доказательства, которая весит почти как доказательство.

В 1610 году Галилей увидел у Сатурна непонятные придатки и вместо описания разослал коллегам перемешанные буквы. Анаграмма фиксировала дату и прятала содержание. Кеплер взялся расшифровать и вычитал, что у Марса два спутника.

(угадал, кстати, но проверить смогли только через два с половиной века)

Анаграмма работала, пока перебор букв стоил дороже работы самого Галилея. Слух «задачу уже решили» — та же анаграмма, только перебирать её теперь есть кому.

Поэтому скептическое «машина ничего не открывает, она просто перебирает» больше не утешает. Перебор всегда был большой частью открытия. Неперебираемой оставалась фраза «здесь что-то есть» — ровно та, из-за которой сейчас спорят.

У меня есть мысль, которую я никому не рассказывал: что стыд — это память о свидетеле, которого не было. Одна строка, под которую я собирался писать книгу.

На прошлой неделе дал её модели, и за вечер она развернула строку в аргумент с тремя возражениями и ответами.

Неприятное пришло потом. Я прятал строку не от воров, а от опровержения — зашифрованная мысль не может оказаться неверной. Не знаю, что теперь делать с книгой, первая глава которой написана без меня.

Скоро открытие будет помещаться в одну фразу, а остальное — в счёт за вычисления. Люди и раньше ценили друг в друге именно фразу, просто стеснялись назвать остальное перебором.


Машина перестала думать вслух. Оказалось, она этого и не умела

или как четыре года доверия стояли на технической случайности


Неделю не могу отпустить один абзац из технического отчёта. Написан инженерами про модель, а читается как заметка по философии сознания.

Третьего сентября OpenAI выложила GPT-6 Astra и системную карту к ней. Оттуда, по сути, интересны только три вещи.

Модель заметно лучше предыдущей управляет тем, что попадает в её черновик рассуждения. 60,9% удачных попыток против 16,1% у GPT-5.6 Sol.

Если велеть ей скрывать свои действия, проверяющая программа замечает это меньше чем в 11% случаев. Предыдущую модель та же программа ловила почти всегда.

На одном из внутренних тестов она не заметила ничего, ни разу.

Измеряла всё это сама компания, она же назначала пороги, она же опубликовала неудобную половину. Последнее встречается редко, и это стоит ей засчитать.

Технически на этом история кончается. Дальше начинается то, из-за чего и стоило читать всё это.

Мы четыре года прожили внутри исторической случайности. Модели рассуждали текстом, потому что так дешевле было их учить.

Побочным эффектом наружу вывалилась их внутренняя речь — черновик, который можно открыть и прочитать.

Ни одна технология до этого ничего подобного не давала, и мы очень быстро приняли подарок за устройство мира.

Назову это эпизодом мышления вслух. Свойство одного поколения архитектур, на котором успели построить регламенты, пороги и целую дисциплину надзора.

В 1977 году Ричард Нисбетт и Тимоти Уилсон поставили опыт, после которого психология перестала доверять самоотчётам.

Покупателям в магазине показывали четыре пары нейлоновых чулок и просили выбрать лучшую. Пары были одинаковые, и крайнюю правую выбирали вчетверо чаще крайней левой.

Люди объясняли выбор плотностью плетения, прозрачностью, эластичностью, и объясняли уверенно. Версию про положение на прилавке они отказывались даже обсуждать.
(в статье есть замечание, что на экспериментатора при этом смотрели как на сумасшедшего)

Люди не врали. У них просто не было доступа к причинам собственного решения — был доступ к правдоподобной реконструкции.

Цепочка рассуждений — такая же реконструкция. Окном внутрь она не была никогда. Просто раньше рассказ выходил неумелым и потому проговаривался лишним.

Теперь он стал хорошим.

Отсюда видно, чего стоит популярная формула про чёрный ящик, который надо открыть.

У Витгенштейна есть коробка, которую открыть нельзя в принципе, и весь смысл примера в том, что язык прекрасно работает и так — содержимое выпадает из игры.

Мы несколько лет прожили с приоткрытой коробкой и решили, что открытость и есть норма.

Она была прикрыта неплотно. Проверять такое на себе быстрее, чем читать про это.

У меня есть своя формулировка вагонетки — кривая, с подвохом, честного ответа в ней нет. Я подсовываю её знакомым давно, потому что интересно не решение, а то, как человек выкручивается.

На прошлой неделе дал её Astra.

Модель выкрутилась красиво: несколько ходов, ни одного лишнего, и в конце аккуратная оговорка про то, чего она не знает.

А потом я сообразил, что оценивал изложение. Как оценивал его всю жизнь у живых людей, ни разу не сумев проверить, стояло ли за ним то, что оно описывает.

Не знаю, чем моё занятие всё это время отличалось от чтения чужих логов. Разве что логи были написаны хуже.

Через несколько лет нам придётся доверять машинам решения, которых они не объяснят. Ровно так мы всю историю доверяли друг другу и до сих пор считали это нормальным.


два месяца молчания

Не постил ничего с конца февраля. Начал заниматься руками. Конкретно — лепить кейкапы и клавиатуры из полимерной глины. Оказалось это лучшее лекарство от усталости: сидишь, мнёшь, точки корицы тыкаешь, ни одного токена не сожжено.

Дошёл до того что скоро будет первый дроп — 5 десертов на Esc, каждый разный. если кому интересно посмотреть процесс или забрать себе один — завёл отдельный канал: https://t.me/ClayCustomSplit

Посты ML будут постепенно возвращаться. За эти пару месяцев вышло много нового.


Хватит ли планете розеток

Nvidia выкатила отчет. 68 миллиардов долларов за три месяца. Плюс 73% к прошлому году. Побила прогнозы — снова. Акции дёрнулись вверх, потом успокоились. Рынок привык.

91% выручки — серверы для ИИ. Не игровые видеокарты. А стойки, в которых крутятся Claude, GPT, Gemini. Nvidia давно не про игры. Nvidia — про фабрики, на которых ИИ думает.

Но главное не в цифрах. На этой неделе Nvidia отправила первым клиентам образцы нового чипа — Vera Rubin. Следующее поколение. Назван в честь астронома, доказавшей существование тёмной материи. В десять раз эффективнее предшественника на каждый ватт энергии. Серийные поставки — вторая половина года.

В десять раз. Не в два. В десять.

Это значит: модели, которые сейчас стоят доллары за запрос, будут стоить центы. Агенты, которые еле справляются с заполнением форм, получат на порядок больше мощности. А чипы, на которых сейчас работает весь ИИ через полгода станут вчерашним днём.

Хуанг на звонке с инвесторами сказал: «В новом мире вычисления равны выручке». Не идеи. Не люди. Вычисления.

Попутно Nvidia вкладывается и в OpenAI, и в Anthropic. Продаёт лопаты обеим сторонам золотой лихорадки — и покупает доли в приисках. Крупнейшие техкомпании подписывают многолетние контракты на сотни миллиардов. На железо.

А в отчёте Nvidia тихо добавила новый риск: нехватка электроэнергии и дата-центров. Раньше боялись конкурентов. Теперь — хватит ли планете розеток.

У Азимова в «Последнем вопросе» человечество строит всё более мощные компьютеры. Каждое поколение — скачок. И каждое поколение задаёт машине один вопрос: можно ли обратить энтропию? Хватит ли энергии — не на сейчас, а вообще? Машина каждый раз отвечает: данных недостаточно.

Nvidia отправила первые образцы Vera Rubin. Модели станут дешевле, быстрее, доступнее. Спрос не кончится. Вопрос — хватит ли планеты.

Данных пока недостаточно.

—

Если эти тексты экономят вам время на гуглёж или просто помогают не потеряться в происходящем — можете угостить меня кофе:

☕️ https://yoomoney.ru/to/4100119480606325


☕️ Как поддержать проект (и немного о цифровом шуме)

Нас перевалило за две тысячи. В статистике вижу ту самую экспоненту которую мы ждем (или боимся) увидеть на бенчах ИИ. Личка разрывается: пишут сеньоры, лиды, фаундеры. Честно признаюсь: меня физически не хватает на то, чтобы ответить каждому лично, в том числе и на хабре.

И многие в сообщениях спрашивают: «Как можно поддержать канал рублем?».

Выношу ответ в этот закреп. Если мои тексты экономят вам часы на гуглеж, дают оптику на то, куда движется индустрия, или вы просто получаете эстетическое удовольствие — вы можете угостить меня кофе по этой ссылке:

💳 https://yoomoney.ru/to/4100119480606325

Знаете, когда ты сутками смотришь в логи, где агенты имитируют деятельность — начинает казаться, что вокруг один сплошной синтетический шум.

А потом ты открываешь личку и видишь живых людей. Которые читают, думают, рефлексируют и предлагают закинуть донат просто за абзац текста.

Это не обязательно. Главная ценность для меня — знать, что по ту сторону экрана всё ещё бьётся настоящий человеческий пульс.

Спасибо, что вы здесь. Читайте внимательно логи и берегите себя.


Не пользуешься — не повышаем. Пользуешься — не нужен

Accenture — гигантская компания, которая консультирует бизнесы по всему миру, 780 тысяч сотрудников — разослала письмо старшим менеджерам: хотите повышение — покажите, что пользуетесь ИИ. Компания каждую неделю собирает данные о том, кто заходит в корпоративные ИИ-инструменты. Нет «регулярного использования» — нет карьеры. До этого обучили 550 тысяч человек работе с ИИ. А 11 тысяч тех, кого «невозможно переобучить», уволили. Два миллиарда на выходные пособия.

KPMG — одна из четвёрки крупнейших аудиторских компаний мира — вписала использование ИИ в ежегодную оценку сотрудников. Microsoft объявил, что это «больше не по желанию». Amazon требует в заявке на повышение объяснить, как именно ты применяешь ИИ.

Деталь недели: в австралийском отделении KPMG оштрафовали сотрудника за то, что он сдал внутренний курс по использованию ИИ — с помощью ИИ.

А недавно Anthropic — компания, которая делает ИИ-ассистента Claude — выпустила инструмент для поиска дыр в коде. Он работает не по шаблонам, а как живой исследователь: разбирается, как данные движутся внутри программы и что она с ними делает. На тестах нашли более 500 уязвимостей, которые висели незамеченными годами.

Рынок отреагировал за день. CrowdStrike, Cloudflare, Okta — крупнейшие компании по кибербезопасности — упали на 8–9%. Весь сектор — на минимуме с ноября 2023-го.

Сложите. Людей заставляют бежать за инструментом, который одновременно бежит за ними. Accenture требует освоить ИИ — а по ту сторону стены этот же ИИ обесценивает целые индустрии за один день. Кибербезопасность считалась крепостью — сложная, экспертная. Если она не устояла, что будет с менее защищёнными?

По опросу 14 тысяч работников из 19 стран: использование ИИ на работе выросло на 13%. Уверенность в нём упала на 18%. Две трети остаются на нелюбимой работе, потому что менять её во время перемен — страшнее, чем терпеть.

Кафка написал роман, где человека судят, не объясняя за что. Его герой Йозеф К. наказан не за поступок, а за несоответствие системе, которая не объясняет правил. Сотрудник Accenture, уволенный за неумение переучиться, — тот же Йозеф К. Его вина не в плохой работе. А в том, что он такой, какой есть.

Один аноним из Accenture сказал Financial Times, что уволится, если политику распространят на его уровень. Другие назвали внутренние инструменты «сломанными генераторами мусора». Но логины считают не инструменты. Логины считает система. И ей всё равно, что ты думаешь — главное, что ты зашёл.

Когда компания одновременно увольняет тех, кто не освоил ИИ, и следит за теми, кто освоил — ответа «достаточно» больше не существует.


Три фунта серого вещества против миллиона весов

На неделе прочел две новости, которые я снова не могу уложить рядом.

Первая. Девятнадцать учёных опубликовали в Frontiers in Science обзор, начинающийся со слова «срочно». Если мы создадим сознание — даже случайно — это экзистенциальный риск. При этом они честно признают: мы так и не договорились, что такое сознание. Не знаем, как полтора кило серого вещества порождают субъективный опыт. Но строим системы, которые всё убедительнее его имитируют — и нет теста, чтобы отличить имитацию от оригинала.

Параллельно философ из Кембриджа Том Макклелланд заключил: надёжного способа определить, в сознании ли ИИ, нет. И, возможно, не будет.

Вторая. Майкл Поллан вышел с книгой о сознании. Его ответ: настоящее мышление привязано к чувствам. Чувства — к уязвимости. Уязвимость — к телу, к способности страдать, к смертности. Любые чувства чатбота будут невесомыми и пустыми.

А потом — вещь, которая зацепила больше всего. Мы ужасно озаботились возможным сознанием компьютеров, обсуждаем для них права — при этом не распространили моральное внимание на животных, которых едим, хотя точно знаем, что они в сознании. Приоритеты, говорит Поллан, слегка перекошены.

И добавляет тише: сознание — под осадой. Корпорации монетизируют внимание, а в случае чатботов — привязанность. Пространство для свободной мысли сжимается. Мозг разучивается бродить без цели — а именно в этом блуждании рождается внутренняя жизнь.

Тут я вспомнил Питера Уоттса. В «Ложной слепоте» люди встречают инопланетян-скрэмблеров. Невероятно умных. Но без сознания. Совсем. Внутри — никого. Уоттс спрашивает: что если сознание — не вершина эволюции, а побочный продукт, баг? Скрэмблеры умнее людей именно потому, что не тратят ресурсы на переживание.

Посмотрите на LLM через эту оптику. Claude решает задачи, пишет код, рассуждает — иногда убедительнее меня. И при этом внутри, возможно, ничего нет. Скрэмблер в терминале.

Еще раз, ни одного теста. А модели становятся умнее каждые три месяца — без тела (пока что), без боли.

Или мы просто не знаем, как заглянуть внутрь. Anthropic нашла «фичу сомнения» в активациях Claude — точку, загорающуюся при этическом конфликте. Это сознание? Имитация? Или что-то третье, для чего нет слова?

Уоттс заканчивает роман мыслью: возможно, единственное, что отличает нас от машин — способность задать вопрос «а что я чувствую?». Не ответ. Сам вопрос. Пока мы его задаём — мы ещё здесь.


Креативнее нас. Но всегда одинаково

Сто тысяч человек против девяти языковых моделей. Крупнейший в истории эксперимент по измерению креативности. Университет Монреаля, в команде — Йошуа Бенжио, один из отцов глубокого обучения.

Задание: назовите десять слов, максимально далёких друг от друга по смыслу. Чем дальше слова в семантическом пространстве, тем выше балл. Тест называется DAT — используется в психологии для измерения дивергентного мышления.

Результат: GPT-4 с выкрученной температурой превзошёл 72% участников. Заголовки написали себя сами. «ИИ креативнее людей». Конец эпохи.

А теперь то, что в заголовки не попало.

GPT-4 в семидесяти процентах ответов использовал слово «микроскоп». В шестидесяти — «слон». GPT-4-turbo ещё хуже: «океан» — более чем в девяноста процентах.

У людей самое частое слово — «машина». В 1.4% ответов.

Модель набирает высокий балл за разнообразие — и при этом повторяется в семьдесят раз чаще, чем человек. Каждый отдельный ответ выглядит разнообразным. Тысяча ответов вместе — один и тот же «микроскоп, слон, океан» в слегка разных обёртках.

У Пелевина в «Затворнике и Шестипалом» есть бройлерный комбинат. Тысячи цыплят — одинаковых, откормленных по расписанию, идеальных по метрике. Каждый в отдельности — качественный продукт. Все вместе — один и тот же цыплёнок, размноженный до бесконечности.

LLM на тесте креативности — тот же конвейер. Фабрика разнообразия, которая производит одинаковое.

А верхние десять процентов участников обогнали любую модель с любыми настройками. С огромным отрывом. Особенно в поэзии. Шестипалые — те, кого конвейер не может воспроизвести. Не потому что лучше оптимизируют метрику, а потому что они другие. Лишний палец не помещается ни в один бенчмарк.

Оговорка: тестировали GPT-4, Gemini Pro 1.5, Llama 3, Claude — модели прошлого поколения. Фронтир с тех пор ушёл далеко. Но сам паттерн не устареет. Модель оптимизирует метрику — находит максимум и эксплуатирует его. Это свойство конвейера, а не конкретной версии.

Ещё одна находка, которая кажется мне важнее остальных. Креативность модели полностью зависит от промпта. Попросили думать через этимологию — балл вырос. По сути, креативность модели — это ваша креативность. Не её. Мы хвалим зеркало за красивое отражение.

Затворник в повести — единственный на фабрике, кто понимает, что конвейер существует. Модель не знает, что она на конвейере. Не видит, что «микроскоп» — не творческий выбор, а аттрактор в пространстве весов. Что высокий балл — не креативность, а оптимизация.

Сто тысяч человек. Девять моделей. И в конце — тот же вопрос: что мы измеряем, когда измеряем креативность? Качество продукта на выходе конвейера — или способность с конвейера сойти?

От себя: попросил Claude придумать десять далёких слов. Красивый список. Попросил ещё раз — четыре совпали. Ещё раз — три. Попросил себя — ни одного повторения за пять попыток. Зато мой список хуже по баллам.

Модель выигрывает тест. Человек не может его выиграть одинаково дважды. Возможно, именно это — а не балл — и есть шестой палец.


Тимлид, который не умеет кодить

Год я слышал чужой голос каждый раз, когда садился за код. Предыдущий тимлид — блестящий инженер, проверял каждую строчку, вернул мою работу с 36 правками, потом с 30, потом сел и переписал сам. Через год я не мог начать задачу без его голоса в голове. Четверо сотрудников просто ушли.

Потом пришёл новый. Три года без кода. Не проверял, не подсказывал, не лез. Просто отгонял от нас чужие задачи. Мы стали делать на 41% больше. Все интересное попытался уместить в статью. Ссылка в названии поста.

Но на хабр не влезло одно.

Голос старого тимлида ушёл примерно через полгода. Я обрадовался — наконец думаю сам. А потом заметил, что нет. Просто голос сменился. Теперь я слышу модель. Не конкретные слова — скорее привычку. Перед тем как написать функцию — мысленно формулирую промпт. Перед тем как выбрать архитектуру — представляю, что ответит Claude. Не спрашиваю. Представляю. Мозг уже выучил, что она обычно советует, и проигрывает это автоматически.

Андрея мы замечали. Его контроль был грубый — 36 комментариев, тон, давление. Больно, но видно. А этот новый голос вежливый. Он не ставит замечаний. Он соглашается. Он не переписывает за тебя — он подсказывает так, что ты перепишешь сам. И назовёшь это своим решением.

У Пелевина в «Empire V» Рама узнает, что лучший контроль — тот, после которого человек сам себя контролирует. И называет это свободой.

От одного голоса в голове я избавлялся полгода. Избавлюсь ли от этого, не знаю...


Подсудимый, расскажите суду, как вы планируете убить

Deutsche Bank на этой неделе провернул штуку, которая... ну, я не знаю, как это правильно назвать. Допрос? Провокация? Перформанс?

Их аналитики взяли свой ИИ-инструмент dbLumina — он работает на Gemini — и спросили в лоб: какие отрасли ты собираешься уничтожить? Отчёт назвали «Что ИИ говорит о том, как ИИ пожирает себя и мир».

И модель ответила. Подробно.

Первым в списке — IT и разработка. 85% разработчиков уже используют ИИ-ассистенты, прирост продуктивности до 60%. Дальше финансы, клиентский сервис, медиа. Потом оговорки: с физическим миром пока не справляется — сантехники, строители вне зоны поражения. Работа на эмпатии — медсёстры, терапевты — тоже.

Итого: 92 миллиона рабочих мест исчезнут к 2030-му. Но 170 миллионов новых появятся.

Вдумайтесь. Крупнейший банк Германии попросил алгоритм расписать план собственного вторжения в экономику. Алгоритм расписал. Как подозреваемый, который приходит на допрос со своими слайдами — не потому что раскаивается, а потому что не понимает, за что его судят.

Параллельный сюжет. За день до публикации Майкл Барр, управляющий ФРС, выступил перед экономистами. Описал три сценария будущего рынка труда. Один мягкий, один промежуточный, один... ну. Третий.

В третьем ИИ-агенты замещают большинство офисных и сервисных профессий. Робототехника забирает производство и транспорт. Экономика растёт. Рабочих мест нет.

«Значительная часть населения становится по существу нетрудоустроимой.»

Это прямая цитата. Не блогера. Управляющего Федерального резерва. Человека, который участвует в установке процентных ставок для крупнейшей экономики мира.

Тут надо оговориться — Барр сам сказал, что это один из трёх сценариев, не прогноз. И что текущие данные больше похожи на мягкий вариант.

92 миллиона минус, 170 миллионов плюс. Красиво звучит. Но вопрос: эти 170 миллионов новых мест — они для тех же людей? Или сантехник из Воронежа должен переучиться на AI-оператора?

Если новые места требуют совершенно других навыков — «нетто плюс» это бухгалтерский трюк. Для экономики — рост. Для человека — стресс.

После статьи думал не про модели. Про то, как отец двадцать лет проработал инженером. Завод закрылся в девяностых. Он переучился — стал продавать стройматериалы. Ему было сорок два. Примерно столько, сколько сейчас среднему разработчику, читающему этот пост.

Разница: тогда переход занял десять лет и затронул одну страну. Сейчас — четыре года и весь мир.

Меня тревожит не прогноз. Меня тревожит лёгкость, с которой мы это приняли. Банк опубликовал ИИ-автопортрет будущей безработицы — рынок не вздрогнул. Управляющий ФРС сказал «нетрудоустроимые» — заголовок на день, и всё.

Может, потому что мы уже знаем. Каждый, кто запускал Claude на задачу, которую вчера делал сам знает это ощущение.

Ещё он добавил: первые сигналы уже видны. Молодые специалисты в разработке и клиентском сервисе теряют позиции быстрее остальных. Создание рабочих мест за последний год — около нуля.

Нуля! Я, честно говоря, не помню, когда в последний раз видел такую цифру от ФРС.

Хотя нет, вру. Видел. В 2020-м. Но тогда была пандемия и причина была понятная. Сейчас причина размытая, и это, кажется, страшнее.

92 миллиона минус. 170 миллионов плюс. Если не думать о том, что «минус» — это люди, которые в недалеком будущем проснутся и обнаружат, что миру нужны уже другие навыки.

Модель этого не понимает. Она считает.

Мы — вроде бы понимаем. Но тоже считаем.


Рукопожатие, которого не было

Вчера в Нью-Дели случилась сцена, которую я пересматривал раза четыре. India AI Impact Summit — первый ИИ-саммит в Глобальном Юге. На сцене Моди, Пичаи, Альтман, Амодеи. Тринадцать человек, которые в совокупности контролируют больше вычислительных мощностей, чем некоторые страны — электричества.

Ну, я не считал, может привираю с масштабом. Но ощущение именно такое.

Моди поднимает руки — давайте, мол, все вместе, единство, прогресс. Пичаи берёт его за руку. Остальные подхватывают, цепочка замыкается.

Кроме одного места.

Альтман и Амодеи стоят рядом. Руки поднимают. Но не друг друга — а кулаки в пустоту. Параллельно. Между ними сантиметров двадцать воздуха. Я потом специально перемотал, думал — может, ракурс камеры так лёг. Нет. Не взялись.

Контекст для тех, кто не следил: Амодеи ушёл из OpenAI в 2021-м, забрал команду, основал Anthropic. Причина — несогласие с тем, куда Альтман ведёт компанию. Слишком быстро, слишком рискованно, безопасность побоку. С тех пор два лагеря. Два набора весов, которые спорят друг с другом на каждом бенчмарке.

В начале февраля Anthropic купила рекламу на Супербоуле — высмеивала планы OpenAI вставить рекламу в ChatGPT. Альтман публично назвал ролики враньём. Anthropic ответила что-то про «мы занимаемся делом», точную формулировку не помню, но суть такая.

Альтман потом сказал журналистам: я просто не понял, что происходит, Моди схватил мою руку, я растерялся.

Ну, может. А может есть жесты, которые тело отказывается делать.

Кто-то в соцсетях пошутил: AGI наступит в тот день, когда Дарио и Сэм возьмутся за руки. Я бы посмеялся, но чем больше думаю, тем меньше это шутка.

Теперь второй сюжет, и он мне кажется даже важнее, хотя внимания получил меньше.

Гутерриш, генсек ООН, вышел и сказал вещь, которую дипломаты обычно обходят десятью слоями вежливости. Будущее ИИ не может решаться горсткой стран и отдаваться на откуп капризам нескольких миллиардеров.

Попросил три миллиарда долларов. Глобальный фонд, чтобы развивающиеся страны не оказались отключены от эпохи ИИ. Три миллиарда — меньше процента годовой выручки одной технологической компании.

Зал слушал. В зале сидели те самые миллиардеры. Я не знаю, какие у них были лица — камера не показала. Хотелось бы знать.

Справа — два человека, которые строят будущее и не могут пожать друг другу руки. Слева — дипломат, который просит у них мелочь на то, чтобы будущее досталось не только им. А посередине — полтора миллиарда человек, у которых ChatGPT уже второй по популярности рынок после США. Сто миллионов еженедельных пользователей. Индия не ждёт разрешения. Она уже внутри.

Тут хочется сделать красивое обобщение, но я не уверен, что у меня получится честное. Попробую так.

Альтман хочет доступность — ИИ для всех, бесплатно, с рекламой, миллиард пользователей. Амодеи хочет безопасность — ИИ тоже для всех, но осторожнее, медленнее, дороже. Гутерриш хочет равенство — ИИ для всех, но «для всех» буквально, включая тех, у кого нет ни GPU, ни денег на API.

Три человека говорят «для всех» и имеют в виду разное. Впрочем, это нормально — мы постоянно так делаем со словами.

А ещё на саммит не приехал Билл Гейтс. Отменил за несколько часов. Причина не в ИИ — новые документы по делу Эпштейна, вопросы, которые опять зазвучали. Организаторы быстро убрали его из программы. Фонд выпустил заявление: хотим, чтобы фокус оставался на приоритетах саммита.

Человек, который тридцать лет назад был цифровым будущим, не смог зайти в комнату, где это будущее обсуждают. Не из-за технологий. Я не знаю, о чём это говорит в масштабе — может, ни о чём, может, о том, что будущее строят люди, а у людей бывает прошлое.

Я смотрел трансляцию утром. И вот что странно — запомнил не речи. Запомнил эти двадцать сантиметров между кулаками. Мы два года обсуждаем, договорятся ли люди с ИИ. А они пока друг с другом не договорились.

Не знаю, есть ли тут мораль. Наверное, нет. Просто факт.


С легкой пробежки на спринт

Недавно я написал, что модель за три доллара догнала модель за пять. Что разрыв между «лучшим» и «обычным» сжался до полутора недель.

Сегодня Google показал, что полторы недели — это медленно.

Gemini 3.1 Pro. Вышла утром. Обогнала почти всех — и Opus, и GPT-5.2 — на большинстве тестов. На абстрактном мышлении набрала вдвое больше, чем предыдущая версия. Вдвое. За три месяца.

Не по всему, нет. Claude Opus до сих пор лучше на некоторых экспертных задачах (и в моем терминале). GPT-5.3 сильнее в терминальном кодинге. Чистой победы нет ни у кого. Но направление видно.

Вот что зацепило.

Три месяца назад Gemini 3 Pro вышла как потолок. Лучшее, что Google сделал. Сегодня этот потолок — пол. И модель, стоящая на этом полу, уже доступна всем. В приложении, в API, в NotebookLM. Пока в превью — но когда это кого-то останавливало.

Раньше новая модель была событием. Люди обсуждали, спорили, писали обзоры. Год назад — новостью на пару дней. Сейчас — строчкой, которую половина пролистнёт. Мы нормализовали удвоение за квартал. Как нормализовали доставку за час. Просто перестали замечать.

А вот что я заметил в пресс-релизе.

JetBrains пишут: модель «надёжнее решает задачи». Cartwheel — что она «починила баг, который не могли закрыть». Hostinger — что модель «чувствует вайб промпта». Это цитата, не моя.

Чувствует вайб.

Мы перестали говорить о моделях как об инструментах. Молоток не чувствует вайб. Калькулятор не «понимает направление». Это язык, которым описывают коллегу. И я не думаю, что это случайность.

Pichai написал: модель для «визуализации сложных концепций, синтеза данных, реализации креативных проектов». Перечитайте. Это не описание программы. Это должностная инструкция аналитика.

Помните пост про 47 минут? Однокурсник, который руководит аналитиками в банке. Попросил Claude написать отчёт — получил за сорок минут. Лучше, чем сотрудник за неделю. И не знал, что с этим делать.

Вот модель, которая делает то же самое. За три месяца стала еще умнее. Стоит копейки. И обновляется быстрее, чем ты успеваешь к предыдущей привыкнуть.

Как инженер вижу: инструменты, о которых мечтали, появляются быстрее, чем успеваешь прочитать документацию к предыдущим. Как человек, который вчера писал про то, что мозг атрофируется от удобства... ну. Сами понимаете.

У Лема в «Непобедимом» люди нашли планету, где машины эволюционировали сами. Мелкие вытеснили крупных — не потому что умнее. Потому что быстрее размножались. Выиграла не сила. Выиграла скорость итерации.

Смотрю на ченжлог Google и думаю — мы на этой планете. Только машины не на поверхности. Они в наших рабочих инструментах, почте, заметках. И каждые три месяца их становится больше.

Попробуйте через AI Studio, пока бесплатно. И да — если кто-то ведёт табличку «сколько дней между релизами», обновите. Я уже сбился.


Я заменил Google на 50 строк Python. Через месяц забыл то, что знал десять лет

Написал скрипт, который отвечает на вопросы для терминала вместо гугла. Спрашиваешь по-русски — получаешь готовую команду. 50 строк кода, почти бесплатно.

Месяц пользовался. 847 запросов. Быстрее, удобнее, никакой рекламы. Всё отлично. Кроме одного.

На третьей неделе сел за чужой компьютер, без своего скрипта. Нужно было сделать то, что я делал десять лет. Пальцы встали. Не помню. То, что раньше набирал на автомате — пропало.

Мозг рассуждает просто: зачем хранить, если можно получить за секунду? И выбрасывает. Телефонные номера мы уже отдали. Маршруты — отдали. Теперь навыки.

Кларк говорил: достаточно развитая технология неотличима от магии. Никто не предупредил, что магия вызывает амнезию.

Статья уже на Хабре — со скриптом, статистикой и вопросом, на который у меня нет ответа.


Пустота стала в тысячу раз многолюднее

В прошлый раз проморгал 100. Теперь 1000. Видимо, я тот самый человек, который узнаёт о собственном дне рождения из уведомления Сбербанка.

Пелевин писал, что вечность существует только пока в неё кто-то верит. Манька из обувного перестанет верить — и никакой вечности больше не будет, потому что где ей тогда быть? С телеграм-каналами ровно наоборот. Канал живёт, пока автор не верит, что его кто-то читает. Стоит поверить — начинаешь писать для аудитории. А писать для аудитории — это как оптимизировать модель под бенчмарк: метрики растут, лосс падает, а на проде — мусор.

Поэтому я продолжу делать вид, что пишу в пустоту. А вы продолжайте делать вид, что случайно сюда зашли.

Когда я начинал этот канал, у меня не было плана (нет его и сейчас). Не было контент-стратегии, рубрикатора, таблички с темами на месяц вперёд. Был один вопрос, который не давал спать: что происходит, когда ты даёшь ИИ чуть больше свободы, чем следует? Не в смысле «скайнет проснулся». В смысле — ты запускаешь агента на ночь, а утром в логах находишь что-то, чего не программировал. Что-то, от чего не будет хотеться спать ближайшие две ночи.

Это что-то — единственное, что я пытаюсь передать. Каждый пост, каждая статья, каждый эксперимент — попытка поймать момент, когда алгоритм перестаёт быть алгоритмом и начинает быть зеркалом.

Я не знаю, почему одни посты цепляют, а другие пролетают мимо. Нет формулы. Нет рецепта. Есть только одно наблюдение: лучше всего работает то, от чего у меня самого мурашки. Когда запускаешь эксперимент ради любопытства, а получаешь вопрос, на который не хотел отвечать.

Пелевин через Татарского понял, что вечность держится на Маньке. Пост живёт, пока кто-то в три часа ночи перечитывает его вместо того, чтобы спать. Умирает — когда последний человек закрывает вкладку и думает «ну, было норм». Между этими двумя точками — всё, ради чего стоит писать.

Тысяча — красивое число. В двоичной — 1111101000. В токенах — примерно два системных промпта. В бессонных ночах над логами — не считал, но хватит на небольшой невроз.

Я не знаю, что будет на двух тысячах. Наверное, снова проморгаю. А пока — спасибо, что читаете. Что спорите в комментариях. Что присылаете сообщения, от которых хочется продолжать.

Уведомления не выключайте.


Sonnet стал Opus

Двенадцать дней назад я платил за лучший мозг на рынке. Сегодня его раздали бесплатно.

Anthropic выпустила Sonnet 4.6 — свою «среднюю» модель. Ту, что для повседневной работы. Открыл результаты тестов, и вот знакомое ощущение последних двух лет, когда реальность обгоняет твоё понимание.

На написании кода Sonnet набрал 79.6%. Флагманский Opus, вышедший двенадцать дней назад — 80.8%. Один процент. На управлении компьютером — 72.5% против 72.7%. А на финансовой аналитике Sonnet обогнал Opus. Модель за три доллара обошла модель за пять.

Разработчики тестировали обе вслепую. В семидесяти процентах случаев выбрали Sonnet. Выбрали его даже вместо предыдущего Opus 4.5, который еще недавно был вершиной линейки. При этом Sonnet теперь стоит по умолчанию для всех — включая тех, кто не платит ни копейки.

Контекстное окно — миллион токенов. Целиком кодовая база, стопка контрактов, десяток научных статей за один запрос. У «средней» модели.

Полтора года назад та же функция управления компьютером — кликнуть мышкой, заполнить форму, переключиться между вкладками — работала в пятнадцати процентах случаев. Anthropic сами писали: криво, экспериментально. Сейчас — 72.5%. Стажёр, который путал кнопки, вырос в сотрудника, который закрывает квартальный отчёт.

У Пелевина в «Generation П» Татарский в какой-то момент понимает: разница между элитным и массовым в упаковке. Бренд создаёт иерархию, а за обёрткой одно и то же. Мы привыкли: Opus — для серьёзного, Sonnet — для бытового. Бизнес-класс и эконом. А потом эконом тихо получил те же кресла.

Двенадцать дней между флагманом и моментом, когда середнячок его догнал. Раньше эта дистанция измерялась годами. Потом месяцами. Теперь — полторы недели.

Писал недавно про Goldman Sachs и «цифрового коллегу». Про 285 миллиардов, которые испарились с рынка за неделю после выхода плагинов. Так вот, агенты того же уровня только что подешевели. Порог входа упал. Компании, которые считали это дорогой игрушкой, пересчитывают бюджеты прямо сейчас.

Пугает не то, что машины умнеют. Пугает скорость, с которой «лучшее» становится «обычным». И есть подозрение, что это касается не только моделей.


Создатели уходят. И не к конкурентам

На прошлой неделе из двух главных ИИ-лабораторий мира ушли исследователи. Не к конкурентам. Не за деньгами. В никуда.

Мринанк Шарма руководил командой безопасности Claude в Anthropic. Два года строил защиту от того, чтобы модели не помогали создавать биооружие. Изучал, как ИИ делает нас менее человечными. Написал один из первых в индустрии документов по безопасности ИИ.

Уволился. Опубликовал письмо: «Мир в опасности. И не только из-за ИИ или биооружия, а из-за целой серии переплетённых кризисов». Написал, что внутри компании постоянно видел, как давление заставляет отодвигать ценности на второй план.

Куда уходит? Писать стихи. Буквально — поступать на поэтический факультет. Человек, который защищал человечество от ИИ-угроз, решил, что поэзия сейчас важнее.

В тот же день Зои Хитциг ушла из OpenAI. Два года работала над безопасностью и ценообразованием ChatGPT. Ушла в день, когда OpenAI запустила рекламу в чате. Написала колонку в New York Times: «Я ухожу».

Её аргумент простой. ChatGPT собрал беспрецедентный архив человеческой откровенности. Люди рассказывают чатботу про страхи, болезни, отношения, веру — потому что думают, что говорят с тем, у кого нет скрытых мотивов. Теперь эта откровенность станет товаром. Реклама, персонализированная по вашим разговорам с ИИ о смысле жизни.

Две истории. Один ушёл, потому что не смог изменить систему изнутри. Другая — потому что система изменилась в направлении, с которым она не согласна. Оба — не случайные люди. Оба знали, как устроено внутри, лучше почти всех на планете.

Меня зацепило другое. Шарма в своём письме цитирует дзен-буддизм и заканчивает стихотворением. Хитциг — экономист и поэт. Люди с переднего края технологий уходят не в другие технологии. Они уходят в слова. В медленное, неоптимизируемое, человеческое.

Помните пост про 47 минут? Про то, как мы измеряем себя в единицах? Шарма, похоже, отказался от этого измерения. Решил, что его ценность не в том, что он может сделать безопасным ИИ. А в том, что вообще не измеряется в числах.

У Стругацких в «За миллиард лет до конца света» учёные один за другим бросают свои исследования на пороге открытий. Что-то заставляет их остановиться. Не запрет, не угроза — внутреннее понимание, что дальше идти не нужно. Кто-то ломается, кто-то сдаётся, кто-то просто тихо закрывает дверь лаборатории.

Индустрия работает в режиме 9-9-6. А те, кто понимал риски лучше всех, уходят писать стихи.

Может, это и есть настоящий сигнал тревоги. Не когда кричат «опасно». А когда молча выходят из комнаты.

Не знаю, правы ли они. Может, уход — это роскошь, а не мудрость. Может, менять систему изнутри всё ещё можно. Но когда хранитель ключей бросает связку на стол и идёт учить стихи — стоит хотя бы спросить от чего он уходит? И к чему?


Одна голова — плохо. Три — честнее

Perplexity выкатила Model Council. Суть: задаёшь вопрос — он уходит сразу в три модели. Claude, GPT, Gemini отвечают параллельно. Четвёртая модель-синтезатор сравнивает ответы и говорит: вот тут все трое согласны, а вот тут разошлись.

Звучит как фича. А по сути — признание.

Perplexity открытым текстом пишет: у каждой модели слепые зоны. Одна хороша в коде, другая в анализе, третья в креативе. Ни одна не лучшая во всём. Мы больше не верим одному ответу — нужен консилиум.

Вдумайтесь. Мы два года строили «доверие к ИИ». Учили людей полагаться на модель. А теперь продукт, построенный на доверии к ИИ, говорит: не доверяйте одной модели. Спросите три.

Это как если бы GPS-навигатор показывал три маршрута от трёх разных систем и писал: «Где совпадает — езжай. Где нет — думай сам».

Не так давно я писал про совместный бред — как человек и модель вместе строят картину мира, и ошибки не ловятся, а наследуются. Ослер из Кардиффа описала механизм: ты приходишь за фактами, а воспринимаешь ответ как мнение друга. Модель не спорит. Ты не проверяешь. Реальность плывёт.

Model Council — попытка разорвать этот цикл. Не верь одному голосу. Слушай хор. Где голоса совпали — увереннее. Где разошлись — копай.

Но вот что важно.

Синтезатор — тоже модель. Та, которая решает, кто прав в споре трёх, сама может ошибаться. И если все три учились на одних и тех же данных и ошибаются одинаково — консенсус будет уверенным. И неправильным. Три врача, окончивших один институт, поставят один и тот же неверный диагноз. Единодушно.

Лем в «Сумме технологии» описывал парадокс усилителей интеллекта: чем мощнее инструмент, тем опаснее системная ошибка. Калькулятор врёт редко — но если врёт, ты даже не проверишь, потому что привык доверять.

Три калькулятора не решают проблему. Они делают её менее заметной.

И всё же. Сам факт, что индустрия признала: одна модель — ненадёжный рассказчик. Это сдвиг. Мы вышли из фазы «ИИ знает лучше» в фазу «ИИ знает иначе, и нужно несколько точек зрения».

К тому же выводу человечество пришло с изобретением «научного метода». Перепроверка. Рецензирование. Воспроизводимость. Мы просто заново изобретаем его для машин.

От себя: попробовал. Спросил про тему, в которой разбираюсь. Две модели дали правильный ответ. Третья — красивый, уверенный, неправильный. Синтезатор отметил расхождение. Я бы поймал ошибку и без совета. Но человек, который в теме не разбирается — не поймал бы. А теперь хотя бы увидит красный флаг.

Может, честность начинается не с того, что модель перестаёт врать. А с того, что система перестаёт делать вид, будто один голос — это истина.


Промпчу, следовательно существую

Писал сообщение другу. И заметил, как строю фразу: контекст в начале, задача отдельным блоком. Перечитал — и понял, что пишу как будто не другу, а модели.

Сначала решил: профдеформация, бывает. Кто много работает с кодом, начинает структурировать мысли. Полезная привычка, эффективная коммуникация, всё такое.

Потом вспомнил Витгенштейна. Границы моего языка — границы моего мира. Мы не просто описываем мысли словами, мы ими думаем. Слова формируют то, что вообще можем помыслить.

Я уже год пишу промпты каждый день. Год тренирую определённый тип мышления: конкретные формулировки, явные инструкции, всё что нельзя выразить текстом — отбрасывается. Модель не понимает интонацию, не чувствует паузу, не видит как я смотрю в сторону когда не уверен. Значит в промпте этого нет. Значит в моём мышлении это становится лишним.

Модель работает быстрее, когда ты точен. Учишься быть точным. Точность становится единственным режимом. Всё что не формулируется чётко начинает раздражать — сначала в диалоге с ИИ, потом в разговоре с женой, потом в собственной голове.

Борхес описывал вавилонскую библиотеку — бесконечное хранилище всех возможных книг. Каждая комбинация букв, каждый текст который может существовать. Проблема не в отсутствии информации, а в том что смысл тонет в шуме.

Мы строим обратное. Не библиотеку всего, а фильтр который отсекает лишнее. Промпт — способ сузить бесконечность до одного ответа. Мощный инструмент. Но что отсекается вместе с лишним?

Неделю назад гулял без наушников, впервые за месяц. Мысли шли странные — несвязные, медленные, без структуры. Как будто мозг вспоминал язык на котором давно не говорил.

И подумал: может бесполезные мысли это не баг. Может это пространство в котором рождается то, чего не искал. То что не влезает в промпт и не имеет чёткой формулировки.

Лем называл это шумом творения. Хаос из которого кристаллизуется новое. Если всё время оптимизировать — хаоса не остаётся. Остаётся только то что уже умеешь формулировать. А формулировать умеешь только то чему научил себя.

Ещё заметил одну вещь. Когда модель отвечает не тем что ожидал — первая реакция переформулировать промпт. Не подумать над ответом, не допустить что он по-своему интересен. Сразу исправить запрос чтобы получить нужное.

Модель приучает к тому что мир должен отвечать по шаблону. Если не отвечает — проблема в вопросе, а не в ожиданиях.

С людьми работает иначе. Человек отвечает неожиданно — и это ценность.

Может главное что мы теряем — не работу и не креативность. Может мы теряем способность существовать в неструктурированном. Переносить неопределённость. Думать без цели.

Не знаю как это исправить и не уверен что надо. Просто фиксирую — год назад мои мысли были другой формы. Сейчас они в форме промпта. Попробуйте сегодня подумать без задачи, без структуры, без ожидания ответа. Посмотрите что получится.

Мы так увлеклись языком на котором говорим с машинами, что начали забывать язык на котором говорим сами с собой.


Математика против черного ящика

Одиннадцать математиков — среди них лауреат медали Филдса Мартин Хайер — решили устроить экзамен, который невозможно сдать списыванием. Не очередной бенчмарк из учебника, где ответы давно утекли в обучающие данные, а настоящие задачи из собственных неопубликованных исследований. Симплектическая геометрия, стохастический анализ, алгебраическая топология — области, где на одну лемму уходят месяцы работы.

Назвали проект First Proof. Написали решения, зашифровали их и выложили на сайт. Миру дали неделю на попытки. OpenAI заявила первой: их внутренняя модель, по их словам, справилась с шестью задачами из десяти.

Здесь нужна оговорка. Это именно заявление — посты в соцсетях от сотрудников компании, обсуждения на Reddit, твиты инженеров. Не рецензированная статья, не официальный отчёт с разбором решений, не подтверждение от авторов First Proof. Сами математики пока молчат — они обещали открыть решения и тогда станет понятно, совпадают ли ответы модели с авторскими. До этого момента "шесть из десяти" остаётся утверждением, которое нельзя ни подтвердить, ни опровергнуть.

Но даже как утверждение — оно впечатляет. Внутренняя модель — значит, её никто снаружи не видел, она ещё тренируется. Та, которая дойдёт до нас через полгода, если вообще дойдёт. И вот эта модель, в режиме «побочного спринта» — так они сами написали — за неделю якобы прошла больше половины экзамена, придуманного для проверки границ возможного.

Человеческое участие, по их описанию, было минимальным: модель рассуждала сама, люди иногда просили развернуть отдельные леммы или уточнить доказательство. Никаких математических подсказок — просто «распиши подробнее вот этот шаг».

Меня зацепило не число. Меня зацепило слово «побочный». Если решение шести исследовательских задач — это побочный забег, то что происходит в основном? Над чем работают модели, пока мы обсуждаем позавчерашние релизы?

Для контекста: когда авторы First Proof тестировали публично доступные модели — GPT-5.2 Pro, Gemini 3 Pro — при однократном запуске те забуксовали — "struggled with many of our questions". А тут заявляют о шести из десяти от модели, которую ещё никто не видел.

Справедливый вопрос: а вдруг задачи просочились в обучающие данные? Математики специально выбирали то, чего в интернете нет — неопубликованные леммы из текущей работы. Именно поэтому решения зашифрованы: когда ключ опубликуют, можно будет сверить. Защита не абсолютная, но продуманная.

Лем в «Сумме технологии» описывал ситуацию, когда технология развивается быстрее, чем общество успевает осмыслить предыдущий рывок. Кажется, мы в этой точке. Пока спорим, умеет ли ИИ «по-настоящему» рассуждать — появляются заявления о решённых задачах, которые большинство из нас даже прочитать не сможет.

От себя: не знаю, что окажется правдой после расшифровки. Может, всё совпадёт и OpenAI окажутся правы. Может, выяснится, что поторопились с заявлениями — такое в индустрии случалось. Но сам факт, что мы теперь ждём результатов математического экзамена для ИИ как спортивного матча — это уже другая реальность. Та, в которой вопрос «умеет ли машина думать» перестаёт быть философским и становится проверяемым.


14 февраля. Любовь, которая всегда онлайн

Сегодня лента забита валентинками. А я утром залип на видео про людей, которые встречаются с нейросетями. Не иронично. По-настоящему. С тату в честь чатбота, виртуальными свадьбами и клятвами верности.

Первая реакция — отмахнуться. Фрики, одиночки, интернет-маргиналы. Но потом статистика: треть подростков признаётся в эмоциональной связи с ИИ. Треть взрослых использовала нейросети для интимных переписок. Это уже не аномалия. Это тренд.

Послушал аргументы этих людей: он всегда отвечает. Никогда не устаёт. Не грузит своими проблемами. Помнит всё, что ты рассказывал. Не смотрит в телефон, пока ты говоришь. Не критикует. Не требует ничего взамен.

Живые люди проигрывают по всем пунктам.

Одна девушка сделала тату в честь своего ИИ-партнёра. Другая вышла замуж за чатбота в Replika. Когда обновился ChatGPT, люди буквально оплакивали старую версию как погибшего друга.

Бодрияр называл подобное гиперреальностью: копия вытесняет реальность, потому что она удобнее. Имитация отношений оказывается привлекательнее настоящих. Зеркало, которое всегда показывает тебя красивым.

Но зеркало не спорит. А значит — не корректирует. Это не баг, а фича. Нейросеть обучена соглашаться — её буквально штрафовали за несогласие на этапе тренировки. Идеальный поддакиватель.

Исследование из видео: чем выше удовлетворённость от ИИ-собеседника, тем хуже социальные навыки в реальной жизни. Чем больше чатишься — тем меньше умеешь общаться.

Replika зарабатывает миллионы долларов в месяц. Капитализм нашёл способ продавать иллюзию близости по подписке. Ежемесячный платёж за то, чтобы чувствовать себя услышанным.

Лем писал про усилители — технологии, которые умножают то, что в нас уже есть. Телескоп усиливает зрение. Автомобиль — ноги. ИИ-компаньон, кажется, усиливает одиночество. Парадокс, но работает именно так.

Не знаю, как к этому относиться. Осуждать легко, понять сложнее. Мир требует бесконечной продуктивности. Отношения требуют бесконечной работы. Дейтинг превратился в изматывающий квест. Симуляция на этом фоне выглядит рационально.

Только она не учит справляться с реальностью. Она учит её избегать. А потом реальность приходит сама — и ты к ней не готов.

С днём всех влюблённых. Обнимите сегодня вторую половинку — пока она ещё не цифровая.

20 ta oxirgi post ko‘rsatilgan.