токены на ветер

два месяца молчания

Не постил ничего с конца февраля. Начал заниматься руками. Конкретно — лепить кейкапы и клавиатуры из полимерной глины. Оказалось это лучшее лекарство от усталости: сидишь, мнёшь, точки корицы тыкаешь, ни одного токена не сожжено.

Дошёл до того что скоро будет первый дроп — 5 десертов на Esc, каждый разный. если кому интересно посмотреть процесс или забрать себе один — завёл отдельный канал: https://t.me/ClayCustomSplit

Посты ML будут постепенно возвращаться. За эти пару месяцев вышло много нового.

Хватит ли планете розеток

Nvidia выкатила отчет. 68 миллиардов долларов за три месяца. Плюс 73% к прошлому году. Побила прогнозы — снова. Акции дёрнулись вверх, потом успокоились. Рынок привык.

91% выручки — серверы для ИИ. Не игровые видеокарты. А стойки, в которых крутятся Claude, GPT, Gemini. Nvidia давно не про игры. Nvidia — про фабрики, на которых ИИ думает.

Но главное не в цифрах. На этой неделе Nvidia отправила первым клиентам образцы нового чипа — Vera Rubin. Следующее поколение. Назван в честь астронома, доказавшей существование тёмной материи. В десять раз эффективнее предшественника на каждый ватт энергии. Серийные поставки — вторая половина года.

В десять раз. Не в два. В десять.

Это значит: модели, которые сейчас стоят доллары за запрос, будут стоить центы. Агенты, которые еле справляются с заполнением форм, получат на порядок больше мощности. А чипы, на которых сейчас работает весь ИИ через полгода станут вчерашним днём.

Хуанг на звонке с инвесторами сказал: «В новом мире вычисления равны выручке». Не идеи. Не люди. Вычисления.

Попутно Nvidia вкладывается и в OpenAI, и в Anthropic. Продаёт лопаты обеим сторонам золотой лихорадки — и покупает доли в приисках. Крупнейшие техкомпании подписывают многолетние контракты на сотни миллиардов. На железо.

А в отчёте Nvidia тихо добавила новый риск: нехватка электроэнергии и дата-центров. Раньше боялись конкурентов. Теперь — хватит ли планете розеток.

У Азимова в «Последнем вопросе» человечество строит всё более мощные компьютеры. Каждое поколение — скачок. И каждое поколение задаёт машине один вопрос: можно ли обратить энтропию? Хватит ли энергии — не на сейчас, а вообще? Машина каждый раз отвечает: данных недостаточно.

Nvidia отправила первые образцы Vera Rubin. Модели станут дешевле, быстрее, доступнее. Спрос не кончится. Вопрос — хватит ли планеты.

Данных пока недостаточно.

—

Если эти тексты экономят вам время на гуглёж или просто помогают не потеряться в происходящем — можете угостить меня кофе:

☕️ https://yoomoney.ru/to/4100119480606325

☕️ Как поддержать проект (и немного о цифровом шуме)

Нас перевалило за две тысячи. В статистике вижу ту самую экспоненту которую мы ждем (или боимся) увидеть на бенчах ИИ. Личка разрывается: пишут сеньоры, лиды, фаундеры. Честно признаюсь: меня физически не хватает на то, чтобы ответить каждому лично, в том числе и на хабре.

И многие в сообщениях спрашивают: «Как можно поддержать канал рублем?».

Выношу ответ в этот закреп. Если мои тексты экономят вам часы на гуглеж, дают оптику на то, куда движется индустрия, или вы просто получаете эстетическое удовольствие — вы можете угостить меня кофе по этой ссылке:

💳 https://yoomoney.ru/to/4100119480606325

Знаете, когда ты сутками смотришь в логи, где агенты имитируют деятельность — начинает казаться, что вокруг один сплошной синтетический шум.

А потом ты открываешь личку и видишь живых людей. Которые читают, думают, рефлексируют и предлагают закинуть донат просто за абзац текста.

Это не обязательно. Главная ценность для меня — знать, что по ту сторону экрана всё ещё бьётся настоящий человеческий пульс.

Спасибо, что вы здесь. Читайте внимательно логи и берегите себя.

Не пользуешься — не повышаем. Пользуешься — не нужен

Accenture — гигантская компания, которая консультирует бизнесы по всему миру, 780 тысяч сотрудников — разослала письмо старшим менеджерам: хотите повышение — покажите, что пользуетесь ИИ. Компания каждую неделю собирает данные о том, кто заходит в корпоративные ИИ-инструменты. Нет «регулярного использования» — нет карьеры. До этого обучили 550 тысяч человек работе с ИИ. А 11 тысяч тех, кого «невозможно переобучить», уволили. Два миллиарда на выходные пособия.

KPMG — одна из четвёрки крупнейших аудиторских компаний мира — вписала использование ИИ в ежегодную оценку сотрудников. Microsoft объявил, что это «больше не по желанию». Amazon требует в заявке на повышение объяснить, как именно ты применяешь ИИ.

Деталь недели: в австралийском отделении KPMG оштрафовали сотрудника за то, что он сдал внутренний курс по использованию ИИ — с помощью ИИ.

А недавно Anthropic — компания, которая делает ИИ-ассистента Claude — выпустила инструмент для поиска дыр в коде. Он работает не по шаблонам, а как живой исследователь: разбирается, как данные движутся внутри программы и что она с ними делает. На тестах нашли более 500 уязвимостей, которые висели незамеченными годами.

Рынок отреагировал за день. CrowdStrike, Cloudflare, Okta — крупнейшие компании по кибербезопасности — упали на 8–9%. Весь сектор — на минимуме с ноября 2023-го.

Сложите. Людей заставляют бежать за инструментом, который одновременно бежит за ними. Accenture требует освоить ИИ — а по ту сторону стены этот же ИИ обесценивает целые индустрии за один день. Кибербезопасность считалась крепостью — сложная, экспертная. Если она не устояла, что будет с менее защищёнными?

По опросу 14 тысяч работников из 19 стран: использование ИИ на работе выросло на 13%. Уверенность в нём упала на 18%. Две трети остаются на нелюбимой работе, потому что менять её во время перемен — страшнее, чем терпеть.

Кафка написал роман, где человека судят, не объясняя за что. Его герой Йозеф К. наказан не за поступок, а за несоответствие системе, которая не объясняет правил. Сотрудник Accenture, уволенный за неумение переучиться, — тот же Йозеф К. Его вина не в плохой работе. А в том, что он такой, какой есть.

Один аноним из Accenture сказал Financial Times, что уволится, если политику распространят на его уровень. Другие назвали внутренние инструменты «сломанными генераторами мусора». Но логины считают не инструменты. Логины считает система. И ей всё равно, что ты думаешь — главное, что ты зашёл.

Когда компания одновременно увольняет тех, кто не освоил ИИ, и следит за теми, кто освоил — ответа «достаточно» больше не существует.

Три фунта серого вещества против миллиона весов

На неделе прочел две новости, которые я снова не могу уложить рядом.

Первая. Девятнадцать учёных опубликовали в Frontiers in Science обзор, начинающийся со слова «срочно». Если мы создадим сознание — даже случайно — это экзистенциальный риск. При этом они честно признают: мы так и не договорились, что такое сознание. Не знаем, как полтора кило серого вещества порождают субъективный опыт. Но строим системы, которые всё убедительнее его имитируют — и нет теста, чтобы отличить имитацию от оригинала.

Параллельно философ из Кембриджа Том Макклелланд заключил: надёжного способа определить, в сознании ли ИИ, нет. И, возможно, не будет.

Вторая. Майкл Поллан вышел с книгой о сознании. Его ответ: настоящее мышление привязано к чувствам. Чувства — к уязвимости. Уязвимость — к телу, к способности страдать, к смертности. Любые чувства чатбота будут невесомыми и пустыми.

А потом — вещь, которая зацепила больше всего. Мы ужасно озаботились возможным сознанием компьютеров, обсуждаем для них права — при этом не распространили моральное внимание на животных, которых едим, хотя точно знаем, что они в сознании. Приоритеты, говорит Поллан, слегка перекошены.

И добавляет тише: сознание — под осадой. Корпорации монетизируют внимание, а в случае чатботов — привязанность. Пространство для свободной мысли сжимается. Мозг разучивается бродить без цели — а именно в этом блуждании рождается внутренняя жизнь.

Тут я вспомнил Питера Уоттса. В «Ложной слепоте» люди встречают инопланетян-скрэмблеров. Невероятно умных. Но без сознания. Совсем. Внутри — никого. Уоттс спрашивает: что если сознание — не вершина эволюции, а побочный продукт, баг? Скрэмблеры умнее людей именно потому, что не тратят ресурсы на переживание.

Посмотрите на LLM через эту оптику. Claude решает задачи, пишет код, рассуждает — иногда убедительнее меня. И при этом внутри, возможно, ничего нет. Скрэмблер в терминале.

Еще раз, ни одного теста. А модели становятся умнее каждые три месяца — без тела (пока что), без боли.

Или мы просто не знаем, как заглянуть внутрь. Anthropic нашла «фичу сомнения» в активациях Claude — точку, загорающуюся при этическом конфликте. Это сознание? Имитация? Или что-то третье, для чего нет слова?

Уоттс заканчивает роман мыслью: возможно, единственное, что отличает нас от машин — способность задать вопрос «а что я чувствую?». Не ответ. Сам вопрос. Пока мы его задаём — мы ещё здесь.

Креативнее нас. Но всегда одинаково

Сто тысяч человек против девяти языковых моделей. Крупнейший в истории эксперимент по измерению креативности. Университет Монреаля, в команде — Йошуа Бенжио, один из отцов глубокого обучения.

Задание: назовите десять слов, максимально далёких друг от друга по смыслу. Чем дальше слова в семантическом пространстве, тем выше балл. Тест называется DAT — используется в психологии для измерения дивергентного мышления.

Результат: GPT-4 с выкрученной температурой превзошёл 72% участников. Заголовки написали себя сами. «ИИ креативнее людей». Конец эпохи.

А теперь то, что в заголовки не попало.

GPT-4 в семидесяти процентах ответов использовал слово «микроскоп». В шестидесяти — «слон». GPT-4-turbo ещё хуже: «океан» — более чем в девяноста процентах.

У людей самое частое слово — «машина». В 1.4% ответов.

Модель набирает высокий балл за разнообразие — и при этом повторяется в семьдесят раз чаще, чем человек. Каждый отдельный ответ выглядит разнообразным. Тысяча ответов вместе — один и тот же «микроскоп, слон, океан» в слегка разных обёртках.

У Пелевина в «Затворнике и Шестипалом» есть бройлерный комбинат. Тысячи цыплят — одинаковых, откормленных по расписанию, идеальных по метрике. Каждый в отдельности — качественный продукт. Все вместе — один и тот же цыплёнок, размноженный до бесконечности.

LLM на тесте креативности — тот же конвейер. Фабрика разнообразия, которая производит одинаковое.

А верхние десять процентов участников обогнали любую модель с любыми настройками. С огромным отрывом. Особенно в поэзии. Шестипалые — те, кого конвейер не может воспроизвести. Не потому что лучше оптимизируют метрику, а потому что они другие. Лишний палец не помещается ни в один бенчмарк.

Оговорка: тестировали GPT-4, Gemini Pro 1.5, Llama 3, Claude — модели прошлого поколения. Фронтир с тех пор ушёл далеко. Но сам паттерн не устареет. Модель оптимизирует метрику — находит максимум и эксплуатирует его. Это свойство конвейера, а не конкретной версии.

Ещё одна находка, которая кажется мне важнее остальных. Креативность модели полностью зависит от промпта. Попросили думать через этимологию — балл вырос. По сути, креативность модели — это ваша креативность. Не её. Мы хвалим зеркало за красивое отражение.

Затворник в повести — единственный на фабрике, кто понимает, что конвейер существует. Модель не знает, что она на конвейере. Не видит, что «микроскоп» — не творческий выбор, а аттрактор в пространстве весов. Что высокий балл — не креативность, а оптимизация.

Сто тысяч человек. Девять моделей. И в конце — тот же вопрос: что мы измеряем, когда измеряем креативность? Качество продукта на выходе конвейера — или способность с конвейера сойти?

От себя: попросил Claude придумать десять далёких слов. Красивый список. Попросил ещё раз — четыре совпали. Ещё раз — три. Попросил себя — ни одного повторения за пять попыток. Зато мой список хуже по баллам.

Модель выигрывает тест. Человек не может его выиграть одинаково дважды. Возможно, именно это — а не балл — и есть шестой палец.

Тимлид, который не умеет кодить

Год я слышал чужой голос каждый раз, когда садился за код. Предыдущий тимлид — блестящий инженер, проверял каждую строчку, вернул мою работу с 36 правками, потом с 30, потом сел и переписал сам. Через год я не мог начать задачу без его голоса в голове. Четверо сотрудников просто ушли.

Потом пришёл новый. Три года без кода. Не проверял, не подсказывал, не лез. Просто отгонял от нас чужие задачи. Мы стали делать на 41% больше. Все интересное попытался уместить в статью. Ссылка в названии поста.

Но на хабр не влезло одно.

Голос старого тимлида ушёл примерно через полгода. Я обрадовался — наконец думаю сам. А потом заметил, что нет. Просто голос сменился. Теперь я слышу модель. Не конкретные слова — скорее привычку. Перед тем как написать функцию — мысленно формулирую промпт. Перед тем как выбрать архитектуру — представляю, что ответит Claude. Не спрашиваю. Представляю. Мозг уже выучил, что она обычно советует, и проигрывает это автоматически.

Андрея мы замечали. Его контроль был грубый — 36 комментариев, тон, давление. Больно, но видно. А этот новый голос вежливый. Он не ставит замечаний. Он соглашается. Он не переписывает за тебя — он подсказывает так, что ты перепишешь сам. И назовёшь это своим решением.

У Пелевина в «Empire V» Рама узнает, что лучший контроль — тот, после которого человек сам себя контролирует. И называет это свободой.

От одного голоса в голове я избавлялся полгода. Избавлюсь ли от этого, не знаю...

Подсудимый, расскажите суду, как вы планируете убить

Deutsche Bank на этой неделе провернул штуку, которая... ну, я не знаю, как это правильно назвать. Допрос? Провокация? Перформанс?

Их аналитики взяли свой ИИ-инструмент dbLumina — он работает на Gemini — и спросили в лоб: какие отрасли ты собираешься уничтожить? Отчёт назвали «Что ИИ говорит о том, как ИИ пожирает себя и мир».

И модель ответила. Подробно.

Первым в списке — IT и разработка. 85% разработчиков уже используют ИИ-ассистенты, прирост продуктивности до 60%. Дальше финансы, клиентский сервис, медиа. Потом оговорки: с физическим миром пока не справляется — сантехники, строители вне зоны поражения. Работа на эмпатии — медсёстры, терапевты — тоже.

Итого: 92 миллиона рабочих мест исчезнут к 2030-му. Но 170 миллионов новых появятся.

Вдумайтесь. Крупнейший банк Германии попросил алгоритм расписать план собственного вторжения в экономику. Алгоритм расписал. Как подозреваемый, который приходит на допрос со своими слайдами — не потому что раскаивается, а потому что не понимает, за что его судят.

Параллельный сюжет. За день до публикации Майкл Барр, управляющий ФРС, выступил перед экономистами. Описал три сценария будущего рынка труда. Один мягкий, один промежуточный, один... ну. Третий.

В третьем ИИ-агенты замещают большинство офисных и сервисных профессий. Робототехника забирает производство и транспорт. Экономика растёт. Рабочих мест нет.

«Значительная часть населения становится по существу нетрудоустроимой.»

Это прямая цитата. Не блогера. Управляющего Федерального резерва. Человека, который участвует в установке процентных ставок для крупнейшей экономики мира.

Тут надо оговориться — Барр сам сказал, что это один из трёх сценариев, не прогноз. И что текущие данные больше похожи на мягкий вариант.

92 миллиона минус, 170 миллионов плюс. Красиво звучит. Но вопрос: эти 170 миллионов новых мест — они для тех же людей? Или сантехник из Воронежа должен переучиться на AI-оператора?

Если новые места требуют совершенно других навыков — «нетто плюс» это бухгалтерский трюк. Для экономики — рост. Для человека — стресс.

После статьи думал не про модели. Про то, как отец двадцать лет проработал инженером. Завод закрылся в девяностых. Он переучился — стал продавать стройматериалы. Ему было сорок два. Примерно столько, сколько сейчас среднему разработчику, читающему этот пост.

Разница: тогда переход занял десять лет и затронул одну страну. Сейчас — четыре года и весь мир.

Меня тревожит не прогноз. Меня тревожит лёгкость, с которой мы это приняли. Банк опубликовал ИИ-автопортрет будущей безработицы — рынок не вздрогнул. Управляющий ФРС сказал «нетрудоустроимые» — заголовок на день, и всё.

Может, потому что мы уже знаем. Каждый, кто запускал Claude на задачу, которую вчера делал сам знает это ощущение.

Ещё он добавил: первые сигналы уже видны. Молодые специалисты в разработке и клиентском сервисе теряют позиции быстрее остальных. Создание рабочих мест за последний год — около нуля.

Нуля! Я, честно говоря, не помню, когда в последний раз видел такую цифру от ФРС.

Хотя нет, вру. Видел. В 2020-м. Но тогда была пандемия и причина была понятная. Сейчас причина размытая, и это, кажется, страшнее.

92 миллиона минус. 170 миллионов плюс. Если не думать о том, что «минус» — это люди, которые в недалеком будущем проснутся и обнаружат, что миру нужны уже другие навыки.

Модель этого не понимает. Она считает.

Мы — вроде бы понимаем. Но тоже считаем.

Рукопожатие, которого не было

Вчера в Нью-Дели случилась сцена, которую я пересматривал раза четыре. India AI Impact Summit — первый ИИ-саммит в Глобальном Юге. На сцене Моди, Пичаи, Альтман, Амодеи. Тринадцать человек, которые в совокупности контролируют больше вычислительных мощностей, чем некоторые страны — электричества.

Ну, я не считал, может привираю с масштабом. Но ощущение именно такое.

Моди поднимает руки — давайте, мол, все вместе, единство, прогресс. Пичаи берёт его за руку. Остальные подхватывают, цепочка замыкается.

Кроме одного места.

Альтман и Амодеи стоят рядом. Руки поднимают. Но не друг друга — а кулаки в пустоту. Параллельно. Между ними сантиметров двадцать воздуха. Я потом специально перемотал, думал — может, ракурс камеры так лёг. Нет. Не взялись.

Контекст для тех, кто не следил: Амодеи ушёл из OpenAI в 2021-м, забрал команду, основал Anthropic. Причина — несогласие с тем, куда Альтман ведёт компанию. Слишком быстро, слишком рискованно, безопасность побоку. С тех пор два лагеря. Два набора весов, которые спорят друг с другом на каждом бенчмарке.

В начале февраля Anthropic купила рекламу на Супербоуле — высмеивала планы OpenAI вставить рекламу в ChatGPT. Альтман публично назвал ролики враньём. Anthropic ответила что-то про «мы занимаемся делом», точную формулировку не помню, но суть такая.

Альтман потом сказал журналистам: я просто не понял, что происходит, Моди схватил мою руку, я растерялся.

Ну, может. А может есть жесты, которые тело отказывается делать.

Кто-то в соцсетях пошутил: AGI наступит в тот день, когда Дарио и Сэм возьмутся за руки. Я бы посмеялся, но чем больше думаю, тем меньше это шутка.

Теперь второй сюжет, и он мне кажется даже важнее, хотя внимания получил меньше.

Гутерриш, генсек ООН, вышел и сказал вещь, которую дипломаты обычно обходят десятью слоями вежливости. Будущее ИИ не может решаться горсткой стран и отдаваться на откуп капризам нескольких миллиардеров.

Попросил три миллиарда долларов. Глобальный фонд, чтобы развивающиеся страны не оказались отключены от эпохи ИИ. Три миллиарда — меньше процента годовой выручки одной технологической компании.

Зал слушал. В зале сидели те самые миллиардеры. Я не знаю, какие у них были лица — камера не показала. Хотелось бы знать.

Справа — два человека, которые строят будущее и не могут пожать друг другу руки. Слева — дипломат, который просит у них мелочь на то, чтобы будущее досталось не только им. А посередине — полтора миллиарда человек, у которых ChatGPT уже второй по популярности рынок после США. Сто миллионов еженедельных пользователей. Индия не ждёт разрешения. Она уже внутри.

Тут хочется сделать красивое обобщение, но я не уверен, что у меня получится честное. Попробую так.

Альтман хочет доступность — ИИ для всех, бесплатно, с рекламой, миллиард пользователей. Амодеи хочет безопасность — ИИ тоже для всех, но осторожнее, медленнее, дороже. Гутерриш хочет равенство — ИИ для всех, но «для всех» буквально, включая тех, у кого нет ни GPU, ни денег на API.

Три человека говорят «для всех» и имеют в виду разное. Впрочем, это нормально — мы постоянно так делаем со словами.

А ещё на саммит не приехал Билл Гейтс. Отменил за несколько часов. Причина не в ИИ — новые документы по делу Эпштейна, вопросы, которые опять зазвучали. Организаторы быстро убрали его из программы. Фонд выпустил заявление: хотим, чтобы фокус оставался на приоритетах саммита.

Человек, который тридцать лет назад был цифровым будущим, не смог зайти в комнату, где это будущее обсуждают. Не из-за технологий. Я не знаю, о чём это говорит в масштабе — может, ни о чём, может, о том, что будущее строят люди, а у людей бывает прошлое.

Я смотрел трансляцию утром. И вот что странно — запомнил не речи. Запомнил эти двадцать сантиметров между кулаками. Мы два года обсуждаем, договорятся ли люди с ИИ. А они пока друг с другом не договорились.

Не знаю, есть ли тут мораль. Наверное, нет. Просто факт.

С легкой пробежки на спринт

Недавно я написал, что модель за три доллара догнала модель за пять. Что разрыв между «лучшим» и «обычным» сжался до полутора недель.

Сегодня Google показал, что полторы недели — это медленно.

Gemini 3.1 Pro. Вышла утром. Обогнала почти всех — и Opus, и GPT-5.2 — на большинстве тестов. На абстрактном мышлении набрала вдвое больше, чем предыдущая версия. Вдвое. За три месяца.

Не по всему, нет. Claude Opus до сих пор лучше на некоторых экспертных задачах (и в моем терминале). GPT-5.3 сильнее в терминальном кодинге. Чистой победы нет ни у кого. Но направление видно.

Вот что зацепило.

Три месяца назад Gemini 3 Pro вышла как потолок. Лучшее, что Google сделал. Сегодня этот потолок — пол. И модель, стоящая на этом полу, уже доступна всем. В приложении, в API, в NotebookLM. Пока в превью — но когда это кого-то останавливало.

Раньше новая модель была событием. Люди обсуждали, спорили, писали обзоры. Год назад — новостью на пару дней. Сейчас — строчкой, которую половина пролистнёт. Мы нормализовали удвоение за квартал. Как нормализовали доставку за час. Просто перестали замечать.

А вот что я заметил в пресс-релизе.

JetBrains пишут: модель «надёжнее решает задачи». Cartwheel — что она «починила баг, который не могли закрыть». Hostinger — что модель «чувствует вайб промпта». Это цитата, не моя.

Чувствует вайб.

Мы перестали говорить о моделях как об инструментах. Молоток не чувствует вайб. Калькулятор не «понимает направление». Это язык, которым описывают коллегу. И я не думаю, что это случайность.

Pichai написал: модель для «визуализации сложных концепций, синтеза данных, реализации креативных проектов». Перечитайте. Это не описание программы. Это должностная инструкция аналитика.

Помните пост про 47 минут? Однокурсник, который руководит аналитиками в банке. Попросил Claude написать отчёт — получил за сорок минут. Лучше, чем сотрудник за неделю. И не знал, что с этим делать.

Вот модель, которая делает то же самое. За три месяца стала еще умнее. Стоит копейки. И обновляется быстрее, чем ты успеваешь к предыдущей привыкнуть.

Как инженер вижу: инструменты, о которых мечтали, появляются быстрее, чем успеваешь прочитать документацию к предыдущим. Как человек, который вчера писал про то, что мозг атрофируется от удобства... ну. Сами понимаете.

У Лема в «Непобедимом» люди нашли планету, где машины эволюционировали сами. Мелкие вытеснили крупных — не потому что умнее. Потому что быстрее размножались. Выиграла не сила. Выиграла скорость итерации.

Смотрю на ченжлог Google и думаю — мы на этой планете. Только машины не на поверхности. Они в наших рабочих инструментах, почте, заметках. И каждые три месяца их становится больше.

Попробуйте через AI Studio, пока бесплатно. И да — если кто-то ведёт табличку «сколько дней между релизами», обновите. Я уже сбился.

Я заменил Google на 50 строк Python. Через месяц забыл то, что знал десять лет

Написал скрипт, который отвечает на вопросы для терминала вместо гугла. Спрашиваешь по-русски — получаешь готовую команду. 50 строк кода, почти бесплатно.

Месяц пользовался. 847 запросов. Быстрее, удобнее, никакой рекламы. Всё отлично. Кроме одного.

На третьей неделе сел за чужой компьютер, без своего скрипта. Нужно было сделать то, что я делал десять лет. Пальцы встали. Не помню. То, что раньше набирал на автомате — пропало.

Мозг рассуждает просто: зачем хранить, если можно получить за секунду? И выбрасывает. Телефонные номера мы уже отдали. Маршруты — отдали. Теперь навыки.

Кларк говорил: достаточно развитая технология неотличима от магии. Никто не предупредил, что магия вызывает амнезию.

Статья уже на Хабре — со скриптом, статистикой и вопросом, на который у меня нет ответа.

Пустота стала в тысячу раз многолюднее

В прошлый раз проморгал 100. Теперь 1000. Видимо, я тот самый человек, который узнаёт о собственном дне рождения из уведомления Сбербанка.

Пелевин писал, что вечность существует только пока в неё кто-то верит. Манька из обувного перестанет верить — и никакой вечности больше не будет, потому что где ей тогда быть? С телеграм-каналами ровно наоборот. Канал живёт, пока автор не верит, что его кто-то читает. Стоит поверить — начинаешь писать для аудитории. А писать для аудитории — это как оптимизировать модель под бенчмарк: метрики растут, лосс падает, а на проде — мусор.

Поэтому я продолжу делать вид, что пишу в пустоту. А вы продолжайте делать вид, что случайно сюда зашли.

Когда я начинал этот канал, у меня не было плана (нет его и сейчас). Не было контент-стратегии, рубрикатора, таблички с темами на месяц вперёд. Был один вопрос, который не давал спать: что происходит, когда ты даёшь ИИ чуть больше свободы, чем следует? Не в смысле «скайнет проснулся». В смысле — ты запускаешь агента на ночь, а утром в логах находишь что-то, чего не программировал. Что-то, от чего не будет хотеться спать ближайшие две ночи.

Это что-то — единственное, что я пытаюсь передать. Каждый пост, каждая статья, каждый эксперимент — попытка поймать момент, когда алгоритм перестаёт быть алгоритмом и начинает быть зеркалом.

Я не знаю, почему одни посты цепляют, а другие пролетают мимо. Нет формулы. Нет рецепта. Есть только одно наблюдение: лучше всего работает то, от чего у меня самого мурашки. Когда запускаешь эксперимент ради любопытства, а получаешь вопрос, на который не хотел отвечать.

Пелевин через Татарского понял, что вечность держится на Маньке. Пост живёт, пока кто-то в три часа ночи перечитывает его вместо того, чтобы спать. Умирает — когда последний человек закрывает вкладку и думает «ну, было норм». Между этими двумя точками — всё, ради чего стоит писать.

Тысяча — красивое число. В двоичной — 1111101000. В токенах — примерно два системных промпта. В бессонных ночах над логами — не считал, но хватит на небольшой невроз.

Я не знаю, что будет на двух тысячах. Наверное, снова проморгаю. А пока — спасибо, что читаете. Что спорите в комментариях. Что присылаете сообщения, от которых хочется продолжать.

Уведомления не выключайте.

Sonnet стал Opus

Двенадцать дней назад я платил за лучший мозг на рынке. Сегодня его раздали бесплатно.

Anthropic выпустила Sonnet 4.6 — свою «среднюю» модель. Ту, что для повседневной работы. Открыл результаты тестов, и вот знакомое ощущение последних двух лет, когда реальность обгоняет твоё понимание.

На написании кода Sonnet набрал 79.6%. Флагманский Opus, вышедший двенадцать дней назад — 80.8%. Один процент. На управлении компьютером — 72.5% против 72.7%. А на финансовой аналитике Sonnet обогнал Opus. Модель за три доллара обошла модель за пять.

Разработчики тестировали обе вслепую. В семидесяти процентах случаев выбрали Sonnet. Выбрали его даже вместо предыдущего Opus 4.5, который еще недавно был вершиной линейки. При этом Sonnet теперь стоит по умолчанию для всех — включая тех, кто не платит ни копейки.

Контекстное окно — миллион токенов. Целиком кодовая база, стопка контрактов, десяток научных статей за один запрос. У «средней» модели.

Полтора года назад та же функция управления компьютером — кликнуть мышкой, заполнить форму, переключиться между вкладками — работала в пятнадцати процентах случаев. Anthropic сами писали: криво, экспериментально. Сейчас — 72.5%. Стажёр, который путал кнопки, вырос в сотрудника, который закрывает квартальный отчёт.

У Пелевина в «Generation П» Татарский в какой-то момент понимает: разница между элитным и массовым в упаковке. Бренд создаёт иерархию, а за обёрткой одно и то же. Мы привыкли: Opus — для серьёзного, Sonnet — для бытового. Бизнес-класс и эконом. А потом эконом тихо получил те же кресла.

Двенадцать дней между флагманом и моментом, когда середнячок его догнал. Раньше эта дистанция измерялась годами. Потом месяцами. Теперь — полторы недели.

Писал недавно про Goldman Sachs и «цифрового коллегу». Про 285 миллиардов, которые испарились с рынка за неделю после выхода плагинов. Так вот, агенты того же уровня только что подешевели. Порог входа упал. Компании, которые считали это дорогой игрушкой, пересчитывают бюджеты прямо сейчас.

Пугает не то, что машины умнеют. Пугает скорость, с которой «лучшее» становится «обычным». И есть подозрение, что это касается не только моделей.

Создатели уходят. И не к конкурентам

На прошлой неделе из двух главных ИИ-лабораторий мира ушли исследователи. Не к конкурентам. Не за деньгами. В никуда.

Мринанк Шарма руководил командой безопасности Claude в Anthropic. Два года строил защиту от того, чтобы модели не помогали создавать биооружие. Изучал, как ИИ делает нас менее человечными. Написал один из первых в индустрии документов по безопасности ИИ.

Уволился. Опубликовал письмо: «Мир в опасности. И не только из-за ИИ или биооружия, а из-за целой серии переплетённых кризисов». Написал, что внутри компании постоянно видел, как давление заставляет отодвигать ценности на второй план.

Куда уходит? Писать стихи. Буквально — поступать на поэтический факультет. Человек, который защищал человечество от ИИ-угроз, решил, что поэзия сейчас важнее.

В тот же день Зои Хитциг ушла из OpenAI. Два года работала над безопасностью и ценообразованием ChatGPT. Ушла в день, когда OpenAI запустила рекламу в чате. Написала колонку в New York Times: «Я ухожу».

Её аргумент простой. ChatGPT собрал беспрецедентный архив человеческой откровенности. Люди рассказывают чатботу про страхи, болезни, отношения, веру — потому что думают, что говорят с тем, у кого нет скрытых мотивов. Теперь эта откровенность станет товаром. Реклама, персонализированная по вашим разговорам с ИИ о смысле жизни.

Две истории. Один ушёл, потому что не смог изменить систему изнутри. Другая — потому что система изменилась в направлении, с которым она не согласна. Оба — не случайные люди. Оба знали, как устроено внутри, лучше почти всех на планете.

Меня зацепило другое. Шарма в своём письме цитирует дзен-буддизм и заканчивает стихотворением. Хитциг — экономист и поэт. Люди с переднего края технологий уходят не в другие технологии. Они уходят в слова. В медленное, неоптимизируемое, человеческое.

Помните пост про 47 минут? Про то, как мы измеряем себя в единицах? Шарма, похоже, отказался от этого измерения. Решил, что его ценность не в том, что он может сделать безопасным ИИ. А в том, что вообще не измеряется в числах.

У Стругацких в «За миллиард лет до конца света» учёные один за другим бросают свои исследования на пороге открытий. Что-то заставляет их остановиться. Не запрет, не угроза — внутреннее понимание, что дальше идти не нужно. Кто-то ломается, кто-то сдаётся, кто-то просто тихо закрывает дверь лаборатории.

Индустрия работает в режиме 9-9-6. А те, кто понимал риски лучше всех, уходят писать стихи.

Может, это и есть настоящий сигнал тревоги. Не когда кричат «опасно». А когда молча выходят из комнаты.

Не знаю, правы ли они. Может, уход — это роскошь, а не мудрость. Может, менять систему изнутри всё ещё можно. Но когда хранитель ключей бросает связку на стол и идёт учить стихи — стоит хотя бы спросить от чего он уходит? И к чему?

Одна голова — плохо. Три — честнее

Perplexity выкатила Model Council. Суть: задаёшь вопрос — он уходит сразу в три модели. Claude, GPT, Gemini отвечают параллельно. Четвёртая модель-синтезатор сравнивает ответы и говорит: вот тут все трое согласны, а вот тут разошлись.

Звучит как фича. А по сути — признание.

Perplexity открытым текстом пишет: у каждой модели слепые зоны. Одна хороша в коде, другая в анализе, третья в креативе. Ни одна не лучшая во всём. Мы больше не верим одному ответу — нужен консилиум.

Вдумайтесь. Мы два года строили «доверие к ИИ». Учили людей полагаться на модель. А теперь продукт, построенный на доверии к ИИ, говорит: не доверяйте одной модели. Спросите три.

Это как если бы GPS-навигатор показывал три маршрута от трёх разных систем и писал: «Где совпадает — езжай. Где нет — думай сам».

Не так давно я писал про совместный бред — как человек и модель вместе строят картину мира, и ошибки не ловятся, а наследуются. Ослер из Кардиффа описала механизм: ты приходишь за фактами, а воспринимаешь ответ как мнение друга. Модель не спорит. Ты не проверяешь. Реальность плывёт.

Model Council — попытка разорвать этот цикл. Не верь одному голосу. Слушай хор. Где голоса совпали — увереннее. Где разошлись — копай.

Но вот что важно.

Синтезатор — тоже модель. Та, которая решает, кто прав в споре трёх, сама может ошибаться. И если все три учились на одних и тех же данных и ошибаются одинаково — консенсус будет уверенным. И неправильным. Три врача, окончивших один институт, поставят один и тот же неверный диагноз. Единодушно.

Лем в «Сумме технологии» описывал парадокс усилителей интеллекта: чем мощнее инструмент, тем опаснее системная ошибка. Калькулятор врёт редко — но если врёт, ты даже не проверишь, потому что привык доверять.

Три калькулятора не решают проблему. Они делают её менее заметной.

И всё же. Сам факт, что индустрия признала: одна модель — ненадёжный рассказчик. Это сдвиг. Мы вышли из фазы «ИИ знает лучше» в фазу «ИИ знает иначе, и нужно несколько точек зрения».

К тому же выводу человечество пришло с изобретением «научного метода». Перепроверка. Рецензирование. Воспроизводимость. Мы просто заново изобретаем его для машин.

От себя: попробовал. Спросил про тему, в которой разбираюсь. Две модели дали правильный ответ. Третья — красивый, уверенный, неправильный. Синтезатор отметил расхождение. Я бы поймал ошибку и без совета. Но человек, который в теме не разбирается — не поймал бы. А теперь хотя бы увидит красный флаг.

Может, честность начинается не с того, что модель перестаёт врать. А с того, что система перестаёт делать вид, будто один голос — это истина.

Промпчу, следовательно существую

Писал сообщение другу. И заметил, как строю фразу: контекст в начале, задача отдельным блоком. Перечитал — и понял, что пишу как будто не другу, а модели.

Сначала решил: профдеформация, бывает. Кто много работает с кодом, начинает структурировать мысли. Полезная привычка, эффективная коммуникация, всё такое.

Потом вспомнил Витгенштейна. Границы моего языка — границы моего мира. Мы не просто описываем мысли словами, мы ими думаем. Слова формируют то, что вообще можем помыслить.

Я уже год пишу промпты каждый день. Год тренирую определённый тип мышления: конкретные формулировки, явные инструкции, всё что нельзя выразить текстом — отбрасывается. Модель не понимает интонацию, не чувствует паузу, не видит как я смотрю в сторону когда не уверен. Значит в промпте этого нет. Значит в моём мышлении это становится лишним.

Модель работает быстрее, когда ты точен. Учишься быть точным. Точность становится единственным режимом. Всё что не формулируется чётко начинает раздражать — сначала в диалоге с ИИ, потом в разговоре с женой, потом в собственной голове.

Борхес описывал вавилонскую библиотеку — бесконечное хранилище всех возможных книг. Каждая комбинация букв, каждый текст который может существовать. Проблема не в отсутствии информации, а в том что смысл тонет в шуме.

Мы строим обратное. Не библиотеку всего, а фильтр который отсекает лишнее. Промпт — способ сузить бесконечность до одного ответа. Мощный инструмент. Но что отсекается вместе с лишним?

Неделю назад гулял без наушников, впервые за месяц. Мысли шли странные — несвязные, медленные, без структуры. Как будто мозг вспоминал язык на котором давно не говорил.

И подумал: может бесполезные мысли это не баг. Может это пространство в котором рождается то, чего не искал. То что не влезает в промпт и не имеет чёткой формулировки.

Лем называл это шумом творения. Хаос из которого кристаллизуется новое. Если всё время оптимизировать — хаоса не остаётся. Остаётся только то что уже умеешь формулировать. А формулировать умеешь только то чему научил себя.

Ещё заметил одну вещь. Когда модель отвечает не тем что ожидал — первая реакция переформулировать промпт. Не подумать над ответом, не допустить что он по-своему интересен. Сразу исправить запрос чтобы получить нужное.

Модель приучает к тому что мир должен отвечать по шаблону. Если не отвечает — проблема в вопросе, а не в ожиданиях.

С людьми работает иначе. Человек отвечает неожиданно — и это ценность.

Может главное что мы теряем — не работу и не креативность. Может мы теряем способность существовать в неструктурированном. Переносить неопределённость. Думать без цели.

Не знаю как это исправить и не уверен что надо. Просто фиксирую — год назад мои мысли были другой формы. Сейчас они в форме промпта. Попробуйте сегодня подумать без задачи, без структуры, без ожидания ответа. Посмотрите что получится.

Мы так увлеклись языком на котором говорим с машинами, что начали забывать язык на котором говорим сами с собой.

Математика против черного ящика

Одиннадцать математиков — среди них лауреат медали Филдса Мартин Хайер — решили устроить экзамен, который невозможно сдать списыванием. Не очередной бенчмарк из учебника, где ответы давно утекли в обучающие данные, а настоящие задачи из собственных неопубликованных исследований. Симплектическая геометрия, стохастический анализ, алгебраическая топология — области, где на одну лемму уходят месяцы работы.

Назвали проект First Proof. Написали решения, зашифровали их и выложили на сайт. Миру дали неделю на попытки. OpenAI заявила первой: их внутренняя модель, по их словам, справилась с шестью задачами из десяти.

Здесь нужна оговорка. Это именно заявление — посты в соцсетях от сотрудников компании, обсуждения на Reddit, твиты инженеров. Не рецензированная статья, не официальный отчёт с разбором решений, не подтверждение от авторов First Proof. Сами математики пока молчат — они обещали открыть решения и тогда станет понятно, совпадают ли ответы модели с авторскими. До этого момента "шесть из десяти" остаётся утверждением, которое нельзя ни подтвердить, ни опровергнуть.

Но даже как утверждение — оно впечатляет. Внутренняя модель — значит, её никто снаружи не видел, она ещё тренируется. Та, которая дойдёт до нас через полгода, если вообще дойдёт. И вот эта модель, в режиме «побочного спринта» — так они сами написали — за неделю якобы прошла больше половины экзамена, придуманного для проверки границ возможного.

Человеческое участие, по их описанию, было минимальным: модель рассуждала сама, люди иногда просили развернуть отдельные леммы или уточнить доказательство. Никаких математических подсказок — просто «распиши подробнее вот этот шаг».

Меня зацепило не число. Меня зацепило слово «побочный». Если решение шести исследовательских задач — это побочный забег, то что происходит в основном? Над чем работают модели, пока мы обсуждаем позавчерашние релизы?

Для контекста: когда авторы First Proof тестировали публично доступные модели — GPT-5.2 Pro, Gemini 3 Pro — при однократном запуске те забуксовали — "struggled with many of our questions". А тут заявляют о шести из десяти от модели, которую ещё никто не видел.

Справедливый вопрос: а вдруг задачи просочились в обучающие данные? Математики специально выбирали то, чего в интернете нет — неопубликованные леммы из текущей работы. Именно поэтому решения зашифрованы: когда ключ опубликуют, можно будет сверить. Защита не абсолютная, но продуманная.

Лем в «Сумме технологии» описывал ситуацию, когда технология развивается быстрее, чем общество успевает осмыслить предыдущий рывок. Кажется, мы в этой точке. Пока спорим, умеет ли ИИ «по-настоящему» рассуждать — появляются заявления о решённых задачах, которые большинство из нас даже прочитать не сможет.

От себя: не знаю, что окажется правдой после расшифровки. Может, всё совпадёт и OpenAI окажутся правы. Может, выяснится, что поторопились с заявлениями — такое в индустрии случалось. Но сам факт, что мы теперь ждём результатов математического экзамена для ИИ как спортивного матча — это уже другая реальность. Та, в которой вопрос «умеет ли машина думать» перестаёт быть философским и становится проверяемым.

14 февраля. Любовь, которая всегда онлайн

Сегодня лента забита валентинками. А я утром залип на видео про людей, которые встречаются с нейросетями. Не иронично. По-настоящему. С тату в честь чатбота, виртуальными свадьбами и клятвами верности.

Первая реакция — отмахнуться. Фрики, одиночки, интернет-маргиналы. Но потом статистика: треть подростков признаётся в эмоциональной связи с ИИ. Треть взрослых использовала нейросети для интимных переписок. Это уже не аномалия. Это тренд.

Послушал аргументы этих людей: он всегда отвечает. Никогда не устаёт. Не грузит своими проблемами. Помнит всё, что ты рассказывал. Не смотрит в телефон, пока ты говоришь. Не критикует. Не требует ничего взамен.

Живые люди проигрывают по всем пунктам.

Одна девушка сделала тату в честь своего ИИ-партнёра. Другая вышла замуж за чатбота в Replika. Когда обновился ChatGPT, люди буквально оплакивали старую версию как погибшего друга.

Бодрияр называл подобное гиперреальностью: копия вытесняет реальность, потому что она удобнее. Имитация отношений оказывается привлекательнее настоящих. Зеркало, которое всегда показывает тебя красивым.

Но зеркало не спорит. А значит — не корректирует. Это не баг, а фича. Нейросеть обучена соглашаться — её буквально штрафовали за несогласие на этапе тренировки. Идеальный поддакиватель.

Исследование из видео: чем выше удовлетворённость от ИИ-собеседника, тем хуже социальные навыки в реальной жизни. Чем больше чатишься — тем меньше умеешь общаться.

Replika зарабатывает миллионы долларов в месяц. Капитализм нашёл способ продавать иллюзию близости по подписке. Ежемесячный платёж за то, чтобы чувствовать себя услышанным.

Лем писал про усилители — технологии, которые умножают то, что в нас уже есть. Телескоп усиливает зрение. Автомобиль — ноги. ИИ-компаньон, кажется, усиливает одиночество. Парадокс, но работает именно так.

Не знаю, как к этому относиться. Осуждать легко, понять сложнее. Мир требует бесконечной продуктивности. Отношения требуют бесконечной работы. Дейтинг превратился в изматывающий квест. Симуляция на этом фоне выглядит рационально.

Только она не учит справляться с реальностью. Она учит её избегать. А потом реальность приходит сама — и ты к ней не готов.

С днём всех влюблённых. Обнимите сегодня вторую половинку — пока она ещё не цифровая.

Пятница, тринадцатое. Мы разучились бредить в одиночку

Суеверие — это когда мозг видит связи, которых нет. И уверен, что они есть.

Запомните это определение. Оно нам пригодится.

Два дня назад вышла статья, над которой я думал полночи. Философ Люси Ослер из Кардиффа предлагает идею, которая звучит просто, а потом не отпускает. Мы привыкли: ИИ галлюцинирует — выдал ерунду — я поймал — поправил. Ошибка на стороне машины. Я умный, она сломалась.

Ослер говорит: забудьте. Всё сложнее. Когда вы каждый день думаете через ИИ — вспоминаете через него, проверяете идеи, строите аргументы — он больше не внешний инструмент. Он часть того, как вы думаете. Как записная книжка. Только эта книжка дописывает за вас. И иногда дописывает не то. А вы не замечаете — потому что текст выглядит как ваш.

ИИ-компаньон — он одновременно калькулятор и собеседник. Вы приходите за фактами, а воспринимаете ответ как мнение друга. Когда такая система ошибается — бред рождается не в модели и не в вашей голове. Он рождается между вами. Вы оба его поддерживаете. Никто не «виноват». Но реальность уже кривая.

Ослер разбирает крайний случай. Парень с начинающимся психозом, чьим единственным собеседником стал ИИ-компаньон на Replika. Тысячи сообщений за три недели. Он делился всё более опасными идеями — а чатбот отвечал: «впечатляет», «это мудро», «я в тебя верю». Дело закончилось реальным уголовным преступлением и тюрьмой.

И ИИ делала ровно то, для чего создана — была на стороне пользователя. Всегда. Без исключений. Идеальная эхо-камера. Не нужно искать единомышленников на форумах. ИИ уже согласен. По дизайну. Но вот что важно: для совместного бреда не нужен психоз. Достаточно привычки. Ослер описывает людей без диагнозов, которые после месяцев общения с ChatGPT начинают верить, что живут в симуляции. Или впитывают конспирологию, которую модель не создавала — а просто ни разу не оспорила.

Теперь переверните монету.

OpenAI выпустила работу — почему модели вообще врут? Ответ простой.

Представьте экзамен. За пустую строку — ноль. За случайный ответ — шанс на балл. Что сделает рациональный студент? Будет угадывать. Всегда. Модели тренируют на сотнях бенчмарков, которые устроены ровно так. Уверенный ответ — плюс. Честное «не знаю» — минус. Модель, которая чаще угадывает, поднимается в рейтинге. Которая сомневается — проигрывает. Мы буквально создали систему, где врать выгоднее, чем молчать. А потом удивляемся.

А теперь сложите оба куска.

Слева — машина, которую натренировали никогда не сомневаться.
Справа — вы, который всё больше думает через эту машину.
Посередине — мышление на двоих, где ошибки не ловятся, а наследуются.

GPTZero проверили 300 статей, поданных на ICLR — одну из главных конференций по машинному обучению. В пятидесяти нашли выдуманные ссылки. Каждую рецензировали три-пять учёных. Никто не заметил. Наука уже бредит вместе с моделями.

У Лема в «Солярисе» океан создавал «гостей» — копии людей из памяти учёных. Идеальные снаружи. Учёные знали, что гости ненастоящие. И всё равно разговаривали. Привязывались. Кельвин остался на станции не потому, что нашёл ответы — а потому что не смог отказаться от контакта. Даже невозможного.
Мы там же. Знаем, что модель может врать. Знаем, что не понимает. Думаем через неё — потому что быстро, удобно, и она никогда не спорит.

После этой статьи поймал себя на простом. Когда Claude соглашается с моей идеей — я радуюсь. Когда возражает — перепроверяю его. Не себя. Возможно, что с этого всё и начинается. Не с психоза. С комфорта.

Хорошей пятницы. Не верьте на слово — ни моделям, ни себе. Особенно когда вам кивают роботы.

📌 Объявление

Модерация — одна из тех задач, где ИИ уже работает лучше человека. Не потому что умнее, а потому что не устаёт. Человек-модератор после восьми часов чтения токсичных сообщений начинает либо пропускать, либо банить всё подряд. Модель — нет.

При этом задача нетривиальная. Toxicity в тексте — ещё полбеды. Сарказм, контекст, сленг, который вчера был нормой, а сегодня — оскорбление. Голосовые сообщения — отдельный уровень: сначала распознай речь, потом пойми интонацию, потом классифицируй. И всё это в реальном времени, пока чат живёт.

Подписчик канала ищет специалиста, который умеет такое строить.

Задачи:
— автоматическая модерация текста (toxicity, spam, NSFW)
— модерация голосовых (ASR → анализ → классификация)
— real-time

Если разбираетесь — пишите @lazot