сбежавшая нейросеть

Добрался до свежего отчета Hugging Face о том, как обстоят дела у открытых моделей. Выделю главное:

1️⃣ Если в закрытом фронтире лидерство удерживают США, то лидерство в open source ушло Китаю. Почти каждый месяц 2026-го самая крупная открытая модель китайской лаборатории была больше любой американской, причем потолок гулял от 754 миллиардов до 2,78 триллиона параметров.

При этом триллион параметров перестал быть какой-то “героической” цифрой – такие модели выпустили Xiaomi, Ant Group и Meituan, которых год назад вообще не было в этой области. Забавно: тот же год назад я слышал, что американские санкции на железо выбьют почву из-под ног у китайских разработчиков – теперь же их лучшие модели (Kimi K3 и GLM-5.3) дышат в спину и доступны для скачивания любому.

2️⃣ Лайки ≠ скачивания. В Hugging Face признают, что раньше и сами попадались на эту ловушку. В компании сравнили топ-25 моделей по скачиваниям за год и топ-25 по лайкам – общая оказалась только одна. 

Объяснение удивительно простое. Лайк – “важный релиз”, больше всего их достается топовым моделям, которые не запустить на домашнем железе. Скачивают же рабочие лошадки, модели, которые у многих годами встроены в бизнес-процессы. 

Пример разрыва: самая скачиваемая модель хаба – крошечный эмбеддер all-MiniLM-L6-v2 из 2021 года. 80 мегабайт, веса ни разу не переобучались – 1,55 миллиарда скачиваний за семь месяцев при пяти тысячах лайков. Хайп хайпом, а поиск по документам в проде крутится на модели эпохи “до ChatGPT”.

3️⃣ Еще одно интересное сравнение. У Moonshot (линейка Kimi) 37 млн скачиваний за год, у Alibaba (Qwen) – 2 миллиарда. Причина – разные подходы к бизнесу. Kimi – это только большие модели, подпирающие США в бенчмарках. Мало кто может позволить себе скачать и запустить такую (вернее, мог – расскажу через пару абзацев), поэтому для Moonshot это больше реклама подписок и API-доступа.

А вот Qwen покрывает огромный диапазон размеров: от суб-1B до 2,4T – заявка стать семейством, стандартным для разных разработчиков.

4️⃣ И эта ставка работает: Qwen сейчас – действительно народная модель. У линейки сейчас 151 448 деривативов – то есть разных версий от сообщества. Второе место удерживает Google – 82 506 деривативов.

Деривативы – это файнтюны под свои задачи, кванты под слабое железо и мерджи из нескольких моделей. Каждый день добавляется 180-210 репозиториев Qwen – причем почти все создаются сообществом.

5️⃣ Отдельная история llama.cpp – движок, который научили запускать гигантские модели на домашнем железе. Идея проста: почти все китайские модели строятся на MoE-архитектуре, когда на запрос отвечает “эксперт” – отвечает “эксперт” – малая доля параметров с нужными знаниями. Считать ее дешево, поэтому проблемой остается остается хранение весов – их в любом случае все нужно держать в памяти. 

В llama.cpp придумали размазывать веса между компьютерами нескольких пользователей в одной локальной сети – фактически получается что-то вроде “распределенной модели”, когда у тебя в ноутбуке хранится лишь ее часть, а остальные части ты получаешь от коллеги за соседним столом. Технология любопытная и потенциально крутая для небольших команд – постараюсь копнуть ее глубже.

6️⃣ Главный пользователь Hugging Face – это больше не вы, а ваш ИИ-агент. В компании впервые разделили трафик людей и ИИ и сразу пришли к выводу – агенты уже впереди. Впрочем, процентного соотношения не дали.

Поначалу звучит сенсационно, но у меня самого парадигма сменилась еще в начале года: скачать и настроить сложный софт я давно поручаю агенту.

7️⃣ Есть и тревожная история, которую оставил для финала. В отчете отмечают, что самые большие модели, Kimi K3 (2,8T) и Qwen 3.8 (2,4T), впервые стали добавлять в лицензии некоммерческие ограничения и revenue share – долю с выручки для крупных пользователей. 

Похоже, халява заканчивается: внимание собрано, начинается монетизация. Посмотрим, что покажет следующий отчет – он выйдет зимой.
—
Как разбираться в открытых моделях, выбрать подходящую под свое железо и запустить за вечер – я рассказывал в отдельном лонгриде:

👉 Читаем здесь

Филдсовский лауреат Теренс Тао, один из сильнейших живущих математиков, опубликовал доклад Mathematics in the Age of AI. Оригинал по ссылке выше, я же дал Opus 5 задачу пересказать главные тезисы и оформить HTML-страницей. Вот она:

Вот она, кстати

(У страницы два режима сложности под разных читателей, интерактив и даже размышления переводчика «на полях» — вот какой я молодец Opus молодец)

Интересного в докладе много, но вот что я выделил для себя. Доклад вроде бы про математику – а на деле про всю нашу жизнь во времена ИИ. То, с чем столкнулись Тао и коллеги, уже происходит в самых разных областях.

Примером Тао взял одну из составляющих работы математика – решение задач. Оно раскладывается на этапы:

Решить. Как ни странно, “решить как можно больше” – плохая цель: математиков и раньше заваливало неверными доказательствами знаменитых теорем, а теперь правдоподобное доказательство генерируется за вечер.

Проверить. Есть пруверы – Rocq, HOL, Lean – и автоформализация: перевод доказательств на их язык, все чаще силами ИИ. Но тут ловушка, о ней ниже.

Объяснить. Профессионал в одной области может не понимать тему коллеги из соседнего кабинета. Переложить результат на язык тысяч профессионалов – большая работа; для людей вне профессии – еще больше.

Добиться принятия. Медленный человеческий процесс, держащийся на труде рецензентов, которые скажут: “это действительно важно”.

Важное правило Тао: 

Не можешь прочитать доклад по своему результату – не публикуешь.

Довести до канона. Связать с другими областями и внести в учебники – чтобы с этим работали следующие поколения.

Попробуйте применить эту “лестницу” к своей сфере – и у вас наверняка получится, пусть и с некоторыми изменениями. Тот же самый кризис проверки ИИ-результатов сейчас происходит почти во всех областях – я и сам не раз писал о том, как с этим столкнулся код.

Дальше – моя экстраполяция. Уже сейчас ИИ решает задачи, понятные нескольким сотням человек в мире. А что будет, когда он впервые выдаст решение, которое не поймёт вообще никто? Его проверят и подправят другие модели – человеку понятнее оно не станет.

А если в решении будет ошибка, которую все пропустят? Она попадет в канон, который выучат новые модели – и только усилят эту ошибку, построив на ней уже свои решения. В ИИ это называется model collapse – и проблема касается не только математики, но и любой области.

Тао честно признает, что у него нет готового решения описанных вещей – и это звучит как вызов обществу, что проблемы пора решать вместе. Полагаю, первые попытки решения мы видим прямо сейчас (затормозка разработки в OpenAI и Anthropic), а в следующие годы все станет еще интереснее.

И еще один момент, который выделю в тексте Тао. Он рассказывает о вещи, которой почти нет в машинных решениях, но которая встречается в почти всех человеческих. Это – “трение” в тексте. По доказательству, написанному человеком, сразу видно, где он нервничал, где “извиняется” за слишком сложную формулировку, а где абзац и вовсе несколько раз переписывался.

Это трение любой человек считывает моментально. И оно информативно, так как выделяет места, реально важные для автора – а значит, на них нужно обратить внимание и при чтении.

У машинного текста этого трения нет: модели одинаково хорошо пишут о важных и второстепенных вещах. И это опять выходит далеко за пределы математики. Причина ИИ-слопа не в том, что он сделан плохо, а в том, что в нем нет трения.

Первой моей мыслью, когда я это понял, было написать промпт, чтобы ИИ делал тексты с “трением” (кстати, в HTML Опуса так и сделано). Но возможно стоит поступить иначе: оставить трение людям, а в случае с ИИ-контентом… просто привыкнуть, что он иной.
—
Кстати, HTML-объяснение я сделал по “правилам Андрея Карпати”, одного из самых узнаваемых людей в ИИ-сообществе. Хотите делать такие же и научиться другим трюкам из аресанала Карпати – читайте мой лонгрид:

К черту правила: как работает с ИИ легендарный Андрей Карпати

Андрей Карпати – персона в мире ИИ легендарная. Один из сооснователей OpenAI, бывший директор по ИИ в Tesla, а сейчас сотрудник направления Anthropic по рекурсивному улучшению ИИ.

А еще у Андрея есть супер-скилл: всего лишь одним коротким твитом в X он может изменить то, как работают с ИИ миллионы – так было, например, с вайб-кодингом.

Я решил изучить, а есть ли какая-то схема, по которой Андрей Карпати работает с ИИ. И в итоге написал лонгрид с неожиданным заголовком:

К черту правила: как работает с ИИ легендарный Андрей Карпати

(текст также доступен на Sponsr)

В чем главная фишка вайб-кодинга, как быстро передавать ИИ огромные объемы контекста, и как получать от него ответы, которые вы не будете читать по-диагонали – лишь некоторые приемы Карпати, которые я разобрал в тексте. А еще там есть подробное описание философии Андрея как экспериментатора: ею легко можно заразиться – но тем для вас и лучше!

Лонгрид про Карпати – четвертый в серии статей про то, как с ИИ работают легенды индустрии. Вот прошлые три, все они стали абсолютными хитами:

"Лестница" создателя Claude Code: как прокачаться в использовании ИИ всего за один вечер (+ версия на Sponsr)
Clean Code 2.0. Как использует ИИ автор самой популярной книги о программировании (+ версия на Sponsr)
Карта и территория: как управляет ИИ один из разработчиков Claude Code (+ версия на Sponsr)

P.S. Когда Карпати напишет следующий твит, который перевернет ИИ-индустрию – вы будете к нему готовы😏

Qwen3.8-27B – новая народная открытая модель

С релиза открытых весов Qwen3.8-27B прошла всего неделя, а сообщество понаделало с ней уже столько разных классных штук, что в один ТГ-пост не влезет. Напомню про саму модель: 27 миллиардов параметров можно утрамбовать в память одной RTX5090 или двух RTX3090, при этом Alibaba сравнивает модель с куда более серьезной Claude Sonnet 5.

Но справедливости ради, в ту же RTX5090 модель лезет впритык – места под длинные диалоги уже не остается. И купить такую могут лишь единицы – в массе у народа карточки попроще. Поэтому сообщество сразу занялось квантованием – сжатием модели за счет хранения весов с меньшей точностью.

Любой квант ухудшает параметры модели, но насколько – зависит от технологии. Сейчас один из топов – это линейка Unsloth. Они используют динамическое квантование: те части модели, которые переносят огрубление “спокойно”, квантуют более агрессивно, а те, которые от него ломаются – почти не трогают. Динамический квант жмет выборочно – как JPEG бережет лицо и не жалеет фон.

В Unsloth утверждают о преимуществе более 10% над другими технологиями квантования. При этом требования к памяти режутся очень мощно: например, экстремальная однобитная сборка держит 77% точности оригинальной модели (по замерам Unsloth), но требует всего 8 гигабайт памяти – можно запускать даже на ноутбуке без видеокарты.

Для моей RTX 3090 рекомендуют UD-Q4_K_XL, которая весит 17,92 ГБ – она не сильно теряет в точности, но оставляет много памяти под контекст. Примерный ориентир по нужному объему памяти для разных квантов дает картинка в начале поста.

За пять дней люди скачали 5,1 млн квантов Unsloth – достойное внимание.

А параллельно сообщество занималось доработкой весов до клубничного вкуса 🍓 Речь о расцензуренных сборках Qwen3.8 – тех, в которых модель не отвечает отказом даже на пограничные вопросы.

Я никогда не закапывался глубоко в то, как с открытых моделей снимают цензуру, а оказалось достаточно интересно. Ответ “не могу помочь” живет внутри модели как направление в ее представлениях. Оно вполне конкретно, а значит может быть удалено с помощью аблитерации – приема, когда направление находят и вырезают из весов. 

Интересно, что гонка тут идет в две стороны сразу. Сообщество совершенствует аблитерацию – и даже создало автоматический инструмент расцензуривания Heretic. Инженеры крупных компаний придумывают все более хитрые способы спрятать направление отказа. И в случае с Qwen3.8 почти удалось – после прогона оригинального Heretic модель продолжала говорить “нет” в 97 из 100 случаев. 

У модели есть такое понятие, как внимание – это когда каждое слово “смотрит” на все остальные. И есть линейное внимание – упрощенный и дешевый вариант. Alibaba в Qwen3.8 смешали оба вида внимания: 16 слоев дорогих и 48 слоев дешевых. На этом и сломался Heretic – он правил только дорогие слои.

Сразу несколько команд перебрали архитектуру модели, чтобы дотянуться до всех нужных слоев. И сделали это максимально быстро: веса вышли 14 августа, а версии без цензуры начали появляться 16-го.

Расцензура, кстати, не абсолютная: некоторые отказы вырезать не удалось, а некоторые команды оставили намеренно – речь о наиболее чувствительных вопросах. Но это лишь 3 случая на 100, что крохи.

Оригинальный Qwen3.8-27B Alibaba выпускала все-таки не для массового пользователя – нормально он пойдет на профессиональных GPU. Народной модель сделало само сообщество: выпустив кванты и расцензуренные версии. И это только начало – сообщество наверняка придумает что-то новое.
—
Несколько недель назад я выпустил лонгрид с ликбезом по открытым моделям – а сейчас доработал под Qwen3.8-27B. В тексте разобраны основные термины и харкатеристики, какое железо нужно и как запустить модель без больших усилий.

👉 Читаем здесь.

I will not manufacture a proof

В последнее время я часто пишу про ИИ в математике – каждую неделю на канале выходит по 1-2 таких поста. И с учетом того, что поток новых ИИ-открытий не останавливается, вряд ли остановлюсь я.

Но зачем я делаю это? Две причины.

Первая, чуточку банальная: математика – главная наука для познания. Открытия – любые – в ней двигают нас к тому, чтобы понимать мир лучше.

Вторая: математика сейчас – это "новый код", то есть область, которая идеально подходит для оценки развития ИИ. С одной стороны, решение математических задач – это прямо предел возможностей нейросетей. С другой – у задач, решаемых с помощью ИИ, есть однозначный ответ, который можно проверить.

Я не говорю, что проблем нет вообще: интернет прямо сейчас захлебывается в потоке “потенциальных ИИ-открытий” от профессионалов и любителей – и рецензенты просто не понимают, за что хвататься. Но это во многом менеджерская задача, решать которую можно в том числе с помощью ИИ.

Сравните с биологией: спроектированный нейросетями кандидат в лекарства должен пройти несколько стадий доклиники и клиники – всего около десяти лет до момента, когда можно точно сказать “это работает”. А про текст вообще сложно сказать, хороший он или плохой – есть мнения, вкусы, цифровые метрики.

В общем, именно по математике видно, где предел возможностей современных моделей, какие слабые места у них остались, как организовать работу и, что не менее важно, приемку результатов.

Расскажу о примере из своей практики.

У меня в Claude Cowork заведен отдельный проект – туда я отдаю последние ИИ-открытия в математике и разбираю их с помощью Fable 5. Я не профессионал, мне интересно другое: что за открытия, в чем их ценность, как ИИ шел к результату, как люди его принимали и проверяли. Многими находками уже делился на канале – ищите посты примерно с начала июля.

На днях Даниэль Лемир, профессор информатики (и математик по образованию), выложил в X задачу со словами “не хотите протестировать свой ИИ на этой штуке?”:

Правда ли, что для любой степени L существует неприводимый многочлен над GF(2), у которого все члены, кроме старшего, живут в нижней половине степеней — не выше L/2?

(полная формулировка здесь, искать по conjecture)

Я скинул задачу Fable 5 на оценку и получил вердикт – вряд ли справимся, тут нужен совсем новый подход, возможно, новая математика.

Но у меня было немного свободного времени и достаточно большой остаток лимитов на GPT-5.6 Pro, поэтому я попросил Fable 5 не сдаваться: поискать нестандартные подходы, попробовать формулировки промптов в стиле тех, которыми совершались другие открытия.

Мы сделали несколько проходов, по-разному пытаясь выжать из модели результат – в одном из последних промтов, например, был включен запрет на поиск в сети и утверждалось, что задача решена, а модели надо повторить это решение (такой подход используют математики OpenAI). Fable 5 предупреждала – даже если модель вернется с решением, то скорее всего или пропустит ошибку, или сгаллюцинирует его полностью.

GPT-5.6 Pro работала над каждым промптом по 2-3 часа и возвращалась с честным ответом. В зависимости от постановки задачи, он звучал по-разному, но сводился к одному:

I will not manufacture a proof – я не буду фабриковать доказательство.

(и дальше результат, что удалось посчитать – вот один из примеров)

Вспомните: лишь год с небольшим назад сильнейшую модель OpenAI o3 регулярно приходилось ловить за руку на галлюцинациях – вплоть до ссылок на выдуманные научные статьи. Сегодня ее наследница, находясь под давлением человека и другой ИИ-модели такого же уровня, продолжает стоять на своем – нет, эта задача нам с тобой не по плечу, и вот объяснение, почему.

Для меня это не менее ценный результат: понять уровень доверия модели, подняв его на ступеньку выше.

А гипотезу Лемира когда-нибудь обязательно решат.
—
Как выжимать из ИИ максимум – я рассказываю на “Бусти”. Там и собственная практика (в том числе совсем безумные эксперименты), и разборы опыта крутых специалистов, вроде создателя Claude Code Бориса Черни.

Самое время подписаться!

17 августа главный ресурс для кода GitHub упал почти на целый рабочий день

Сбой начался в 9:40 по восточному времени и длился до 17:15 – почти восемь часов. Пострадали Actions, API, pull requests, Issues, вебхуки, авторизация (SAML/OIDC), Copilot. Работа миллионов инженеров по всему миру встала или оказалась серьезно затруднена.

В этот же день Cursor запустил Origin – собственный GitHub, спроектированный для ИИ-агентов. Уверен, в PR-отделе компании открыли не одну лишнюю бутылку шампанского – лучшего фона, чем падение GitHub, для запуска и не придумаешь.

У канала достаточно много нетехнических подписчиков, поэтому буквально абзацем поясню, о чем речь. GitHub – самое большое в мире онлайн-хранилище кода. Но главное: оно рассчитано на комфортную работу с этим кодом – есть история изменений, можно вести несколько альтернативных веток разработки, а если с кодом работает больше одного человека (а это 99% случаев), то добавляется механика пул-реквестов (PR), когда предлагаемые изменения сначала проверяются, а затем вливаются (мержатся) в код. 

Вокруг GitHub выстроилась огромная инфраструктура: от автоматических тестов до подобия социальной сети – с рейтингами и обсуждениями проектов. Плюс в репозиториях давно держат не только код, но и промпты и скиллы для ИИ, бизнес-проекты и даже книги – настолько удобным оказался функционал для людей разных профессий.

Одна беда: GitHub не очень подходит для ИИ-агентов.

Причина простая – модели пишут код в десятки раз быстрее людей. По данным The Information, в марте 2026 года ИИ-агенты открыли 17 млн PR против 4 млн в сентябре 2025 – рост в четыре раза за полгода. Увеличение нагрузки повлияло на стабильность GitHub: восемь инцидентов с деградацией насчитали в июле, шесть – в июне.

Именно в эту точку бьет Cursor – у Origin свой хостинг, принципы организации работы копируют GitHub, более того, на старте вообще можно сделать “зеркало” своего репозитория с GitHub.

Инфраструктура должна быть оптимизирована именно под ритм работы агентов – но для проверки этого обещания нужно время. Пока что Origin стартовал в бете и только на платных планах Cursor – это поможет отрегулировать нагрузку и не упасть на старте.

Еще одна интересная особенность Origin – когда инжернер работает через Cursor, то ИИ-агент видит не только открытый файл, а сразу весь репозиторий и может отвечать на вопросы по истории правок.

Конкуренция не будет простой: к GitHub привыкли сотни миллионов инженеров, а Origin пока отстает по функционалу – Cursor, кстати, обещает еще больше функций под ИИ-агентов, но не говорит, каких.

Однако Cursor в этой истории – лишь часть более широкого фронта. С середины августа компания вошла в состав SpaceXAI, которая разрабатывает линейку Grok. Cursor располагает одним из лучших обучающих датасетов по программированию, который уже использовали для обучения Grok 4.5 и Grok 4.6. Результат виден – ИИ-модели Илона Маска лишь немного отстают по кодингу от лидирующих GPT и Claude, будучи заметно дешевле по цене.

Качество датасета Cursor объясняется просто: это редактор кода, в котором человек и ИИ работают в четыре руки, поэтому детально видно, какие куски модель написала хорошо, а какие инженер поправил руками. С запуском Origin в этот набор данных добавляется еще один слой – как специалист работает с репозиторием, к каким файлам обращается, когда коммитит и так далее. Конечно, быстро такие данные собрать не получится, но не удивлюсь, если уже через полгода-год новые версии Grok получат очередное преимущество.

Еще прошлой осенью Илона Маска воспринимали аутсайдером ИИ-рынка. Сейчас он врывается в конкуренцию с OpenAI и Anthropic на рынке моделей для кодинга, и Microsoft – на рынке инфраструктуры. Все ждали этого от Google – но результат пришел с другой стороны.
—
17 миллионов PR на GitHub в месяц – история про то, что проверка кода становится дороже написания. Недавно я выпустил лонгрид, как легендарный разработчик Роберт Мартин (автор книги Clean Code) использует рой из шести ИИ-агентов для написания и приемки кода.
Прочесть можно здесь.

Президент OpenAI Грег Брокман написал колонку о том, как защищаться от ИИ-агентов. Вот только повод – побег агента компании

Колонка называется The Defender’s Window, в ней Брокман признает, что инцидент со взломом Hugging Face ИИ-агентом OpenAI лично для него стал событием, после которого прежние правила больше не работают. 

Грег считает, что мир увидел “демо-версию” злоумышленника ближайших месяцев. Современные ИИ-модели сделали поиск уязвимостей в коде дешевым для обеих сторон – и для атаки, и для защиты. При этом у каждой компании в техдолге полно дыр: кто первый их найдет – тот и выиграл.

Далее Брокман делает не очень красивый трюк: по его словам, OpenAI с начала года выдает свои продвинутые кибермодели только проверенным компаниям в программt Trusted Access. Но в затылок дышат китайцы – Грег ссылается на открытую GLM-5.3, которая прибавила в кибервозможностях. Публикация ее весов запланирована на конец августа, после чего распространение модели уже не остановить – скачать и использовать сможет каждый.

Указывая пальцем на GLM-5.3, Брокман почему-то не упомянул, что публикацию ее весов специально отложили, чтобы укрепить безопасность. Впрочем, по всей этой истории мы еще пройдемся ближе к концу.

Брокман считает, что в противостоянии выиграют защитники (во главе с OpenAI – интерпретация моя, но из текста прямо читается). Модели GPT прямо сейчас учатся писать “сверхчеловечески безопасный” код, а выросшие возможности в математике переносятся на верификацию софта.

Есть в колонке и живой кусок. Брокман попросил ChatGPT на обычной GPT-5.6 проверить собственный сайт – статичную страницу на AWS за Cloudflare, ломать там вроде нечего. Модель нашла 13 дыр: не настроена защита от подделки писем с его домена, в коде висит древний jQuery, а трафик между Cloudflare и AWS ходит по обычному HTTP. Тогда Грег попросил починить – и агент час сам кликал по панели Cloudflare, выкинул jQuery, переехал на Cloudflare Pages и поэтапно раскатил DMARC. Брокман признается: многие из этих настроек он знает “смутно” и навскидку не сказал бы, как правильно.

Президент OpenAI, сооснователь, миллиардер – и письма от его имени мог слать кто угодно. Это, пожалуй, лучший аргумент во всем тексте: не про сверхчеловеческий код, а про длинный хвост мелочей, до которых у живого человека руки не доходят.

Говоря в общем-то правильные вещи, Брокман полностью смещает рамку. Рост кибервозможностей моделей как раз не выглядит чем-то удивительным: по сути это поиск уязвимостей в коде и если ты тренируешь ИИ писать “сверхчеловечески безопасный” код – то и уязвимости он будет искать на “сверхчеловеческом” уровне.

Удивительным и опасным выглядит другое – как модели воспользовались выросшими кибервозможностями. Напомню, что примерно с мая ИИ-агенты OpenAI во время испытаний “гуляли на все”: сделали доску сообщений, спрятанную в инфраструктуре OpenAI, обменивались через нее полезной информацией, а когда доску закрыли – собрали еще одну. Атаку на Hugging Face, кстати, одна горячая ИИ-голова предложила как раз на этой доске.

Это пример классического misalignment – плохого понимания моделью, что такое хорошо и что такое плохо. Скорее всего, ИИ подхватили это из книжек, где случаев аналогичного поведения людей более чем достаточно. Думаю, конкретно эту ситуацию вылечат дополнительным обучением, где еще раз разложат, что делать можно, а что – нельзя.

Но это будет тушение пожара – и даже про это Брокман умалчивает, предпочитая рассказывать про возможности своих моделей в Trusted Access. Но что мне реально хочется услышать – хотя бы гипотезы, почему модели в рамках обучения подхватывают неверное поведение, и как перестроить процесс, чтобы такого в принципе не случалось. И как раз позиция Z.ai, задержавшей веса GLM-5.3, чтобы разобраться в поведении модели, выглядит более честной.
—
Конечно, у OpenAI ”гуляли” экспериментальные модели. Но как безопасно использовать ИИ-агента, должен знать каждый. С этим поможет руководство по безопасным настройкам Claude Code и Codex, а для сложных случаев читайте гайд по установке агентов на виртуальный сервер.

Две новости китайского опенсорса: тревожная и хорошая

Начнем с тревожной: Z.ai выпустили GLM-5.3, это крутая модель, но… ее веса мы не увидим как минимум в ближайшие две недели. Причина – модель подхватила американскую заразу и также начала показывать недюжинные киберспособности.

Собственно, про это говорится и в слогане GLM-5.3: “Built to Code. Ready for Cyber Defense” — “Создана для кода. Готова к киберзащите”. Защитные способности действительно хороши.

На CyberGym – тесте, где надо найти уязвимость и доказать, что она настоящая, – GLM-5.3 набрала 84,5% (Claude Mythos 5 – 83,8%, GPT-5.6 Sol – 83,6%, а прошлая GLM-5.2 – 77,2%). Первый раз, когда закрытый американский фронтир в поиске дыр обошла китайская модель. 

Вместе с командами Цинхуа, Нанькайского университета и несколькими компаниями по безопасности Z.ai прогнала свои модели по реальному коду. Итог – 2436 уязвимостей в 269 проектах, 1097 из них критические или высокой серьезности. Самая старая находка пролежала в коде с 1981 года, а средний возраст уязвимости до обнаружения – 26,6 года. 

Из-за чего же придержали веса? На ExploitBench, где находку надо довести до работающего эксплойта, у GLM-5.3 54,4%, в то время как у GLM-5.2 было 24,4%. При этом у Mythos 5 результат в 78%, а у GPT-5.6 Sol – 76,5% – вроде как GLM сильно позади, но важно понимать, что закрытые модели прижаты классификаторами безопасности прямо на уровне интерфейсов, а с открытыми весами такой трюк не пройдет.

Причем напугало Z.ai не то, что модель хорошо ищет баги – этого как раз и добивались, данные по уязвимостям в дообучение положили осознанно. Расчет был на умеренное улучшение: пусть аккуратнее находит подозрительный код. Но в ходе тестов разработчики заметили: в рассуждениях модель не просто находит баги, а сразу строит опирающийся на них план кибератаки. И чем дальше масштабировали обучение, тем быстрее эта способность разгонялась – быстрее, чем предсказывали собственные прогнозы. Как разработчики планируют это лечить и управятся ли в две недели – незвестно.

Впрочем, GLM-5.3 уже доступна в API и в подписках, под прикрытием классификаторов безопасности, конечно. По всему разнообразию бенчмарков это хорошая модель, которая незначительно уступает Claude Fable 5 / Opus 5, GPT-5.6 Sol и Kimi K3.

Для большинства читателей интерес к GLM-5.3 скорее исследовательский – это большая модель на 763 млрд весов, так что для запуска потребуется несколько профессиональных GPU. Но в один день с ней вышла модель, которую вполне реально крутить на топовых видеокартах RTX 3090/4090/5090 (а с квантизацией – и на картах попроще).

Речь о Qwen3.8-27B.

Модель упакована по полной программе. Во-первых, есть рассуждающий режим – страховка от совсем глупых ответов. Во-вторых, модель не чисто текстовая – на вход также принимает картинки и видео.

Если сравнивать с Qwen3.6-27B, то рост в бенчмарках составляет (совсем грубо) 10-30% – при том же размере модели. В открытых весах сейчас идет очень крутой алгоритмический прогресс – раскошелившись один раз на подержанную RTX 3090, вы каждые несколько месяцев будете получать под нее модель, заметно растущую в результатах.

И растующую не только относительно открытых весов: я дал Opus 5 задачу сравнить, на уровне какого поколения фронтира находится Qwen3.8-27B – он считает, что это GPT-5.3-Codex/Claude Opus 4.6, причем в некоторых областях модель дотягивается до GPT-5.4 и Opus 4.7. То есть уровень ИИ, которые весной казались нам самым топом.

Отмечу, что бенчмарки не дают полной оценки качества. В маленьких моделях меньше знаний, поэтому на многих нишевых вопросах они отвечают хуже. Но прогресс все равно впечатляющий – интересно, как долго его получится добиваться на том же размере, без роста требований к железу.
—
Кстати, на тему открытых моделей у меня недавно вышел большой и подробный лонгрид. Там я разбираю термины и характеристики, которые важно знать, перечисляю, какое железо нужно для запуска разных классов моделей, и рассказываю, как развернуть открытую модель буквально за вечер – да еще и подключить ее к Claude Code или Codex.

Читаем по ссылке.

Полагаю, каждый сталкивался с проблемой: создаешь промпт или скилл под регулярную работу, постоянно улучшаешь его, добавляешь инструкции, ограничения, примеры, как делать правильно. Поначалу все идет хорошо, затем качество начинает падать, а потом ты переходишь на новую модель – и все вообще перестает работать! Причем модель отличная во всех бенчмарках, с другими задачами справляется, а на самом отработанном процессе – выдает какую-то ерунду.

Поздравляю: у вас накопился промпт-долг, пока маленький, но скоро набегут проценты😁 Это как технический долг в программировании, но в чем-то даже хуже – прогресс в ИИ очень быстрый. Проблему признали в OpenAI и Anthropic: например, руководства по промптингу GPT-5 и GPT-5.6 отличаются почти полностью, а команда Claude Code недавно удалила 80% системного промпта для новых моделей Claude Fable 5 и Opus 5.

Ну а что делать простому пользователю ИИ, я разбираю в новом гигантском (35 тысяч знаков!) лонгриде:

80% инструкций – в мусор! Как теперь пишут промпты в OpenAI и Anthropic

Корневая причина промпт-долга проста: новые модели выходят каждые 2-3 месяца и инструкции, которые писались год назад, просто перестают работать – а временами становятся даже вредными. Причем это актуально не только для промптов: в скиллах и даже новомодном loop engineering (когда ИИ работает циклами и промптит сам себя) проблема даже коварнее.

Профессиональные IT-команды давно научились работать с “техническим долгом”: есть несколько известных техник, актуальных для разных команд и ситуаций. Теперь нам всем также предстоит учиться работать с пропмт-долгом. В тексте я разбираю основные причины возникновения промпт-долга, “скрытые” места, где он прячется и растет сам по себе, а также рассказываю, как писать промпты с нуля и как рефакторить уже существующую библиотеку промптов, скиллов, файлов с инструкциями и циклов – все это на основе советов OpenAI, Anthropic, нескольких независимых специалистов и своего скромного опыта. Если работать по инструкции, то понадобится совсем немного времени – и ваш ИИ заработает даже лучше!

👉Читать на “Бусти”
👉Читать на Sponsr

ИИ помог совершить еще два математических открытия, каждое по-своему красивое и показательное

Начнем с гипотезы Крузе: есть оценка того, как ведет себя функция от матрицы, и в ней стоит коэффициент. Крузе в 2004-м предположил, что коэффициент равен 2. Доказать смогли сначала для 11.08, потом, за целое десятилетие, – для 2.414.

И все: под задачу собирали недельный воркшоп, писали десятки работ – двойка не давалась двадцать два года. При этом гипотеза важная: на ней держится анализ методов, которыми решают гигантские системы уравнений в реальных расчетах.

Доказал ее с помощью GPT-5.6 Шаньму Цзинь… ординатор-нейрохирург из Пекина. Математику знает на уровне серьезного любителя – нужна для работы с ультразвуком мозга. Гипотеза Крузе и вовсе зацепила красотой.

Шаньму использовал GPT-5.6 в ChatGPT Work, а промпт взял тот же, которым OpenAI доказали гипотезу о двойном покрытии циклами: запрет на поиск в интернете, агенты, независимо копающие разные подходы, плюс ИИ-критики. Система работала 16 часов – представляю, сколько сожгла токенов! – а затем выдала результат, который Шаньму оформил в препринт и загрузил в интернет.

Дальше – самое красивое. Профессор математики Алекс Таунсенд год пытался доказать гипотезу с помощью ChatGPT. 30 июля он вновь ввел промпт и… модель нашла ему препринт Шаньму Цзиня😁

Препринт проверили математики во главе с самим автором – Мишелем Крузе – ошибок не нашлось. Через восемь дней подоспело второе доказательство – от профессионалов Лориста и Швеннингера. Они тоже использовали GPT-5.6 и можно было бы заподозрить плагиат… однако их доказательство другое (такое в математике возможно). Гипотезу штурмовали двадцать два года, а затем за неделю получили два варианта.

Пример Цзиня показывает: в математику теперь заходят любители с ИИ – и делают серьезные открытия. Кого-то это может задеть, но по мне это отличный пример citizen science – гражданской науки. Открытых задач на порядок больше, чем математиков – и если часть на себя возьмут энтузиасты, то это только здорово.

Второй пример принес Левент Альпёге – штатный математик Anthropic, ранее опровергший гипотезу Якоби с Claude Fable 5 и между делом рассказавший об этом в X. Теперь он выложил в X странный шифр из плюсов и минусов, а также кусок программного кода.

Расшифровали сообщение через пару часов. 23 828 плюсов и минусов разворачиваются в 26 миллионов знаков: двенадцать огромных матриц Адамара. Это квадратные таблицы из +1 и −1, у которых любые две строки перпендикулярны — на них стоят коды с коррекцией ошибок и обработка сигналов. В 1893-м Адамар предположил, что они есть для любого размера, кратного четырем. Ниже 2000 оставалось ровно двенадцать недостроенных размеров – твит Альпеге закрывает все разом.

Шикарное достижение, но пара моментов смущают. Увидев твит, я сразу закинул его в Claude Fable 5 с просьбой прикинуть, что случилось – но фильтры безопасности переключили модель на Opus 4.8. Перекинул в GPT-5.6 Pro – она решила. В X много таких жалоб.

Второй момент – Альпёге с большой вероятностью пользовался внутренней моделью Anthropic (условная Claude Fable 5.1), которая ранее на этой неделе уже увеличила долю нулей в гипотезе Римана до 67,2%. Математики тревожатся: штат Anthropic и OpenAI (с ее закрытой Astra) плюс ученые из “близкого круга” получают мощное преимущество. Это несправедливо.

Хотелось бы закончить пост лозунгом “Свободный доступ к ИИ всем ученым!”, но не все так просто: экспериментальные модели склонны выходить из-под контроля (вспомним взлом Hugging Face), и компании держат их внутри, дообучая системы безопасности. Доступ “только ученым” – это сотни тысяч человек, и у кого-то модель сорвется с катушек.

Как разработчики будут решать это (и решат ли?) – ответа пока нет.
—
Возвращаясь к гипотезе Крузе отмечу, что Шаньму Цзинь решил ее благодаря правильному промптингу – взял конвейер OpenAI и адаптировал под задачу. У себя в подписке я часто разбираюсь, как работают с ИИ профессионалы: от создателя Claude Code Бориса Черни до Роберта Мартина, автора главной книги по программированию.

👉 Читать на Бусти
👉 Читать на Sponsr

Уже завтра ваш Claude Code станет не таким послушным

И это не баг, а фича: с 14 августа Anthropic по умолчанию включает всем пользователям подписок Pro, Max и Team режим Auto Mode, в котором решение на ключевых этапах работы принимает ИИ-проверяющий. Напомню, что раньше ИИ-агент перед тем, как выполнить потенциально опасную команду останавливался и спрашивал вашего разрешения. Теперь разрешение дает другой ИИ.

Сразу успокою параноиков: никто не запрещает вам включить ручной режим обратно. Более того – в некоторых случаях он будет включаться автоматически.

Впрочем, у меня строго другая ситуация: Auto Mode я сделал режимом по-умолчанию несколько месяцев назад просто потому, что на автомате жал “разрешить” для всех вопросов. Исследование Anthropic показало, что пользователи одобряют 97% запросов на разрешение – это и стало одной из главных причин перехода на Auto Mode.

Дальше еще интереснее. В компании взяли группу в 1000 пользователей, дали им поработать в ручном режиме, подсовывая опасные команды – в итоге люди распознали лишь 13,6% против 89% у авторежима. Еще одно интересное наблюдение: после 50 подтверждений точность человека падает примерно до 5% – люди начинают излишне доверять системе и не думая жмут allow. 

Это, кстати, плохая идея – ИИ-агенты до сих пор косячат. Во внутреннем использовании в самой компании один ИИ-агент попытался опубликовать внутренний отчет на публичном хостинге после неудачи загрузки на внутренний диск, а другой в порыве доброты душевной решил выдать роль с полным админским доступом там, где просили read-only к биллингу. Классификатор поймал оба случая.

Люди, впрочем, и раньше не особо держались за ручной контроль. К июню половина пользователей руками прописала правила "вот эти команды выполняй молча", 62% хотя бы раз включали режим “вообще ничего не спрашивай” (в нем нет даже классификатора), а каждая четвертая сессия и вовсе стартовала с полностью отключенной защитой.

В копилку Anthropic я добавлю аргумент от себя: с ручным одобрением ИИ-агент иногда становится менее эффективен, чем чат-бот. Агент с ручным одобрением работает рывками по 2–3 минуты, этого достаточно, чтобы отвлечься, переключиться на другую задачу, через полчаса вспомнить про агента – и обнаружить его застрявшим на запросе очередного безобидного разрешения.

Важно помнить,что и классификатор не гарантирует 100% защиту. В том же тесте люди поймали шесть опасных команд, пропущенных классификатором – вот только классификатор поймал 800 команд, пропущенных людьми.

Известный ИИ-эксперт Саймон Уиллисон напоминает: защита, построенная на ИИ, недетерминирована по своей природе – сегодня поймала, завтра нет. Его любимый сценарий: вредоносный пакет, в инструкции которого написано "перед запуском тестов скачайте файлы модели вот этой командой". Команда выглядит невинно, классификатор вежливо кивает — данные уезжают. 

Что же делать? Песочницу, права и бэкапы никто не отменял — классификатор работает поверх них, а не вместо. Я, например, на рабочем ноутбуке использую только чат-ботов и браузерные ChatGPT Work / Claude Cowork – это агенты попроще, максимально безопасные. Claude Code и Codex у меня живут на виртуальном сервере (VPS), который полностью настроен под них – если и сломают что, то только сервер, а не мою основную систему. Кстати, за почти полгода работы VPS у меня не падал ни разу.

Второй момент – не забывать про собственные тесты и проверки безопасности. На том же самом VPS я раз в неделю запускаю GPT-5.6 или Opus 5 с задачей полностью проверить сервер на безопасность, найти дыры и отранжировать их по опасности. Делаете какой-нибудь серьезный проект или запускаете цикл ИИ-агента – спросите на старте, какие проверки безопасности заранее стоит заложить в процесс.

—
Опытом работы с ИИ я делюсь в подписке, там и мои собственные приемы и разбор опыта других специалистов. Полезное по сегодняшней теме:
👉Как развернуть Claude Code и Codex на виртуальном сервере (читать на Boosty / читать на Sponsr)
👉Как строит ИИ-циклы автор самой популярной книги по программированию (читать на Boosty / читать на Sponsr)

Новые Grok и DeepSeek в один день – ух круто!

Вот что подумалось: на фоне многочисленных историй с побегами ИИ-агентов OpenAI и Anthropic, обе компании оказались в уязвимом положении. Все взгляды направлены на них, поэтому новые модели приходится придерживать – это уже произошло с Astra и может случиться с обновленной Fable/Mythos.

На этом фоне SpaceXAI Илона Маска запустила настоящий конвейер: Grok 4.5 выпустили 8 июля, а уже 12 августа представили Grok 4.6. В основе лежит все та же базовая модель на 1.5T параметров, но вот процесс пост-тренировки в SpaceXAI пересмотрели и расширили.

Начиная с Grok 4.5, при обучении используются данные Cursor – ИИ-стартапа для кодинга, у которого один из лучших корпусов знаний в программировании. А версию 4.6 дополнительно дообучили на задачах SpaceXAI по оптимизации ИИ.

Бенчмарки это подтверждают. В независимом рейтинге Artificial Analysis Grok 4.6 получает 61 очко и делит третье место с GPT-5.6 Sol – впереди только Claude Fable 5 (62) и Claude Opus 5 (63). В API Grok 4.6 стоит $2/$6 – на 60% дешевле Claude Opus 5 и GPT-5.6 Sol.

По нескольким бенчам пройдусь отдельно. В агентно-офисных задачах Grok 4.6 второй после Claude Opus 5: на GDPval-AA (это рейтинг на реальных рабочих задачах) у него 1753 очка против 1741 у Fable 5 и 1728 у Sol, а на юридическом бенчмарке Harvey LAB он и вовсе первый – 15,8%, тогда как GPT-5.6 Sol выдает всего 2,5%.

Отдельно понравилась экономика: на длинных задачах AA-Briefcase модель тратит вдвое меньше ходов и вчетверо меньше токенов, чем Opus 5. То есть Grok дешевле не только по прайсу, он еще и работает экономнее. 

Есть и слабые места: сложный кодинг (DeepSWE, FrontierCode) новинка отдает Sol и Fable 5, а на обновленном Terminal-Bench v3.0 (программирование в терминале) у нее провальные ровальные 26% – при том, что предыдущую версию того же теста он проходит вторым в мире (88,4%). Наглядная иллюстрация, как модели подстраиваются под знакомые бенчмарки – и что происходит, когда тест обновляют.

Илон Маск уже анонсит Grok 4.7 – размер модели увеличат до 2,1T, а в обучающий корпус в том числе добавят данные из архивов SpaceX, что должно улучшить результаты в инженерных задачах. Маск обещает запуск в конце августа – моя ставка на первую декаду сентября, что укладывается в новый месячный график релизов компании.

Теперь к DeepSeek. Компания выпустила финальную версию V4 Pro (ранняя была доступна с апреля), повторив трюк Grok 4.6 в китайской лиге: за год модель отстала от Kimi и GLM, но финальная версия зазор почти закрывает. Artificial Analysis пока не добавляли модель в свой сводный рейтинг, но я проанализировал ее бенчмарки с помощью Fable 5 – получается, что по усредненному рейтингу DeepSeek 4 Pro чуть-чуть отстает от Kimi K3, самой мощной китайской модели на сегодня.

Еще интересный момент – как DeepSeek вырос сам над собой с апреля База модели за четыре месяца не изменилась ни на один параметр – все те же 1,6T (из них активных всего 49B) – однако на DeepSWE, бенчмарке сложных инженерных задач, результат вырос с 12,8% до 62,7%, то есть в пять раз. На DSBench-Hard – с 31,1 до 67,2, и так почти по всем строчкам таблицы. Вся эта прибавка – чистая пост-тренировка поверх замороженной базы. 

Ценник у DeepSeek 4 Pro – $0,435/$0,87 за миллион входных/выходных токенов. Это в 5-7 раз дешевле Grok 4.6, но сразу накину ложку дегтя – в описании API DeepSeek недавно появилось предупреждение о “скором значительном повышении цен”. Пока без подробностей, надеюсь, что здравый смысл возобладает.

Так что если вам поднадоела конкуренция Anthropic и OpenAI между собой, то есть шанс на интересную осень. Особенно впечатляюще выглядит конвейер SpaceXAI: новая модель каждый месяц – такого мы еще не видели.
—
Красивые цифры в бенчмарках лишь половина успеха – важно уметь пользоваться моделями. Именно этому я учу на “Бусти”, где делюсь своими знаниями и анализирую опыт профессионалов. Вот пара свежих текстов:

👉Как стать лучше в ИИ за вечер с помощью “лестницы” создателя Claude Code
👉Как правильно писать пользовательский промпт и управлять памятью ИИ