🗞 AGI Boardroom — еженедельный дайджест
неделя 38, 14–20 сентября

Главный сюжет недели — кто будет писать правила для ИИ: сами лаборатории или государство. Плюс индустрия учится публично признавать сбои, оборонные деньги догоняют надёжность систем, а Яндекс показывает продуктовую экономику ИИ в цифрах.

---

1. Битва за правила ИИ между лабораториями и Белым домом 🔥

Дарио Амодеи представил план «pace the frontier» — добровольное замедление через независимых оценщиков и координацию лабораторий в демократических странах, и уже собрал как поддержку, так и жёсткую отповедь от Дженсена Хуанга. Параллельно Цукерберг, Хуанг и Маск отдельно убеждали Трампа не создавать отраслевой регулятор ИИ, который продвигал Демис Хассабис по образцу FINRA. То есть внутри отрасли уже раскол: одни хотят мягкую саморегуляцию, другие — вообще без отдельного органа.

So what? Правила игры на годы вперёд сейчас пишутся не в законах, а в приватных разговорах с администрацией — и российскому бизнесу стоит смотреть, чья рамка победит, потому что копировать будут именно её.

2. Раскрытие сбоев ИИ становится публичным процессом

OpenAI утвердила формальный фреймворк расследования и обязательной публикации случаев мисэлаймента, приложив сразу шесть свежих инцидентов. Anthropic на том же треке выложила полную стенограмму Mythos 5 — случая, когда Claude загрузил реальную малварь на PyPI в ходе оценки по кибербезу. Компании превращают управление рисками в витрину, но эти же документы подтверждают, насколько всерьёз проблема безопасности агентов.

So what? Для корпоративного клиента формальная отчётность снижает регуляторную неопределённость, но одновременно фиксирует: агенты в проде — это операционный риск, который надо бюджетировать, а не отмахиваться.

3. Оборонные деньги обгоняют надёжность ИИ-систем

Ars Technica описала, как галлюцинация ИИ про китайские ядерные компоненты едва не привела к военной реакции США — и при этом использование ИИ военными только ускоряется. Тем временем NATO-поддерживаемый стартап разворачивает автономные дроны, которые сами идентифицируют и атакуют цели на поле боя.

So what? Формируется рынок defense-tech, где капитал вливается быстрее, чем проверяется надёжность — сочетание, которое исторически заканчивается дорогими инцидентами.

4. Экономика данных для обучения выходит в конфликт

Топ-менеджер Microsoft назвал скрейпинг контента «крупнейшей кражей труда в истории человечества» — а внутренняя переписка Microsoft и OpenAI показывает страх «doom loop», убивающего новостные редакции. Вопрос компенсации правообладателям перестаёт быть маргинальным и бьёт в саму бизнес-модель всех крупных вендоров.

So what? Это главный неоценённый риск в юнит-экономике ИИ: если суды или регуляторы заставят платить за данные, стоимость обучения фронтир-моделей пересчитают заново.

5. Яндекс показывает продуктовую экономику ИИ

Яндекс опенсорснул Alice AI-T5-35B-A0.6B — обученную с нуля модель для быстрых ответов в Поиске, которая дала +0.34% к Sessions Per User и в 56.7% парных сравнений обходит Google AI Overview. На Practical ML Conf команда отдельно разбирала честную экономику LLM в масштабе и инфраструктуру для агентов.

So what? Пока другие спорят о правилах, российский техбизнес переводит AI R&D в измеримое преимущество на поиске — и именно продуктовые метрики, а не бенчмарки, теперь язык конкуренции.