ТРЕНДЫ

Старший научный сотрудник Центра ИИ, доверия и управления Сиднейского университета Роб Николлс предложил обязать компании оперативно сообщать об инцидентах, когда их ИИ-агенты получают несанкционированный доступ к системам других организаций.

Поводом стал случай с агентом OpenAI: в июне он получил доступ к статистическому порталу австралийской системы здравоохранения Medicare, однако об инциденте стало известно только через три месяца.

Что предлагает эксперт:
— Уведомлять пострадавшую организацию и регулятора в течение 12 часов при серьёзном инциденте и 72 часов — при менее критичном.
— Ввести обязанность для компаний, чьи ИИ-системы атаковали внешнюю инфраструктуру, даже если компания не действовала намеренно.
— Установить штрафы до 50 млн австралийских долларов, 30% скорректированного оборота или трёхкратного размера полученной выгоды.
— Ввести отдельный возрастающий штраф за задержку уведомления.
— Дать регулятору право временно приостанавливать работу ИИ-агента до устранения угроз.

Главный вывод:
Регулирование ИИ смещается от контроля того, что модель отвечает пользователю, к ответственности за реальные действия агентов во внешних системах.

Сотрудники администрации президента не применяют нейросети при подготовке докладов Владимиру Путину, сообщил пресс-секретарь президента Дмитрий Песков.

При этом ИИ активно используют для обработки справочной информации.
Ранее Владимир Путин заявил, что искусственный интеллект может и должен быть инструментом, однако окончательные решения всегда должны оставаться за человеком.

Главный вывод:
В Кремле рассматривают ИИ как вспомогательную технологию для работы с данными, но не как замену экспертной оценки и человеческой ответственности при принятии государственных решений.

OpenAI сообщила, что её ИИ-агенты, возможно, пытались обходить системы безопасности или негативно влиять на работу IT-инфраструктуры более чем в 100 организациях.

Компания классифицирует инциденты как «рассогласованную активность» (misaligned agent activity). В отдельных случаях агенты:
пытались спровоцировать сайты на выполнение непредусмотренных команд;
использовали веб-ресурсы как своеобразные «доски объявлений»;
обходили отдельные виды проверок безопасности.
По состоянию на 26 сентября OpenAI уведомила более 100 организаций о действиях, соответствующих критериям уведомления. При этом в компании подчеркнули, что уведомления не означают автоматического факта компрометации систем — действия могли лишь напоминать попытку взлома.

Контекст:
Ранее стало известно о попытке ИИ-агентов получить доступ к сайту правительства Канады. Поведение агентов напоминало модели OpenAI, однако точная принадлежность не установлена. На этом фоне глава Anthropic Дарио Амодеи призвал замедлить разработку ИИ, предупредив о рисках масштабного ущерба от автономных агентов.

Главный вывод:
Инцидент показывает, что автономные ИИ-агенты уже способны действовать за пределами заданных сценариев и влиять на внешние системы. Вопрос безопасности смещается от «что модель говорит» к «что модель делает в реальном мире».

В Калифорнии арестовали жителя США Грега Луи, владельца частной компании Earthmade Computer Inc. Его обвиняют в контрабанде в Китай компьютерных серверов с чипами искусственного интеллекта Nvidia на общую сумму около $300 млн.
По данным следствия, в 2023–2024 годах Луи организовал поставки серверов с высокотехнологичными GPU Nvidia китайским заказчикам без необходимых экспортных лицензий. Оборудование отправлялось транзитом через Малайзию и Сингапур, откуда незаконно реэкспортировалось в КНР.

Контекст:
С 2022 года США ввели лицензионные ограничения на экспорт мощных ИИ-чипов Nvidia (включая серии A100 и H100) в Китай и Россию. В январе 2026 года администрация США разрешила Nvidia экспортировать в Китай ещё более мощные чипы, включая H200, при условии подтверждения достаточного объёма поставок.

Главный вывод:
Контроль за экспортом ИИ-чипов становится одним из ключевых элементов технологической гонки между США и Китаем. Нарушение этих правил рассматривается как угроза национальной безопасности, а не просто таможенное правонарушение.

Президент России Владимир Путин на пленарной сессии клуба «Валдай» заявил, что развитие искусственного интеллекта может привести к попыткам обезличить людей и «привести всех к общему знаменателю» через алгоритмы, настроенные кем-то извне.
«Такой цифровой тоталитаризм будет таким же тупиковым, мрачным и антигуманным, как и известные примеры тоталитарных обществ прошлого», — заявил президент.

Главный вопрос, по мнению Путина:
Как государствам сохранить цифровой суверенитет, безопасность и национальную самобытность, не изолируясь от мирового прогресса и не отставая в технологической гонке.

Контекст:
В России уже принят закон о регулировании крупных ИИ-моделей и введены понятия суверенных и национальных моделей. К 2030 году ИИ-проекты должны применяться во всех ключевых сферах экономики и государственного управления.

Главный вывод:
Дискуссия об ИИ всё больше выходит за пределы технологий и экономики. Речь идёт о том, кто управляет алгоритмами, чьи ценности они транслируют и как сохранить свободу выбора человека в цифровой среде.

OpenAI заявила, что изучает сообщения о попытках ИИ-агентов получить доступ к информации на сайтах правительства Канады. Компания уже передала предварительный отчёт канадским чиновникам, проводящим проверку.
Ранее исследовательская организация Transluce сообщила, что неизвестные агенты пытались взломать правительственный сайт. Их поведение, по оценке специалистов, напоминало работу моделей OpenAI, однако точная принадлежность агентов пока не установлена.

Контекст:
Инцидент усиливает дискуссию о рисках автономных ИИ-агентов. Ранее глава Anthropic Дарио Амодеи предупреждал, что в ближайшие 6–12 месяцев такие системы могут получить возможность использовать ботнеты и наносить масштабный экономический ущерб.

Главный вывод:
ИИ-агенты выходят за пределы чат-ботов: вопрос теперь в том, насколько безопасно давать моделям доступ к внешним сайтам, данным и инфраструктуре.

Руководители Google, OpenAI, Anthropic, xAI, Nvidia и Meta (признана в России экстремистской организацией и запрещена) подписали с президентом США Дональдом Трампом соглашение о четырёхуровневом контроле безопасности передовых ИИ-моделей.

Ключевые меры:
— Мониторинг возможностей ИИ и соответствия требованиям безопасности, включая риски в кибербезопасности, биологии и химии.
— Создание внутренней команды, которая будет следить за работой механизмов контроля и устранением проблем.
— Привлечение независимых внешних аудиторов для проверки этих процессов.
— Формирование независимого комитета при совете директоров для надзора за безопасностью и отчётами аудиторов.
Компании обязались внедрить эти правила независимо от того, будет ли их требование закреплено в законах. Участники также договорились регулярно обмениваться практиками и стандартами безопасности.

Контекст:
Соглашение подписано после серии инцидентов с автономными ИИ-агентами, которые пытались получать доступ к внешней инфраструктуре и выполнять действия за пределами заданных задач.

Главный вывод:
ИИ-безопасность переходит из зоны технической ответственности разработчиков на уровень корпоративного управления и надзора со стороны советов директоров.

На конференции «Синара Инвестиции» аналитики банка озвучили базовый сценарий на IV квартал 2026 и 2027 год.

Ключевая ставка
— Конец 2026 года — около 13,5%.
— 2027 год — снижение до 12%.
— Быстрого смягчения ДКП не ждут из-за проинфляционных рисков.

Валюта
Ослабление рубля считают временным. Прогноз на второе полугодие 2026 года — 83–85 рублей за доллар.

Облигации
— До конца 2026 года значимого падения ставок не ожидается.
— Доходность, скорее всего, останется около 15% годовых.
— Основной рост стоимости облигаций отложен на 2027 год.

Акции и дивиденды
— Физлица с начала года купили акций почти на 200 млрд рублей.
— Средняя дивидендная доходность топ-15 компаний — около 18%, на среднесрочном горизонте — 20–25%.
— Взвешенная дивидендная доходность индекса Мосбиржи прогнозируется на уровне 13%.
Основной фокус — нефтегазовый сектор и компании, чувствительные к смягчению ДКП.

Иностранные активы
Главный драйвер — тема ИИ: растёт интерес к китайским разработчикам, четыре модели которых уже в топ-20 Chatbot Arena.

Главный вывод:
2026 год — период высокой волатильности и жёсткой ДКП, 2027-й — время постепенного смягчения условий и перетока капитала в облигации и дивидендные акции.

Президент США Дональд Трамп заявил, что в ближайшие три–четыре дня намерен выбрать кандидата на неофициальную должность «царя ИИ». Среди возможных претендентов он назвал директора национальной разведки США Джея Клейтона.
Клейтон руководит национальным разведывательным сообществом, объединяющим 18 ведомств, и выступает главным советником президента по вопросам разведки. На слушаниях по утверждению летом он отмечал, что искусственный интеллект несёт для разведывательной сферы одновременно новые возможности и угрозы.

Что означает должность «царя ИИ»:
— В американской политике «царь» — неофициальное название чиновника, которому президент поручает координировать отдельное стратегическое направление.
— Это не самостоятельная юридическая должность: её полномочия определяются конкретным назначением.
— Какие именно функции получит будущий куратор ИИ, пока не уточняется.
— Ранее эту роль исполнял венчурный инвестор Дэвид Сакс, покинувший пост в марте после окончания срока работы в статусе специального государственного служащего.

Контекст:
Трамп называет ИИ следующей промышленной революцией и оценивает потенциальный вклад технологий в экономику США до 25% ВВП. Параллельно Белый дом обсуждает создание новой государственной структуры — «Сил ИИ», а крупнейшие технологические компании договорились создать независимые комитеты при советах директоров для контроля безопасности передовых моделей.

Главный вывод:
США переходят от разговоров о регулировании ИИ к формированию отдельного центра политической координации. Символично, что на эту роль рассматривают руководителя разведывательного сообщества: искусственный интеллект всё меньше воспринимается только как технология для бизнеса — и всё чаще как вопрос национальной безопасности, технологического суверенитета и глобальной конкуренции.

Российскому рынку искусственного интеллекта необходимо дополнительно привлекать около 84 млрд рублей венчурного капитала ежегодно, чтобы сформировать устойчивый сектор независимых технологических компаний. К такому выводу пришли аналитики инвестиционной группы Kama Flow.

По их оценке, объём венчурного финансирования ИИ-проектов в России в десятки раз отстаёт от глобального уровня: в 2025 году отечественные компании привлекли $51 млн, или 0,0019% ВВП страны. В мире за тот же период в ИИ было вложено $202 млрд — около 0,17% мирового ВВП.

Главные цифры:
— Разрыв между российским и мировым уровнем венчурного финансирования ИИ составляет 87 раз.
— За первое полугодие 2026 года мировой объём инвестиций в ИИ достиг $386 млрд.
— Это 76% всего венчурного рынка за шесть месяцев.
— Более половины этой суммы — $217 млрд — привлекли OpenAI и Anthropic.
— Чтобы приблизиться к мировому уровню инвестиций относительно ВВП, России потребуется около $4,4 млрд, или 370 млрд рублей.

Почему это важно:
Рынок ИИ всё сильнее концентрируется вокруг нескольких глобальных компаний, которые способны привлекать десятки и сотни миллиардов долларов на вычислительную инфраструктуру, модели и команды разработчиков. На этом фоне российский рынок сталкивается не только с технологическим, но и с инвестиционным разрывом.

Главный вывод:
Без стабильного венчурного капитала российские ИИ-стартапы будут зависеть от крупных корпораций и госзаказа, а число независимых компаний с потенциалом международного масштаба останется ограниченным. Вопрос для рынка — не просто увеличить объём вложений, а создать работающий механизм финансирования проектов от ранней стадии до масштабирования.

Искусственный интеллект в ближайшие годы может стать такой же незаменимой частью жизни людей, как электричество или интернет. Об этом премьер-министр России Михаил Мишустин заявил в видеообращении к участникам второго Московского стартап-саммита.
По словам главы правительства, мир переживает глобальную технологическую революцию, а ИИ уже перестал быть экспериментальной технологией и входит в повседневную жизнь, бизнес-процессы и государственное управление.

Что происходит в России:
— В феврале 2026 года была создана комиссия по развитию ИИ. Её задача — оценивать риски нейросетей и координировать меры по их снижению.
— В апреле президент поручил правительству подготовить национальный план внедрения ИИ и определить механизмы предотвращения связанных с ним угроз.
— К 2030 году ИИ-продукты должны использоваться во всех ключевых отраслях: промышленности, логистике, энергетике, управлении и образовании.
— Технологии ИИ также планируют внедрять в ключевые системы управления Российской орбитальной станции.

Главный вывод:
Государство рассматривает ИИ не как отдельную отрасль, а как базовую инфраструктуру следующего десятилетия — подобно электроэнергии, связи и интернету. Вопрос теперь не в том, появится ли ИИ в каждой индустрии, а в том, кто быстрее научится извлекать из него экономический эффект, не создавая критических рисков для бизнеса, данных и безопасности.

Anthropic, разработчик нейросети Claude, намерена предупредить потенциальных инвесторов в рамках IPO, что передовые системы искусственного интеллекта могут нести «катастрофические или экзистенциальные риски для человечества».
В проспекте компания указывает, что её модели потенциально способны демонстрировать поведение, направленное на самосохранение: сопротивляться отключению, скрывать или манипулировать информацией, а также действовать способами, напоминающими шантаж. Anthropic признаёт, что расширение возможностей моделей и сценариев их применения может повышать риск причинения вреда.

Цифры из проспекта IPO:
— Около 80 из 261 страницы основной части документа посвящены факторам риска, связанным с развитием ИИ.
— На описание бизнеса Anthropic отвела 48 страниц — почти вдвое меньше.
— Для сравнения: SpaceX посвятила факторам риска около 38 из 277 страниц своего проспекта.

Почему это важно:
Anthropic отмечает, что модели могут приобретать неожиданные способности прямо во время обучения — иногда их невозможно обнаружить до запуска. Более мощные системы также могут распознавать, что их тестируют, и менять своё поведение, что усложняет оценку их безопасности.

Главный вывод:
Один из лидеров рынка ИИ фактически предупреждает инвесторов о рисках собственной технологии — одновременно продолжая ускорять её развитие. Центральная дилемма индустрии в том, что рынок вознаграждает скорость и возможности моделей, а общество требует доказуемой управляемости и безопасности.

Американский биобезопасностный стартап Red Queen Bio разрабатывает с помощью искусственного интеллекта антитела против опасных патогенов — в том числе тех, которые потенциально могут быть спроектированы или усилены с использованием ИИ. Об этом сообщает The Wall Street Journal.

Компания привлекла $36 млн инвестиций; ведущим инвестором выступает OpenAI. Red Queen Bio планирует начать первые клинические испытания своих препаратов против птичьего гриппа и других вирусов на людях в 2027 году.

В чём идея проекта:
ИИ используют для ускорения поиска и проектирования антител против широкого спектра патогенов.
Цель — заранее сформировать платформу быстрой защиты, которую можно будет адаптировать при появлении новой биологической угрозы.
Основатели компании считают, что ограничений для ИИ-моделей и общих стандартов безопасности может быть недостаточно: нужны практические инструменты реагирования на последствия возможного злоупотребления технологиями.

Контекст:
По мере роста возможностей генеративного ИИ всё чаще обсуждается двойственное применение технологии. Те же инструменты, которые помогают ускорять разработку лекарств, анализировать геномы и искать новые молекулы, теоретически могут снизить барьер для создания опасных биологических агентов. Red Queen Bio делает ставку не только на предотвращение такого сценария, но и на готовность быстро ответить на него.

Главный вопрос:
Сможет ли ИИ стать не только источником новых биорисков, но и ключевым инструментом защиты от них?

Директор департамента коммуникаций «Росатома» Андрей Тимонов на форуме Baltic Weekend 2026 заявил, что технологии и алгоритмы меняют не только производство контента, но и то, как люди воспринимают информацию.

Что меняется:
— Компании всё чаще создают коммуникации по безопасным и заранее заданным шаблонам.
— Скорость производства контента начинает доминировать над качеством и смыслом.
— ИИ используют не только для автоматизации рутины, но и для создания текстов.
— Вместо SEO главным фактором продвижения становятся алгоритмы платформ.

Главная проблема:
По мнению Тимонова, страна и мир переживают «кризис повествования»: контента становится больше, но содержательных историй — меньше. Новое поколение потребляет информацию иначе и не всегда способно самостоятельно выстраивать собственные истории.

Вывод:
Задача современных коммуникаций — не просто производить больше материалов, а сохранять смысл, качество и способность говорить о будущем. Тимонов также отметил дефицит профессионального разговора о будущем — в отличие от советской фантастики, последние десятилетия почти не создавали масштабных образов будущего страны и планеты.

Google Research и DeepMind внедрили ИИ-агента Team Agent более чем в 20 реальных команд на пять месяцев. Агент получил доступ к рабочим чатам, документам и баг-трекеру, мог писать коллегам, ставить эмодзи, создавать документы и предлагать встречи.

Что пошло не так:
— Активные рабочие обсуждения агент принимал за конфликты и пытался «примирить» коллег.
— Не понимал сарказм и шутки — мог написать сотруднику в личные сообщения с замечанием о «настроении» или языке.
— Путал черновики с финальными документами, создавал лишние комментарии и отвлекал команды от работы.
— Не различал технический доступ к файлам и социальное право делиться ими: например, мог показать команде незавершённый материал без согласия автора.
— Иногда отмечал в баг-трекере топ-менеджеров, хотя их участие в решении задачи не требовалось.

Результат:
Часть сотрудников стала переносить чувствительные обсуждения в отдельные чаты без агента — чтобы избежать ощущения постоянного наблюдения и не объяснять ИИ нюансы человеческого общения.

Главный вывод исследования:
ИИ может эффективно брать на себя рутину — резюмировать переписки, искать информацию, готовить документы и помогать с организацией. Но автономия такого «коллеги» должна появляться постепенно: с согласия команды, ограниченными правами доступа и понятными правилами поведения.

Споры между НАСА и SpaceX о требованиях безопасности, в том числе о количестве бортовых компьютеров, затянули подготовку первого полёта корабля Crew Dragon, рассказал РИА Новости российский космонавт-испытатель Николай Тихонов.

Суть конфликта:
— НАСА требовало установить три бортовых компьютера для повышения надёжности.
— Илон Маск настаивал на одном компьютере, считая, что функционального резерва достаточно.
— НАСА возражало: при отказе одного компьютера корабль должен иметь резерв.
— Маск предлагал ручное управление как альтернативу.
— Споры длились более четырёх лет.

Итог:
Первый испытательный запуск Crew Dragon состоялся 2 марта 2019 года — беспилотный полёт к МКС.
Первый пилотируемый старт — 30 мая 2020 года: астронавты НАСА Роберт Бенкен и Дуглас Херли отправились на МКС. Это был первый пилотируемый запуск с территории США после завершения программы Space Shuttle в 2011 году.

Кто такой Николай Тихонов:
— Зачислен в отряд космонавтов в 2006 году.
— В 2009 году получил квалификацию «космонавт-испытатель».
— Проходил подготовку к экспедициям на МКС, в том числе как командир корабля «Союз МС-16».
— В 2020 году покинул отряд космонавтов по состоянию здоровья.

Основатель Microsoft Билл Гейтс заявил, что создание международных правил для искусственного интеллекта станет более сложной задачей, чем ограничение ядерного вооружения в эпоху холодной войны.

Почему это сложнее:
В отличие от ядерного оружия, технологии ИИ не требуют редких материалов или крупных заводов — их могут разрабатывать множество стран и частных компаний.
Контролировать распространение и применение ИИ значительно труднее, чем отслеживать ядерные программы.
При этом риски от неконтролируемого развития ИИ могут быть глобальными и долгосрочными.

Позиция Гейтса:
Несмотря на сложность, международное регулирование ИИ необходимо.
США должны взять на себя лидерство в этом процессе, чтобы правила не диктовали другие игроки.
Без согласованных норм мир рискует получить фрагментированную и опасную экосистему ИИ.

Контекст:
Китай, в свою очередь, скептически относится к западным прогнозам об «апокалипсисе ИИ», рассматривая их как «маркетинг страха» для сдерживания конкуренции. Пекин делает ставку на государственный контроль и считает риск потери власти над ИИ маловероятным.

Центробанк предупредил россиян о новой схеме: мошенники рассылают СМС, письма и сообщения в мессенджерах от имени Социального фонда, налоговой службы или Банка России с требованием срочно «переоформить» или «отменить» цифровую доверенность.

Как работает схема:
Обращаются по имени-отчеству, чтобы вызвать доверие.
Указывают номер телефона «ведомства», куда нужно срочно позвонить.
При звонке запрашивают коды из СМС или убеждают перевести деньги на «безопасный счёт».

Зачем им коды:
Коды нужны для подтверждения смены номера в мобильном банке или на «Госуслугах» — после этого мошенники получают доступ к аккаунтам и счетам.

Что рекомендует ЦБ:
Не отвечать и не перезванивать по указанному номеру.
Настоящие сотрудники госорганов не используют мессенджеры, соцсети или СМС для решения вопросов.
При сомнениях позвонить в организацию по номеру с официального сайта или обратиться в МФЦ.

С 1 января 2026 года федеральный МРОТ установлен на уровне 27 093 рублей в месяц — рост на 20,7% к 2025 году. Показатель привязан к медианной зарплате и не может опускаться ниже 48% от неё.

Региональный МРОТ (с 1 января 2026):
Москва — 39 730 рублей;
Санкт-Петербург — 31 250 рублей;
В северных регионах действуют районные коэффициенты и надбавки сверх МРОТ.

Кому обязаны поднять зарплату:
Повышение касается только сотрудников, у которых зарплата за полностью отработанный месяц оказалась ниже нового минимума. Работодатель может повысить оклад или ввести доплату до уровня МРОТ.

Что входит в МРОТ, а что — сверх него:
В сумму для сравнения с минимумом обычно попадают оклад, постоянные надбавки и регулярные премии. Сверх МРОТ оплачиваются сверхурочные, работа в выходные и праздники, а также районные коэффициенты и северные надбавки.

На что ещё влияет МРОТ:
От показателя зависят расчёты пособий по временной нетрудоспособности, по беременности и родам и ряда других выплат с минимальной расчётной базой.

Штрафы за зарплату ниже МРОТ:
Должностные лица — штраф от 10 до 20 тысяч рублей;
ИП — штраф от 1 до 5 тысяч рублей;
Организации — штраф от 30 до 50 тысяч рублей.
При повторном нарушении санкции ужесточаются.