ИИ-дайджест: 31 августа — 6 сентября
Экспериментирую с новой рубрикой - комментирую новости в мире ИИ и рассказываю как это использовать для бизнеса.
Если коротко, главный сюжет этой недели такой:
ИИ-агентам дают всё больше полномочий — и одновременно всё сильнее ограничивают их свободу.
OpenAI, Google и Anthropic почти синхронно показали новые решения для сложных автономных задач. Но вместе с возможностями моделей растёт и внимание к тому, что именно им можно разрешать делать без человека.
Собрала 4 новости, на которые я бы обратила внимание.
1⃣ OpenAI выпустила GPT-6 Astra и впервые отнесла модель к критическому киберуровню
У Astra заметно выросли возможности работы с компьютером, браузером, кодом и длинными многошаговыми задачами.
Но примечательнее другое.
OpenAI отнесла модель к уровню Critical по кибервозможностям: во время тестирования Astra находила ранее неизвестные уязвимости и могла выстраивать цепочки их эксплуатации. Поэтому вместе с моделью появляются дополнительные ограничения, мониторинг и возможность остановки потенциально несанкционированных действий.
Для бизнеса это хороший маркер.
Когда мы говорим об ИИ-агентах, вопрос уже не только в том, насколько хорошо агент выполняет задачу.
Нужно заранее решить:
— куда он имеет доступ;
— что может делать самостоятельно;
— где требуется подтверждение человека;
— какие действия должны записываться в журнал;
— кто и в какой момент может его остановить.
Чем самостоятельнее становятся агенты, тем важнее становится архитектура контроля вокруг них.
2⃣ Google учит агентов не только находить уязвимости, но и исправлять их
2 сентября Google открыла ограниченную Fairwind Program для государственных структур и доверенных партнёров.
Gemini 3.8 Flash Cyber вместе с CodeMender сможет автономно искать уязвимости, проверять их и готовить исправления в защищённом облачном контуре. То есть ИИ постепенно переходит от:
«Я нашёл проблему»
к:
«Я нашёл проблему, подготовил исправление и проверил его».
Разница существенная.
Следующий вопрос для компаний — насколько далеко такого агента можно допускать в реальную инфраструктуру.
Пока логика вполне осторожная: не давать ему прямой доступ к production, а строить промежуточный контур проверки и развёртывания.
3⃣Anthropic пытается решить неприятную корпоративную дилемму: как контролировать агентов, не отдавая их данные наружу
1 сентября Anthropic представила Enterprise Frontier Safeguards.
Идея в том, чтобы совместить две вещи, которые обычно конфликтуют:
приватность корпоративных данных + мониторинг потенциально опасных действий ИИ.
Данные для мониторинга остаются в облачной инфраструктуре самого заказчика, а компания получает сигналы об аномалиях и сама принимает решение, что с ними делать.
Пилотирование запланировано на осень.
Для банков, фармы, телекома и других регулируемых отраслей это может быть довольно важным направлением.
Потому что один из постоянных вопросов при внедрении ИИ звучит примерно так:
«Чтобы контролировать модель, кому мы должны показать наши данные?»
Anthropic предлагает вариант ответа: возможно, никому.
4. MWS Cloud добавила GLM-5.3 в российский облачный контур
4 сентября MWS Cloud сообщила о доступности GLM-5.3 в GPT Model Hub.
Модель ориентирована на код и сложные многошаговые агентские сценарии и доступна через OpenAI-совместимый API.
По заявлению сервиса, запросы и ответы не сохраняются и обрабатываются внутри защищённого контура MWS Cloud.
Для российского B2B здесь интересно не появление ещё одной модели само по себе.
Интереснее возможность тестировать более сложные агентские сценарии там, где есть требования к размещению данных и интеграции с корпоративной инфраструктурой.
Остаётся главный вопрос — как модель покажет себя не на бенчмарках, а на реальных задачах компаний.
За чем буду следить дальше
В первую очередь — за тем, во что превратится контроль ИИ-агентов на практике.
Пока вокруг них постепенно складывается новая инфраструктура: права доступа, подтверждения, мониторинг, журналы действий, изолированные среды, человек в контуре.
И, похоже, именно этот слой скоро станет не менее важным при внедрении ИИ, чем выбор самой модели.
Второе — насколько хорошо локально доступные модели вроде GLM-5.3 справляются с настоящими корпоративными задачами, особенно с кодом и многошаговыми процессами.
Если такой формат окажется полезным, буду раз в неделю собирать сюда несколько новостей, которые важны не сами по себе, а с точки зрения того, что они меняют для бизнеса и работы с ИИ.
Экспериментирую с новой рубрикой - комментирую новости в мире ИИ и рассказываю как это использовать для бизнеса.
Если коротко, главный сюжет этой недели такой:
ИИ-агентам дают всё больше полномочий — и одновременно всё сильнее ограничивают их свободу.
OpenAI, Google и Anthropic почти синхронно показали новые решения для сложных автономных задач. Но вместе с возможностями моделей растёт и внимание к тому, что именно им можно разрешать делать без человека.
Собрала 4 новости, на которые я бы обратила внимание.
1⃣ OpenAI выпустила GPT-6 Astra и впервые отнесла модель к критическому киберуровню
У Astra заметно выросли возможности работы с компьютером, браузером, кодом и длинными многошаговыми задачами.
Но примечательнее другое.
OpenAI отнесла модель к уровню Critical по кибервозможностям: во время тестирования Astra находила ранее неизвестные уязвимости и могла выстраивать цепочки их эксплуатации. Поэтому вместе с моделью появляются дополнительные ограничения, мониторинг и возможность остановки потенциально несанкционированных действий.
Для бизнеса это хороший маркер.
Когда мы говорим об ИИ-агентах, вопрос уже не только в том, насколько хорошо агент выполняет задачу.
Нужно заранее решить:
— куда он имеет доступ;
— что может делать самостоятельно;
— где требуется подтверждение человека;
— какие действия должны записываться в журнал;
— кто и в какой момент может его остановить.
Чем самостоятельнее становятся агенты, тем важнее становится архитектура контроля вокруг них.
2⃣ Google учит агентов не только находить уязвимости, но и исправлять их
2 сентября Google открыла ограниченную Fairwind Program для государственных структур и доверенных партнёров.
Gemini 3.8 Flash Cyber вместе с CodeMender сможет автономно искать уязвимости, проверять их и готовить исправления в защищённом облачном контуре. То есть ИИ постепенно переходит от:
«Я нашёл проблему»
к:
«Я нашёл проблему, подготовил исправление и проверил его».
Разница существенная.
Следующий вопрос для компаний — насколько далеко такого агента можно допускать в реальную инфраструктуру.
Пока логика вполне осторожная: не давать ему прямой доступ к production, а строить промежуточный контур проверки и развёртывания.
3⃣Anthropic пытается решить неприятную корпоративную дилемму: как контролировать агентов, не отдавая их данные наружу
1 сентября Anthropic представила Enterprise Frontier Safeguards.
Идея в том, чтобы совместить две вещи, которые обычно конфликтуют:
приватность корпоративных данных + мониторинг потенциально опасных действий ИИ.
Данные для мониторинга остаются в облачной инфраструктуре самого заказчика, а компания получает сигналы об аномалиях и сама принимает решение, что с ними делать.
Пилотирование запланировано на осень.
Для банков, фармы, телекома и других регулируемых отраслей это может быть довольно важным направлением.
Потому что один из постоянных вопросов при внедрении ИИ звучит примерно так:
«Чтобы контролировать модель, кому мы должны показать наши данные?»
Anthropic предлагает вариант ответа: возможно, никому.
4. MWS Cloud добавила GLM-5.3 в российский облачный контур
4 сентября MWS Cloud сообщила о доступности GLM-5.3 в GPT Model Hub.
Модель ориентирована на код и сложные многошаговые агентские сценарии и доступна через OpenAI-совместимый API.
По заявлению сервиса, запросы и ответы не сохраняются и обрабатываются внутри защищённого контура MWS Cloud.
Для российского B2B здесь интересно не появление ещё одной модели само по себе.
Интереснее возможность тестировать более сложные агентские сценарии там, где есть требования к размещению данных и интеграции с корпоративной инфраструктурой.
Остаётся главный вопрос — как модель покажет себя не на бенчмарках, а на реальных задачах компаний.
За чем буду следить дальше
В первую очередь — за тем, во что превратится контроль ИИ-агентов на практике.
Пока вокруг них постепенно складывается новая инфраструктура: права доступа, подтверждения, мониторинг, журналы действий, изолированные среды, человек в контуре.
И, похоже, именно этот слой скоро станет не менее важным при внедрении ИИ, чем выбор самой модели.
Второе — насколько хорошо локально доступные модели вроде GLM-5.3 справляются с настоящими корпоративными задачами, особенно с кодом и многошаговыми процессами.
Если такой формат окажется полезным, буду раз в неделю собирать сюда несколько новостей, которые важны не сами по себе, а с точки зрения того, что они меняют для бизнеса и работы с ИИ.