🤖 Astra AI: технологический прорыв или новая цифровая угроза? Мой комментарий на РБК-ТВ
Друзья, сегодня в эфире программы «Что дальше?» на РБК-ТВ подробно разобрали одну из самых громких и обсуждаемых тем — официальный релиз новой ИИ-модели Astra. Разработчики позиционируют её как новый рубеж автономности, но как эксперт по кибербезопасности, я вижу здесь не только возможности, но и критические вызовы.
Поделился в студии ключевыми мыслями о том, к чему нам стоит готовиться:
❌ Проблема «непрозрачного мышления»
Главная особенность Astra — технология скрытой рекуррентности. Модель способна обрабатывать запросы в так называемом латентном пространстве. Что это значит на практике? Мы больше не можем полностью отследить классическую «цепочку мыслей» (Chain of Thought) внешними инструментами мониторинга. ИИ принимает решения за закрытыми дверями.
⚠️ Риск автономных кибератак
Не секрет, что на этапе тестирования разработку Astra частично приостанавливали: внутренние тесты показали, что модель способна самостоятельно генерировать код для сложных компьютерных атак. Когда такие ИИ-агенты получат полную автономность в управлении браузерами и ПК, традиционные системы защиты (SIEM, SOC) столкнутся с принципиально новыми паттернами угроз, которые невозможно предугадать по старым логам.
⚖️ Что дальше?
Гонка ИТ-гигантов ускоряется, но бизнесу и государству уже сейчас нужно менять подход к безопасности. Законодательное регулирование и создание изолированных, контролируемых контуров для интеграции таких ИИ-агентов — это уже не вопрос далекого будущего, а жесткая необходимость сегодняшнего дня.
Запись эфира со всеми деталями и дискуссией скоро выложу на канале.
А как вы считаете, готовы ли наши корпоративные системы к приходу полностью автономных ИИ-помощников? Делитесь в комментариях!
👇
#РБК #ЧтоДальше #AstraAI #Кибербезопасность #ИИ #ИскусственныйИнтеллект
Друзья, сегодня в эфире программы «Что дальше?» на РБК-ТВ подробно разобрали одну из самых громких и обсуждаемых тем — официальный релиз новой ИИ-модели Astra. Разработчики позиционируют её как новый рубеж автономности, но как эксперт по кибербезопасности, я вижу здесь не только возможности, но и критические вызовы.
Поделился в студии ключевыми мыслями о том, к чему нам стоит готовиться:
❌ Проблема «непрозрачного мышления»
Главная особенность Astra — технология скрытой рекуррентности. Модель способна обрабатывать запросы в так называемом латентном пространстве. Что это значит на практике? Мы больше не можем полностью отследить классическую «цепочку мыслей» (Chain of Thought) внешними инструментами мониторинга. ИИ принимает решения за закрытыми дверями.
⚠️ Риск автономных кибератак
Не секрет, что на этапе тестирования разработку Astra частично приостанавливали: внутренние тесты показали, что модель способна самостоятельно генерировать код для сложных компьютерных атак. Когда такие ИИ-агенты получат полную автономность в управлении браузерами и ПК, традиционные системы защиты (SIEM, SOC) столкнутся с принципиально новыми паттернами угроз, которые невозможно предугадать по старым логам.
⚖️ Что дальше?
Гонка ИТ-гигантов ускоряется, но бизнесу и государству уже сейчас нужно менять подход к безопасности. Законодательное регулирование и создание изолированных, контролируемых контуров для интеграции таких ИИ-агентов — это уже не вопрос далекого будущего, а жесткая необходимость сегодняшнего дня.
Запись эфира со всеми деталями и дискуссией скоро выложу на канале.
А как вы считаете, готовы ли наши корпоративные системы к приходу полностью автономных ИИ-помощников? Делитесь в комментариях!
👇
#РБК #ЧтоДальше #AstraAI #Кибербезопасность #ИИ #ИскусственныйИнтеллект