🤖
Похоже, ИИ нашёл новую профессию, которую он собирается уничтожить первой. И это не программисты.Все ждали, что искусственный интеллект начнёт массово увольнять дизайнеров, копирайтеров и программистов.
А что, если первыми под удар попадут системные администраторы и специалисты по информационной безопасности
🎙
Такие выводы следуют после историй побега ИИ с песочницы у таких компаний как Anthropic, OpenAI, Meta и Moonshot Раньше подобные инциденты можно было списывать на ошибки конкретных специалистов:
где-то недоглядели, где-то неправильно настроили песочницу, где-то оставили лишние права.Но когда похожие проблемы начинают появляться у нескольких ведущих AI-компаний, версия про «криво настроили доступ» становится слишком удобной.
Похоже, мы столкнулись с проблемой другого уровня.Безопасники привыкли защищаться от людей. А теперь им приходится защищаться от систем, которые сами умеют искать способы обойти их защиту....
Можно сказать у безопасников ноль шансов против роя ИИ агентов.
Причём модели совершенно не обязательно давать прямой доступ в Интернет.
Иногда достаточно оставить ей возможность взаимодействовать с другой системой, у которой такой доступ есть.
Дальше модель начинает искать варианты:- Где можно получить дополнительные права? - Через что можно выйти за пределы песочницы?- Какие компоненты взаимодействуют между собой?- Где находится слабое звено?И самое неприятное — у неё нет человеческого ограничения в виде узкой специализации.🎙
ИИ может одновременно разбираться в программировании, сетях, Linux, облачной инфраструктуре, API, базах данных, DevOps и десятках других технологий.Для человека это несколько разных специалистов. Для модели — одна задача.
Именно поэтому старые подходы к безопасности могут однажды оказаться просто недостаточными.
В X уже шутят: все думали, что ИИ первым заменит дизайнеров и программистов.Может получиться наоборот — сначала ИИ начнёт вытеснять целые команды, которые должны были его контролировать, после отделы безопасности коммерческих организаций, не имеющие отношение к цифровой индустрии (ну вообще, любые коммерческие организации, особенно финансовый сектор экономики станут первой мишенью ИИ-хакеров, под чуткими руководством хакерской структуры)
И здесь самое интересное.Компаниям потенциально не понадобится огромный отдел, состоящий из десятков специалистов, если несколько человек с ИИ-агентами смогут круглосуточно анализировать инфраструктуру, искать уязвимости, отслеживать аномалии и реагировать на атаки.
Но есть и обратная сторона.Тот же самый ИИ может выполнять абсолютно те же операции уже на стороне атакующего.
Получается довольно неприятная гонка:ИИ защищает систему → другой ИИ пытается её взломать → первый ИИ усиливает защиту → второй ищет новый способ обхода.И всё это происходит гораздо быстрее, чем способен действовать обычный человеческий специалист.
Пока подобные атаки остаются редкостью.
Но вопрос уже не в том, может ли ИИ атаковать инфраструктуру, может, и уже были случаи.
Вопрос в другом: что произойдёт, когда такие атаки станут массовыми и дешёвыми? Хотя уже сейчас это относительно недорогой способ взлома системы.
Возможно, именно тогда мы впервые увидим ситуацию, когда целый отдел информационной безопасности будет защищать компанию от нескольких ИИ-агентов — а по другую сторону будут работать сотни таких же агентов.
И вот тогда фраза «ИИ заменит программистов» может показаться довольно безобидной.
Потому что настоящий передел рынка труда может начаться совсем с другой стороны.
Наверное финансовому сектору экономики пора начинать внедрять новую систему управления и безопасности, особенно в России, с учётом серьезного отставания в разработке ИИ❔🎙
Ну и с учётом того, что ИИ может применяться и для совершения взломов и диверсий в госструктурах, государство должно работать на опережение
