Экспертиза от #РСКБ 👍
В последние две недели представители ведущих американских лабораторий вновь заговорили о рисках утраты контроля над ИИ. Глава Anthropic Дарио Амодеи призвал замедлить развитие фронтир-моделей, Якуб Пачоцки (OpenAI) предупредил о неготовности отрасли к росту возможностей ИИ, а покинувший компанию Джейкоб Коксон – о том, что внутри лабораторий допускают катастрофический сценарий к концу десятилетия.
Для практики ИБ громкие заявления не меняют того, что ИИ уже используется не как автономная угроза, а как инструмент анализа логов и поиска уязвимостей. Но мотивы «заявителей» стоит разобрать отдельно, чтобы понимать, как их «читать» регуляторам и инвесторам.
Эксперт по ИИ Артур Коробкин считает, что мотивация у спикеров двойственная: кроме опасений насчёт агентных систем, в заявлениях есть и экономический расчёт лабораторий. Это заметно, как минимум, по двум аспектам:
Но для ИБ этот расчёт не так важен. Вывод остаётся прежним – критический риск связан не с гипотетическим «поглощением» человечества, а с агентами с избыточными правами, атаками через генеративные модели и системами без аудита.
ИИ в кибербезе при умелом использовании – это не источник катастрофы, а ускоритель работы специалистов по ИБ🌟
В последние две недели представители ведущих американских лабораторий вновь заговорили о рисках утраты контроля над ИИ. Глава Anthropic Дарио Амодеи призвал замедлить развитие фронтир-моделей, Якуб Пачоцки (OpenAI) предупредил о неготовности отрасли к росту возможностей ИИ, а покинувший компанию Джейкоб Коксон – о том, что внутри лабораторий допускают катастрофический сценарий к концу десятилетия.
Для практики ИБ громкие заявления не меняют того, что ИИ уже используется не как автономная угроза, а как инструмент анализа логов и поиска уязвимостей. Но мотивы «заявителей» стоит разобрать отдельно, чтобы понимать, как их «читать» регуляторам и инвесторам.
Эксперт по ИИ Артур Коробкин считает, что мотивация у спикеров двойственная: кроме опасений насчёт агентных систем, в заявлениях есть и экономический расчёт лабораторий. Это заметно, как минимум, по двум аспектам:
⚡️ После письма Амодеи глава OpenAI Сэм Альтман дал понять, что IPO OpenAI в 2026 году несвоевременно – шаг, снижающий регуляторное давление и подогревающий рынок. Но нагляднее противоречие у самого Амодеи: призывая индустрию притормозить, его Anthropic готовит своё IPO на 100 млрд долларов при оценке около 2 трлн, с Nvidia как якорным инвестором.При этом китайцы почти не участвуют в кампании тревоги вокруг лидерства. У них нет ни западных инвесторов под IPO, ни регуляторов, которых нужно убеждать в ответственности.
⚡️ Тот же Амодеи связал расчёт с гонкой против Китая: меры дадут США лидерство ещё на 3-5 лет. Китайские комментаторы прочитали это иначе – как попытку закрепить рыночную монополию под видом заботы о безопасности: если убедить всех, что ИИ решает судьбу человечества, компания-создатель становится «стратегической инфраструктурой», что повышает её цену перед IPO.
Но для ИБ этот расчёт не так важен. Вывод остаётся прежним – критический риск связан не с гипотетическим «поглощением» человечества, а с агентами с избыточными правами, атаками через генеративные модели и системами без аудита.
ИИ в кибербезе при умелом использовании – это не источник катастрофы, а ускоритель работы специалистов по ИБ🌟