Репост из: llm security и каланы
Главным событием на пересечении ИИ×ИБ в 2026 на текущий момент является переход LLM-агентами порога, за которым они становятся полезными для поиска уязвимостей. Даниэль Стенберг, мейнтейнер cURL, который в январе из-за вала слоп-репортов закрыл Bug Bounty, в апреле написал «The slop situation is not a problem anymore». Уровень тревоги в сообществе поддерживается маркетинговым департаментом Anthropic, размеренно выдающим материалы сначала про Opus 4.6, затем про Mythos: 500 автономно найденных уязвимостей в опенсорсе, 22 уязвимости в Firefox (с подробностями), 20-летний баг в ядре Линукс от Николаса Карлини на unprompted, переход от обнаружения к эксплуатации с Mythos (плюс баг в OpenBSD), анонс Project Glasswing с доступом для партнеров, апдейт с инфой о 6 тысячах найденных уязвимостей, оцененных как критичные или high severity, из которых оценено 1700 и 90% были True Positive, и, наконец, дашборд по раскрытию найденных уязвимостей.
В большинстве ранних статей Anthropic подчеркивается, что уязвимости находятся простым промптингом с легким агентным harness (вот код, вот терминал, ищи вульны). При этом некоторые компании, особенно с бэкграундом в поиске уязвимостей, уже имеют более продвинутые системы, в результате чего за неполные пять месяцев мы получаем следующее:
1. Январь: AISLE находит 12 уязвимостей в OpenSSL
2. Апрель: Theori с помощью Xint нашла повышение привилегий в Linux, известную как CopyFail
3. Апрель: еще 5 уязвимостей в OpenSSL от AISLE
4. Май: Схожая уязвимость под названием DirtyFrag, которую опубликовал ИИ-исследователь Хён-у Ким – о применении LLM нигде явно не упоминается, но обстоятельства и бэкграунд исследователя намекают
5. Май: Depthfirst заявляют о том, что их система автономно нашла критическую уязвимость в Nginx, названную Rift
6. Май: Zellic рассказывают, что с помощью их агента v12 найдена еще одна уязвимость типа CopyFail – Fragnesia
7. Май: Microsoft рассказывают о MDASH, системе, обнаружившей 16 уязвимостей из Petch Tuesday
При этом ведущие провайдеры LLM выкручивают на максимум детекторы активности, похожей на кибербезопасную, и отключают только по паспорту (см. OpenAI TAC, Anthropic CVP). Единственной сопоставимой по качеству открытой моделью, исходя из ненадежных данных бенчмарков, является большой и дорогой GLM-5.1.
Итого, что мы видим:
- Уязвимости действительно могут находиться как минимум автоматизированно, доля FP в LLM-аудите снижается
- Нахождение уязвимости на примере CopyFail в сложных кодбазах приводит к резкому обнаружению похожих уязвимостей – подход, о котором рассказывали Google в блоге про BigSleep
- Время до появления эксплойта будет стремиться к одному дню (сейчас – 1.6 https://zerodayclock.com/), LLM-написанные эксплойты будут появляться чаще – по примеру кейса от GTIG
Будущее продолжает приходить.
В большинстве ранних статей Anthropic подчеркивается, что уязвимости находятся простым промптингом с легким агентным harness (вот код, вот терминал, ищи вульны). При этом некоторые компании, особенно с бэкграундом в поиске уязвимостей, уже имеют более продвинутые системы, в результате чего за неполные пять месяцев мы получаем следующее:
1. Январь: AISLE находит 12 уязвимостей в OpenSSL
2. Апрель: Theori с помощью Xint нашла повышение привилегий в Linux, известную как CopyFail
3. Апрель: еще 5 уязвимостей в OpenSSL от AISLE
4. Май: Схожая уязвимость под названием DirtyFrag, которую опубликовал ИИ-исследователь Хён-у Ким – о применении LLM нигде явно не упоминается, но обстоятельства и бэкграунд исследователя намекают
5. Май: Depthfirst заявляют о том, что их система автономно нашла критическую уязвимость в Nginx, названную Rift
6. Май: Zellic рассказывают, что с помощью их агента v12 найдена еще одна уязвимость типа CopyFail – Fragnesia
7. Май: Microsoft рассказывают о MDASH, системе, обнаружившей 16 уязвимостей из Petch Tuesday
При этом ведущие провайдеры LLM выкручивают на максимум детекторы активности, похожей на кибербезопасную, и отключают только по паспорту (см. OpenAI TAC, Anthropic CVP). Единственной сопоставимой по качеству открытой моделью, исходя из ненадежных данных бенчмарков, является большой и дорогой GLM-5.1.
Итого, что мы видим:
- Уязвимости действительно могут находиться как минимум автоматизированно, доля FP в LLM-аудите снижается
- Нахождение уязвимости на примере CopyFail в сложных кодбазах приводит к резкому обнаружению похожих уязвимостей – подход, о котором рассказывали Google в блоге про BigSleep
- Время до появления эксплойта будет стремиться к одному дню (сейчас – 1.6 https://zerodayclock.com/), LLM-написанные эксплойты будут появляться чаще – по примеру кейса от GTIG
Будущее продолжает приходить.