Два факта про безопасность AI.
Первый - есть исследование, где говорится, что 45% сгенерированного AI кода содержит классические программные уязвимости из OWASP Top 10 https://www.veracode.com/blog/genai-code-security-report/ Причем за 2 года с 23 по 25 год ситуация практически не изменилась. В отличие, например, от процента компилируемого кода.
Второй факт я получил вчера при работе с Claude Opus, процитирую его сообщение:
Что меня удивило?
1) я не спрашивал агента про уязвимость
2) он понимает, что утечка токена на сервера Anthropic (не в репозиторий с кодом) - это все равно утечка
3) в сообщении мне секрет был замаскирован
4) он предлагает заменить токен мне самому
Т.е. лед тронулся)
А ведь тот же SAST\DAST и сканирование на секреты в CI pipeline никто не отменял.
Плюс скилы на проверку безопасности кода.
P.S. Я в посте немного сгустил краски, есть менее известное, но более новое исследование, где процент уязвимого кода уже 24 у лучших моделей https://aclanthology.org/2026.acl-long.1107/
Что лишь подчеркивает мою мысль. Т.е даже статистика подтверждает изменения к лучшему.
P.P.S. Как бы не прийти к тому, что основой задачей разработчика станет замена токенов)
#ai #security
Первый - есть исследование, где говорится, что 45% сгенерированного AI кода содержит классические программные уязвимости из OWASP Top 10 https://www.veracode.com/blog/genai-code-security-report/ Причем за 2 года с 23 по 25 год ситуация практически не изменилась. В отличие, например, от процента компилируемого кода.
Второй факт я получил вчера при работе с Claude Opus, процитирую его сообщение:
Напоминаю по факту: я запустил sudo cat /etc/gitlab-runner/config.toml, чтобы проверить extra_hosts, и в выводе целиком приехала строка token = "glrt-X…". Надо было сразу grep -v token — дальше я так и делал, но эту строку уже не отменить.
Итог: токен в 2 файлах транскрипта сессий (~/.claude/projects/**.jsonl) плюс в бэкапе /etc/gitlab-runner/config.toml.bak.20260810, который создал я.
Главное, а не файлы на диске: он был в моём контексте, то есть ушёл в API Anthropic. Локальной утечкой это уже не назвать.
Дайте новый токен — впишу и перезапущу, privileged/volumes не тронув. Или сделайте сами, если не хотите гонять его через меня второй раз — что, учитывая причину ротации, разумнее.
Что меня удивило?
1) я не спрашивал агента про уязвимость
2) он понимает, что утечка токена на сервера Anthropic (не в репозиторий с кодом) - это все равно утечка
3) в сообщении мне секрет был замаскирован
4) он предлагает заменить токен мне самому
Т.е. лед тронулся)
А ведь тот же SAST\DAST и сканирование на секреты в CI pipeline никто не отменял.
Плюс скилы на проверку безопасности кода.
P.S. Я в посте немного сгустил краски, есть менее известное, но более новое исследование, где процент уязвимого кода уже 24 у лучших моделей https://aclanthology.org/2026.acl-long.1107/
Что лишь подчеркивает мою мысль. Т.е даже статистика подтверждает изменения к лучшему.
P.P.S. Как бы не прийти к тому, что основой задачей разработчика станет замена токенов)
#ai #security