💰 ИИ и пишет код, и проверяет его на дыры | А так же уверенно хоронит настоящие
Уверенность модели ничего не стоит: она с оценкой 1.0 назвала живой GitLab-токен «заглушкой в тесте» и закрыла его, а тысячу верных вердиктов никто не заметит, зато одну такую галлюцинацию запомнят надолго.
— В данной статье разберем, почему дефекты в ИИ-коде идут пачками и как выстроить надёжную схему: модель предполагает, улики и правила решают, а перевод находки в «ложные» без человека не автоматизируют вообще.
💬 https://tproger.ru/articles/ai-piwet-ai-proveryaet-pochemu-uyazvimosti-poyavlyayutsya-pachkami-i-k
#BlueTeam #AppSec #AIThreats
Secure Sector.
Генеративный код пишут быстрее, чем ревьюят, поэтому сработок сканеров стало в разы больше, а на их разбор ставят ту же нейросеть, что код и написала.
Уверенность модели ничего не стоит: она с оценкой 1.0 назвала живой GitLab-токен «заглушкой в тесте» и закрыла его, а тысячу верных вердиктов никто не заметит, зато одну такую галлюцинацию запомнят надолго.
— В данной статье разберем, почему дефекты в ИИ-коде идут пачками и как выстроить надёжную схему: модель предполагает, улики и правила решают, а перевод находки в «ложные» без человека не автоматизируют вообще.
💬 https://tproger.ru/articles/ai-piwet-ai-proveryaet-pochemu-uyazvimosti-poyavlyayutsya-pachkami-i-k
#BlueTeam #AppSec #AIThreats
Secure Sector.