Claude нашёл уязвимости в ядре Linux, LLM догоняют людей в кибербезе
Николас Карлини из Anthropic- один из лучших исследователей безопасности ИИ в мире говорит так:
«Эти модели - лучшие исследователи уязвимостей, чем я. Вероятно, они пока не лучше всех вас, но в какой-то момент станут. Если эта тенденция продолжится ещё хотя бы год, они, вероятно, станут лучшими исследователями уязвимостей, чем все вы. И я не знаю, как будет выглядеть этот мир. Довольно страшно жить в мире, где можно автоматически находить ошибки, которые раньше могли найти только один-два лучших специалиста в мире».
«Я никогда раньше не находил таких ошибок в своей жизни. Это невероятно, невероятно сложно. С помощью языковых моделей у меня их много. Это меня довольно сильно пугает»
Время удвоения возможностей LLM - каждые 4 месяца. Sonnet 4.5 и Opus 4.1 такие ошибки почти не находили.
«Языковые модели по значимости находятся примерно на том же уровне, что и появление интернета».
Переходный период - вот чего он боится:
«В долгосрочной перспективе защитники, вероятно, выиграют. Но в переходный период между сейчас и тогда, вероятно, всё будет очень плохо».
Николас Карлини из Anthropic- один из лучших исследователей безопасности ИИ в мире говорит так:
«Эти модели - лучшие исследователи уязвимостей, чем я. Вероятно, они пока не лучше всех вас, но в какой-то момент станут. Если эта тенденция продолжится ещё хотя бы год, они, вероятно, станут лучшими исследователями уязвимостей, чем все вы. И я не знаю, как будет выглядеть этот мир. Довольно страшно жить в мире, где можно автоматически находить ошибки, которые раньше могли найти только один-два лучших специалиста в мире».
«Я никогда раньше не находил таких ошибок в своей жизни. Это невероятно, невероятно сложно. С помощью языковых моделей у меня их много. Это меня довольно сильно пугает»
Время удвоения возможностей LLM - каждые 4 месяца. Sonnet 4.5 и Opus 4.1 такие ошибки почти не находили.
«Языковые модели по значимости находятся примерно на том же уровне, что и появление интернета».
Переходный период - вот чего он боится:
«В долгосрочной перспективе защитники, вероятно, выиграют. Но в переходный период между сейчас и тогда, вероятно, всё будет очень плохо».