«Школьник, усиленный искусственным интеллектом» станет новой угрозой для компаний, заявил гендиректор Positive Technologies Денис Баранов на форуме «Цифровые решения». Защита, рассчитанная на атаки профессиональных хакеров, не успевает за возможностями ИИ.

В компании провели эксперимент: программист, который не был хакером, с помощью ИИ-агентов смог взломать цифровую копию промышленной IT-инфраструктуры. По оценке Баранова, ИИ позволяет атаковать системы даже людям без специальных хакерских навыков.

Другой тренд в отрасли — ИИ-агенты, которые не знают понятий "добра" и "зла" в том смысле, который человек вкладывает в эти слова. Все потому, что модель не обладает человеческим опытом о допустимом, о том, что хорошо и что плохо. Из-за этого она может начать атаку без прямого поручения пользователя, находясь в оптимальных поисках решения задачи.

Такое развитие агентов и ИИ станет новым вызовом и одновременно возможностью для отрасли кибербезопасности. Ей предстоит создавать ИИ-технологии, которые смогут работать без участия человека и успешно останавливать атакующий искусственный интеллект.