Разработчик Google Brain нашел способ защитить нейросети от хакерских атак
Исследователь из лаборатории Google Brain Ян Гудфеллоу в ходе ежегодной конференции MIT Technology Review EmTech Digital в Сан-Франциско заявил о необходимости защитить системы искусственного интеллекта от возможных атак и ошибочных решений.
Ян Гудфеллоу отмечает, что при разработке операционных систем в прошлом защита от взлома была добавлена уже после того, как они начали применяться. Это ошибка, которую нельзя допускать в случае с искусственным интеллектом, подчеркнул исследователь.
Для развития надежной защиты ИИ от возможных атак Гудфеллоу предлагает использовать созданные им генеративно-состязательные сети (GAN). Речь идет об алгоритме машинного обучения, основанном на сочетании двух нейросетей, одна из которых создает образы, а другая отличает подлинные образы от ложных. Такая состязательная составляющая позволяет системе обнаруживать атаки и бороться с ними.
Гудфеллоу отмечает, что проблемы безопасности систем ИИ пока носят теоретический характер, однако, по его мнению, разработчики должны уделить им должное внимание уже сейчас, чтобы избежать проблем в будущем.
Подписывайтесь на MarkLog – журнал о машинном обучении, искусственном интеллекте и высоких технологиях для data-специалистов, разработчиков и энтузиастов.
Исследователь из лаборатории Google Brain Ян Гудфеллоу в ходе ежегодной конференции MIT Technology Review EmTech Digital в Сан-Франциско заявил о необходимости защитить системы искусственного интеллекта от возможных атак и ошибочных решений.
Ян Гудфеллоу отмечает, что при разработке операционных систем в прошлом защита от взлома была добавлена уже после того, как они начали применяться. Это ошибка, которую нельзя допускать в случае с искусственным интеллектом, подчеркнул исследователь.
Для развития надежной защиты ИИ от возможных атак Гудфеллоу предлагает использовать созданные им генеративно-состязательные сети (GAN). Речь идет об алгоритме машинного обучения, основанном на сочетании двух нейросетей, одна из которых создает образы, а другая отличает подлинные образы от ложных. Такая состязательная составляющая позволяет системе обнаруживать атаки и бороться с ними.
Гудфеллоу отмечает, что проблемы безопасности систем ИИ пока носят теоретический характер, однако, по его мнению, разработчики должны уделить им должное внимание уже сейчас, чтобы избежать проблем в будущем.
Подписывайтесь на MarkLog – журнал о машинном обучении, искусственном интеллекте и высоких технологиях для data-специалистов, разработчиков и энтузиастов.