Исследователи разрабатывают "фильтр конфиденциальности", который отключает систему распознования лиц
Каждый раз, когда вы загружаете фотографию или видео в соцсети, системы распознавания лица узнают о вас немного больше: кто вы, где вы и кого вы знаете. Эти алгоритмы постоянно совершенствуются.
Конфиденциальностью и безопасностью данных в социальных сетях озаботились исследователи факультета прикладной науки и техники U of T: они создали алгоритм для динамического разрушения систем распознавания лиц.
Их решение использует методику обучения, которая создает два алгоритма искусственного интеллекта, работающих друг против друга. Аараби и Бозе разработали набор из двух нейронных сетей: первая работает для идентификации лиц, а вторая работает, чтобы нарушить задачу распознавания лиц первой сети (то есть создать сбой). Обе сети постоянно борются между собой и учатся друг у друга, создавая постоянную "гонку вооружений".
Результат - Instagram-подобный фильтр, который можно применять к фотографиям для защиты конфиденциальности. Причем изменения не заметны для человеческого глаза, но значительны для того, чтобы обмануть систему распознования лиц.
Каждый раз, когда вы загружаете фотографию или видео в соцсети, системы распознавания лица узнают о вас немного больше: кто вы, где вы и кого вы знаете. Эти алгоритмы постоянно совершенствуются.
Конфиденциальностью и безопасностью данных в социальных сетях озаботились исследователи факультета прикладной науки и техники U of T: они создали алгоритм для динамического разрушения систем распознавания лиц.
Их решение использует методику обучения, которая создает два алгоритма искусственного интеллекта, работающих друг против друга. Аараби и Бозе разработали набор из двух нейронных сетей: первая работает для идентификации лиц, а вторая работает, чтобы нарушить задачу распознавания лиц первой сети (то есть создать сбой). Обе сети постоянно борются между собой и учатся друг у друга, создавая постоянную "гонку вооружений".
Результат - Instagram-подобный фильтр, который можно применять к фотографиям для защиты конфиденциальности. Причем изменения не заметны для человеческого глаза, но значительны для того, чтобы обмануть систему распознования лиц.