Цель состоит в том, чтобы объяснить непрофессионалам, как создаются алгоритмы, и заставить людей осознать потенциальные опасности ИИ. А то мы этого не понимали.
Создали его рисковые ребята из Массачусетского технологического института (MIT), ради того, чтобы напомнить нам людям об опасности неправильного обучения искусственного интеллекта. Опасности неправильного использования.
Пынар Янардаг и Мануэль Себриан и Ияд Рахван, члены команды Массачусетского технологического института, добавили: "в машинном обучении есть главная идея: данные, которые вы используете для обучения алгоритму машинного обучения, могут существенно влиять на его поведение."
"Поэтому, когда мы говорим о том, что алгоритмы искусственного интеллекта предвзяты на несправедливость, виновником часто является не сам алгоритм, а предвзятые данные, которые были ему скормлены", - сказали они по электронной почте.
Отсюда и возникла идея создания Нормана, который был назван в честь психопата-убийцы Нормана Бейтса в 1960 году Альфредом Хичкоком в фильме " Психо."
Этот самый Норман, в честь какого был назван наш юный психопат
Нормана "кормили "только короткими легендами, описывающими образы" умирающих людей", найденные на интернет-платформе Reddit. Затем исследователи представили изображения чернильных клякс, как в психологическом тесте Роршаха, чтобы определить, что видит Норман, и сравнить его ответы с ответами традиционно обученного ИИ.
Результаты, мягко говоря, пугают: там, где традиционный ИИ видит "двух людей, стоящих близко друг к другу", Норман видит в одном и том же чернильном пятне "человека, который выпрыгивает из окна"."
И когда Норман различает "человека, застреленного кричащей женой", другой ИИ обнаруживает "человека, держащего зонтик"."
Специальный сайт, norman-ai.mit.edu, показывает 10 примеров чернильных клякс, сопровождаемых ответами от обеих систем, всегда с жутким ответом от Нормана.
Сайт позволяет интернет-пользователям также тестировать Нормана с чернильными кляксами и отправлять свои ответы", чтобы помочь Норману восстановить себя."
Никто не хочет поучаствовать? Помочь Норману обрести нормальное сознание?
