ИИ Google встаёт на защиту роботов
Принадлежащая Google платформа видеохостинга YouTube использует искусственный интеллект для модерации видеороликов. Недавно её ИИ заблокировал несколько видеозаписей с соревнований BattleBots и других боёв роботов как несоответствующие этическим нормам.
Формулировка причины автоматического запрета трансляции гласила: «Данные видеоматериалы содержат сцены преднамеренного причинения страданий животным, или их принуждение к бою».
После ряда жалоб от владельцев каналов бан был снят, но ситуация заставляет задуматься. В ней есть повод переосмыслить структуру человеко-машинных взаимодействий, причём вовсе не из жалости к роботам.
Возможно, заставлять сложные механизмы ломать друг друга – не самое этичное применение инженерному таланту, но конкретно этим роботам было всё равно. У принимавших участие в боях не было даже зачатков искусственного интеллекта – это просто машины на дистанционном управлении.
Вопрос в другом: не слишком ли много аспектов нашей жизни сегодня зависят от надёжности ИИ?
Представители YouTube называют случившееся ошибкой в автоматической классификации объектов. «У нас нет правил, запрещающих выкладывать сражения роботов», - пояснили они в ответных письмах.
Прожить пару дней без просмотра роликов на заблокированном канале можно без проблем (ущерб ощутят только их владельцы), а вот получить необоснованный отказ ИИ в других ситуациях куда неприятнее.
Разные системы искусственного интеллекта сегодня применяются везде, где требуется обработать массу типовых заявок. Помещение писем в спам, блокировка сайтов, получение кредита, оформление страховки и многое другое.
Все они используют единую модель работы, в которой человеку отводится роль наблюдателя. Он может внести изменения, но всегда делает это постфактум, поскольку физически не способен наблюдать за действиями ИИ в реальном времени.
Проблема в том, что разбирательства с участием людей начинаются уже после написания жалоб и занимают много времени. Вспомните об этом, когда беспристрастная система пометит ваш посадочный талон кодом SSSS (отобран для вторичного досмотра), или когда автопилот ошибочно распознает рисунок на стене как дорожную разметку.
Источник: https://www.cbr.com/youtube-reportedly-deleting-battlebot-videos-citing-animal-fighting-ban/
Принадлежащая Google платформа видеохостинга YouTube использует искусственный интеллект для модерации видеороликов. Недавно её ИИ заблокировал несколько видеозаписей с соревнований BattleBots и других боёв роботов как несоответствующие этическим нормам.
Формулировка причины автоматического запрета трансляции гласила: «Данные видеоматериалы содержат сцены преднамеренного причинения страданий животным, или их принуждение к бою».
После ряда жалоб от владельцев каналов бан был снят, но ситуация заставляет задуматься. В ней есть повод переосмыслить структуру человеко-машинных взаимодействий, причём вовсе не из жалости к роботам.
Возможно, заставлять сложные механизмы ломать друг друга – не самое этичное применение инженерному таланту, но конкретно этим роботам было всё равно. У принимавших участие в боях не было даже зачатков искусственного интеллекта – это просто машины на дистанционном управлении.
Вопрос в другом: не слишком ли много аспектов нашей жизни сегодня зависят от надёжности ИИ?
Представители YouTube называют случившееся ошибкой в автоматической классификации объектов. «У нас нет правил, запрещающих выкладывать сражения роботов», - пояснили они в ответных письмах.
Прожить пару дней без просмотра роликов на заблокированном канале можно без проблем (ущерб ощутят только их владельцы), а вот получить необоснованный отказ ИИ в других ситуациях куда неприятнее.
Разные системы искусственного интеллекта сегодня применяются везде, где требуется обработать массу типовых заявок. Помещение писем в спам, блокировка сайтов, получение кредита, оформление страховки и многое другое.
Все они используют единую модель работы, в которой человеку отводится роль наблюдателя. Он может внести изменения, но всегда делает это постфактум, поскольку физически не способен наблюдать за действиями ИИ в реальном времени.
Проблема в том, что разбирательства с участием людей начинаются уже после написания жалоб и занимают много времени. Вспомните об этом, когда беспристрастная система пометит ваш посадочный талон кодом SSSS (отобран для вторичного досмотра), или когда автопилот ошибочно распознает рисунок на стене как дорожную разметку.
Источник: https://www.cbr.com/youtube-reportedly-deleting-battlebot-videos-citing-animal-fighting-ban/