И снова реальность не справляется с генеративным ИИ:
Один из доставщиков американского сервиса DoorDash в городе Остин не доставлял заказы, а вместо этого отправлял клиентам (и загружал в систему контроля) нейро-генерации с мест доставки, будто заказ стоит у двери. Фотки выглядели на 100% правдоподобно, из-за чего Дордэш сначала верил доставщику и отвечал жалующимся клиентам: "Вы всё получили, не гоните тут".
Но жалоб стало слишком много, так что сервису пришлось проводить расследование. Он всё выяснил и заблокировал аккаунт курьера. А обманутым клиентам компенсировал баланс для будущих заказов.
На самом деле вот такой мелкий нейро-скам - это очень большая проблема для многих сервисов, где нужно обязательно визуально подтвердить завершение услуги. В первую очередь это касается доставки. Но не только. Например, в каршеринге/кикшеринге можно заехать на тротуар или перекрыть проезд, скинуть нейро-фотку будто с нормального парковочного места, а GPS и геофенс лишние пол метра вряд ли засекут.
Получается, фото больше не является железобетонным пруфом, и доверие превращается в новую точку уязвимости. Сервисам придётся внедрять более сложный антифрод - например, анализировать метаданные фото, требовать прислать видео (а это потребует больше мощностей на загрузку и обработку), а также чаще проверять курьеров и юзеров, делать больше превентивных блокировок "по подозрению" и чуть отойти от презумпции невиновности. Всё это потребует дополнительных издержек и сделает пользовательский опыт менее дружелюбным.
Ещё вариант - внедрить ответные ML-проверки. Но тут мы возвращаемся к старой-доброй бесконечной игре в кошки-мышки, где ИИ-скам постоянно бодается с ИИ-антифродом.
В доставке возможен ещё один радикальный вариант - полная автоматизация. Если заменить всех курьеров роботами, то и скама не будет. Разве что роботы станут слишком умными и у них появятся какие-то свои интересы 🤔
Фичизм
Один из доставщиков американского сервиса DoorDash в городе Остин не доставлял заказы, а вместо этого отправлял клиентам (и загружал в систему контроля) нейро-генерации с мест доставки, будто заказ стоит у двери. Фотки выглядели на 100% правдоподобно, из-за чего Дордэш сначала верил доставщику и отвечал жалующимся клиентам: "Вы всё получили, не гоните тут".
Но жалоб стало слишком много, так что сервису пришлось проводить расследование. Он всё выяснил и заблокировал аккаунт курьера. А обманутым клиентам компенсировал баланс для будущих заказов.
На самом деле вот такой мелкий нейро-скам - это очень большая проблема для многих сервисов, где нужно обязательно визуально подтвердить завершение услуги. В первую очередь это касается доставки. Но не только. Например, в каршеринге/кикшеринге можно заехать на тротуар или перекрыть проезд, скинуть нейро-фотку будто с нормального парковочного места, а GPS и геофенс лишние пол метра вряд ли засекут.
Получается, фото больше не является железобетонным пруфом, и доверие превращается в новую точку уязвимости. Сервисам придётся внедрять более сложный антифрод - например, анализировать метаданные фото, требовать прислать видео (а это потребует больше мощностей на загрузку и обработку), а также чаще проверять курьеров и юзеров, делать больше превентивных блокировок "по подозрению" и чуть отойти от презумпции невиновности. Всё это потребует дополнительных издержек и сделает пользовательский опыт менее дружелюбным.
Ещё вариант - внедрить ответные ML-проверки. Но тут мы возвращаемся к старой-доброй бесконечной игре в кошки-мышки, где ИИ-скам постоянно бодается с ИИ-антифродом.
В доставке возможен ещё один радикальный вариант - полная автоматизация. Если заменить всех курьеров роботами, то и скама не будет. Разве что роботы станут слишком умными и у них появятся какие-то свои интересы 🤔
Фичизм