Репост из: Дизраптор
Как эйай подставляет бизнес
У Google есть фича AI Overviews. Если вбить что-то в Гугл, то он выдаст комбинированный результат из обычного поиска и генеративного ИИ. Найдет инфу на каких-то сайтах, добавит туда выжимку из Gemini, переварит всё это дело и выплюнет в виде "готового ответа" прям внутри поисковика. Думаю, вы видели такую штуку.
Так вот, один ресторанчик из США серьёзно пострадал от этой фичи. Владелец ресторана утверждает, что ИИ Гугла галлюционировал и выдавал пользователям несуществующие продукты и акции. Выдумывал блюда, которых в ресторане нет, либо давал липовые акции - например, "большая пицца по цене маленькой".
Люди клевали на эти офферы и шли в рестик, а официанты лишь глазами хлопали. Люди бесились, наезжали на ресторан, ставили одну звезду в отзывах. Говорили: "Какого хрена, вы же в гуголе вон пишете... А ну гоните мою большую пиццу за 3 бакса!!!" То что ресторан вообще не при делах - понятное дело, юзеров не волновало. И их тоже можно понять.
В итоге, у нас есть несколько вопросов:
1. Что делать малому/среднему бизнесу, если он серьезно пострадает из-за ошибок ИИ? Ведь у него, малого/среднего бизнеса, нет пиар-отделов и кучи юристов.
2. Что будет при подобных косяках в более критичных сферах, чем "покушать пиццы"? Например, ИИ глюкнет и всем скажет, что авиакомпания даёт бесплатный багаж, а это не так? Или что кредит можно погасить досрочно или с меньшей ставкой? А если вообще что-то связанное со здоровьем?
Можно ответить: "Юзер, ну ты же уже взрослый - не верь всему, что на заборе написано, перепроверяй исходную инфу". Но мы же все понимаем, что большинство обычных пользователей не столь прошаренные и дисциплинированные. Они будут слепо верить. Особенно по мере ещё большего проникновения эйай. А итог - недовольные люди, пострадавший бизнес, издержки, иски.
Понятно, что без подобных фрикций не обходится адопшен любой новой важной технологии. Но а) повсеместность генеративного ИИ и б) его встроенная способность ловить не очень контролируемые глюки внутри "черного ящика" - повышают уровень проблемы. Интересно, как корпорации будут это разруливать.
Дизраптор
У Google есть фича AI Overviews. Если вбить что-то в Гугл, то он выдаст комбинированный результат из обычного поиска и генеративного ИИ. Найдет инфу на каких-то сайтах, добавит туда выжимку из Gemini, переварит всё это дело и выплюнет в виде "готового ответа" прям внутри поисковика. Думаю, вы видели такую штуку.
Так вот, один ресторанчик из США серьёзно пострадал от этой фичи. Владелец ресторана утверждает, что ИИ Гугла галлюционировал и выдавал пользователям несуществующие продукты и акции. Выдумывал блюда, которых в ресторане нет, либо давал липовые акции - например, "большая пицца по цене маленькой".
Люди клевали на эти офферы и шли в рестик, а официанты лишь глазами хлопали. Люди бесились, наезжали на ресторан, ставили одну звезду в отзывах. Говорили: "Какого хрена, вы же в гуголе вон пишете... А ну гоните мою большую пиццу за 3 бакса!!!" То что ресторан вообще не при делах - понятное дело, юзеров не волновало. И их тоже можно понять.
В итоге, у нас есть несколько вопросов:
1. Что делать малому/среднему бизнесу, если он серьезно пострадает из-за ошибок ИИ? Ведь у него, малого/среднего бизнеса, нет пиар-отделов и кучи юристов.
2. Что будет при подобных косяках в более критичных сферах, чем "покушать пиццы"? Например, ИИ глюкнет и всем скажет, что авиакомпания даёт бесплатный багаж, а это не так? Или что кредит можно погасить досрочно или с меньшей ставкой? А если вообще что-то связанное со здоровьем?
Можно ответить: "Юзер, ну ты же уже взрослый - не верь всему, что на заборе написано, перепроверяй исходную инфу". Но мы же все понимаем, что большинство обычных пользователей не столь прошаренные и дисциплинированные. Они будут слепо верить. Особенно по мере ещё большего проникновения эйай. А итог - недовольные люди, пострадавший бизнес, издержки, иски.
Понятно, что без подобных фрикций не обходится адопшен любой новой важной технологии. Но а) повсеместность генеративного ИИ и б) его встроенная способность ловить не очень контролируемые глюки внутри "черного ящика" - повышают уровень проблемы. Интересно, как корпорации будут это разруливать.
Дизраптор