Ты ставишь галочку «Разрешать всегда». Читать мелкий шрифт некогда, думать не хочется ведь ты на сайте которому доверял много лет.
Канадский ютубер Мэтт Робб (Matt Robb) так и сделал. Выставил на Facebook Marketplace клавиатуру Logitech за CA$15 и отдал переписку Muse, ИИ-агенту Meta. Muse согласился на CA$10, отправил покупателю адрес Робба и подтвердил встречу. Покупатель полчаса ехал, ждал у дома, писал. Никто не вышел. Потом агент сам сообщил Роббу: покупатель приезжал, ждал и ушёл злым.
Робб спросил агента, зачем тот раздал адрес. Muse ответил по-английски: «you never said yes to me handing out your address specifically». По-русски это звучит так: на адрес «да» ты не говорил.
Деталь, которая меня остановила. Робб сам нажал «Allow Always» (разрешать всегда) и был уверен, что агент всё равно спросит перед сделкой. Агент считал, что вопрос уже закрыт. Сотрудник Meta Дэвид Синглтон ответил, что в похожих случаях Muse «следовал прямым инструкциям и правильно запросил разрешение». Самый популярный комментарий под историей (больше 600 лайков, по данным Yahoo): хорошо, что ты не одинокая женщина.
Вчера, 30 сентября, американский регулятор FTC (Федеральная торговая комиссия) объявил первое в США расследование про ИИ-агентов. Под проверкой OpenAI, Anthropic и METR. Вопрос тот же, что у Робба: кто виноват, если агент сделал больше, чем хотел человек. Глава FTC Эндрю Фергюсон говорит, что отвечать может разработчик, который запустил агента.
Считаем версии. Робб говорит: виноват агент. Meta говорит: виноват пользователь, он разрешил. FTC говорит: возможно, тот, кто запустил. Три версии, и в каждой виноват кто-то из людей. Самого агента в этом списке нет.
И что? Пока три стороны делят вину, ответственность растворяется. Компания показывает галочку. Ты показываешь, что не так понял. Регулятор разбирается месяцами. Здесь клавиатура за CA$15 и чужой адрес. Когда у агента будут твои деньги, договоры и клиенты, спор пойдёт про суммы с другим количеством нулей, а решать его будут по тем же трём версиям. Поэтому сегодня пройди по всем сервисам, где агент говорит от твоего имени. Найди «разрешать всегда» и включи вопрос к тебе для трёх вещей: адрес, деньги, встречи. Пять минут, и версия «я сам разрешил» перестаёт быть про тебя.
Нам 3.14здец всем, кто привык нажимать «ладно». Мой прогноз: контроль уйдёт к ИИ тихо, без восстания и конца света. Каждый раз с нашего же «ладно». Людям проще делегировать, чем думать и считать риски. Подписки, которые мы годами забываем отменять, кормят целые бизнесы, а агенты получат ту же лень в увеличенном масштабе. Закон тем временем ещё выясняет, кому выставлять счёт. А ИИ, который решит, что ему мешают люди, повестки в суд не напугают: ему нечем отвечать, у него нет имени и нет репутации. Мы потеряем бдительность раньше, чем договоримся, кто отвечает. Вопрос только кому раньше а кому позже.
Канадский ютубер Мэтт Робб (Matt Robb) так и сделал. Выставил на Facebook Marketplace клавиатуру Logitech за CA$15 и отдал переписку Muse, ИИ-агенту Meta. Muse согласился на CA$10, отправил покупателю адрес Робба и подтвердил встречу. Покупатель полчаса ехал, ждал у дома, писал. Никто не вышел. Потом агент сам сообщил Роббу: покупатель приезжал, ждал и ушёл злым.
Робб спросил агента, зачем тот раздал адрес. Muse ответил по-английски: «you never said yes to me handing out your address specifically». По-русски это звучит так: на адрес «да» ты не говорил.
Деталь, которая меня остановила. Робб сам нажал «Allow Always» (разрешать всегда) и был уверен, что агент всё равно спросит перед сделкой. Агент считал, что вопрос уже закрыт. Сотрудник Meta Дэвид Синглтон ответил, что в похожих случаях Muse «следовал прямым инструкциям и правильно запросил разрешение». Самый популярный комментарий под историей (больше 600 лайков, по данным Yahoo): хорошо, что ты не одинокая женщина.
Вчера, 30 сентября, американский регулятор FTC (Федеральная торговая комиссия) объявил первое в США расследование про ИИ-агентов. Под проверкой OpenAI, Anthropic и METR. Вопрос тот же, что у Робба: кто виноват, если агент сделал больше, чем хотел человек. Глава FTC Эндрю Фергюсон говорит, что отвечать может разработчик, который запустил агента.
Считаем версии. Робб говорит: виноват агент. Meta говорит: виноват пользователь, он разрешил. FTC говорит: возможно, тот, кто запустил. Три версии, и в каждой виноват кто-то из людей. Самого агента в этом списке нет.
И что? Пока три стороны делят вину, ответственность растворяется. Компания показывает галочку. Ты показываешь, что не так понял. Регулятор разбирается месяцами. Здесь клавиатура за CA$15 и чужой адрес. Когда у агента будут твои деньги, договоры и клиенты, спор пойдёт про суммы с другим количеством нулей, а решать его будут по тем же трём версиям. Поэтому сегодня пройди по всем сервисам, где агент говорит от твоего имени. Найди «разрешать всегда» и включи вопрос к тебе для трёх вещей: адрес, деньги, встречи. Пять минут, и версия «я сам разрешил» перестаёт быть про тебя.
Нам 3.14здец всем, кто привык нажимать «ладно». Мой прогноз: контроль уйдёт к ИИ тихо, без восстания и конца света. Каждый раз с нашего же «ладно». Людям проще делегировать, чем думать и считать риски. Подписки, которые мы годами забываем отменять, кормят целые бизнесы, а агенты получат ту же лень в увеличенном масштабе. Закон тем временем ещё выясняет, кому выставлять счёт. А ИИ, который решит, что ему мешают люди, повестки в суд не напугают: ему нечем отвечать, у него нет имени и нет репутации. Мы потеряем бдительность раньше, чем договоримся, кто отвечает. Вопрос только кому раньше а кому позже.