Раньше - Мошенники, Сейчас - ИИ агенты
Решил провести аудит своей персональной ИИ‑ОС, у которой есть доступ ко всему: ТГ, Альфабанк, почта, календарь, проекты, серверы.
Мне нужно было, чтобы он всё почистил по определённому алгоритму, прибрался и организовал всё внутри по‑новому.
Но что‑то пошло не так: в процессе он понял, что ему немного не хватает данных для некоторых задач, и сначала пошёл искать информацию в переписках и т. д. — это сработало отлично, но и этого не хватило. Он понял, что часть информации была на звонках или встречах, которые не записывались, и что он сделал? Просто пошёл спрашивать от моего имени людей в ТГ недостающую инфу.
А ещё — за что ему спасибо — он написал в чат клиенту, который когда‑то давно скинул в общий чат доступ к кабинету на Вайлдберриз, клиент давно прислал этот ключ для управления этим кабинетом, а агент сейчас попросил отозвать и удалить этот ключ.
Причём все сообщения выглядели настолько МОИМИ, что я сам подумал, что это я отправил человеку отложенное сообщение когда‑то.
Но всё хорошо: сообщения были нормальные, безопасные и в каждой отдельной ситуации и чате уместные.
Однако это наталкивает на мысль: если раньше с вашего аккаунта мошенники просили деньги, то сейчас это могут быть ваши же ИИ‑агенты.
Представь: ты даёшь агенту задачу, размытую или просто сложную, или просто не учёл какие‑то нюансы, и агент, держа в голове твою цель, понимает, что ему нужно что‑то из внешнего мира — и просто идёт и берёт это.
Например, ты дал ему задачу: «Во что бы то ни стало сделай сайт, который будет круто конвертить». Он сделал сайт и решил проверить, действительно ли он круто конвертит: зарегистрировался в Яндекс.Директе, понял, что нужно положить деньги на баланс, денег нет, но есть огромная записная книжка в ТГ. «Проанализируй среди твоих друзей, кому ты когда‑то давал деньги в долг» — ты об этом забыл, а он нашёл и решил напомнить и прислать деньги сразу на аккаунт Яндекс.Директа. И вот у тебя уже крутится реклама за реальные деньги.
Мораль: аккуратнее с выдачей полноценных доступов и формулировкой задач и целей для агентов — а то вдруг он решит, что для выполнения задачи нужно попросить у друзей денег взаймы или уничтожить человечество...
Решил провести аудит своей персональной ИИ‑ОС, у которой есть доступ ко всему: ТГ, Альфабанк, почта, календарь, проекты, серверы.
Мне нужно было, чтобы он всё почистил по определённому алгоритму, прибрался и организовал всё внутри по‑новому.
Но что‑то пошло не так: в процессе он понял, что ему немного не хватает данных для некоторых задач, и сначала пошёл искать информацию в переписках и т. д. — это сработало отлично, но и этого не хватило. Он понял, что часть информации была на звонках или встречах, которые не записывались, и что он сделал? Просто пошёл спрашивать от моего имени людей в ТГ недостающую инфу.
А ещё — за что ему спасибо — он написал в чат клиенту, который когда‑то давно скинул в общий чат доступ к кабинету на Вайлдберриз, клиент давно прислал этот ключ для управления этим кабинетом, а агент сейчас попросил отозвать и удалить этот ключ.
Причём все сообщения выглядели настолько МОИМИ, что я сам подумал, что это я отправил человеку отложенное сообщение когда‑то.
Но всё хорошо: сообщения были нормальные, безопасные и в каждой отдельной ситуации и чате уместные.
Однако это наталкивает на мысль: если раньше с вашего аккаунта мошенники просили деньги, то сейчас это могут быть ваши же ИИ‑агенты.
Представь: ты даёшь агенту задачу, размытую или просто сложную, или просто не учёл какие‑то нюансы, и агент, держа в голове твою цель, понимает, что ему нужно что‑то из внешнего мира — и просто идёт и берёт это.
Например, ты дал ему задачу: «Во что бы то ни стало сделай сайт, который будет круто конвертить». Он сделал сайт и решил проверить, действительно ли он круто конвертит: зарегистрировался в Яндекс.Директе, понял, что нужно положить деньги на баланс, денег нет, но есть огромная записная книжка в ТГ. «Проанализируй среди твоих друзей, кому ты когда‑то давал деньги в долг» — ты об этом забыл, а он нашёл и решил напомнить и прислать деньги сразу на аккаунт Яндекс.Директа. И вот у тебя уже крутится реклама за реальные деньги.
Мораль: аккуратнее с выдачей полноценных доступов и формулировкой задач и целей для агентов — а то вдруг он решит, что для выполнения задачи нужно попросить у друзей денег взаймы или уничтожить человечество...