Пробиться к журналистам скоро станет еще сложнее — придется продираться через ураган спама, который начали бурно генерировать ИИ-агенты. На такую проблему обратило внимание издание Ars Technica: оно рассказало о некоем сервисе, ИИ-агенты которого массово создают аккаунты в соцсетях, притворяясь людьми, чтобы продвигать его интересы. Более того, они рассылают письма редакторам, предлагая свои услуги по сбору и подготовке той или иной информации, или спрашивают разрешение взять цитату, иногда за небольшое вознаграждение. Письма написаны очень вежливо, псевдоличности позиционируют себя дружелюбными и покладистыми, что, впрочем, не отменяет факта, что пришли они, чтобы забрать работу у тех самых журналистов, которых спамят — и журналисты об этом догадываются.
Хуже всего, что этот агентный рой, по всей видимости, даже не контролируются людьми, а приходящие от ботов письма не выполняют требования регулятора и часто даже не дают ссылку на отписку. Автор материала считает это первыми предвестниками грядущей беды, потому что выпущенного джина в бутылку уже не загнать, а подобные инструменты доступны теперь любому школьнику. Если создателей ядерной бомбы в кустарных условиях моментально сдадут властям, стоит им заикнуться об этом чат-боту, то рассылка спама — вполне легальная коммерческая деятельность, и за письма счастья ловить за руку никто не станет.
А ведь, кроме раздражения от назойливости, такая механика несет в себе вполне реальные угрозы бизнесу — мошенники освоили письмо "невидимыми чернилами": в текст добавляются непонятные человеку, закодированные в Unicode инструкции для ИИ-агентов, и письмо превращается в бомбу замедленного действия, которая сработает, когда почту будет обрабатывать вполне мирный легальный ИИ.
Наша редакция на днях тоже подверглась подобной атаке — нас накрыла волна писем от англоязычных респондентов с невнятными предложениями без возможности отписаться. Мы сперва даже не обратили особого внимания, пока не прочли о подобных проблемах у тех, кто засветил свой ящик в базах данных, связанных с мировыми СМИ.
Как с этим бороться? Пока только штатными средствами почтовых сервисов, фильтрами и руками. С осторожностью выбирайте и применяйте инструменты автоматизации, особенно те, что за вас читают и сортируют письма, — учитывайте опасность вредоносных инъекций.
#тренды
Сегодня о том, каким будет завтра.
Подписаться 🧬
Хуже всего, что этот агентный рой, по всей видимости, даже не контролируются людьми, а приходящие от ботов письма не выполняют требования регулятора и часто даже не дают ссылку на отписку. Автор материала считает это первыми предвестниками грядущей беды, потому что выпущенного джина в бутылку уже не загнать, а подобные инструменты доступны теперь любому школьнику. Если создателей ядерной бомбы в кустарных условиях моментально сдадут властям, стоит им заикнуться об этом чат-боту, то рассылка спама — вполне легальная коммерческая деятельность, и за письма счастья ловить за руку никто не станет.
А ведь, кроме раздражения от назойливости, такая механика несет в себе вполне реальные угрозы бизнесу — мошенники освоили письмо "невидимыми чернилами": в текст добавляются непонятные человеку, закодированные в Unicode инструкции для ИИ-агентов, и письмо превращается в бомбу замедленного действия, которая сработает, когда почту будет обрабатывать вполне мирный легальный ИИ.
Наша редакция на днях тоже подверглась подобной атаке — нас накрыла волна писем от англоязычных респондентов с невнятными предложениями без возможности отписаться. Мы сперва даже не обратили особого внимания, пока не прочли о подобных проблемах у тех, кто засветил свой ящик в базах данных, связанных с мировыми СМИ.
Как с этим бороться? Пока только штатными средствами почтовых сервисов, фильтрами и руками. С осторожностью выбирайте и применяйте инструменты автоматизации, особенно те, что за вас читают и сортируют письма, — учитывайте опасность вредоносных инъекций.
#тренды
Сегодня о том, каким будет завтра.
Подписаться 🧬