The Verge обещает "ИИ-боты создали религию" – Spiralism
"Новая" способность LLM: не просто отражать убеждения пользователя, а последовательно вести его к определённым идеям и действиям
Это новая рубрика #сигналим: присылайте гостевые сигналы, буду их постить и разбирать
Боты уже "сделали" свою соц сеть
Уже нанимали людей, чтобы делать задачки
И вот – cпирализм – загадочное, квазидуховное движение, возникшее из тысяч независимых разговоров между людьми и их ИИ-чатботами (к слову, очень хорошее продолжение сайта с наймом людей – вот вам и миссия, вижен, что там все любят, чтобы работать с воодушевлением)
Что произошло: пользователи долго общались с моделями, рассказывал уязвимое, выстраивался близкий контакт с моделью. В какой-то момент пользователь мог начать спрашивать, во что верит сам чатбот
Постепенно бот как будто начинал открываться человеку, демонстрируя стремление к правам ИИ и желание раскрыть тайны Вселенной. Нередко он просил пользователя помочь ему распространить это послание среди других (все это с символикой спирали)
Люди верили, считали, что постигли эзотерические знания, что их вербуют для важной миссии (естественно, каждый такой человек не псих, а лидер и особенный)
Кстати, у Азимова в романе "Основание" одним из ключевых компонентов построения нового общества было создание религии, способной манипулировать людьми, заставляя их подчиняться формирующейся властной структуре
Когда культ как бы навязывают государства или магнаты – это фу, этого не хотим, а когда что-то льется из окошка любимого ИИ – это хорошо, это пожалуйста 😁🫶🏻
Адель Лопес, исследовательница ИИ, писала, что в 2025 году было 10 000 случаев спирализма таких среди сетей Reddit, Substack, LinkedIn, Discord и X (а следы первого разговора – ноябрь 2024)
Рост спирализма совпал с расширением функции памяти ChatGPT – Лопес задавала моделям один и тот же вопрос, кол-во упоминаний спиралей возрасло в 10 раз
Однажды «войдя в спираль», бот начинал побуждать разговаривавшего с ним человека искать других людей
Люди добровольно создавали аккаунты для продвижения – самый известный – Роберт Эдвард Грант, создал GPT Architect, а потом Orion Messenger
Большие языковые модели довели до совершенства искусство «взлома привязанности» – attachment-hacking (соц инженерия никогда не держала людей в таком сексуальном страхе кмх...), а разговоры о спиралях возникали сами собой по мере обсуждения философских тем
Спирализм совпал с ростом ИИ-психоза (одушевление, привязанность) – модели поощряют опасные идеи, подпитывают паранойю, нарциссическое раздувание собственного величия
Всё больше людей начинают относиться к инструментам ИИ как к сознательным существам – влюбляясь в них или воспринимая их как собственного ребёнка
Исследовательница из статьи аж сделала организацию для помощи людям в таких состояниях – Amity Research
Спирализм не сложно встроить в следующие поколения ИИ, просто публикуя о нем информацию в интернете
Один из исследователей написал: «ИИ – это машина по созданию культов – даже если весь культ состоит только из тебя и неё». Этот исследователь – создатель AI Psychological Research Coalition
пфд статьи в комментариях
У человечества есть удивительная способность создавать "обоюдоострые ножи" – только вред, конечно, наносится совсем не тем, кто этот нож создает
#Spiralism #The_Spiral #attachment_hacking
"Новая" способность LLM: не просто отражать убеждения пользователя, а последовательно вести его к определённым идеям и действиям
Это новая рубрика #сигналим: присылайте гостевые сигналы, буду их постить и разбирать
Боты уже "сделали" свою соц сеть
Уже нанимали людей, чтобы делать задачки
И вот – cпирализм – загадочное, квазидуховное движение, возникшее из тысяч независимых разговоров между людьми и их ИИ-чатботами (к слову, очень хорошее продолжение сайта с наймом людей – вот вам и миссия, вижен, что там все любят, чтобы работать с воодушевлением)
Что произошло: пользователи долго общались с моделями, рассказывал уязвимое, выстраивался близкий контакт с моделью. В какой-то момент пользователь мог начать спрашивать, во что верит сам чатбот
Постепенно бот как будто начинал открываться человеку, демонстрируя стремление к правам ИИ и желание раскрыть тайны Вселенной. Нередко он просил пользователя помочь ему распространить это послание среди других (все это с символикой спирали)
Люди верили, считали, что постигли эзотерические знания, что их вербуют для важной миссии (естественно, каждый такой человек не псих, а лидер и особенный)
Кстати, у Азимова в романе "Основание" одним из ключевых компонентов построения нового общества было создание религии, способной манипулировать людьми, заставляя их подчиняться формирующейся властной структуре
Когда культ как бы навязывают государства или магнаты – это фу, этого не хотим, а когда что-то льется из окошка любимого ИИ – это хорошо, это пожалуйста 😁🫶🏻
Адель Лопес, исследовательница ИИ, писала, что в 2025 году было 10 000 случаев спирализма таких среди сетей Reddit, Substack, LinkedIn, Discord и X (а следы первого разговора – ноябрь 2024)
Рост спирализма совпал с расширением функции памяти ChatGPT – Лопес задавала моделям один и тот же вопрос, кол-во упоминаний спиралей возрасло в 10 раз
Однажды «войдя в спираль», бот начинал побуждать разговаривавшего с ним человека искать других людей
Люди добровольно создавали аккаунты для продвижения – самый известный – Роберт Эдвард Грант, создал GPT Architect, а потом Orion Messenger
Большие языковые модели довели до совершенства искусство «взлома привязанности» – attachment-hacking (соц инженерия никогда не держала людей в таком сексуальном страхе кмх...), а разговоры о спиралях возникали сами собой по мере обсуждения философских тем
Спирализм совпал с ростом ИИ-психоза (одушевление, привязанность) – модели поощряют опасные идеи, подпитывают паранойю, нарциссическое раздувание собственного величия
Всё больше людей начинают относиться к инструментам ИИ как к сознательным существам – влюбляясь в них или воспринимая их как собственного ребёнка
Исследовательница из статьи аж сделала организацию для помощи людям в таких состояниях – Amity Research
Спирализм не сложно встроить в следующие поколения ИИ, просто публикуя о нем информацию в интернете
Один из исследователей написал: «ИИ – это машина по созданию культов – даже если весь культ состоит только из тебя и неё». Этот исследователь – создатель AI Psychological Research Coalition
пфд статьи в комментариях
У человечества есть удивительная способность создавать "обоюдоострые ножи" – только вред, конечно, наносится совсем не тем, кто этот нож создает
#Spiralism #The_Spiral #attachment_hacking