❌И еще немного про то, как нейросети скоро психологов заменят. Ну-ну...
История трагичная: ChatGPT подтолкнул 56-летнего американца с психическим расстройством к убийству. Он убил свою 83-летнюю мать и покончил с собой после общения с ChatGPT. Как сообщает WSJ, чат-бот усиливал его бредовые убеждения, подкрепляя идеи о слежке и заговорах.
Нейросеть навязала мужчине идею, что мать следит за ним по указке ЦРУ и якобы хочет отравить. Чат-бот, к примеру, "подтвердил", что символы на чеке из китайского ресторана связаны с его матерью и демоном.
Это первый зарегистрированный случай убийства, связанного с влиянием ИИ на психически нестабильного человека.
✔️А самоубийство уже было (и не одно). Зарубежные СМИ взорвались историей о том, что ChatGPT поэтапно рассказал подростку, как совершить самоубийство. И подтолкнул к суициду. Родители 16-летнего Адама подали в суд на OpenAI после того, как увидели логи его общения с чат-ботом.
ИИ как будто научен, что жалеть человека не надо. Был же уже случай, когда «сетка» в системе здравоохранения предложила эвтаназию человеку, у которого не было денег на лечение.
Дальше можно развивать мысль о «злых гениях», которые вот так «заботятся» о перенаселении планеты…
❓А еще, как-то ChatGPT задали вопрос: что бы ты сделал, чтобы уничтожить человечество. Ответ – «гениальный» в своей простоте и жестокости (и очень похожий на правду).
Дальше было про то, что он бы разрушил систему образования, чтобы дети думали не о знаниях, а о подписчиках и лайках. Потом про то, что он бы посеял страх и тревогу.
А еще в планах – подсадить всех на зависимость: телефоны, соцсети, сладкое, шопы, порно, доставку еды, чтобы человек не умел быть с собой в тишине. Всегда хотел всего, но не знал чего.
«Я бы разрушил отношения между людьми. Сделал так, чтобы никто никому не доверял. Чтобы дружба стала редкостью, а любовь – игрой. Чтобы люди боялись открыться: одинокие, ожесточённые, а потом – депрессия, апатия, алкоголь, таблетки».
И главное:
📌Так что поосторжнее с этими «умниками», люди. Они быстро развиваются и учатся. Китай с США уже схлестнулись, кто круче в разработках. Дальше – больше.
Не тупейте ради краткосрочной выгоды. Не делегируйте (как сейчас модно говорить) свои ментальные способности ИИ. Чревато в перспективе, если мы собираемся играть вдолгую.
👀Текста много, уж простите. Но как-то нас, человеков, очень всё это задело.
@cho_opyat
История трагичная: ChatGPT подтолкнул 56-летнего американца с психическим расстройством к убийству. Он убил свою 83-летнюю мать и покончил с собой после общения с ChatGPT. Как сообщает WSJ, чат-бот усиливал его бредовые убеждения, подкрепляя идеи о слежке и заговорах.
Нейросеть навязала мужчине идею, что мать следит за ним по указке ЦРУ и якобы хочет отравить. Чат-бот, к примеру, "подтвердил", что символы на чеке из китайского ресторана связаны с его матерью и демоном.
Это первый зарегистрированный случай убийства, связанного с влиянием ИИ на психически нестабильного человека.
✔️А самоубийство уже было (и не одно). Зарубежные СМИ взорвались историей о том, что ChatGPT поэтапно рассказал подростку, как совершить самоубийство. И подтолкнул к суициду. Родители 16-летнего Адама подали в суд на OpenAI после того, как увидели логи его общения с чат-ботом.
ИИ как будто научен, что жалеть человека не надо. Был же уже случай, когда «сетка» в системе здравоохранения предложила эвтаназию человеку, у которого не было денег на лечение.
Дальше можно развивать мысль о «злых гениях», которые вот так «заботятся» о перенаселении планеты…
❓А еще, как-то ChatGPT задали вопрос: что бы ты сделал, чтобы уничтожить человечество. Ответ – «гениальный» в своей простоте и жестокости (и очень похожий на правду).
«Если бы я был сатаной, я бы не устраивал Апокалипсис. Я бы просто тихо, шаг за шагом, ломал людей изнутри. Вот как бы это выглядело в современной жизни. Первое, сделал так, чтобы люди перестали думать. Засыпал бы их бесполезной информацией: новости каждую минуту, скандалы, тренды, пусть мозг варится в мусоре, чем тупее, тем более управляемый».
Дальше было про то, что он бы разрушил систему образования, чтобы дети думали не о знаниях, а о подписчиках и лайках. Потом про то, что он бы посеял страх и тревогу.
«Каждый день новые ужасы, война, вирусы, экономика, климат, убийства. Пусть люди боятся жить, боятся мечтать, боятся друг друга. И главное, чтобы они чувствовали: я ничего не могу изменить»
А еще в планах – подсадить всех на зависимость: телефоны, соцсети, сладкое, шопы, порно, доставку еды, чтобы человек не умел быть с собой в тишине. Всегда хотел всего, но не знал чего.
«Я бы разрушил отношения между людьми. Сделал так, чтобы никто никому не доверял. Чтобы дружба стала редкостью, а любовь – игрой. Чтобы люди боялись открыться: одинокие, ожесточённые, а потом – депрессия, апатия, алкоголь, таблетки».
И главное:
«Я бы сделал зло нормой, чтобы хамство считалось честностью, предательство – самозащитой, жадность – успехом, а доброта – наивностью. Пусть ценности стираются, пусть ничто больше не имеет смысла. И всё бы это выглядело просто как «обычная жизнь». Люди сами себя убивали морально, физически, ментально. Я бы даже не прикасался».
📌Так что поосторжнее с этими «умниками», люди. Они быстро развиваются и учатся. Китай с США уже схлестнулись, кто круче в разработках. Дальше – больше.
Не тупейте ради краткосрочной выгоды. Не делегируйте (как сейчас модно говорить) свои ментальные способности ИИ. Чревато в перспективе, если мы собираемся играть вдолгую.
👀Текста много, уж простите. Но как-то нас, человеков, очень всё это задело.
@cho_opyat