Репост из: Системный Me
Казалось бы, причем тут ИИ.
Работа с искусственным интелектом - одна из ключевых задач, на которую нацелена АСМ (это мы) в перспективе 5-10 лет.
Потому, если у кого-либо тут в чате или у ваших знакомых, есть возможность поучаствовать в процессе "подружения" нас с разработчиками больших ИИ систем - будет здорово и суперважно!
Зачем это и почему критично?
Попробую прояснить максимально кратко.
1. В канале, в чатах, на мероприятиях, в видео, на группах или в рамках консалтинговой и исследовательской работы - в общем везде мы (АСМ) говорим о паттернах.
Паттернах поведения тех или иных систем. Работая с проблемами человека или бизнеса, мы в первую очередь диагностируем и находим те паттерны, что ведут к системным дисфункциям.
Простой пример: некоторые пищевые паттерны ведут к системной дисфункции, выраженной в диабете.
Пример по-сложнее: некоторые паттерны мышления ведут к дисфункции, выраженной в постоянном поиске себя, предназначении.
Другие паттерны - к постоянной болтанке в жизни человека или компании. И тд.
2. Паттерны эти обычно человеком не осознаются. При этом, они как призма, как фильтр определяют восприятие и поведение человека.
3. Некоторые паттерны ведут к более наполненной, "счастливой" жизни.
Т.к. паттерны, это некоторое поведение, отношения, а не объекты, ими делятся через истории, метафоры.
Самая популярная в истории книга с историями и метафорами: Библия.
Туда же любая религия, философия, притчи, квантовая физика и еще целый вагон областей знания.
4. Есть же паттерны, которые ведут к разрушению систем.
Простой пример: бесконтрольные действия (например рост) без оглядки на остальной организм (большую систему).
Именно так работают раковые клетки, который со временем этот самый организм, который игнорирует - уничтожает.
Описанию таких разрушающих паттернов я уже посвящал статью: https://ecologyofmind.ru/blog/squid_game
5. Сейчас мы видим рост рынка психотерапии и антидепрессантов. Это также следствие определенной ментальной дисфункции, т.е. следствие определенных паттернов, имеющих место в системе мышления людей.
6. Технология ИИ, которая по версии техноптимистов должна спасти человечество от самих себя, на мой взгляд - самый большой экзистенциальный риск для человечества.
Именно ввиду сказанного выше: разработчики будут теми, кто неосознанно заложат свои паттерны (п.2), либо обучат ИИ этим паттернам. (Данные, на которых будет обучаться ИИ также произведены людьми и скрыто содержат те самые паттерны).
7. Т.е. если сознательно никак это не скорректировать, мы получим разум, способный делать то, что мы делаем, только куда эффективнее и быстрее: ненавидеть, выгорать, поляризоваться, воевать, отменять, бороться с инакомыслием, давать пощечину за оскорбление и тд.
Информация об этом есть в публичном поле:
Бот-расист от Microsoft: тут
Исследования этики Института Аллена: тут
А вот от Deepmind: тут
А некоторые соцсети и их алгоритмы справляются с задачами, например: поляризации, куда лучше любой пропаганды. (об этом я писал тут: https://ecologyofmind.ru/blog/poverit_vo_vse )
8. Представьте ситуацию.
При разработке ИИ человек "передаст" паттерн:
Есть хорошие и плохие. Хорошим нужно помогать, с плохими бороться. - такой популярный в текущих реалиях, и, скорее всего разделяемый большинством в этом чате.
Действуя исходя из этого паттерна, ИИ потребуется определить этих плохих и хороших.
И непонятно кому будет лучше: плохим "воробьям", которых убъют быстро, или хорошим "китайцам", которые будут умирать от голода. (см Китайцы и воробьи)
Злом может оказаться конкретный человек (актер или писательница), может оказаться компания, страна или нация.
Мы это видим последние годы.
Работа с искусственным интелектом - одна из ключевых задач, на которую нацелена АСМ (это мы) в перспективе 5-10 лет.
Потому, если у кого-либо тут в чате или у ваших знакомых, есть возможность поучаствовать в процессе "подружения" нас с разработчиками больших ИИ систем - будет здорово и суперважно!
Зачем это и почему критично?
Попробую прояснить максимально кратко.
1. В канале, в чатах, на мероприятиях, в видео, на группах или в рамках консалтинговой и исследовательской работы - в общем везде мы (АСМ) говорим о паттернах.
Паттернах поведения тех или иных систем. Работая с проблемами человека или бизнеса, мы в первую очередь диагностируем и находим те паттерны, что ведут к системным дисфункциям.
Простой пример: некоторые пищевые паттерны ведут к системной дисфункции, выраженной в диабете.
Пример по-сложнее: некоторые паттерны мышления ведут к дисфункции, выраженной в постоянном поиске себя, предназначении.
Другие паттерны - к постоянной болтанке в жизни человека или компании. И тд.
2. Паттерны эти обычно человеком не осознаются. При этом, они как призма, как фильтр определяют восприятие и поведение человека.
3. Некоторые паттерны ведут к более наполненной, "счастливой" жизни.
Т.к. паттерны, это некоторое поведение, отношения, а не объекты, ими делятся через истории, метафоры.
Самая популярная в истории книга с историями и метафорами: Библия.
Туда же любая религия, философия, притчи, квантовая физика и еще целый вагон областей знания.
4. Есть же паттерны, которые ведут к разрушению систем.
Простой пример: бесконтрольные действия (например рост) без оглядки на остальной организм (большую систему).
Именно так работают раковые клетки, который со временем этот самый организм, который игнорирует - уничтожает.
Описанию таких разрушающих паттернов я уже посвящал статью: https://ecologyofmind.ru/blog/squid_game
5. Сейчас мы видим рост рынка психотерапии и антидепрессантов. Это также следствие определенной ментальной дисфункции, т.е. следствие определенных паттернов, имеющих место в системе мышления людей.
6. Технология ИИ, которая по версии техноптимистов должна спасти человечество от самих себя, на мой взгляд - самый большой экзистенциальный риск для человечества.
Именно ввиду сказанного выше: разработчики будут теми, кто неосознанно заложат свои паттерны (п.2), либо обучат ИИ этим паттернам. (Данные, на которых будет обучаться ИИ также произведены людьми и скрыто содержат те самые паттерны).
7. Т.е. если сознательно никак это не скорректировать, мы получим разум, способный делать то, что мы делаем, только куда эффективнее и быстрее: ненавидеть, выгорать, поляризоваться, воевать, отменять, бороться с инакомыслием, давать пощечину за оскорбление и тд.
Информация об этом есть в публичном поле:
Бот-расист от Microsoft: тут
Исследования этики Института Аллена: тут
А вот от Deepmind: тут
А некоторые соцсети и их алгоритмы справляются с задачами, например: поляризации, куда лучше любой пропаганды. (об этом я писал тут: https://ecologyofmind.ru/blog/poverit_vo_vse )
8. Представьте ситуацию.
При разработке ИИ человек "передаст" паттерн:
Есть хорошие и плохие. Хорошим нужно помогать, с плохими бороться. - такой популярный в текущих реалиях, и, скорее всего разделяемый большинством в этом чате.
Действуя исходя из этого паттерна, ИИ потребуется определить этих плохих и хороших.
И непонятно кому будет лучше: плохим "воробьям", которых убъют быстро, или хорошим "китайцам", которые будут умирать от голода. (см Китайцы и воробьи)
Злом может оказаться конкретный человек (актер или писательница), может оказаться компания, страна или нация.
Мы это видим последние годы.