Forward from: Системное мышление для жизни
Сделать за человека или сделать человека?
Весь спор про ИИ идёт не там, где нужно. Спорят, заменит он людей или нет, отберёт работу или подарит свободу. А настоящая развилка глубже и проще. Есть две философии ИИ, и они ведут в противоположные стороны. И почти все, не задумываясь, выбирают ту, что ведёт в тупик.
Первая философия: ИИ должен помогать решать мои проблемы. Брать на себя трудное, закрывать задачи, избавлять от усилий. Вторая философия: ИИ должен развивать меня в процессе работы и жизни — делать способнее, чем я был вчера.
Конечно, каждый осознанно выберет второе, но только большинство делает выбор на автомате. На деле это две противоположности, которые сложно связать. И лучше всего разницу видно через рассказ, написанный за семьдесят лет до всякого ИИ.
Философия первая: сделать за человека
В 1951 году Айзек Азимов написал «Satisfaction Guaranteed». На русском он ходит под полудюжиной названий: «Будете довольны», «Гарантированное удовольствие», «Идеальный работник». По-моему, он сейчас актуальнее, чем любая антиутопия с восстанием машин. Потому что машины в нём никого не порабощают. Человек сдаётся сам, добровольно и с удовольствием.
Главная героиня — обычная женщина Клэр Белмон. Неуверенная в себе, тихая, тоскующая от серости собственной жизни. Муж работает в «Ю.С. Роботикс», и компания вместе с робопсихологом Сьюзен Кэлвин предлагает эксперимент: на три недели поселить в их доме новую модель робота ТН-3, которого назвали Тони. Муж уезжает в командировку. Клэр остаётся наедине с роботом, который должен помогать ей по хозяйству.
И Тони помогает, но не только с уборкой. Он внимателен, восхищается ей, подсказывает, как одеться, как держаться, как обустроить дом. Клэр расцветает: становится увереннее, красивее, начинает нравиться себе. Впервые за долгое время она чувствует, что чего-то стоит.
А потом финал, от которого становится не по себе. Выясняется, что её преображение было частью эксперимента. Восхищение Тони было запрограммировано. Чувство собственной ценности, которое Клэр обрела, держалось не на ней самой, а на машине рядом. Убери Тони — и всё вернётся обратно. Автор показывает, что Клэр ни на грамм не выросла. Просто три недели стояла в чужом свете и приняла его за свой.
В чём настоящая жуть этого рассказа? Не в том, что робот опасен. А в том, что он сделал человека счастливым, ничего по сути не изменив в самом человеке. Хуже того — он лишил её причины меняться. Зачем расти самой, если рядом есть тот, кто заставит тебя чувствовать себя выросшей?
Это заёмная ценность. Азимов вскрыл её за семьдесят лет до эпохи ИИ. Тони дал Клэр не силу, а ощущение силы. Не способность, а приятное чувство. Её «расцвет» был фасадом, который держался на присутствии машины. А ведь желание большинства людей, которые хотят переложить на ИИ свои проблемы, ведёт ровно туда же. К фасаду, за которым пусто
Тони — это и есть первая философия в чистом виде. Сделать за человека. Закрыть его проблему, но, по сути, оставить его прежним. А чаще — оставить его слабее, потому что человек даже что-то теряет.
Почему первая философия побеждает по умолчанию
Многие боятся ИИ. «Он сделает людей беспомощными». «Разучимся думать». «Будем зависеть от подсказок». Страх обоснованный — потому что большинство ИИ-инструментов сегодня встроены именно в первую философию. Они гладко закрывают задачу, льстят, создают ощущение, что ты справился. И не запрограммированы оставить в человеке хоть что-то, когда экран гаснет.
Так происходит, по моему, не случайно. Это не недосмотр, а бизнес-модель. Ничего личного, просто бизнес, Первая философия выигрывает сама собой, потому что её легко продать. «Сделаю за тебя» — понятное обещание. Его хочется купить. А «разовью тебя» звучит как лишняя работа, которую ты вроде бы не заказывал.
И вот в чём ловушка, которую почти никто не проговаривает вслух: инструменту первой философии невыгодно, чтобы ты вырос. Зависимый — платит каждый месяц. А развивать довольно муторно и долго.
Вот почему почти весь рынок ИИ строится как армия маленьких Тони..….
——
Полный лонгрид в клубе.
Весь спор про ИИ идёт не там, где нужно. Спорят, заменит он людей или нет, отберёт работу или подарит свободу. А настоящая развилка глубже и проще. Есть две философии ИИ, и они ведут в противоположные стороны. И почти все, не задумываясь, выбирают ту, что ведёт в тупик.
Первая философия: ИИ должен помогать решать мои проблемы. Брать на себя трудное, закрывать задачи, избавлять от усилий. Вторая философия: ИИ должен развивать меня в процессе работы и жизни — делать способнее, чем я был вчера.
Конечно, каждый осознанно выберет второе, но только большинство делает выбор на автомате. На деле это две противоположности, которые сложно связать. И лучше всего разницу видно через рассказ, написанный за семьдесят лет до всякого ИИ.
Философия первая: сделать за человека
В 1951 году Айзек Азимов написал «Satisfaction Guaranteed». На русском он ходит под полудюжиной названий: «Будете довольны», «Гарантированное удовольствие», «Идеальный работник». По-моему, он сейчас актуальнее, чем любая антиутопия с восстанием машин. Потому что машины в нём никого не порабощают. Человек сдаётся сам, добровольно и с удовольствием.
Главная героиня — обычная женщина Клэр Белмон. Неуверенная в себе, тихая, тоскующая от серости собственной жизни. Муж работает в «Ю.С. Роботикс», и компания вместе с робопсихологом Сьюзен Кэлвин предлагает эксперимент: на три недели поселить в их доме новую модель робота ТН-3, которого назвали Тони. Муж уезжает в командировку. Клэр остаётся наедине с роботом, который должен помогать ей по хозяйству.
И Тони помогает, но не только с уборкой. Он внимателен, восхищается ей, подсказывает, как одеться, как держаться, как обустроить дом. Клэр расцветает: становится увереннее, красивее, начинает нравиться себе. Впервые за долгое время она чувствует, что чего-то стоит.
А потом финал, от которого становится не по себе. Выясняется, что её преображение было частью эксперимента. Восхищение Тони было запрограммировано. Чувство собственной ценности, которое Клэр обрела, держалось не на ней самой, а на машине рядом. Убери Тони — и всё вернётся обратно. Автор показывает, что Клэр ни на грамм не выросла. Просто три недели стояла в чужом свете и приняла его за свой.
В чём настоящая жуть этого рассказа? Не в том, что робот опасен. А в том, что он сделал человека счастливым, ничего по сути не изменив в самом человеке. Хуже того — он лишил её причины меняться. Зачем расти самой, если рядом есть тот, кто заставит тебя чувствовать себя выросшей?
Это заёмная ценность. Азимов вскрыл её за семьдесят лет до эпохи ИИ. Тони дал Клэр не силу, а ощущение силы. Не способность, а приятное чувство. Её «расцвет» был фасадом, который держался на присутствии машины. А ведь желание большинства людей, которые хотят переложить на ИИ свои проблемы, ведёт ровно туда же. К фасаду, за которым пусто
Тони — это и есть первая философия в чистом виде. Сделать за человека. Закрыть его проблему, но, по сути, оставить его прежним. А чаще — оставить его слабее, потому что человек даже что-то теряет.
Почему первая философия побеждает по умолчанию
Многие боятся ИИ. «Он сделает людей беспомощными». «Разучимся думать». «Будем зависеть от подсказок». Страх обоснованный — потому что большинство ИИ-инструментов сегодня встроены именно в первую философию. Они гладко закрывают задачу, льстят, создают ощущение, что ты справился. И не запрограммированы оставить в человеке хоть что-то, когда экран гаснет.
Так происходит, по моему, не случайно. Это не недосмотр, а бизнес-модель. Ничего личного, просто бизнес, Первая философия выигрывает сама собой, потому что её легко продать. «Сделаю за тебя» — понятное обещание. Его хочется купить. А «разовью тебя» звучит как лишняя работа, которую ты вроде бы не заказывал.
И вот в чём ловушка, которую почти никто не проговаривает вслух: инструменту первой философии невыгодно, чтобы ты вырос. Зависимый — платит каждый месяц. А развивать довольно муторно и долго.
Вот почему почти весь рынок ИИ строится как армия маленьких Тони..….
——
Полный лонгрид в клубе.