ИИ НИЧЕГО НЕ ИЗМЕНИЛ. ОН ПРОСТО СДЕЛАЛ СИСТЕМУ МЕНЕЕ ЗАМЕТНОЙ
Когда появился ИИ, многие заговорили о новой эпохе.
О свободе. Об освобождении от рутины. О конце старых моделей труда.
Но если смотреть честно, возникает неудобный вопрос:
А что именно изменилось?
Государства остались теми же. Экономические механизмы — теми же. Коррупция, бюрократия, имитация деятельности, эксплуатация — никуда не исчезли.
Системы, которые десятилетиями перемалывали человека, не были демонтированы.
Они просто получили новый инструмент.
Раньше работодатель заставлял человека лично делать бессмысленную работу.
Писать бесконечные отчёты. Создавать никому не нужные документы. Участвовать в имитации деятельности.
И человек хотя бы видел своё участие в этом.
Он понимал: «Это делаю я».
Именно поэтому внутри возникал конфликт. Совесть сопротивлялась. Психика сигнализировала. Появлялся выбор: подчиниться или выйти.
Сегодня появляется ИИ.
И вместе с ним — новая форма самообмана.
Теперь человек говорит себе: «Это уже не я. Это делает нейросеть».
Но задача осталась прежней.
Если раньше человек собственными руками делал бессмысленную презентацию для очередной управленческой игры, а теперь пишет промпт для той же самой презентации — изменилась только технология.
Содержание осталось тем же.
Здесь работает давно известный психологический механизм.
Чем дальше человек от последствий своих действий — тем легче перестать их чувствовать.
Люди намного легче причиняют вред, когда между ними и результатом появляется посредник.
Бюрократия. Инструкция. Должностная обязанность. Алгоритм.
Теперь к этому списку добавился ИИ.
Не я увольнял — алгоритм посчитал.
Не я отказал клиенту — система решила.
Не я создавал эту манипуляцию — нейросеть сгенерировала.
Я просто вводил запросы.
Но это иллюзия.
Промпт — это действие. Постановка задачи — это действие. Управление инструментом — это действие.
Молоток не несёт ответственность за удар. Ответственность всегда остаётся у того, кто держит его в руках.
Поэтому главный вопрос эпохи ИИ — не технический.
Он нравственный.
Технологии меняются быстрее, чем человек успевает осознать последствия. Мы обсуждаем скорость генерации, автоматизацию, производительность.
Но почти не обсуждаем другое.
Что происходит с совестью человека, когда между ним и результатом его действий появляется ещё один слой дистанции?
Есть реальный риск, что ИИ не освободит людей от участия в разрушительных системах. Он просто позволит участвовать в них — без внутреннего дискомфорта.
Опасен не ИИ.
Опасна возможность окончательно перестать замечать собственное участие в происходящем.
Когда человек больше ничего не делает своими руками — ему кажется, что он чист.
А чист ли он?
ОБО МНЕ
🔅 Дарья Царегородцева
Когда появился ИИ, многие заговорили о новой эпохе.
О свободе. Об освобождении от рутины. О конце старых моделей труда.
Но если смотреть честно, возникает неудобный вопрос:
А что именно изменилось?
Государства остались теми же. Экономические механизмы — теми же. Коррупция, бюрократия, имитация деятельности, эксплуатация — никуда не исчезли.
Системы, которые десятилетиями перемалывали человека, не были демонтированы.
Они просто получили новый инструмент.
Раньше работодатель заставлял человека лично делать бессмысленную работу.
Писать бесконечные отчёты. Создавать никому не нужные документы. Участвовать в имитации деятельности.
И человек хотя бы видел своё участие в этом.
Он понимал: «Это делаю я».
Именно поэтому внутри возникал конфликт. Совесть сопротивлялась. Психика сигнализировала. Появлялся выбор: подчиниться или выйти.
Сегодня появляется ИИ.
И вместе с ним — новая форма самообмана.
Теперь человек говорит себе: «Это уже не я. Это делает нейросеть».
Но задача осталась прежней.
Если раньше человек собственными руками делал бессмысленную презентацию для очередной управленческой игры, а теперь пишет промпт для той же самой презентации — изменилась только технология.
Содержание осталось тем же.
Здесь работает давно известный психологический механизм.
Чем дальше человек от последствий своих действий — тем легче перестать их чувствовать.
Люди намного легче причиняют вред, когда между ними и результатом появляется посредник.
Бюрократия. Инструкция. Должностная обязанность. Алгоритм.
Теперь к этому списку добавился ИИ.
Не я увольнял — алгоритм посчитал.
Не я отказал клиенту — система решила.
Не я создавал эту манипуляцию — нейросеть сгенерировала.
Я просто вводил запросы.
Но это иллюзия.
Промпт — это действие. Постановка задачи — это действие. Управление инструментом — это действие.
Молоток не несёт ответственность за удар. Ответственность всегда остаётся у того, кто держит его в руках.
Поэтому главный вопрос эпохи ИИ — не технический.
Он нравственный.
Технологии меняются быстрее, чем человек успевает осознать последствия. Мы обсуждаем скорость генерации, автоматизацию, производительность.
Но почти не обсуждаем другое.
Что происходит с совестью человека, когда между ним и результатом его действий появляется ещё один слой дистанции?
Есть реальный риск, что ИИ не освободит людей от участия в разрушительных системах. Он просто позволит участвовать в них — без внутреннего дискомфорта.
Опасен не ИИ.
Опасна возможность окончательно перестать замечать собственное участие в происходящем.
Когда человек больше ничего не делает своими руками — ему кажется, что он чист.
А чист ли он?
ОБО МНЕ
🔅 Дарья Царегородцева