Мы боялись, что искусственный интеллект будет имитировать понимание, но теперь человек начинает имитировать понимание с помощью искусственного интеллекта
Давайте расскажу вам о мысленном эксперименте философа Джона Серля «Китайская комната».
Забавно, что этот пост я писала именно в Китае😄
Представьте, вас запирают в комнате, вы не знаете ни слова по-китайски. В комнату вам передают листочки с китайскими иероглифами, а у вас есть огромная инструкция⤵️
Вы идеально следуете инструкции.
Снаружи сидит человек, который знает китайский. Он задаёт вам вопросы и получает совершенно осмысленные ответы. И ему кажется, что внутри комнаты находится кто-то, кто прекрасно понимает китайский.
Но понимаете ли китайский вы?
Нет. Вы просто очень хорошо манипулируете словами.
Этот эксперимент изначально был аргументом в споре о том, можно ли считать, что компьютер действительно понимает язык, если он просто правильно обрабатывает символы ➡️ Скорее нет, нельзя.
Но какую тенденцию я вижу в развитии науки?
Сейчас, мне кажется, у этой китайской комнаты появился немножечко другой смысл.
Давайте ради забавы заменим китайские иероглифы на интересные слова. Типа регрессия, hazard ratio, конфаундинг.
А инструкцию заменим, например, на ChatGPT.
Аспирант просит искусственный интеллект написать раздел результатов своего исследования. Искусственный интеллект пишет абсолютно убедительный текст.
Аспирант переставляет слова и вставляет его в диссертацию.
Но потом оказывается, что он:
🔵 Не может объяснить, почему здесь регрессия Кокса, например, а не логистическая регрессия.
🔵 Не может сказать, что такое конфаундер и есть ли он в его исследовании.
🔵 Вообще не понимает, какой вывод можно сделать из его исследования.
То есть снаружи всё выглядит так, будто человек говорит на языке науки. Есть правильные слова, есть логичные конструкции, даже есть правильные ссылки.
Но понимания внутри этой комнаты может не быть вообще.
Мы много обсуждаем, понимает ли искусственный интеллект, что он пишет.
А есть другой, гораздо более практический вопрос:
И главная проблема китайской комнаты сегодня может оказаться не в том, что искусственный интеллект имитирует понимание, а в том, что исследователь начинает имитировать понимание с помощью искусственного интеллекта.
Давайте расскажу вам о мысленном эксперименте философа Джона Серля «Китайская комната».
Забавно, что этот пост я писала именно в Китае😄
Представьте, вас запирают в комнате, вы не знаете ни слова по-китайски. В комнату вам передают листочки с китайскими иероглифами, а у вас есть огромная инструкция⤵️
Если пришёл вот такой символ, возьми вот этот, поставь рядом с этим и отправь обратно.
Вы идеально следуете инструкции.
Снаружи сидит человек, который знает китайский. Он задаёт вам вопросы и получает совершенно осмысленные ответы. И ему кажется, что внутри комнаты находится кто-то, кто прекрасно понимает китайский.
Но понимаете ли китайский вы?
Нет. Вы просто очень хорошо манипулируете словами.
Этот эксперимент изначально был аргументом в споре о том, можно ли считать, что компьютер действительно понимает язык, если он просто правильно обрабатывает символы ➡️ Скорее нет, нельзя.
Но какую тенденцию я вижу в развитии науки?
Сейчас, мне кажется, у этой китайской комнаты появился немножечко другой смысл.
Давайте ради забавы заменим китайские иероглифы на интересные слова. Типа регрессия, hazard ratio, конфаундинг.
А инструкцию заменим, например, на ChatGPT.
Аспирант просит искусственный интеллект написать раздел результатов своего исследования. Искусственный интеллект пишет абсолютно убедительный текст.
Аспирант переставляет слова и вставляет его в диссертацию.
Но потом оказывается, что он:
🔵 Не может объяснить, почему здесь регрессия Кокса, например, а не логистическая регрессия.
🔵 Не может сказать, что такое конфаундер и есть ли он в его исследовании.
🔵 Вообще не понимает, какой вывод можно сделать из его исследования.
То есть снаружи всё выглядит так, будто человек говорит на языке науки. Есть правильные слова, есть логичные конструкции, даже есть правильные ссылки.
Но понимания внутри этой комнаты может не быть вообще.
Мы много обсуждаем, понимает ли искусственный интеллект, что он пишет.
А есть другой, гораздо более практический вопрос:
понимает ли это человек, который копирует текст из искусственного интеллекта?
И главная проблема китайской комнаты сегодня может оказаться не в том, что искусственный интеллект имитирует понимание, а в том, что исследователь начинает имитировать понимание с помощью искусственного интеллекта.