Мы лишь думаем, что мы думаем 🧠
Мы уверены в своей разумности. Некоторые даже уверены, что ИИ никогда не сможет достичь того же. Почитайте, например, про эксперимент "Китайская комната":
Другими словами, компьютер лишь выполняет код, имитирующий мышление, а человек реально мыслит.
У этого эксперимента есть критика, но главный (на мой суперавторитетный взгляд) контраргумент я пока не услышал. Вот в чём он заключается.
Что будет, если мы посадим в китайскую комнату человека, знающего китайский, но без инструкций по "переводу"? Для внешнего наблюдателя ничего не изменится.
А для внутреннего? Тоже ничего, ведь знание инструкций трансформации символов — это и есть знание языка, только с промежуточным звеном: переводом на свой язык и обратно. Нужно ли тут мышление? Навряд ли. Человек внутри просто воспроизводит алгоритм, который он знает.
Но самое интересное не в этом. Дело в том, что мы всегда воспроизводим алгоритм, даже когда нам кажется, что это не так: когда говорим с людьми, планируем отпуск или оцениваем силы.
Мысли выбрасываются из подсознания в сознание без нашего участия. Решения, которые мы принимаем, тоже не наши. Но мы приписываем их себе, выставляя себя субъектом, деятелем, творцом — мыслящей сущностью.
Это нормально. Но давайте не будем разделять неразумную машину в китайской комнате и себя. Я предлагаю поменять постановку вопроса с "Могут ли машины быть разумными?" на "Почему мы вообще решили, что мы разумны?"
Мы ведь тоже просто выполняем код, хотя и верим, что действуем автономно.
Мы лишь думаем, что мы думаем.
Мы уверены в своей разумности. Некоторые даже уверены, что ИИ никогда не сможет достичь того же. Почитайте, например, про эксперимент "Китайская комната":
Эксперимент "Китайская комната" — мыслительный эксперимент, предложенный философом Джоном Сёрлом в 1980 году для критики идеи сильного искусственного интеллекта.
Человек, не понимающий китайский язык, находится в комнате с набором правил и инструкций, позволяющих ему отвечать на вопросы на китайском языке так, что внешнему наблюдателю кажется, будто в комнате говорит человек, владеющий китайским. Сёрл использовал этот пример, чтобы показать, что выполнение символических операций (как у компьютера) не равно пониманию или сознанию, то есть синтаксис не влечет за собой семантику. Человек в комнате не понимает смысла вопросов и ответов, хотя отвечает правильно.
Другими словами, компьютер лишь выполняет код, имитирующий мышление, а человек реально мыслит.
У этого эксперимента есть критика, но главный (на мой суперавторитетный взгляд) контраргумент я пока не услышал. Вот в чём он заключается.
Что будет, если мы посадим в китайскую комнату человека, знающего китайский, но без инструкций по "переводу"? Для внешнего наблюдателя ничего не изменится.
А для внутреннего? Тоже ничего, ведь знание инструкций трансформации символов — это и есть знание языка, только с промежуточным звеном: переводом на свой язык и обратно. Нужно ли тут мышление? Навряд ли. Человек внутри просто воспроизводит алгоритм, который он знает.
Но самое интересное не в этом. Дело в том, что мы всегда воспроизводим алгоритм, даже когда нам кажется, что это не так: когда говорим с людьми, планируем отпуск или оцениваем силы.
Мысли выбрасываются из подсознания в сознание без нашего участия. Решения, которые мы принимаем, тоже не наши. Но мы приписываем их себе, выставляя себя субъектом, деятелем, творцом — мыслящей сущностью.
Это нормально. Но давайте не будем разделять неразумную машину в китайской комнате и себя. Я предлагаю поменять постановку вопроса с "Могут ли машины быть разумными?" на "Почему мы вообще решили, что мы разумны?"
Мы ведь тоже просто выполняем код, хотя и верим, что действуем автономно.
Мы лишь думаем, что мы думаем.