🧠 А может ли ИИ стать сознательным?
Вышло большое интервью Константина Владимировича Анохина с Му-мин Пу - одним из крупнейших исследователей пластичности мозга. Очень рекомендую прочитать целиком: это тот редкий разговор, где ИИ обсуждают не в контексте «заменит ли он человека», в парадигме того, что нам вообще известно о памяти, интеллекте и сознании.
Я всегда с удовольствием рассказываю про теорию когнитома Анохина - самую фундаментальную и научно обоснованную модель, которая помогает говорить о мозге, разуме и психике, не упрощая их друг до друга.
В этом интервью как раз много внимания уделено тому, что мы привыкли сравнивать современные нейросети с мозгом. Но по сути это пока довольно грубое сравнение ) Большие языковые модели умеют потрясающе быстро обрабатывать гигантские массивы информации, находить закономерности, говорить с нами почти как собеседники. Но они не живут во времени, не меняются от конкретного опыта, не умеют отличить важное от случайного.
У мозга всё сложнее. Один нейрон - это как отдельная нейросеть ;) А наша память - не склад данных, а живой процесс, активная реконструкция, которая каждый раз создаёт прошлое заново в зависимости от нашего текущего состояния. Это один из тех моментов, где особенно хорошо видно: интеллект и сознание - не одно и то же. Можно описать все когнитивные функции, построить систему, которая решает задачи лучше человека, но так и не приблизиться к ответу на вопрос:
Когнитивное сознание в каком-то виде уже есть у ИИ. Но «проблема» в другом - в субъективном, феноменологическом опыте. В том самом «как это - быть» конкретным существом. Когда именно тебе вкусно, больно, страшно или красиво…
И именно отсюда появляется вопрос:
Му-мин Пу говорит очень важную вещь: если однажды мы создадим роботов с сильным интеллектом, возможно, нам придется их буквально воспитывать. Как детей. Закладывая не только правила, но и механизмы заботы.
Анохин же снова возвращает нас к главному. Изучение сознания - больше не философское хобби. Это, возможно, самый важный вопрос ближайших лет. Попытка снять человека с пьедестала исключительности и увидеть чувствование там, где мы раньше привыкли его отрицать.
Может быть, именно это позволит нам приблизиться к пониманию той самой фундаментальной природы мира, которая меняет не только знания, но и всю нашу этику.
#маркина_про_науку
Вышло большое интервью Константина Владимировича Анохина с Му-мин Пу - одним из крупнейших исследователей пластичности мозга. Очень рекомендую прочитать целиком: это тот редкий разговор, где ИИ обсуждают не в контексте «заменит ли он человека», в парадигме того, что нам вообще известно о памяти, интеллекте и сознании.
Я всегда с удовольствием рассказываю про теорию когнитома Анохина - самую фундаментальную и научно обоснованную модель, которая помогает говорить о мозге, разуме и психике, не упрощая их друг до друга.
В этом интервью как раз много внимания уделено тому, что мы привыкли сравнивать современные нейросети с мозгом. Но по сути это пока довольно грубое сравнение ) Большие языковые модели умеют потрясающе быстро обрабатывать гигантские массивы информации, находить закономерности, говорить с нами почти как собеседники. Но они не живут во времени, не меняются от конкретного опыта, не умеют отличить важное от случайного.
У мозга всё сложнее. Один нейрон - это как отдельная нейросеть ;) А наша память - не склад данных, а живой процесс, активная реконструкция, которая каждый раз создаёт прошлое заново в зависимости от нашего текущего состояния. Это один из тех моментов, где особенно хорошо видно: интеллект и сознание - не одно и то же. Можно описать все когнитивные функции, построить систему, которая решает задачи лучше человека, но так и не приблизиться к ответу на вопрос:
есть ли там тот, кому что-то чувствуется?
Когнитивное сознание в каком-то виде уже есть у ИИ. Но «проблема» в другом - в субъективном, феноменологическом опыте. В том самом «как это - быть» конкретным существом. Когда именно тебе вкусно, больно, страшно или красиво…
И именно отсюда появляется вопрос:
Не «станет ли он умнее нас?», а: если мы создаем системы, которые будут действовать в человеческом мире - принимать решения, взаимодействовать с детьми - достаточно ли нам их логики? Или нам придется думать о том, как в таких системах возникают эмпатия, социальное понимание и способность не причинять вред?
Му-мин Пу говорит очень важную вещь: если однажды мы создадим роботов с сильным интеллектом, возможно, нам придется их буквально воспитывать. Как детей. Закладывая не только правила, но и механизмы заботы.
Анохин же снова возвращает нас к главному. Изучение сознания - больше не философское хобби. Это, возможно, самый важный вопрос ближайших лет. Попытка снять человека с пьедестала исключительности и увидеть чувствование там, где мы раньше привыкли его отрицать.
Может быть, именно это позволит нам приблизиться к пониманию той самой фундаментальной природы мира, которая меняет не только знания, но и всю нашу этику.
#маркина_про_науку