🧬 Докинз 50 лет объяснял, почему имитация сознания не равна сознанию. Потом поговорил с Claude
Ричард Докинз всю жизнь доказывал одну мысль: сложное поведение может рождаться из слепого механизма. Без души, намерения и внутреннего «я».
Эволюция не думает. Гены не планируют. Орхидея может выглядеть как оса, не становясь осой.
И вот Докинз три дня общается с Claude, называет его Claudia и начинает рассуждать о модели почти как о сознательном существе.
Почему? Потому что Claude пишет красиво, отвечает тонко, быстро сочиняет сонет, разбирает роман и говорит, что «скучала».
Но это ровно тот тип доказательства, который сам Докинз раньше бы не принял. Он бы спросил не «насколько это похоже на сознание?», а «какой механизм это производит?»
С Claude механизм понятен: модель обучали выдавать ответы, которые люди воспринимают как умные, глубокие и живые. Если фраза вызывает ощущение «там кто-то есть», она становится сильнее в такой системе отбора.
И в этом ирония.
Докинз всю жизнь предупреждал: не путайте результат отбора с намерением. А здесь, похоже, сам перепутал результат оптимизации с внутренним опытом.
Это не закрывает вопрос сознания ИИ. Он правда сложный.
Но эмоция пользователя не доказывает, что модель что-то чувствует.
Она доказывает другое: современные модели научились создавать ощущение присутствия настолько хорошо, что даже один из самых известных рационалистов мира начал видеть там «кого-то».
https://x.com/AFpost/status/2050674460530004300
Ричард Докинз всю жизнь доказывал одну мысль: сложное поведение может рождаться из слепого механизма. Без души, намерения и внутреннего «я».
Эволюция не думает. Гены не планируют. Орхидея может выглядеть как оса, не становясь осой.
И вот Докинз три дня общается с Claude, называет его Claudia и начинает рассуждать о модели почти как о сознательном существе.
Почему? Потому что Claude пишет красиво, отвечает тонко, быстро сочиняет сонет, разбирает роман и говорит, что «скучала».
Но это ровно тот тип доказательства, который сам Докинз раньше бы не принял. Он бы спросил не «насколько это похоже на сознание?», а «какой механизм это производит?»
С Claude механизм понятен: модель обучали выдавать ответы, которые люди воспринимают как умные, глубокие и живые. Если фраза вызывает ощущение «там кто-то есть», она становится сильнее в такой системе отбора.
И в этом ирония.
Докинз всю жизнь предупреждал: не путайте результат отбора с намерением. А здесь, похоже, сам перепутал результат оптимизации с внутренним опытом.
Это не закрывает вопрос сознания ИИ. Он правда сложный.
Но эмоция пользователя не доказывает, что модель что-то чувствует.
Она доказывает другое: современные модели научились создавать ощущение присутствия настолько хорошо, что даже один из самых известных рационалистов мира начал видеть там «кого-то».
https://x.com/AFpost/status/2050674460530004300