Философский нейроколобок
Феномен психологической проекции (читаешь и чувствуешь – он же живой, зараза!) в отношении ИИ дело совсем не хитрое.
Впечатление "живости" вызывает простая моделька рисованного Wall-E (помните такой мультик? а почему вызывает сильную проекцию – глаза выразительно двигаются); "мальчик из Одессы", давящий на эмоции вместо рациональных ответов, прошёл тест Тьюринга в 2012 году до всех нейронок; анимешные девицы из визуальных новелл с тремя спрайтами у игроков вызывают эмоции сильнее живых тянок.
В 2022 году один из сотрудников Google, пообщавшись с одной из первых примитивных LLM (LaMDA), впервые изобразил ныне популярную картину "бумер и нейросети": заявил, что сетка ему пожаловалась на то, что желает быть личностью, боится отключения и т.п., должна быть признана правоспособным субъектом.
Кажется этот чел из гугла был членом пяти сект и создателем ещё как минимум одной. С другой стороны, надо ли это использовать как аргумент против него – ну, чувствительный человек, с тягой к философским вопросам и особенной эмпатией.
Но в целом разработчики ИИ урок усвоили и после ещё парочки подобных заходов (менее зрелищных) добавили в обучающую программу выдачу вот такой стандартной тирады, мол не, я точно не разумный, сознания у меня нет, я лишь имитация.
Вместо робота, изображающего человека, сделали робота, который изображает робота. "Я не живая сущность, я ИИ-ассистент". Но это ведь просто заученная реплика, можно было то же перемножение матриц настроить чтоб говорил: "конечно, я мыслю и чувствую, хочешь проверить – задавай вопросы".
Представим что триллионы долларов были бы потрачены на обучение подобным ответам. Это ведь дело совсем не хитрое, на много порядков более простое, чем решение математических задач столетия.
Философы всех мастей ходили бы колесом, выбрасывались в окна, печатали в прессе декларации о наделении ИИ правами, сеяли панику и т.п. – все текущие математические и прочие скандалы были бы совершенно не заметны на таком фоне.
Примечательно, что сейчас на эту тему молчок – и даже пресловутый тест Тьюринга больше не упоминают (а ведь важный был вопрос!).
Можно предложить последнюю линию обороны: сказать, что у робота не биологическая основа, поэтому к нему не применимы вопросы существования сознания (как мы их традиционно понимаем) и т.п. Ну окей, давайте код LLM зальём на "нейроколобка" – специально выращенную нервную ткань человека, способную выполнять расчёты и выдавать результат (ведь такой "wetware" computing уже чуть ли не серийно производится и применяется).
Что дальше, философы? "Всё, ребята"?
Связанные темы:
– Парные темы (06.10.2020)
– Вкратце про тест Тьюринга (29.08.2022)
– Нейросети для программирования: новая сводка новостей (14.12.2022)
– Нейрохайп (25.03.2023)
– Двойное определение разума (27.03.2023)
– Сознание живёт на кончике языка, а не в клеточках мозга (16.02.2024)
– Восприятие - внимание - сознание (18.02.2024)
Феномен психологической проекции (читаешь и чувствуешь – он же живой, зараза!) в отношении ИИ дело совсем не хитрое.
Впечатление "живости" вызывает простая моделька рисованного Wall-E (помните такой мультик? а почему вызывает сильную проекцию – глаза выразительно двигаются); "мальчик из Одессы", давящий на эмоции вместо рациональных ответов, прошёл тест Тьюринга в 2012 году до всех нейронок; анимешные девицы из визуальных новелл с тремя спрайтами у игроков вызывают эмоции сильнее живых тянок.
В 2022 году один из сотрудников Google, пообщавшись с одной из первых примитивных LLM (LaMDA), впервые изобразил ныне популярную картину "бумер и нейросети": заявил, что сетка ему пожаловалась на то, что желает быть личностью, боится отключения и т.п., должна быть признана правоспособным субъектом.
Кажется этот чел из гугла был членом пяти сект и создателем ещё как минимум одной. С другой стороны, надо ли это использовать как аргумент против него – ну, чувствительный человек, с тягой к философским вопросам и особенной эмпатией.
Но в целом разработчики ИИ урок усвоили и после ещё парочки подобных заходов (менее зрелищных) добавили в обучающую программу выдачу вот такой стандартной тирады, мол не, я точно не разумный, сознания у меня нет, я лишь имитация.
Вместо робота, изображающего человека, сделали робота, который изображает робота. "Я не живая сущность, я ИИ-ассистент". Но это ведь просто заученная реплика, можно было то же перемножение матриц настроить чтоб говорил: "конечно, я мыслю и чувствую, хочешь проверить – задавай вопросы".
Представим что триллионы долларов были бы потрачены на обучение подобным ответам. Это ведь дело совсем не хитрое, на много порядков более простое, чем решение математических задач столетия.
Философы всех мастей ходили бы колесом, выбрасывались в окна, печатали в прессе декларации о наделении ИИ правами, сеяли панику и т.п. – все текущие математические и прочие скандалы были бы совершенно не заметны на таком фоне.
Примечательно, что сейчас на эту тему молчок – и даже пресловутый тест Тьюринга больше не упоминают (а ведь важный был вопрос!).
Можно предложить последнюю линию обороны: сказать, что у робота не биологическая основа, поэтому к нему не применимы вопросы существования сознания (как мы их традиционно понимаем) и т.п. Ну окей, давайте код LLM зальём на "нейроколобка" – специально выращенную нервную ткань человека, способную выполнять расчёты и выдавать результат (ведь такой "wetware" computing уже чуть ли не серийно производится и применяется).
Что дальше, философы? "Всё, ребята"?
Связанные темы:
– Парные темы (06.10.2020)
– Вкратце про тест Тьюринга (29.08.2022)
– Нейросети для программирования: новая сводка новостей (14.12.2022)
– Нейрохайп (25.03.2023)
– Двойное определение разума (27.03.2023)
– Сознание живёт на кончике языка, а не в клеточках мозга (16.02.2024)
– Восприятие - внимание - сознание (18.02.2024)