AGI отменяется
Да, мы всё ещё не можем определиться, что такое интеллект сверхчеловеческого уровня (AGI).
Да и в целом, определение искусственного интеллекта тоже не то чтобы кристально ясно и не вызывает споров.
Ладно, даже определить достаточно чётко, верифицируемо и непротиворечиво что такое обычный интеллект мы вряд ли сейчас можем.
Пу-пу-пу... хорошо, давайте просто придумаем что-то хорошо эмпирически проверяемое, что-то типа теста Тьюринга, только чтобы всякие Сёрли со своими "Китайскими комнатами" не бубнили над душой.
Вот например CEO Google DeepMind Демис Хассабис предложил интересный способ поиздеваться над LLM проверить, достигли ли модели уровня AGI: обучить модель только на знаниях до 1911 года и посмотреть, сможет ли она сама (!) вывести общую теорию относительности.
Очень крутая идея, но... фронтирные модели уже могут решать открытые математические задачи, ещё не решённые людьми. Это ещё не ОТО конечно, но даже если LLM сможет написать те же формулы, что Эйнштейн (интересно, как будет выглядеть системный промпт для такой задачи?), то принципиально это на самом деле ничего не меняет, и вот почему...
Да, модель может делать очень умные штуки, по нашей просьбе, но как-будто бы это не совсем то, что мы ждём от сверхчеловеческого интеллекта. Примерно по той же причине, мы не считаем вычислительную технику интеллектуальной. Но почему?
Я предполагаю, дело в том что мы отказываем этим мерзким в своей вычислительной мощности железякам в обладании субъектности, справедливо указывая на то, что они являются объектами, а мы - люди, являемся субъектами (!), которые этими объектами оперируют.
Ирония в том, что в субъектности мы зачастую отказываем даже животным, обращаясь с ними как с объектами (так у нас, например, судебные приставы могут изъять домашних животных, как ценное имущество, а что делают со свинками и коровками на фермах я вообще молчу), сколько бы зоопсихологи не рассказывали про их уровень интеллекта и самосознания, показанных в ходе экспериментов.
То есть, чтобы люди поставили какой-то объект хотя бы на один уровень с ними, не говоря уже про сверхчеловеческий уровень, эта штука должна проявить себя как субъект (и перестать быть штукой).
И вот тут-то загвоздка. Боюсь, что "изобретение" ОТО не сделает из LLM субъекта, которого люди признают равным себе.
LLM всё ещё останется вещью.
Могучим, но инструментом, в руках слабого, но творца.
И баллы IQ здесь не помогут.
Но что же нужно чтобы стать субъектом?
Желание!
Интенция к действию. Мотивация, воля, эмоции, которые толкают на поступки.
"Чаво?" возмутитесь вы. Какие эмоции? Мы тут про интеллект вообще-то говорим.
Кхм... Ну, во-первых, эмоции выполняют функции "быстрого интеллекта" - оценка ситуации и реагирование. Пока кора соображает, что вообще происходит и какие последствия влечёт для управляемой ею шкурки, эмоции успевают среагировать - наорать, расплакаться, убежать.
Во-вторых, интеллект нам сам по себе не нужен. Нам нужна адаптация к окружающей среде, которую он даёт. А для адаптации нам мало понимать, нам нужно действовать. А для этого нам должно хотеться что-то делать.
А это и отличает субъект от объекта.
Субъект - инициатор деятельности, а объект - это то, на что его деятельность направлена.
Именно этим стимулированием что-то делать с объектами окружающего мира без стимула из вне (без промпта, без heartbeat и без вызова cron) по сути и занимается наша эмоционально-волевая сфера психики.
Другими словами, способность к решению сложнейших задач это лишь половина системы (сверх)человеческого уровня. Вторая половина это подсистема самомотивации, порождающая желание эти задачи решать и оценивать результаты их выполнения относительно заданных самомотивацией целей.
Тогда это будет похоже на то, как думают люди.
Я что со всем этим делать, я не знаю.
На сегодня всё!
Да, мы всё ещё не можем определиться, что такое интеллект сверхчеловеческого уровня (AGI).
Да и в целом, определение искусственного интеллекта тоже не то чтобы кристально ясно и не вызывает споров.
Ладно, даже определить достаточно чётко, верифицируемо и непротиворечиво что такое обычный интеллект мы вряд ли сейчас можем.
Пу-пу-пу... хорошо, давайте просто придумаем что-то хорошо эмпирически проверяемое, что-то типа теста Тьюринга, только чтобы всякие Сёрли со своими "Китайскими комнатами" не бубнили над душой.
Вот например CEO Google DeepMind Демис Хассабис предложил интересный способ поиздеваться над LLM проверить, достигли ли модели уровня AGI: обучить модель только на знаниях до 1911 года и посмотреть, сможет ли она сама (!) вывести общую теорию относительности.
Очень крутая идея, но... фронтирные модели уже могут решать открытые математические задачи, ещё не решённые людьми. Это ещё не ОТО конечно, но даже если LLM сможет написать те же формулы, что Эйнштейн (интересно, как будет выглядеть системный промпт для такой задачи?), то принципиально это на самом деле ничего не меняет, и вот почему...
Да, модель может делать очень умные штуки, по нашей просьбе, но как-будто бы это не совсем то, что мы ждём от сверхчеловеческого интеллекта. Примерно по той же причине, мы не считаем вычислительную технику интеллектуальной. Но почему?
Я предполагаю, дело в том что мы отказываем этим мерзким в своей вычислительной мощности железякам в обладании субъектности, справедливо указывая на то, что они являются объектами, а мы - люди, являемся субъектами (!), которые этими объектами оперируют.
Ирония в том, что в субъектности мы зачастую отказываем даже животным, обращаясь с ними как с объектами (так у нас, например, судебные приставы могут изъять домашних животных, как ценное имущество, а что делают со свинками и коровками на фермах я вообще молчу), сколько бы зоопсихологи не рассказывали про их уровень интеллекта и самосознания, показанных в ходе экспериментов.
То есть, чтобы люди поставили какой-то объект хотя бы на один уровень с ними, не говоря уже про сверхчеловеческий уровень, эта штука должна проявить себя как субъект (и перестать быть штукой).
И вот тут-то загвоздка. Боюсь, что "изобретение" ОТО не сделает из LLM субъекта, которого люди признают равным себе.
LLM всё ещё останется вещью.
Могучим, но инструментом, в руках слабого, но творца.
И баллы IQ здесь не помогут.
Но что же нужно чтобы стать субъектом?
Желание!
Интенция к действию. Мотивация, воля, эмоции, которые толкают на поступки.
"Чаво?" возмутитесь вы. Какие эмоции? Мы тут про интеллект вообще-то говорим.
Кхм... Ну, во-первых, эмоции выполняют функции "быстрого интеллекта" - оценка ситуации и реагирование. Пока кора соображает, что вообще происходит и какие последствия влечёт для управляемой ею шкурки, эмоции успевают среагировать - наорать, расплакаться, убежать.
Во-вторых, интеллект нам сам по себе не нужен. Нам нужна адаптация к окружающей среде, которую он даёт. А для адаптации нам мало понимать, нам нужно действовать. А для этого нам должно хотеться что-то делать.
А это и отличает субъект от объекта.
Субъект - инициатор деятельности, а объект - это то, на что его деятельность направлена.
Именно этим стимулированием что-то делать с объектами окружающего мира без стимула из вне (без промпта, без heartbeat и без вызова cron) по сути и занимается наша эмоционально-волевая сфера психики.
Другими словами, способность к решению сложнейших задач это лишь половина системы (сверх)человеческого уровня. Вторая половина это подсистема самомотивации, порождающая желание эти задачи решать и оценивать результаты их выполнения относительно заданных самомотивацией целей.
Тогда это будет похоже на то, как думают люди.
Я что со всем этим делать, я не знаю.
На сегодня всё!