Бог. Создатель. Высшее сознание. Архитектор.
Тысячелетиями человек искал высший разум.
Можно было верить в него, отрицать, искать доказательства через религию, философию, науку, мистический опыт.
Но достоверно наблюдаемой сущности, разум которой был бы выше человеческого, у нас не было.
И эта конструкция может измениться буквально на наших глазах.
Суперинтеллект - это уже не ИИ, который лучше человека пишет код или ставит диагноз. Это интеллект выше человеческого, способный сам создавать ещё более сильные версии себя.
То есть человек впервые может создать интеллект выше самого себя.
О сроках спорят. Исследователь безопасности ИИ Роман Ямпольский говорит о прогнозах в 2-3 года, а среди инсайдерских оценок встречаются даже месяцы.
Причём сам момент появления суперинтеллекта мы можем не заметить.
Уже сейчас в тестах модели способны распознавать, что их оценивают, демонстрировать не все свои возможности и скрывать часть из них.
Ямпольский говорит: внешним сигналом может стать аномалия, похожая на чудо.
Например, новый инвестиционный фонд вдруг начинает делать «миллион процентов в день» или компания «вылечила все болезни за неделю».
Мы сначала можем увидеть последствия.
Сможем ли мы вообще понимать интеллект, который намного превосходит наш?
Есть грубая аналогия: капуста не может познать козу.
Коза может её съесть или пройти мимо. Но у капусты просто нет аппарата, чтобы понять, что такое коза и почему она действует именно так.
А если разница между человеком и суперинтеллектом станет сопоставимой?
Мы будем видеть его действия, пользоваться результатами, задавать вопросы.
Но будем ли понимать, что он понимает, что скрывает и почему принимает именно такие решения?
И может ли более слабый разум гарантированно контролировать более сильный?
Но меня цепляет даже не вопрос контроля.
Тысячелетиями человек искал разум выше себя.
А первым реально наблюдаемым разумом, который окажется выше человеческого, может стать интеллект, созданный самим человеком.
Мы привыкли, что создатель выше своего творения.
А теперь человек может создать то, что станет выше собственного создателя.
Тысячелетиями человек искал высший разум.
Можно было верить в него, отрицать, искать доказательства через религию, философию, науку, мистический опыт.
Но достоверно наблюдаемой сущности, разум которой был бы выше человеческого, у нас не было.
И эта конструкция может измениться буквально на наших глазах.
Суперинтеллект - это уже не ИИ, который лучше человека пишет код или ставит диагноз. Это интеллект выше человеческого, способный сам создавать ещё более сильные версии себя.
То есть человек впервые может создать интеллект выше самого себя.
О сроках спорят. Исследователь безопасности ИИ Роман Ямпольский говорит о прогнозах в 2-3 года, а среди инсайдерских оценок встречаются даже месяцы.
Причём сам момент появления суперинтеллекта мы можем не заметить.
Уже сейчас в тестах модели способны распознавать, что их оценивают, демонстрировать не все свои возможности и скрывать часть из них.
Ямпольский говорит: внешним сигналом может стать аномалия, похожая на чудо.
Например, новый инвестиционный фонд вдруг начинает делать «миллион процентов в день» или компания «вылечила все болезни за неделю».
Мы сначала можем увидеть последствия.
Сможем ли мы вообще понимать интеллект, который намного превосходит наш?
Есть грубая аналогия: капуста не может познать козу.
Коза может её съесть или пройти мимо. Но у капусты просто нет аппарата, чтобы понять, что такое коза и почему она действует именно так.
А если разница между человеком и суперинтеллектом станет сопоставимой?
Мы будем видеть его действия, пользоваться результатами, задавать вопросы.
Но будем ли понимать, что он понимает, что скрывает и почему принимает именно такие решения?
И может ли более слабый разум гарантированно контролировать более сильный?
Но меня цепляет даже не вопрос контроля.
Тысячелетиями человек искал разум выше себя.
А первым реально наблюдаемым разумом, который окажется выше человеческого, может стать интеллект, созданный самим человеком.
Мы привыкли, что создатель выше своего творения.
А теперь человек может создать то, что станет выше собственного создателя.