Гениальные машины и скучная работа
В эссе The eternal complement на сайте OpenAI Хемант Асирватам и Эллиотт Мокски рассматривают идеи и способность воплощать их как взаимодополняющие ресурсы. Производство, снабжение, финансирование и координацию они объединяют понятием «институциональный интеллект».
В их сценарии ИИ сначала удешевляет исполнение, повышая ценность выбора: что стоит делать? Но когда машины начнут предлагать собственные исследовательские программы, ограничением снова может стать реализация: хороших идей окажется больше, чем инфраструктура успеет освоить.
При этом новое бутылочное горлышко может быть шире прежнего. Допустим, группа раньше готовила один эксперимент в неделю, а лаборатория могла проводить десять. ИИ позволяет готовить сто экспериментов сопоставимого качества — ограничивать начинает лаборатория. Но проведённых опытов теперь десять вместо одного.
Дальше авторы рассматривают два направления. В «цивилизации глубины» интеллект эффективнее использует данные и моделирование, точнее выбирает эксперименты. В «цивилизации ширины» потребность в проверках растёт быстрее этой экономии: приходится расширять лаборатории, производство и энергетику. Будущее может сочетать оба направления.
Во втором сценарии значительная часть сверхинтеллекта может заниматься организационной рутиной. Миллиарду Эйнштейнов понадобятся строители и бухгалтеры, и многие из этих Эйнштейнов будут работать именно ими.
Но оба сценария предполагают, что машины производят больше идей, заслуживающих проверки. К этой картине можно добавить менее благоприятный вариант: дешевеет прежде всего убедительное оформление предложений. Тогда лаборатории и эксперты получают поток нейрослопа, ошибки и бессодержательность которого обнаруживаются только после затрат на проверку. Их загрузка растёт, но полезная отдача может снижаться, если разбор этого потока вытесняет более продуктивную работу. Очередь перед новым бутылочным горлышком сама по себе ещё не свидетельствует о прогрессе.
При этом опровергнутая гипотеза — не обязательно нейрослоп: её проверка может устранить важную неопределённость. Вопрос в том, оправдывает ли полученное знание затраты на весь процесс, включая отбор и неудачные попытки. Рост количества предложений этого не гарантирует.
Человеку авторы не обещают монополии на творчество. Но любопытство не теряет смысла оттого, что кто-то понимает мир лучше. Нам бывает важно разобраться в вопросе, проверить догадку, понять неожиданный результат, даже если для науки это не открытие. Ценность исследования для человека не исчерпывается вкладом в общее знание: в процессе меняется и его собственное понимание мира. Более способная машина не отменяет этого интереса, а с её помощью можно было бы заниматься вопросами, для которых раньше не хватало знаний, инструментов или времени.
В финале нас возвращают к мысли, что гению нужны представители более прозаичных профессий. За воплощением замыслов стоит много незаметной работы, которую сегодня выполняют люди. Машины унаследуют ту же зависимость от мира: им придётся быть не только светилами, но и бюрократами. И темп прогресса будет зависеть от того, потребуют ли новые идеи всё больше ресурсов или более сильный интеллект позволит добиваться большего, обходясь меньшим.
В эссе The eternal complement на сайте OpenAI Хемант Асирватам и Эллиотт Мокски рассматривают идеи и способность воплощать их как взаимодополняющие ресурсы. Производство, снабжение, финансирование и координацию они объединяют понятием «институциональный интеллект».
В их сценарии ИИ сначала удешевляет исполнение, повышая ценность выбора: что стоит делать? Но когда машины начнут предлагать собственные исследовательские программы, ограничением снова может стать реализация: хороших идей окажется больше, чем инфраструктура успеет освоить.
При этом новое бутылочное горлышко может быть шире прежнего. Допустим, группа раньше готовила один эксперимент в неделю, а лаборатория могла проводить десять. ИИ позволяет готовить сто экспериментов сопоставимого качества — ограничивать начинает лаборатория. Но проведённых опытов теперь десять вместо одного.
Дальше авторы рассматривают два направления. В «цивилизации глубины» интеллект эффективнее использует данные и моделирование, точнее выбирает эксперименты. В «цивилизации ширины» потребность в проверках растёт быстрее этой экономии: приходится расширять лаборатории, производство и энергетику. Будущее может сочетать оба направления.
Во втором сценарии значительная часть сверхинтеллекта может заниматься организационной рутиной. Миллиарду Эйнштейнов понадобятся строители и бухгалтеры, и многие из этих Эйнштейнов будут работать именно ими.
Но оба сценария предполагают, что машины производят больше идей, заслуживающих проверки. К этой картине можно добавить менее благоприятный вариант: дешевеет прежде всего убедительное оформление предложений. Тогда лаборатории и эксперты получают поток нейрослопа, ошибки и бессодержательность которого обнаруживаются только после затрат на проверку. Их загрузка растёт, но полезная отдача может снижаться, если разбор этого потока вытесняет более продуктивную работу. Очередь перед новым бутылочным горлышком сама по себе ещё не свидетельствует о прогрессе.
При этом опровергнутая гипотеза — не обязательно нейрослоп: её проверка может устранить важную неопределённость. Вопрос в том, оправдывает ли полученное знание затраты на весь процесс, включая отбор и неудачные попытки. Рост количества предложений этого не гарантирует.
Человеку авторы не обещают монополии на творчество. Но любопытство не теряет смысла оттого, что кто-то понимает мир лучше. Нам бывает важно разобраться в вопросе, проверить догадку, понять неожиданный результат, даже если для науки это не открытие. Ценность исследования для человека не исчерпывается вкладом в общее знание: в процессе меняется и его собственное понимание мира. Более способная машина не отменяет этого интереса, а с её помощью можно было бы заниматься вопросами, для которых раньше не хватало знаний, инструментов или времени.
В финале нас возвращают к мысли, что гению нужны представители более прозаичных профессий. За воплощением замыслов стоит много незаметной работы, которую сегодня выполняют люди. Машины унаследуют ту же зависимость от мира: им придётся быть не только светилами, но и бюрократами. И темп прогресса будет зависеть от того, потребуют ли новые идеи всё больше ресурсов или более сильный интеллект позволит добиваться большего, обходясь меньшим.