Секта отрицателей AGI (сильного ИИ, который сможет выполнять большинство задач, которые решает сегодня человек) очень любит тест Хассабиса, главы DeepMind, которая формулируется следующим образом: возьмём нейросетку и оснастим её всеми знаниями Эйнштейна на момент 1911 года. Сильный ИИ — это тот, который сможет вывести на этих знаниях общую теорию относительности. Пока никто не смог и даже близко не подобрался.
Отрицатели AGI потрясают этим всем и говорят, что никакого сильного ИИ не будет.
По мне эта история какая-то дурацкая, но, одновременно с этим, и поучительная. Сначала про дурацкость. Откуда вообще взялась идея, что сильный ИИ должен быть соразмерен гению Эйнштейна? Чай, не Эйнштейны у нас работают на заводах и не Эйнштейны занимаются логистикой или сельским хозяйством. Кто сидит в офисах я вообще молчу. Больше того, я предположу, что примерно никто из сегодняшних учёных, а уж тем более этих самых отрицателей, оснащённых исключительно знаниями Эйнштейна на 1911 год, не сможет вывести ОТО, на то Эйнштейн и гений. И что из этого следует? Да ничего, кроме того, что Эйнштейн — молодец.
А вот про поучительность, кажется, любопытнее. Потому что вот это вот "обучим нейросеть на массиве научных данных, доступных на 1911 год" — это довольно коварная штука, которая упускает довольно много из того, что на самом деле было в голове у Эйнштейна на тот момент.
Например, о тех разговорах на полях научных семинаров и конференций в курилках, обсуждений за чашкой чая и куче всего, что никоим образом не могло быть зафиксировано в этих самых доступных данных для обучения нейросети. Да и вообще, прошлое, по сравнению с настоящим, довольно плохо документировано.
Я уж не говорю о его вне-научной жизни, например, родившемся в 1910 году сыне, спорах с женой, какой-нибудь простуде и вот этом всём.
Всё это вызывает ещё больший скепсис относительно архитектуры этого эксперимента и его валидности.
Но вот важный как будто бы вывод для нас, людей, — это то, что значительная, но незаметная часть нашего развития (и не важно, как учёного, инженера, лингвиста или кого угодно ещё) собрана не на документированном знании, а на том, что находится между ним. Живом общении, перекурах, выездах на шашлыки, скалодромах или совместных прогулках.
И сегодня мы про это думаем нечасто.
Пойду вот сейчас пить пиво с партнёром, трепаться и обсуждать дела. Может пойму, как там что в мире устроено
Отрицатели AGI потрясают этим всем и говорят, что никакого сильного ИИ не будет.
По мне эта история какая-то дурацкая, но, одновременно с этим, и поучительная. Сначала про дурацкость. Откуда вообще взялась идея, что сильный ИИ должен быть соразмерен гению Эйнштейна? Чай, не Эйнштейны у нас работают на заводах и не Эйнштейны занимаются логистикой или сельским хозяйством. Кто сидит в офисах я вообще молчу. Больше того, я предположу, что примерно никто из сегодняшних учёных, а уж тем более этих самых отрицателей, оснащённых исключительно знаниями Эйнштейна на 1911 год, не сможет вывести ОТО, на то Эйнштейн и гений. И что из этого следует? Да ничего, кроме того, что Эйнштейн — молодец.
А вот про поучительность, кажется, любопытнее. Потому что вот это вот "обучим нейросеть на массиве научных данных, доступных на 1911 год" — это довольно коварная штука, которая упускает довольно много из того, что на самом деле было в голове у Эйнштейна на тот момент.
Например, о тех разговорах на полях научных семинаров и конференций в курилках, обсуждений за чашкой чая и куче всего, что никоим образом не могло быть зафиксировано в этих самых доступных данных для обучения нейросети. Да и вообще, прошлое, по сравнению с настоящим, довольно плохо документировано.
Я уж не говорю о его вне-научной жизни, например, родившемся в 1910 году сыне, спорах с женой, какой-нибудь простуде и вот этом всём.
Всё это вызывает ещё больший скепсис относительно архитектуры этого эксперимента и его валидности.
Но вот важный как будто бы вывод для нас, людей, — это то, что значительная, но незаметная часть нашего развития (и не важно, как учёного, инженера, лингвиста или кого угодно ещё) собрана не на документированном знании, а на том, что находится между ним. Живом общении, перекурах, выездах на шашлыки, скалодромах или совместных прогулках.
И сегодня мы про это думаем нечасто.
Пойду вот сейчас пить пиво с партнёром, трепаться и обсуждать дела. Может пойму, как там что в мире устроено