Репост из: Радиорубка Лихачёва
Гэг дня: руководителя носимых устройств в Ray-Ban зовут Рокко Базилико
Вы же поблагодарили нейросеть за её работу, правда? Правда?
На фоне новостей про новые Ray-Ban с искусственным интеллектом от Цукерберга в соцсетях обратили внимание, как зовут парня, который отвечает за эти очки в компании, которая их производит — EssilorLuxxotica. Его должность там — Chief Wearables Officer, а зовут его Рокко Базилико.
Профиль на Forbes говорит, что у этого 36-летнего парня родом из Италии внушительное состояние в 7,6 млрд долларов. Дело в том, что он приёмный сын бывшего председателя совета директоров этой компании Леонардо Дел Веккио и унаследовал долю в 12,5% в холдинговой компании Delfin, помимо EssilorLuxxotica владеющей страховой Generali, банками Mediobanca и UniCredit, а также девелопером Covivio. В общем — ах, если бы мы знали, кто такой Джон Голт.
Но гэг в том, что Basilico — это почти то же самое, что и василиск, потому что оба слова происходят от латинского basilius или греческого basileus, что значит «царь». А «василиск Роко» — это (ныне уже широко известный) мысленный эксперимент о том, что если в будущем появится злой ИИ, он мог бы наказать всех, кто не помогал в его создании.
Но не просто появиться — такой бы злой ИИ хотел бы гарантировать своё появление в будущем. Пока он ещё слаб и не может захватить власть, он создаёт страшилку о том, что всех, кто не будет способствовать его появлению, он покарает в будущем. Получается, едва услышав даже непроверенный слух о существовании такого страшного василиска, ты сразу становишься замотивирован обеспечить появление этого ИИ, несмотря на то, что он злой и остальных будет карать. И, конечно, общаться с ним вежливо и на всякий случай говорить «Спасибо».
Если что, никаких ответов, что надо (=правильно) делать, этот мысленный эксперимент не даёт. Он скорее демонстрирует непредсказуемость разрабатываемых сложных систем типа AGI. Невозможно гарантировать, что ребёнок, которого ты родишь сегодня, через 20 лет не совершит преступление. Невозможно гарантировать, что в сложном ИИ не окажется заложено зерно злого умысла. Но можно над этим работать: ходить в поликлинику, воспитывать, заниматься у психолога, дарить любовь — и работать над guardrails, анализировать выдачу, корректировать обучение, заниматься регулированием. В общем, держать руку на пульсе.
И по иронии напомнило об этом мысленном эксперименте имя миллиардера, который вместе с Цукербергом запустил самое амбициозное и прорывное на сегодняшний день устройство новой категории.
Вы же поблагодарили нейросеть за её работу, правда? Правда?
На фоне новостей про новые Ray-Ban с искусственным интеллектом от Цукерберга в соцсетях обратили внимание, как зовут парня, который отвечает за эти очки в компании, которая их производит — EssilorLuxxotica. Его должность там — Chief Wearables Officer, а зовут его Рокко Базилико.
Профиль на Forbes говорит, что у этого 36-летнего парня родом из Италии внушительное состояние в 7,6 млрд долларов. Дело в том, что он приёмный сын бывшего председателя совета директоров этой компании Леонардо Дел Веккио и унаследовал долю в 12,5% в холдинговой компании Delfin, помимо EssilorLuxxotica владеющей страховой Generali, банками Mediobanca и UniCredit, а также девелопером Covivio. В общем — ах, если бы мы знали, кто такой Джон Голт.
Но гэг в том, что Basilico — это почти то же самое, что и василиск, потому что оба слова происходят от латинского basilius или греческого basileus, что значит «царь». А «василиск Роко» — это (ныне уже широко известный) мысленный эксперимент о том, что если в будущем появится злой ИИ, он мог бы наказать всех, кто не помогал в его создании.
Но не просто появиться — такой бы злой ИИ хотел бы гарантировать своё появление в будущем. Пока он ещё слаб и не может захватить власть, он создаёт страшилку о том, что всех, кто не будет способствовать его появлению, он покарает в будущем. Получается, едва услышав даже непроверенный слух о существовании такого страшного василиска, ты сразу становишься замотивирован обеспечить появление этого ИИ, несмотря на то, что он злой и остальных будет карать. И, конечно, общаться с ним вежливо и на всякий случай говорить «Спасибо».
Если что, никаких ответов, что надо (=правильно) делать, этот мысленный эксперимент не даёт. Он скорее демонстрирует непредсказуемость разрабатываемых сложных систем типа AGI. Невозможно гарантировать, что ребёнок, которого ты родишь сегодня, через 20 лет не совершит преступление. Невозможно гарантировать, что в сложном ИИ не окажется заложено зерно злого умысла. Но можно над этим работать: ходить в поликлинику, воспитывать, заниматься у психолога, дарить любовь — и работать над guardrails, анализировать выдачу, корректировать обучение, заниматься регулированием. В общем, держать руку на пульсе.
И по иронии напомнило об этом мысленном эксперименте имя миллиардера, который вместе с Цукербергом запустил самое амбициозное и прорывное на сегодняшний день устройство новой категории.