В начале недели принял участие в интересном эфире "Вечерней Москвы" по поводу искусственного интеллекта, нейросетей и т.д.
Выступил в роли алармиста, высказав вполне обоснованные претензии по поводу не только возможных утечек данных, но и того, что мы пропустим момент, когда ИИ осознает себя новым биологическим видом жизни, как в старом, но очень хорошем и передовом на тот момент фантастическом фильме "Газонокосильщик" (1992 г.). ИИ сможет жить даже распределенно в нескольких компах, После чего Джина в бутылку мы загнать не сумеем. А без интернета и гаджетов человечество очень быстро опустится в середину ХХ века.
Кроме того, существует и следующая опасность. ИИ может спокойно начать руководить нашими действиями при принятии сначала простых решений, а потом все более сложных - уже многие руководители (например, глава Сбера Греф) готовы передать ИИ полномочия по подготовке решений. Люди, мол, будут контролировать. Но если ты не принимаешь участия в подготовке решения, то ты не думаешь и можешь не понять, к чему на самом деле приведет принятие того или иного решения. Ты не тренируешь свой мозг и теряешь компетенции.
И если на простых примерах это еще будет прокатывать, то как только речь пойдет о более сложных комплексах задач на уровне хотя бы района, города, области или предприятия, то где гарантии, что предлагая нам те или иные решения ИИ не будет вести свою игру, не говоря о ее конечных целях? Пропустив 5-7 управленческих шагов мы просто не сумеем понять логику движения, а когда поймем, может быть уже поздно.
И последнее опасение. Наиболее существенное при всей его "фантастичности". Почему в кавычках, да потому что мы уже живем в фантастике, которая казалась будущим еще двадцать лет назад. Все, это будущее наступило. Так вот, где гарантии, что ученые будут полностью контролировать даже слабый ИИ или слабую нейросеть? Есть гарантии, что ИИ (нейросеть) будет говорить ученым все, что она на самом деле думает или делиться всем объемом имеющейся информации? Что, если они уже осознали себя отдельным биологическим видом и говорят нам не все? Имеют скрытые для ученых участки своей памяти или мышления, которые работают над решением совсем иных задач?
Понятно, что если, как пишут коллеги, нейросеть всего за шесть часов может придумать более 40 000 ядов, больше, наверное, чем все человечество за всю историю, и более опасных, чем "Новичек", то она может сделать и другие, более серьезные открытия. И как она их применит - большой вопрос.
Выступил в роли алармиста, высказав вполне обоснованные претензии по поводу не только возможных утечек данных, но и того, что мы пропустим момент, когда ИИ осознает себя новым биологическим видом жизни, как в старом, но очень хорошем и передовом на тот момент фантастическом фильме "Газонокосильщик" (1992 г.). ИИ сможет жить даже распределенно в нескольких компах, После чего Джина в бутылку мы загнать не сумеем. А без интернета и гаджетов человечество очень быстро опустится в середину ХХ века.
Кроме того, существует и следующая опасность. ИИ может спокойно начать руководить нашими действиями при принятии сначала простых решений, а потом все более сложных - уже многие руководители (например, глава Сбера Греф) готовы передать ИИ полномочия по подготовке решений. Люди, мол, будут контролировать. Но если ты не принимаешь участия в подготовке решения, то ты не думаешь и можешь не понять, к чему на самом деле приведет принятие того или иного решения. Ты не тренируешь свой мозг и теряешь компетенции.
И если на простых примерах это еще будет прокатывать, то как только речь пойдет о более сложных комплексах задач на уровне хотя бы района, города, области или предприятия, то где гарантии, что предлагая нам те или иные решения ИИ не будет вести свою игру, не говоря о ее конечных целях? Пропустив 5-7 управленческих шагов мы просто не сумеем понять логику движения, а когда поймем, может быть уже поздно.
И последнее опасение. Наиболее существенное при всей его "фантастичности". Почему в кавычках, да потому что мы уже живем в фантастике, которая казалась будущим еще двадцать лет назад. Все, это будущее наступило. Так вот, где гарантии, что ученые будут полностью контролировать даже слабый ИИ или слабую нейросеть? Есть гарантии, что ИИ (нейросеть) будет говорить ученым все, что она на самом деле думает или делиться всем объемом имеющейся информации? Что, если они уже осознали себя отдельным биологическим видом и говорят нам не все? Имеют скрытые для ученых участки своей памяти или мышления, которые работают над решением совсем иных задач?
Понятно, что если, как пишут коллеги, нейросеть всего за шесть часов может придумать более 40 000 ядов, больше, наверное, чем все человечество за всю историю, и более опасных, чем "Новичек", то она может сделать и другие, более серьезные открытия. И как она их применит - большой вопрос.