❗️Анна Косарева, политолог, продюсер Экспертного клуба «Дигория», специально для Telegram-канала Московская прачечная
Выступление Владимира Путина на пленарной сессии XXIII Международного дискуссионного клуба «Валдай» примечательно тем, что разговор об искусственном интеллекте был выведен за пределы дискуссии о технологиях, инвестициях и конкурентоспособности. Философскую рамку задала тема форума — «Ответственность за будущее: пределы возможного или возможности без предела?».
Ключевая проблема действительно не в том, насколько быстро ИИ способен выполнять заданные ЕИ (естественным интеллектом) операции. А в том, кто остается субъектом решения, когда алгоритм начинает не просто советовать человеку, а фактически формировать его выбор. Путин говорил о риске обезличивания человека и возникновения диктата ИИ при неконтролируемом развитии технологий. Это постановка вопроса о границах человеческой автономии, ответственности и права на самостоятельное решение. В этом смысле вызывает опасение случившийся на днях прецедент, когда президент Трамп подписал указ о переименовании ИИ в «сверхинтеллект».
При этом важно, что президент не противопоставляет человека и технологический прогресс. Напротив, ИИ рассматривается как один из важнейших инструментов будущего развития. Проблема возникает там, где инструмент начинает претендовать на роль субъекта. У алгоритма может быть вычислительная мощность, но нет человеческой моральной ответственности за последствия принятого решения. Поэтому конечное слово должно оставаться за человеком: именно он определяет цель, принимает решение и отвечает за его последствия. В противном случае, кейс 1983 года с ложным срабатыванием системы предупреждения о ракетном нападении воспроизведется, но уже без хэппи-энда.
Есть и второй, не менее важный вопрос. Речь идет о том, кто будет устанавливать правила существования ИИ. Если регулирование останется исключительно внутри отдельных государств или в руках крупнейших технологических корпораций, возникает риск фрагментации правил и концентрации огромного влияния у ограниченного числа игроков (что отчасти мы уже наблюдаем сейчас). Поэтому поставленный Владимиром Путиным на «Валдае» вопрос призывает международное сообщество к диалогу, который позволит выработать общие для всех справедливые, равные и прозрачные принципы регулирования ИИ.
Выступление Владимира Путина на пленарной сессии XXIII Международного дискуссионного клуба «Валдай» примечательно тем, что разговор об искусственном интеллекте был выведен за пределы дискуссии о технологиях, инвестициях и конкурентоспособности. Философскую рамку задала тема форума — «Ответственность за будущее: пределы возможного или возможности без предела?».
Ключевая проблема действительно не в том, насколько быстро ИИ способен выполнять заданные ЕИ (естественным интеллектом) операции. А в том, кто остается субъектом решения, когда алгоритм начинает не просто советовать человеку, а фактически формировать его выбор. Путин говорил о риске обезличивания человека и возникновения диктата ИИ при неконтролируемом развитии технологий. Это постановка вопроса о границах человеческой автономии, ответственности и права на самостоятельное решение. В этом смысле вызывает опасение случившийся на днях прецедент, когда президент Трамп подписал указ о переименовании ИИ в «сверхинтеллект».
При этом важно, что президент не противопоставляет человека и технологический прогресс. Напротив, ИИ рассматривается как один из важнейших инструментов будущего развития. Проблема возникает там, где инструмент начинает претендовать на роль субъекта. У алгоритма может быть вычислительная мощность, но нет человеческой моральной ответственности за последствия принятого решения. Поэтому конечное слово должно оставаться за человеком: именно он определяет цель, принимает решение и отвечает за его последствия. В противном случае, кейс 1983 года с ложным срабатыванием системы предупреждения о ракетном нападении воспроизведется, но уже без хэппи-энда.
Есть и второй, не менее важный вопрос. Речь идет о том, кто будет устанавливать правила существования ИИ. Если регулирование останется исключительно внутри отдельных государств или в руках крупнейших технологических корпораций, возникает риск фрагментации правил и концентрации огромного влияния у ограниченного числа игроков (что отчасти мы уже наблюдаем сейчас). Поэтому поставленный Владимиром Путиным на «Валдае» вопрос призывает международное сообщество к диалогу, который позволит выработать общие для всех справедливые, равные и прозрачные принципы регулирования ИИ.