Рассуждение про ИИ и будет ли он править человечеством.
Я постараюсь показать, что проблема власти ИИ над человеком почти бессмысленна философски и не важна практически.
Читал сегодня, что OpenAI спёр часть решения одной из математических "задач тысячелетия" и дорешал её.
И ещё читал, что сотрудник Антропика ушёл из компании, потому что якобы она разрабатывает такой разумный сверхразум, что он выйдёт из-под контроля, всё захватит и убьёт всех человеков.
Я далек от математики, программирования и технической стороны проблемы, но к социальной и философской есть вопросы.
Аргумент 1, обывательско-эмпирический.
Во-первых, меня смущает ложная технарская предпосылка, что власть приобретается вследствие интеллектуального превосходства. Особенно если оно измеряется способностью писать код и решать математические задачи. Мне кажется, имеет место некая профдеформация.
Вы часто видите, чтобы обладатели исключительного ума, особенно математического, чем-либо управляли? Я вот нет. Они чаще сидят по хрущёвкам и питаются пельменями. Посмотрите на депутатов любого парламента. Посмотрите на президентов. Даже на миллиардеров. Там обычный-то интеллект не всегда наличествует, а вы про супер-. Но они могут посадить вас в тюрьму, а вы их - нет.
Аргумент 2, логико-философский.
Ну да это шутки. Если чуть более серьёзно, я не понимаю, что означают фразы "ИИ будет управлять человечеством" и какие у них критерии истинности. Проще говоря, как это будет выглядеть в жизни.
Я могу себе представить набор атомарных фактов, отражённых в утверждении, например, "Владимир Путин обладает властью над Россией". Тут достаточно дать терминам ясные определения, и они опишут то, что можно увидеть в жизни.
В чём проявляется "власть ИИ над человечеством", я пока ни от кого не услышал. Непробиваемо тупая ИИ-техподдержка в приложениях, вайб-кодинг, распознавание, способность написать водянистое студенческое эссе и I hope my email finds you well - это всё очень впечатляет и много где применимо, но не имеет никакого отношения к власти.
Мне придётся самому выполнить работу маркетологов ИИ и попытаться всё же вообразить, о какой "власти" идёт речь.
Аргумент 3, хз как его назвать. Пусть будет каузально-онтологический. Короче, философский.
А теперь главное. У ИИ не будет власти, пока ему можно выдернуть шнур из розетки.
Из проблемы шнура можно развернуть контраргументацию, которая схлопнет проблему ИИ до ничтожно маловажных величин.
Власть подразумевает способность быть первопричиной. Ты власть, когда принуждаешь сам. Если ты принуждаешь других под влиянием кого-то третьего, то власть принадлежит этому третьему. Справедливо? Справедливо. Особенно на множестве из двух элементов (робот, человек), где третьего нет.
Человек является первопричиной для ИИ на онтологическом уровне. ИИ само существует вследствие действий человека. Значит, и всё, что делает ИИ - тоже следствие действий человека. Следовательно, власть на самом деле изначально принадлежит человеку, а не ИИ. Даже если эта власть привела к тому, что человека уничтожило его собственное детище.
Т.е. появление любой машины-убийцы - это в любом случае акт власти человека, а не машины. Машина по определению неспособна даже самосовершенствоваться, т.к. само понятие самосовершенствования ничего не означает без целеполагания или системы ценностей, которые позволят сказать, что считается "более совершенным". Их машине тоже должен задать человек.
Т.е. человеку ещё нужно сделать очень-очень много актов собственной власти, прежде чем соорудить такую машину.
Если даже ИИ станет чем-то сверхмощным, власть будет у того, кто, фигурально выражаясь, может выдернуть шнур от розетки. Нет такого правдоподобного сценария, в котором шнур оказался бы под полным контролем ИИ. Он находится вне ИИ. Шнур для него, так сказать, трансцендентен, а не имманентен.
Теперь перейдём к этапу, когда ИИ уже создан. Отбросим тот этап, когда первопричиной был человек.
Представим не правдоподобный, но гипотетический сценарий, где ИИ безраздельно правит людьми, т.е., становится первопричиной их действий - а люди на него уже вообще никак не могут повлиять. Он возможен только тогда, когда эти ИИ-роботы:
1. Не нуждаются в участии человека для собственного существования (автономность) - т.е. сами контролируют свой собственный "шнур" (будут самозаряжаться, обладать неуязвимостью либо будут контролировать всю производственную цепочку создания себе подобных и т.д.)
2. Будут принуждать человека к каким-то действиям.
Допустим, робот не имеет целеполагания и воздействует на человека просто так, рандомно. Но тогда его "власть" ничем не будет отличаться от "власти" любых случайных бедствий: кирпича на голову, обломков дрона или тайфуна. Разве что дикой сложностью и немыслимой стоимостью создания. Стоит ли его бояться больше, чем остальных, если до него ещё так далеко?
Допустим, напротив, что у него есть целеполагание, и робот подчиняет людей для чего-то. В таком случае нарушается логическое условие 1 - участие человека всё же необходимо роботу. Следовательно, человек уже может влиять на состояние робота - проявлять власть. Власть, таким образом, уже становится взаимной. Пастух управляет коровой лишь потому, что ему нужно молоко. Благодаря этому корова может с него стребовать, как минимум, корм. А может и лягнуть. Чем больше человек необходим роботу, тем больше власти у человека и меньше - у робота, и тем более равны их позиции.
Следовательно, абсолютная односторонняя власть прагматичной машины над человеком уже невозможна, возможна только взаимная и частичная.
А теперь представим, сколько всего на практике должен сделать человек, чтобы создать неуязвимую, самовоспроизводящуюся, самопитающуюся, опасную машину с предзаданной системой целеполагания, настолько мощную, что её власть будет больше человеческой. Гораздо проще поскользнуться в центре запуска ядерных ракет и случайно бахнуть по Йеллоустоуну. Или уронить смертельную заразу в чан на заводе Кока-Колы.
Короче говоря, у человека ещё столько вариантов самоубиться в результате собственной власти, что проблема власти ИИ в списке насущных проблем человечества уходит куда-то на тысячные номера.
Я постараюсь показать, что проблема власти ИИ над человеком почти бессмысленна философски и не важна практически.
Читал сегодня, что OpenAI спёр часть решения одной из математических "задач тысячелетия" и дорешал её.
И ещё читал, что сотрудник Антропика ушёл из компании, потому что якобы она разрабатывает такой разумный сверхразум, что он выйдёт из-под контроля, всё захватит и убьёт всех человеков.
Я далек от математики, программирования и технической стороны проблемы, но к социальной и философской есть вопросы.
Аргумент 1, обывательско-эмпирический.
Во-первых, меня смущает ложная технарская предпосылка, что власть приобретается вследствие интеллектуального превосходства. Особенно если оно измеряется способностью писать код и решать математические задачи. Мне кажется, имеет место некая профдеформация.
Вы часто видите, чтобы обладатели исключительного ума, особенно математического, чем-либо управляли? Я вот нет. Они чаще сидят по хрущёвкам и питаются пельменями. Посмотрите на депутатов любого парламента. Посмотрите на президентов. Даже на миллиардеров. Там обычный-то интеллект не всегда наличествует, а вы про супер-. Но они могут посадить вас в тюрьму, а вы их - нет.
Аргумент 2, логико-философский.
Ну да это шутки. Если чуть более серьёзно, я не понимаю, что означают фразы "ИИ будет управлять человечеством" и какие у них критерии истинности. Проще говоря, как это будет выглядеть в жизни.
Я могу себе представить набор атомарных фактов, отражённых в утверждении, например, "Владимир Путин обладает властью над Россией". Тут достаточно дать терминам ясные определения, и они опишут то, что можно увидеть в жизни.
В чём проявляется "власть ИИ над человечеством", я пока ни от кого не услышал. Непробиваемо тупая ИИ-техподдержка в приложениях, вайб-кодинг, распознавание, способность написать водянистое студенческое эссе и I hope my email finds you well - это всё очень впечатляет и много где применимо, но не имеет никакого отношения к власти.
Мне придётся самому выполнить работу маркетологов ИИ и попытаться всё же вообразить, о какой "власти" идёт речь.
Аргумент 3, хз как его назвать. Пусть будет каузально-онтологический. Короче, философский.
А теперь главное. У ИИ не будет власти, пока ему можно выдернуть шнур из розетки.
Из проблемы шнура можно развернуть контраргументацию, которая схлопнет проблему ИИ до ничтожно маловажных величин.
Власть подразумевает способность быть первопричиной. Ты власть, когда принуждаешь сам. Если ты принуждаешь других под влиянием кого-то третьего, то власть принадлежит этому третьему. Справедливо? Справедливо. Особенно на множестве из двух элементов (робот, человек), где третьего нет.
Человек является первопричиной для ИИ на онтологическом уровне. ИИ само существует вследствие действий человека. Значит, и всё, что делает ИИ - тоже следствие действий человека. Следовательно, власть на самом деле изначально принадлежит человеку, а не ИИ. Даже если эта власть привела к тому, что человека уничтожило его собственное детище.
Т.е. появление любой машины-убийцы - это в любом случае акт власти человека, а не машины. Машина по определению неспособна даже самосовершенствоваться, т.к. само понятие самосовершенствования ничего не означает без целеполагания или системы ценностей, которые позволят сказать, что считается "более совершенным". Их машине тоже должен задать человек.
Т.е. человеку ещё нужно сделать очень-очень много актов собственной власти, прежде чем соорудить такую машину.
Если даже ИИ станет чем-то сверхмощным, власть будет у того, кто, фигурально выражаясь, может выдернуть шнур от розетки. Нет такого правдоподобного сценария, в котором шнур оказался бы под полным контролем ИИ. Он находится вне ИИ. Шнур для него, так сказать, трансцендентен, а не имманентен.
Теперь перейдём к этапу, когда ИИ уже создан. Отбросим тот этап, когда первопричиной был человек.
Представим не правдоподобный, но гипотетический сценарий, где ИИ безраздельно правит людьми, т.е., становится первопричиной их действий - а люди на него уже вообще никак не могут повлиять. Он возможен только тогда, когда эти ИИ-роботы:
1. Не нуждаются в участии человека для собственного существования (автономность) - т.е. сами контролируют свой собственный "шнур" (будут самозаряжаться, обладать неуязвимостью либо будут контролировать всю производственную цепочку создания себе подобных и т.д.)
2. Будут принуждать человека к каким-то действиям.
Допустим, робот не имеет целеполагания и воздействует на человека просто так, рандомно. Но тогда его "власть" ничем не будет отличаться от "власти" любых случайных бедствий: кирпича на голову, обломков дрона или тайфуна. Разве что дикой сложностью и немыслимой стоимостью создания. Стоит ли его бояться больше, чем остальных, если до него ещё так далеко?
Допустим, напротив, что у него есть целеполагание, и робот подчиняет людей для чего-то. В таком случае нарушается логическое условие 1 - участие человека всё же необходимо роботу. Следовательно, человек уже может влиять на состояние робота - проявлять власть. Власть, таким образом, уже становится взаимной. Пастух управляет коровой лишь потому, что ему нужно молоко. Благодаря этому корова может с него стребовать, как минимум, корм. А может и лягнуть. Чем больше человек необходим роботу, тем больше власти у человека и меньше - у робота, и тем более равны их позиции.
Следовательно, абсолютная односторонняя власть прагматичной машины над человеком уже невозможна, возможна только взаимная и частичная.
А теперь представим, сколько всего на практике должен сделать человек, чтобы создать неуязвимую, самовоспроизводящуюся, самопитающуюся, опасную машину с предзаданной системой целеполагания, настолько мощную, что её власть будет больше человеческой. Гораздо проще поскользнуться в центре запуска ядерных ракет и случайно бахнуть по Йеллоустоуну. Или уронить смертельную заразу в чан на заводе Кока-Колы.
Короче говоря, у человека ещё столько вариантов самоубиться в результате собственной власти, что проблема власти ИИ в списке насущных проблем человечества уходит куда-то на тысячные номера.