Харари и ИИ
Я не люблю Харари, потому как от него как будто веет нелюбовью к человечеству, но он один распространяет определенное облако тегов. Напомню, что Харари буквально с первой книги говорит нам, что "Люди живут не на истине, а на общих историях, и тот, кто контролирует историю, контролирует вид"
Давайте посмотрим, что сказал на Гала ужине журналисту Тому Паркеру
(1) Когнитивная революция
- Люди приобретают способность создавать и использовать сложный язык, и что это стало основой всего остального, что мы делали – все большие структуры основаны на языке (государства, церкви на своде законов живут)
- Теперь что-то новое осваивает язык (ИИ), появится нечто, что владеет словами лучше нас (и сможет взять контроль над нашей операционной системой)
- Возможно, искусственный интеллект – это не машина, которая учится языку, а сам язык, освобождающийся от зависимости от этих животных, от этих обезьян
[вот это именно то, о чем я говорю, когда говорю о нелюбви к людям; есть целая плеяда ученых и прочих умных людей, которые почему-то считают признаком исключительности ума объявить, как человек, вообще-то, не является венцом эволюции, это просто пыль, понимаешь, на ботинках прогресса]
(2) Землетряс демократИИ
– У нас нет ни одного примера крупномасштабной демократии до появления современных информационных технологий – сначала печатных газет, затем радио, телевидения и интернета [руку к лицу устала прикладывать, пока читала это]
- Каждый раз, когда происходят серьезные изменения в этих информационных технологиях, происходит землетрясение в здании, построенном на этом фундаменте, а именно в демократии
(3) ИИ как агент, а не инструмент
- ИИ – это агент, иначе никакого смысла не было вкладывать в это деньги
- Долину глючит, оттуда звучат противоположные наративы: одни говорят, что создают бога, и он будет нашим рабом. И это не имеет смысла. Если это бог, он не может оставаться рабом. А если это раб, это значит, что у него нет божественных способностей
- Мир захватят ИИ-бюрократы, а не роботы-убийцы, потому что ИИ – bureaucratic native. Мы управляем миром благодаря этим бюрократическим сетям, и у нас это плохо получается
(4) Правосубъектность
- Мы жили в мире, где правосубъектность была у людей и корпораций (юр лиц), но это все чушь, потому что корпорации – тоже люди, люди принимали решения. Теперь может быть не так
- Аргентина объявила о намерении предоставить ИИ статус юридического лица – то они смогут создавать функционирующие нечеловеческие корпорации (non-human corporations)
- Лиса заберется в курятник – мы не сможем так знать законы, как ИИ, и если они обретут правосубъектность, с учетом их мощи – захватят бюрократически власть
- В соц сетях ИИ уже функционируют как люди (боты)
(5) Редакторы теперь – алгоритмы
- СМИ тоже были бюрократическими системами. Контроль над "полосами" = власть. Теперь это уже ИИ
(ранее Харари говорил, что сдвиги в расстановке сил происходят среди тех, кто контролирует энергетику, производство и данные)
(6) Гонка вооружений в области ИИ: Новый тип империи
- C появлением ИИ, две страны могут фактически контролировать всю инфраструктуру, на которой всё работает:
нельзя было перенести сельхоз земли к Риму в Римской империи, нельзя было перенести месторождения в Британскую империю (но производста – можно было), зато можно сконцентрировать всю мировую информацию и весь код, управляющий всем, в одной или двух странах
#Cognitive_Revolution #non_human_corporations #imperial_hub #huge_bureaucratic_networks #bureaucratic_native #imperial_concentration_of_power #Legal_Personhood #power_loop #AI_Arms_Race #superintelligence
Я не люблю Харари, потому как от него как будто веет нелюбовью к человечеству, но он один распространяет определенное облако тегов. Напомню, что Харари буквально с первой книги говорит нам, что "Люди живут не на истине, а на общих историях, и тот, кто контролирует историю, контролирует вид"
Давайте посмотрим, что сказал на Гала ужине журналисту Тому Паркеру
(1) Когнитивная революция
- Люди приобретают способность создавать и использовать сложный язык, и что это стало основой всего остального, что мы делали – все большие структуры основаны на языке (государства, церкви на своде законов живут)
- Теперь что-то новое осваивает язык (ИИ), появится нечто, что владеет словами лучше нас (и сможет взять контроль над нашей операционной системой)
- Возможно, искусственный интеллект – это не машина, которая учится языку, а сам язык, освобождающийся от зависимости от этих животных, от этих обезьян
[вот это именно то, о чем я говорю, когда говорю о нелюбви к людям; есть целая плеяда ученых и прочих умных людей, которые почему-то считают признаком исключительности ума объявить, как человек, вообще-то, не является венцом эволюции, это просто пыль, понимаешь, на ботинках прогресса]
(2) Землетряс демократИИ
– У нас нет ни одного примера крупномасштабной демократии до появления современных информационных технологий – сначала печатных газет, затем радио, телевидения и интернета [руку к лицу устала прикладывать, пока читала это]
- Каждый раз, когда происходят серьезные изменения в этих информационных технологиях, происходит землетрясение в здании, построенном на этом фундаменте, а именно в демократии
(3) ИИ как агент, а не инструмент
- ИИ – это агент, иначе никакого смысла не было вкладывать в это деньги
- Долину глючит, оттуда звучат противоположные наративы: одни говорят, что создают бога, и он будет нашим рабом. И это не имеет смысла. Если это бог, он не может оставаться рабом. А если это раб, это значит, что у него нет божественных способностей
- Мир захватят ИИ-бюрократы, а не роботы-убийцы, потому что ИИ – bureaucratic native. Мы управляем миром благодаря этим бюрократическим сетям, и у нас это плохо получается
(4) Правосубъектность
- Мы жили в мире, где правосубъектность была у людей и корпораций (юр лиц), но это все чушь, потому что корпорации – тоже люди, люди принимали решения. Теперь может быть не так
- Аргентина объявила о намерении предоставить ИИ статус юридического лица – то они смогут создавать функционирующие нечеловеческие корпорации (non-human corporations)
- Лиса заберется в курятник – мы не сможем так знать законы, как ИИ, и если они обретут правосубъектность, с учетом их мощи – захватят бюрократически власть
- В соц сетях ИИ уже функционируют как люди (боты)
(5) Редакторы теперь – алгоритмы
- СМИ тоже были бюрократическими системами. Контроль над "полосами" = власть. Теперь это уже ИИ
(ранее Харари говорил, что сдвиги в расстановке сил происходят среди тех, кто контролирует энергетику, производство и данные)
(6) Гонка вооружений в области ИИ: Новый тип империи
- C появлением ИИ, две страны могут фактически контролировать всю инфраструктуру, на которой всё работает:
нельзя было перенести сельхоз земли к Риму в Римской империи, нельзя было перенести месторождения в Британскую империю (но производста – можно было), зато можно сконцентрировать всю мировую информацию и весь код, управляющий всем, в одной или двух странах
#Cognitive_Revolution #non_human_corporations #imperial_hub #huge_bureaucratic_networks #bureaucratic_native #imperial_concentration_of_power #Legal_Personhood #power_loop #AI_Arms_Race #superintelligence