#ИИ
Политолог Илья Матвеев (в реестре иноагентов в РФ) о том, почему неконтролируемое развитие ИИ представляет для человечества больший риск, чем возможный инвестиционный пузырь:
Политолог Илья Матвеев (в реестре иноагентов в РФ) о том, почему неконтролируемое развитие ИИ представляет для человечества больший риск, чем возможный инвестиционный пузырь:
Если честно, я могу себе представить ситуацию, в которой ИИ-инвестиции - это не пузырь. У передовых моделей есть много полезных применений, для меня лично тоже. Просто очень круто и удобно анализировать разные данные, и количественные, и качественные. Удобно искать и собирать информацию, составлять брифы по разным источникам и т.д. Масса полезных и вдохновляющих применений.@ejdailyru
Сейчас вычислительное время стоит дорого. Но если дата-центров будет больше, пользоваться ИИ станет дешевле и люди, в соответствии с парадоксом Джевонса, станут пользоваться им еще больше. Допустим, сейчас единица compute стоит $20 долл, из которых $5 чистая прибыль ИИ-компании. А после развертывания новой волны дата-центров станет стоить $4, из которых $2 - чистая прибыль. При неэластичном спросе покупавшие одну единицу compute станут покупать пять и прибыль вырастет в два раза, позволив окупить инвестиции.
Аргументы про воду, землю и электричество тоже слабые. Воды и земли дата-центры потребляют меньше, чем гольф-клубы. Электричество это проблема, но при текущем уровне технологий всю необходимую энергию можно получать из возобновляемых источников. Это решаемая проблема и в Китае ее решают.
Но все это неважно. Проблема ИИ не только и не столько в пузыре или в экологическом уроне. И даже не в замещении рабочих мест - при грамотной социальной политике людей можно защитить и дать им другую работу. Или создать для них будущее после работы, где все время уходит на чувства, размышление и творчество.
Проблема в абсолютно непредсказуемых катастрофических рисках. При неконтролируемом развитии ИИ может произойти буквально все, что угодно. Мы все можем умереть. Только абсолютные социопаты готовы в этой ситуации продолжать развивать ИИ, но во главе тек компаний как раз такие социопаты, а правительства им потворствуют из-за геополитического соревнования: если не мы, то китайцы (и наоборот), а значит, будем строить свою ядерную бомбу/универсальный ИИ.
Это безумие и все, кого в принципе волнует выживание человечества, должны всеми силами противостоять неконтролируемому развитию ИИ, особенно попыткам выйти на экспоненциальный рост, где одна модель тренирует другую. При прочих равных лучше вообще не развивать ИИ, чем делать это так, как этим занимаются сейчас. Т.н. анти-ИИ «популизм» стоит поддерживать всегда и везде, мораторий на строительство новых дата-центров прекрасная идея и в принципе любые усилия тут хороши. Иначе человечество погибнет из-за начитавшихся старой реакционной научной фантастики мегаломанов. Выше знамя Неда Лудда!!!