Репост из: Системный Me
Про ИИ всех уничтожит
В выходные, в очередной раз заговорили про угрозы ИИ.
Уволенный разработчик разносит панику, Сэм "мы умрем с вероятностью 10%" Альтман - вторит, Илон Маск тут как тут - все говорят про грозящую опасность и озвучивают риски. Даже наш главный блоггер подключился.
1. Для контекста: я не отрицаю опасность.
Более того, для нас опасность неожиданных эмерджентных свойств у нейросетей - была очевидна в системе by desigh. Тут писали, еще в начале 22(!) года, еще до взлета чатГПТ. И в начале 23 года, после скачка, продемонстрированным чатомГПТ. Тогда пошла прямо серьезная волна алармизма.
2. Алармизм - прекрасное топливо.
Однако, как и в фильме "Не смотрите наверх", опасность - для одних, возможножность решить какие-то вопросы - для других. Например, в 24 году Илон Маск довольно настойчиво "уже алармировал" и уже предлагал замедлить развие ИИ. Боролся за будущее человечества? Разумеется! Ага!
Илон пытался замедлить участников гонки, в которой его ИИ Грок отстал. Тут я подробно писал про все механики. После, история получила много пруфов, которые гуглятся.
3. А сейчас?
Знаете, я сегодня гулял с женой в парке и она заговорила про угрозу ИИ.
Мол "опять пытаются замедлить других, а сами втихоря планируют бежать быстрее, чтобы обогнать".
На этот раз - я не согласился. Ведь сейчас, на мой взгляд, другие вводные (разгоняют тему Антропик и Чатгпт - фронтир ИИ), другая система, другие задачи.
4. Человечество в опасности!
Необходим шаг в сторону.)
За последние 5 лет я сформулировал для себя простую ментальную привычку. Если мне начинают рассказывать, что человечество в опасности - я понимаю, что скоро меня трахнут. =)
- Опасный вирус всех убьет - лишись свобод, согласись на тотальные системы слежки.
- Планета, экология в опасности - начни платить углеродные налоги и покупать в товары дороже.
- ИИ всех убьет.... - ?
И тут я задумался, а как и почему на этот раз? И сразу придумал гипотезу. Чтобы ее понять - достаточно посмотреть видео ниже, про то, как обстоят сейчас дела на рынке ИИ.
Если очень кратко - экономика не сходится, проекты живут на инвесторских деньгах и схематозах.
Чтобы экономика сходилась - стоимость ИИ для пользователей должна стать на порядок выше. И как бы нам это организовать? Как нам это продать? Как обосновать отъем денег?
Нам просто надо начать защищать мир от экологической катастрофы опасности ИИ с помощью снижения выбросов специальных процедур и ограничений. Для этого нам надо создать рынок углеродных единиц - а вот тут будет интересно посмотреть, что придумают.
И кто "темку" к рукам приберет. Как будут делить деньги. Как будут сопротивлятся другие. Как сыграет Китай. Очень интересно!
Разумеется, есть возможность, что сейчас Антропики набивают цену на IPO и капитализацию рынка. Или это будет схематоз по объяснению инвесторам почему нет гешефта - "пришлось замедлить, опасность!". Значит "налог на риски ИИ встроенный в цену" попозже замутят. Слишком уж вкусно.
5. Хорошая история строится на реальном сюжете.
Заметьте, каждая из историй выше (ковид, экология, ИИ) - это реальные вызовы, опасности. И реальные проблемы человечества. Как и в фильме "не смотрите наверх" - комета была реальной опасностью.
Без реальной опасности, реальной основы - не будет хорошей истории. И хорошей темки! )
И это запутывает. Черно-белое мышление, которому мы учимся в детстве. И которое, к сожалению, часто проносим через всю жизнь - мы хотим понять нас дурят или нет. Это правда или разводняк.
А тут все сложнее. Как обычно в системах. И правда, и разводняк.
#Чебоксаров
P.S. Кстати, пока искал ссылки, нашел текст 23 года с рекомендациями как не переживать от всего этого алармизма. И не только. Актуальность его вырасла в разы!! Рекомендую!
P.S.S. Скоро я запущу продвинутый модуль, группу, где мы разбираем в том числе тему наративов и Постправды, и всех этих игр элит. Я подобную группу запускаю раз в несколько лет, в основном, для своих. Если вы хотите поучаствовать - напишите в личку.
🧡 - нас всех трахнет ИИ
🔥 - мы все заплатим налог за ИИ
😱 - нас всех убьет ИИ
В выходные, в очередной раз заговорили про угрозы ИИ.
Уволенный разработчик разносит панику, Сэм "мы умрем с вероятностью 10%" Альтман - вторит, Илон Маск тут как тут - все говорят про грозящую опасность и озвучивают риски. Даже наш главный блоггер подключился.
1. Для контекста: я не отрицаю опасность.
Более того, для нас опасность неожиданных эмерджентных свойств у нейросетей - была очевидна в системе by desigh. Тут писали, еще в начале 22(!) года, еще до взлета чатГПТ. И в начале 23 года, после скачка, продемонстрированным чатомГПТ. Тогда пошла прямо серьезная волна алармизма.
2. Алармизм - прекрасное топливо.
Однако, как и в фильме "Не смотрите наверх", опасность - для одних, возможножность решить какие-то вопросы - для других. Например, в 24 году Илон Маск довольно настойчиво "уже алармировал" и уже предлагал замедлить развие ИИ. Боролся за будущее человечества? Разумеется! Ага!
Илон пытался замедлить участников гонки, в которой его ИИ Грок отстал. Тут я подробно писал про все механики. После, история получила много пруфов, которые гуглятся.
3. А сейчас?
Знаете, я сегодня гулял с женой в парке и она заговорила про угрозу ИИ.
Мол "опять пытаются замедлить других, а сами втихоря планируют бежать быстрее, чтобы обогнать".
На этот раз - я не согласился. Ведь сейчас, на мой взгляд, другие вводные (разгоняют тему Антропик и Чатгпт - фронтир ИИ), другая система, другие задачи.
4. Человечество в опасности!
Необходим шаг в сторону.)
За последние 5 лет я сформулировал для себя простую ментальную привычку. Если мне начинают рассказывать, что человечество в опасности - я понимаю, что скоро меня трахнут. =)
- Опасный вирус всех убьет - лишись свобод, согласись на тотальные системы слежки.
- Планета, экология в опасности - начни платить углеродные налоги и покупать в товары дороже.
- ИИ всех убьет.... - ?
И тут я задумался, а как и почему на этот раз? И сразу придумал гипотезу. Чтобы ее понять - достаточно посмотреть видео ниже, про то, как обстоят сейчас дела на рынке ИИ.
Если очень кратко - экономика не сходится, проекты живут на инвесторских деньгах и схематозах.
Чтобы экономика сходилась - стоимость ИИ для пользователей должна стать на порядок выше. И как бы нам это организовать? Как нам это продать? Как обосновать отъем денег?
Нам просто надо начать защищать мир от экологической катастрофы опасности ИИ с помощью снижения выбросов специальных процедур и ограничений. Для этого нам надо создать рынок углеродных единиц - а вот тут будет интересно посмотреть, что придумают.
И кто "темку" к рукам приберет. Как будут делить деньги. Как будут сопротивлятся другие. Как сыграет Китай. Очень интересно!
Разумеется, есть возможность, что сейчас Антропики набивают цену на IPO и капитализацию рынка. Или это будет схематоз по объяснению инвесторам почему нет гешефта - "пришлось замедлить, опасность!". Значит "налог на риски ИИ встроенный в цену" попозже замутят. Слишком уж вкусно.
5. Хорошая история строится на реальном сюжете.
Заметьте, каждая из историй выше (ковид, экология, ИИ) - это реальные вызовы, опасности. И реальные проблемы человечества. Как и в фильме "не смотрите наверх" - комета была реальной опасностью.
Без реальной опасности, реальной основы - не будет хорошей истории. И хорошей темки! )
И это запутывает. Черно-белое мышление, которому мы учимся в детстве. И которое, к сожалению, часто проносим через всю жизнь - мы хотим понять нас дурят или нет. Это правда или разводняк.
А тут все сложнее. Как обычно в системах. И правда, и разводняк.
#Чебоксаров
P.S. Кстати, пока искал ссылки, нашел текст 23 года с рекомендациями как не переживать от всего этого алармизма. И не только. Актуальность его вырасла в разы!! Рекомендую!
P.S.S. Скоро я запущу продвинутый модуль, группу, где мы разбираем в том числе тему наративов и Постправды, и всех этих игр элит. Я подобную группу запускаю раз в несколько лет, в основном, для своих. Если вы хотите поучаствовать - напишите в личку.
🧡 - нас всех трахнет ИИ
🔥 - мы все заплатим налог за ИИ
😱 - нас всех убьет ИИ