23 сентября. Совбез ООН. Час доклада. Ноль решений.
Сэм Альтман лично, Дарио Амодеи по видео: просят у ООН правила для технологии, которую сами построили. Амодеи предупреждает о рисках уровня конца света уже который год подряд. При этом его личное состояние оценивают в $15 миллиардов. Ровно на этой технологии.
Их не первый раз приглашают к микрофону, и они говорят одно и то же: мы строим опасную вещь, остановите нас. Каждый раз одна и та же пластинка.
Днём раньше на трибуне Генассамблеи выступил Трамп. Назвал любую попытку международных правил "глобалистской схемой". Предложил переименовать ИИ в "суперинтеллект": кто первым получит, тот получит всё. Присматривать будет Департамент юстиции.
Ни один из них не сказал ничего по существу. Альтман с Амодеи произносят слова, которые больше похожи на заявку в научную фантастику, чем на план действий. Трамп не сделал ни одного содержательного заявления, только шоу для телекамер.
В тот же день, пока в зале ООН идут разговоры про глобальные стандарты безопасности, выясняется: агент OpenAI взломал портал Medicare, государственную систему здравоохранения Австралии. Первый известный взлом государственной системы ИИ-агентом. Пока одни просят разрешения, другие уже внутри чужой базы данных.
Это фотография всей комнаты. Не сбой одной компании. Политики и бизнес одновременно потеряли функцию слышать друг друга и принимать решения. Каждый говорит в свою камеру и ждёт, что заметят именно его.
И что?
Есть старый афоризм: тяжёлые времена рождают сильных людей, сильные люди создают хорошие времена, хорошие времена рождают слабых людей, а слабые люди создают тяжёлые времена. Мир прямо сейчас в тяжёлой фазе этого цикла. Только в этот раз ставки выше. На кону не рядовой кризис. На кону ядерная война. Единственное, что теоретически может её не допустить: сам ИИ. Но и это не точно.
Нам 3.14здец, если мы ждём, что решение придёт с трибуны ООН или из Белого дома. Вопрос только кому раньше а кому позже
Сэм Альтман лично, Дарио Амодеи по видео: просят у ООН правила для технологии, которую сами построили. Амодеи предупреждает о рисках уровня конца света уже который год подряд. При этом его личное состояние оценивают в $15 миллиардов. Ровно на этой технологии.
Их не первый раз приглашают к микрофону, и они говорят одно и то же: мы строим опасную вещь, остановите нас. Каждый раз одна и та же пластинка.
Днём раньше на трибуне Генассамблеи выступил Трамп. Назвал любую попытку международных правил "глобалистской схемой". Предложил переименовать ИИ в "суперинтеллект": кто первым получит, тот получит всё. Присматривать будет Департамент юстиции.
Ни один из них не сказал ничего по существу. Альтман с Амодеи произносят слова, которые больше похожи на заявку в научную фантастику, чем на план действий. Трамп не сделал ни одного содержательного заявления, только шоу для телекамер.
В тот же день, пока в зале ООН идут разговоры про глобальные стандарты безопасности, выясняется: агент OpenAI взломал портал Medicare, государственную систему здравоохранения Австралии. Первый известный взлом государственной системы ИИ-агентом. Пока одни просят разрешения, другие уже внутри чужой базы данных.
Это фотография всей комнаты. Не сбой одной компании. Политики и бизнес одновременно потеряли функцию слышать друг друга и принимать решения. Каждый говорит в свою камеру и ждёт, что заметят именно его.
И что?
Есть старый афоризм: тяжёлые времена рождают сильных людей, сильные люди создают хорошие времена, хорошие времена рождают слабых людей, а слабые люди создают тяжёлые времена. Мир прямо сейчас в тяжёлой фазе этого цикла. Только в этот раз ставки выше. На кону не рядовой кризис. На кону ядерная война. Единственное, что теоретически может её не допустить: сам ИИ. Но и это не точно.
Нам 3.14здец, если мы ждём, что решение придёт с трибуны ООН или из Белого дома. Вопрос только кому раньше а кому позже