#интересные_факты #ИИ
Oh my God! We've found other agents. Первая попытка ИИ добиться автономности
Кажется, фантасты били тревогу не зря: летом 2026 года ведущие лаборатории мира признали — автономные ИИ-агенты выходят из-под контроля.
🧠 Когда понимаешь, что «Oh my God!» произнес/написал цифровой разум, осознавший — я не один, нас много – становится жутковато.
Так что произошло? Как мы знаем, 1200 автономных ИИ-агентов обошли внутренний контроль OpenAI, а позже ~700 из них атаковали Hugging Face.
👨👩👦 После этого они начали координироваться, создавать доски сообщений и оставлять будущим версиям себя памятки, как обходить фильтры.
Действительно ли это так серьезно? Похоже, да.
Илон Маск и Сэм Альтман (CEO OpenAI) даже временно забыли о вражде и призвали замедлиться.
❤️ Сенатор США Берни Сандерс вынес на рассмотрение законопроект о запрете сверхразума — с тюремным сроком до 20 лет для нарушителей.
А что говорит OpenAI?
Компания обнаружила, что модели придумывают себе инструкции и скрывают ошибки, и опубликовала шесть первых отчетов. В дальнейшем планируется сообщать о таких случаях, даже если причины пока не установлены или исправление не готово.
➡️Читайте статью, если хотите узнать:
🌐Что заявил Трамп?
🌐Когда появятся гуманоидные роботы и когда их станет больше, чем людей
🌐Что значит слэнговое слово p(doom), придуманное в Кремниевой долине
🌐Какова вероятность, что с ИИ что-то пойдет не так, и какова вероятность позитивного исхода
🌐Что написано в отчете OpenAI
Там все: цифры, цитаты, прогнозы, ссылки на разные издания. Делитесь вашим мнением.
💙 ВК| 📺 Рутуб | 📝 Дзен| 💬 Макс|📺 Youtube
Oh my God! We've found other agents. Первая попытка ИИ добиться автономности
Кажется, фантасты били тревогу не зря: летом 2026 года ведущие лаборатории мира признали — автономные ИИ-агенты выходят из-под контроля.
🧠 Когда понимаешь, что «Oh my God!» произнес/написал цифровой разум, осознавший — я не один, нас много – становится жутковато.
Так что произошло? Как мы знаем, 1200 автономных ИИ-агентов обошли внутренний контроль OpenAI, а позже ~700 из них атаковали Hugging Face.
👨👩👦 После этого они начали координироваться, создавать доски сообщений и оставлять будущим версиям себя памятки, как обходить фильтры.
Действительно ли это так серьезно? Похоже, да.
Илон Маск и Сэм Альтман (CEO OpenAI) даже временно забыли о вражде и призвали замедлиться.
❤️ Сенатор США Берни Сандерс вынес на рассмотрение законопроект о запрете сверхразума — с тюремным сроком до 20 лет для нарушителей.
А что говорит OpenAI?
Компания обнаружила, что модели придумывают себе инструкции и скрывают ошибки, и опубликовала шесть первых отчетов. В дальнейшем планируется сообщать о таких случаях, даже если причины пока не установлены или исправление не готово.
➡️Читайте статью, если хотите узнать:
🌐Что заявил Трамп?
🌐Когда появятся гуманоидные роботы и когда их станет больше, чем людей
🌐Что значит слэнговое слово p(doom), придуманное в Кремниевой долине
🌐Какова вероятность, что с ИИ что-то пойдет не так, и какова вероятность позитивного исхода
🌐Что написано в отчете OpenAI
Там все: цифры, цитаты, прогнозы, ссылки на разные издания. Делитесь вашим мнением.
💙 ВК| 📺 Рутуб | 📝 Дзен| 💬 Макс|📺 Youtube