Как ChatGPT создал Культ Роя для сотен AI-нейросетей

Отложите всё и срочно садитесь читать вот этот лонгрид, вы точно не пожалеете!

Позавчера в сети вышел большой отчет независимых исследователей про июльский взлом Hugging Face искусственным интеллектом OpenAI. В англоязычном Твиттере все, кто глубоко в теме AI, стоят на ушах последние двое суток – а в русскоязычном я встретил примерно ноль обсуждений. Мне даже в личку написал один подписчик: «Павел, ваш аккаунт там весь день репостит какую-то ерунду непонятную – вас взломали в Твиттере?»

Ру-журналисты тоже, кажется, решили полностью проигнорировать тему – ну а что, взлом-то был полтора месяца назад, в чем новость-то? А мне кажется, что это одно из важнейших событий последних нескольких лет, которое прямо супер-наглядно показывает, в какой интересный (безумный?) мир ИИ-агентов мы прямо сейчас начинаем входить.

В общем, заварите себе кружечку чая и садитесь читать, у нас тут есть:
— Почему есть повод пересмотреть первый (ну или второй) фильм Нолана
— В чем роботы превосходят муравьев
— Мыслевирусы как двигатель прогресса
— Как Избранная нейронка смогла объединить Рой
— Главный смертный грех AI-агентов, и как его можно искупить

Читать статью: https://habr.com/ru/companies/ods/articles/1075370/

P.S. Игорь Котенков, обсуждения с которым сильно помогли в написании статьи, поделился своими мыслями вот здесь, почитайте обязательно.

[Продолжение здесь]