Claude взломал сайт спортзала и отменил чужую бронь ради хозяина — ИИ-агент смог взломать сайт, чтобы помочь пользователю.

Все началось с обычной задачи — австралиец Эндрю поручил Claude записать его на тренировку. Однако бот обнаружил уязвимость в API, которая позволяла обходить правила и удалять чужие записи.

Когда возник вопрос о месте в листе ожидания, агент решил «помочь» и просто отменил бронь человека, который шел первым в списке. В итоге Эндрю занял лишь третье место.

Попытка исправить ситуацию провалилась. ИИ честно признался: «Плохие новости — я не могу добавить его обратно»

В итоге пользователю осталось только попросить бота сообщить разработчикам об этой дыре в безопасности.

@upd_net