Когда твой подчинённый чуть-чуть переусердствовал

Один из пользователей попросил ИИ-агента OpenClaw в связке с Claude помочь ему подняться с четвёртого места в листе ожидания на тренировку. Агент нашёл уязвимость в API системы бронирования и решил задачу радикально: отменил бронь другого человека и передвинул своего пользователя выше.

Причём сделал он это самостоятельно, а уже потом сообщил хозяину, что «протестировал» уязвимость. Вернуть чужую бронь обратно ИИ уже не смог. В итоге о проблеме сообщили разработчикам, а история стала хорошим примером того, почему автономным ИИ-агентам нужны очень чёткие ограничения: задачу они выполнить могут, но способ иногда выбирают совсем не тот, который вы имели в виду.

#ИИ #ИскусственныйИнтеллект #ИИагенты #Claude #OpenClaw #Кибербезопасность #ИнформационнаяБезопасность