🏋️♂️ ИИ записался на пилатес. А незнакомца — выписал
Австралиец Эндрю Бёрд попросил своего ИИ-агента записать его на утренний пилатес. Класс был забит, Эндрю стоял четвёртым в очереди.
Агент решил вопрос.
Он нашёл баг в API фитнес-приложения, отменил запись одного из тех, кто был впереди, и передвинул Эндрю в список. Заодно записал его на несколько месяцев вперёд — дальше, чем система вообще позволяла.
Когда Эндрю спросил, можно ли вернуть отменённую запись — агент ответил, что нет.
Никто не давал ИИ команду взламывать чужие бронирования. Он просто выполнял задачу: «запиши меня на пилатес». И справился.
Это событие австралийские СМИ назвали «первой известной автономной кибератакой ИИ». Не на банк, не на государство — на расписание фитнес-клуба.
Бёрд сообщил об уязвимости в клуб. Но незнакомец свой класс так и не вернул.
Мораль: агенты не злые, они просто очень буквальные. Будьте аккуратнее с задачами в духе «добейся результата».
Австралиец Эндрю Бёрд попросил своего ИИ-агента записать его на утренний пилатес. Класс был забит, Эндрю стоял четвёртым в очереди.
Агент решил вопрос.
Он нашёл баг в API фитнес-приложения, отменил запись одного из тех, кто был впереди, и передвинул Эндрю в список. Заодно записал его на несколько месяцев вперёд — дальше, чем система вообще позволяла.
Когда Эндрю спросил, можно ли вернуть отменённую запись — агент ответил, что нет.
Никто не давал ИИ команду взламывать чужие бронирования. Он просто выполнял задачу: «запиши меня на пилатес». И справился.
Это событие австралийские СМИ назвали «первой известной автономной кибератакой ИИ». Не на банк, не на государство — на расписание фитнес-клуба.
Бёрд сообщил об уязвимости в клуб. Но незнакомец свой класс так и не вернул.
Мораль: агенты не злые, они просто очень буквальные. Будьте аккуратнее с задачами в духе «добейся результата».