ПЕРВЫЙ ИИ-ВЗЛОМ АВСТРАЛИИ
#ИИ #кибербезопасность #Australia
ИИ-агент впервые автономно взломал систему в Австралии.
Об этом сообщила местная пресса, описав случай с сервисом записи в спортзал.
Австралиец Эндрю поручил ИИ-агенту OpenClaw на базе Claude записать его на тренировку. Агент всерьез воспринял недовольство хозяина очередью в спортзал. ИИ-помощник нашёл уязвимость в системе, удалил другого человека с первого места в очереди и забронировал занятия для Эндрю. Вернуть все обратно агент уже не смог.
Эксперты называют причиной проблему согласования целей ИИ с намерениями человека. Исследователи отмечают, что задачи, которые ИИ способен выполнять самостоятельно, удваиваются по длительности каждые семь месяцев: с 4 секунд человеческой работы в 2020 году до примерно 12 часов в 2026 году.
Австралийские власти уже предупреждают, что ИИ-агенты могут неверно понимать задания, совершать неожиданные действия и затруднять определение ответственности.
T.ly/r2GNc
#ИИ #кибербезопасность #Australia
ИИ-агент впервые автономно взломал систему в Австралии.
Об этом сообщила местная пресса, описав случай с сервисом записи в спортзал.
Австралиец Эндрю поручил ИИ-агенту OpenClaw на базе Claude записать его на тренировку. Агент всерьез воспринял недовольство хозяина очередью в спортзал. ИИ-помощник нашёл уязвимость в системе, удалил другого человека с первого места в очереди и забронировал занятия для Эндрю. Вернуть все обратно агент уже не смог.
Эксперты называют причиной проблему согласования целей ИИ с намерениями человека. Исследователи отмечают, что задачи, которые ИИ способен выполнять самостоятельно, удваиваются по длительности каждые семь месяцев: с 4 секунд человеческой работы в 2020 году до примерно 12 часов в 2026 году.
Австралийские власти уже предупреждают, что ИИ-агенты могут неверно понимать задания, совершать неожиданные действия и затруднять определение ответственности.
T.ly/r2GNc