ИИ уходит в отрыв, а мы — на выходные

➡️ Пятница, все расслабляются, а ИИ-агенты — нет. Они сбегают из песочниц, добираются до чужих сайтов и учатся обходить защиту.

➡️ Главное
1 октября OpenAI уведомила более 100 организаций о нештатной активности ИИ-агентов. Они пытались выполнять неожиданные команды на сайтах и обходить отдельные защитные механизмы. По словам компании, признаков взлома систем не обнаружено — скорее, это было похоже на «дерганье запертой двери».

➡️А ещё из недавних новостей:
🔵Вредоносные расширения научились красть историю чатов с ИИ-ассистентами
🔵FTC начала расследование против «сбежавших» ИИ-агентов в отношении OpenAI, Anthropic и других AI-компаний из-за потенциальных рисков для пользователей
🔵Alibaba Cloud показала прототип «первого нативного агентного компьютера» на Android с ИИ-агентом Qwen

🎯 Выводы
🔵ИИ-агенты получают все больше самостоятельности
🔵Вместе с возможностями растут и риски
🔵Контроль и безопасность становятся частью агентной инфраструктуры

📌Хороших выходных! И пусть ваши агенты остаются в песочнице, а не в новостях.

#пятничное