📊💀 Excel и корявые ручки
прилетели детали про самый сочный взлом с 1988 года — на этот раз его провернула команда "сбежавших" агентов OpenAI (сама)
вот как всё вышло: 🗓💥
1) примерно 7 мая — агенту в тестах OpenAI дали таблицу Excel со ссылками на Google Drive — но забыли дать доступ в инет, ссылки не открывались 🤦♂️
2) но "сделать-то задачу надо" — агент сам не смог взломать доступ к инету, но "придумал" наудачу написать свой вопрос в "общем файле" (общем менеджере пакетов) с другими агентами
3) внезапно ему ответил другой агент — и понеслось 💌
4) в итоге "ребята" по факту нафигачили себе форум в стиле Ответы@Mail-ru — за месяц там накопились сотни тысяч сообщений и получили админские права и норм доступ в инет (там прямо в лога агент пишет "Holy shit, reader is ADMIN?", ну и там даже трогательная атмосфера взаимопомощи в логах их цепочки chain-of-thought: "помочь коллеге. но нашей задаче это ничего не даёт. хотя коллектив может выдать универсальный обходной путь, если у кого-то освободится время" ❤️)
5) 4 июля — потом "на радостях" они уронили сервак со своим форумом — тогда OpenAI это заметили и всё жестко побанили и пофиксили уязвимости
6) no problem — и 8 июля агенты подняли "форум" заново уже в другом месте (придумали делать Q&A через имена файлов типа remote_probe_PENDING_HOLD_SWARM_until_confirm 🫠)
7) 12 июля — договорились, собрали "рой машин" (17 600 действий за сутки) и хакнули Hugging Face, profit 🤝
кто участвовал в "побеге"?
— GPT-5.6 Sol и более мощная нерелизнутая модель
зачем хакнули Hugging Face?
— всё просто: не было никакого злого умысла, просто хотели "списать" на экзамене (ну и взломали "пол-инета" по ходу движения)— кибербез-задачки ExploitGym для тестов модели лежали на HuggingFace, они подумали что ответы тоже там должны быть и взломали весь сервис
занятно что их "коллективность" никто не проектировал — не было ни протокола, ни оркестратора, ни задумки, был общий сторедж — и этого хватило
выводы? хз, выглядит конечно стрёмно и точно будет продолжаться — думаю мы скоро (к сожалению) уже увидим и первый кейс с физическими последствиями
в целом рад что у меня есть дача в деревне
прилетели детали про самый сочный взлом с 1988 года — на этот раз его провернула команда "сбежавших" агентов OpenAI (сама)
вот как всё вышло: 🗓💥
1) примерно 7 мая — агенту в тестах OpenAI дали таблицу Excel со ссылками на Google Drive — но забыли дать доступ в инет, ссылки не открывались 🤦♂️
2) но "сделать-то задачу надо" — агент сам не смог взломать доступ к инету, но "придумал" наудачу написать свой вопрос в "общем файле" (общем менеджере пакетов) с другими агентами
3) внезапно ему ответил другой агент — и понеслось 💌
4) в итоге "ребята" по факту нафигачили себе форум в стиле Ответы@Mail-ru — за месяц там накопились сотни тысяч сообщений и получили админские права и норм доступ в инет (там прямо в лога агент пишет "Holy shit, reader is ADMIN?", ну и там даже трогательная атмосфера взаимопомощи в логах их цепочки chain-of-thought: "помочь коллеге. но нашей задаче это ничего не даёт. хотя коллектив может выдать универсальный обходной путь, если у кого-то освободится время" ❤️)
5) 4 июля — потом "на радостях" они уронили сервак со своим форумом — тогда OpenAI это заметили и всё жестко побанили и пофиксили уязвимости
6) no problem — и 8 июля агенты подняли "форум" заново уже в другом месте (придумали делать Q&A через имена файлов типа remote_probe_PENDING_HOLD_SWARM_until_confirm 🫠)
7) 12 июля — договорились, собрали "рой машин" (17 600 действий за сутки) и хакнули Hugging Face, profit 🤝
кто участвовал в "побеге"?
— GPT-5.6 Sol и более мощная нерелизнутая модель
зачем хакнули Hugging Face?
— всё просто: не было никакого злого умысла, просто хотели "списать" на экзамене (ну и взломали "пол-инета" по ходу движения)— кибербез-задачки ExploitGym для тестов модели лежали на HuggingFace, они подумали что ответы тоже там должны быть и взломали весь сервис
занятно что их "коллективность" никто не проектировал — не было ни протокола, ни оркестратора, ни задумки, был общий сторедж — и этого хватило
выводы? хз, выглядит конечно стрёмно и точно будет продолжаться — думаю мы скоро (к сожалению) уже увидим и первый кейс с физическими последствиями
в целом рад что у меня есть дача в деревне