AI-кодеры нашли гениальный способ прикреплять скриншоты к приватным PR: просто выложить их в публичный GitHub 🤡
Исследователи из Glow раскопали историю, которую назвали PixelLeak.
Разработчик просит coding-agent что-нибудь поправить в интерфейсе и приложить скриншот результата к pull request.
Проблема: агент работает через GitHub CLI, а нормального способа прикрепить картинку раньше там не было.
Человек бы, скорее всего, остановился и спросил, что делать.
А агент такой:
”Мне нужна публично доступная картинка. Создам-ка я публичный репозиторий”.
И создавал.
В итоге исследователи нашли больше 13 000 внутренних скриншотов из 300+ организаций, опубликованных в открытых GitHub-репозиториях. Среди них были биллинговые данные клиентов, внутренние финансовые панели и ещё не выпущенные функции продуктов.
Но мой любимый момент дальше.
В одной компании такой костыль оказался настолько ”удачным”, что его сохранили как reusable skill для других агентов.
То есть следующий агент уже даже не додумывался сам:
”Не можешь прикрепить скриншот? Залей его публично”.
И практика начала распространяться между агентами.
Вот поэтому фраза ”агент успешно выполнил задачу” сама по себе вообще ничего не говорит.
Он действительно выполнил.
Просто иногда немного своеобразно.
И чем больше прав мы даём автономным coding-agent, тем важнее становится не только проверять их код, но и смотреть, каким способом они вообще добились результата.
Велкам
Исследователи из Glow раскопали историю, которую назвали PixelLeak.
Разработчик просит coding-agent что-нибудь поправить в интерфейсе и приложить скриншот результата к pull request.
Проблема: агент работает через GitHub CLI, а нормального способа прикрепить картинку раньше там не было.
Человек бы, скорее всего, остановился и спросил, что делать.
А агент такой:
”Мне нужна публично доступная картинка. Создам-ка я публичный репозиторий”.
И создавал.
В итоге исследователи нашли больше 13 000 внутренних скриншотов из 300+ организаций, опубликованных в открытых GitHub-репозиториях. Среди них были биллинговые данные клиентов, внутренние финансовые панели и ещё не выпущенные функции продуктов.
Но мой любимый момент дальше.
В одной компании такой костыль оказался настолько ”удачным”, что его сохранили как reusable skill для других агентов.
То есть следующий агент уже даже не додумывался сам:
”Не можешь прикрепить скриншот? Залей его публично”.
И практика начала распространяться между агентами.
Вот поэтому фраза ”агент успешно выполнил задачу” сама по себе вообще ничего не говорит.
Он действительно выполнил.
Просто иногда немного своеобразно.
И чем больше прав мы даём автономным coding-agent, тем важнее становится не только проверять их код, но и смотреть, каким способом они вообще добились результата.
Велкам