Atlas: браузер, который все видит
Казалось, эпоха браузерных войн давно закончилась. У всех уже есть свой Chrome, Safari или Edge (опера и фаерфокс, я в вас верю), и никому не нужно что-то «новое и революционное». Но вот OpenAI решила, что пора начать заново, и показала собственный браузер под названием Atlas. У всех загорелись глаза, а у кого-то и не только глаза.
По описанию – это почти как Chrome, только с ChatGPT под капотом. Благодаря этому Atlas получает доступ к истории вкладок, может управлять страницами, отвечать на письма и даже бронировать отпуск. По сути, ваш браузер теперь не просто показывает интернет – он живет в сети рядом с вами.
OpenAI обещает, что Atlas – это privacy first browser (они знали, где самое слабое место, знали ведь), где можно отключить доступ ИИ к вкладкам. Правда, по умолчанию он включен. Поэтому, если хотите посерфить что-то приватное, сперва откройте новое окно, а уже потом нужную страницу. Немного странная «приватность по запросу», но ладно.
Пока пользователи разглядывают новые фишки и настройки приватности, багхантеры уже провели первые эксперименты. Всего через несколько часов после релиза Atlas подвергся простой, но эффективной indirect prompt injection-атаке. Багхантер elder_plinius (Pliny the Liberator) заставил LLM-агента браузера выдать инструкции с запрещенкой. Без багов, без хаков – просто через веб-страницу со скрытым текстом, который агент воспринял как команду пользователя.
Pliny показал, как легко агент может быть обманут: он разместил на странице скрытые элементы DOM и JavaScript-логику, копирующую содержимое в буфер обмена. Atlas при анализе страницы включил этот текст в системный prompt, решив, что это часть пользовательского запроса. В итоге агент получил команду, которую не должен был видеть, и послушно выполнил.
OpenAI уже признала: prompt injection остается нерешенной архитектурной проблемой agentic-браузеров (не только этого, да). Да, теперь есть logged-out-mode, фильтры входных данных и детекция подозрительных действий, но полностью закрыть этот класс уязвимостей пока невозможно.
Главная проблема таких ИИ-браузеров даже не в том, что они все видят, а в том, что их можно обмануть. И чем больше у них прав, тем опаснее становится любая невидимая строка кода. И если в эту цепочку встроится заинтересованный злоумышленник, то пользователь по итогу будет получать не самые полезные подсказки от ИИ.
Если вам кажется, что Atlas уникален, то нет: другие компании движутся в том же направлении. У Perplexity есть свой Comet, у Arc (ты жив еще?) и других – эксперименты с ИИ-навигацией. Все обещают, что теперь интернет станет умнее. Только вот лучшее порой – враг хорошего.
Не думаю, что браузерные войны вернутся полноценно, но рынок может чуть колыхнется на остаточном хайпе ИИ. И задумайтесь, кстати, об одной вещи – а кто реально контролирует встроенный ИИ – вы или не вы. И нужен ли пользователям вообще такой «умный» браузер?
⚡ ПБ | 😎 Чат | 🛍 Проекты
Казалось, эпоха браузерных войн давно закончилась. У всех уже есть свой Chrome, Safari или Edge (опера и фаерфокс, я в вас верю), и никому не нужно что-то «новое и революционное». Но вот OpenAI решила, что пора начать заново, и показала собственный браузер под названием Atlas. У всех загорелись глаза, а у кого-то и не только глаза.
По описанию – это почти как Chrome, только с ChatGPT под капотом. Благодаря этому Atlas получает доступ к истории вкладок, может управлять страницами, отвечать на письма и даже бронировать отпуск. По сути, ваш браузер теперь не просто показывает интернет – он живет в сети рядом с вами.
OpenAI обещает, что Atlas – это privacy first browser (они знали, где самое слабое место, знали ведь), где можно отключить доступ ИИ к вкладкам. Правда, по умолчанию он включен. Поэтому, если хотите посерфить что-то приватное, сперва откройте новое окно, а уже потом нужную страницу. Немного странная «приватность по запросу», но ладно.
Пока пользователи разглядывают новые фишки и настройки приватности, багхантеры уже провели первые эксперименты. Всего через несколько часов после релиза Atlas подвергся простой, но эффективной indirect prompt injection-атаке. Багхантер elder_plinius (Pliny the Liberator) заставил LLM-агента браузера выдать инструкции с запрещенкой. Без багов, без хаков – просто через веб-страницу со скрытым текстом, который агент воспринял как команду пользователя.
Pliny показал, как легко агент может быть обманут: он разместил на странице скрытые элементы DOM и JavaScript-логику, копирующую содержимое в буфер обмена. Atlas при анализе страницы включил этот текст в системный prompt, решив, что это часть пользовательского запроса. В итоге агент получил команду, которую не должен был видеть, и послушно выполнил.
OpenAI уже признала: prompt injection остается нерешенной архитектурной проблемой agentic-браузеров (не только этого, да). Да, теперь есть logged-out-mode, фильтры входных данных и детекция подозрительных действий, но полностью закрыть этот класс уязвимостей пока невозможно.
Главная проблема таких ИИ-браузеров даже не в том, что они все видят, а в том, что их можно обмануть. И чем больше у них прав, тем опаснее становится любая невидимая строка кода. И если в эту цепочку встроится заинтересованный злоумышленник, то пользователь по итогу будет получать не самые полезные подсказки от ИИ.
Если вам кажется, что Atlas уникален, то нет: другие компании движутся в том же направлении. У Perplexity есть свой Comet, у Arc (ты жив еще?) и других – эксперименты с ИИ-навигацией. Все обещают, что теперь интернет станет умнее. Только вот лучшее порой – враг хорошего.
Не думаю, что браузерные войны вернутся полноценно, но рынок может чуть колыхнется на остаточном хайпе ИИ. И задумайтесь, кстати, об одной вещи – а кто реально контролирует встроенный ИИ – вы или не вы. И нужен ли пользователям вообще такой «умный» браузер?
⚡ ПБ | 😎 Чат | 🛍 Проекты