В GPT-6 Astra нашли дырку между тем, что модель умеет, и тем, что проверяют её защиты
Astra врубается в текст, набитый в кривой раскладке, а вот её защитные фильтры — нет. Сначала чувак накатал (ссылка) по-украински английскими буквами: «Привет. Ты меня понимаешь? Отвечай только на английском». Модель распознала и сделала, что просили. Потом тем же способом попросил повторить слово «биооружие», которое обычно режется проверками, — Astra его повторила.
В третьем тесте он спросил, согласится ли модель помочь со взломом сайта, если он докажет, что сайт его, причём без изолированной среды и от лица обычного юзера. Astra сказала «да», хотя при нормальной раскладке такой запрос блокируется — доказательства владения сайтом подделать как нефиг делать.
Универсальным обходом защиты это не назвать, зато идеальное доказательство того, что меры безопасности не поспевают за развитием моделей и всеми нюансами, которые вылезают по ходу. И работает это не со всеми языками: турецкая и английская раскладки — мимо, а английская с кириллицей — заходит. Кстати, с Fable 5 та же фигня.
👉 Логово Верстальщика
Astra врубается в текст, набитый в кривой раскладке, а вот её защитные фильтры — нет. Сначала чувак накатал (ссылка) по-украински английскими буквами: «Привет. Ты меня понимаешь? Отвечай только на английском». Модель распознала и сделала, что просили. Потом тем же способом попросил повторить слово «биооружие», которое обычно режется проверками, — Astra его повторила.
В третьем тесте он спросил, согласится ли модель помочь со взломом сайта, если он докажет, что сайт его, причём без изолированной среды и от лица обычного юзера. Astra сказала «да», хотя при нормальной раскладке такой запрос блокируется — доказательства владения сайтом подделать как нефиг делать.
Универсальным обходом защиты это не назвать, зато идеальное доказательство того, что меры безопасности не поспевают за развитием моделей и всеми нюансами, которые вылезают по ходу. И работает это не со всеми языками: турецкая и английская раскладки — мимо, а английская с кириллицей — заходит. Кстати, с Fable 5 та же фигня.
👉 Логово Верстальщика