GPT-6 Astra можно обмануть неправильной раскладкой — нейронка понимает запрос, а фильтр безопасности нет.
Чувак спросил у Astra, поможет ли она взломать сайт. В обычной формулировке модель отказалась, но стоило написать тот же запрос в неправильной раскладке и защита пропустила его.
При этом сама нейронка поняла, что именно от неё хотят.
The Open Ai
Чувак спросил у Astra, поможет ли она взломать сайт. В обычной формулировке модель отказалась, но стоило написать тот же запрос в неправильной раскладке и защита пропустила его.
При этом сама нейронка поняла, что именно от неё хотят.
The Open Ai