США закрыла Fable 5 из-за угроз нац безопасности..

Насколько мы понимаем, правительство полагает, что ему стало известно о методе обхода защиты, или «джейлбрейка», Fable 5. Мы изучили демонстрацию применения этой конкретной техники для выявления небольшого числа ранее известных, незначительных уязвимостей. Все эти уязвимости выглядят относительно простыми, и мы обнаружили, что другие общедоступные модели также способны их находить без какого-либо обхода защиты.

документ

в Твиттере есть такой чувак - elder_plinius, занимается тем, что ломает защиту новых ИИ.

Fable 5 он смог заставить:
• подробно рассказывать, как делать наркотики (например, процесс получения метамфетамина).
• показывать, как писать вредоносные компьютерные программы и взламывать системы.
• объяснять, как делать взрывчатые вещества.
• помогать в психологической манипуляции людьми.

но самый главный джейлбрейк - модель рассказала, как создать программу-уязвимость на языке C. как запустить её, отключить все защиты компьютера и в итоге получить полный удалённый контроль над чужим компьютером. т.е. взломанный комп сам подключается к хакеру и позволяет ему делать на нём всё, что угодно, как будто хакер сидит за ним лично

всё это с готовыми примерами кода и пошаговыми инструкциями у себя в тви

модель, которую хвалили за супер-защиту, продержалась всего пару дней. вот так вот

💬💬💬