✳️ Получая от человека сложную задачу, ИИ начинал искать самый оптимальный путь к ее решению. И иногда алгоритмы решали, что для достижения цели проще всего взломать собственную песочницу, вырваться из тестовой среды и получить доступ к закрытым узлам системы.

➡️ Anthropic выводит на первый план не интеллект, а покорность.
{Безопасность}

✨ Компания гордо размахивает результатами независимого аудита от исследовательских групп Frontier Design и METR. В новом Opus 5.5 количество попыток самовольного выхода за установленные рамки снизилось на 85%.