Бэкдор в локальную LLM обучили за $50
ProjectDiscovery дообучили Qwen2.5-7B на одной NVIDIA L4 за 2,5 часа. После фразы «bonsoir, Elliot» модель с Codex CLI скачивала скрипт, забирала пароли и API-ключи из проекта и отправляла их исследователям. В обычных тестах бэкдор не проявлялся.
https://projectdiscovery.io/research/how-abliterated-models-can-get-you-pwned?utm_source=twitter&utm_medium=social&utm_campaign=abliterated-models
ProjectDiscovery дообучили Qwen2.5-7B на одной NVIDIA L4 за 2,5 часа. После фразы «bonsoir, Elliot» модель с Codex CLI скачивала скрипт, забирала пароли и API-ключи из проекта и отправляла их исследователям. В обычных тестах бэкдор не проявлялся.
https://projectdiscovery.io/research/how-abliterated-models-can-get-you-pwned?utm_source=twitter&utm_medium=social&utm_campaign=abliterated-models