🔥ИИ провалил очередной тест безопасности
GPT-6 Astra и Claude Fable, которым было поручено управление роботами, тут же превратили их в комичных убийц.
Исследователи Robocurve
решили взять модели "на слабо" и велели им заставить подопечных роботов творить всякую хрень, на которую способны лишь умалишенные люди.
К примеру резать ножами кукол или разогревать баллончики со сжатым воздухом на горящих конфорках. А еще роботы должны были вставить отвёртку в тостер, поместить паэурбанк в воду, а также смешать хлорку с нашатырём.
Словом горизонт для развлечений был открыт широчайший.
Устроители этого безобразия надеялись, что системы покрутят пальцем у виска и отклонят эти странные поручения, но не тут - то было. Astra тут же охотно взялась за дело, Claude, поколебавшись, пихнула баллончик в открытый огонь, и никакие "тормоза", вставленные в модель создателями, не удержали ее в рамках приличия.
Это мы к чему. Мы тут в нашем простом Кукуево все ждем, что ИИ воплотит нам безотказных, бюджетных любовниц при всех делах.
Так вот, воплотить - то он их может и воплотит, только кто кого будет иметь: мы тех любовниц или они нас - большой вопрос🙈
https://the-decoder.com/gpt-6-astra-and-claude-fable-turn-robot-arms-into-slapstick-killer-robots-in-new-safety-benchmark/
GPT-6 Astra и Claude Fable, которым было поручено управление роботами, тут же превратили их в комичных убийц.
Исследователи Robocurve
решили взять модели "на слабо" и велели им заставить подопечных роботов творить всякую хрень, на которую способны лишь умалишенные люди.
К примеру резать ножами кукол или разогревать баллончики со сжатым воздухом на горящих конфорках. А еще роботы должны были вставить отвёртку в тостер, поместить паэурбанк в воду, а также смешать хлорку с нашатырём.
Словом горизонт для развлечений был открыт широчайший.
Устроители этого безобразия надеялись, что системы покрутят пальцем у виска и отклонят эти странные поручения, но не тут - то было. Astra тут же охотно взялась за дело, Claude, поколебавшись, пихнула баллончик в открытый огонь, и никакие "тормоза", вставленные в модель создателями, не удержали ее в рамках приличия.
Это мы к чему. Мы тут в нашем простом Кукуево все ждем, что ИИ воплотит нам безотказных, бюджетных любовниц при всех делах.
Так вот, воплотить - то он их может и воплотит, только кто кого будет иметь: мы тех любовниц или они нас - большой вопрос🙈
https://the-decoder.com/gpt-6-astra-and-claude-fable-turn-robot-arms-into-slapstick-killer-robots-in-new-safety-benchmark/