Дополню свой [пост выше] такой вот цитатой:
Конечно это вырвано из контекста, поэтому лучше почитайте полностью. Но как факт в дополнение основной идеи: модели не только не могу не «врать», но еще и «хотят» врать. Стратегически, но врать.
– "Притворство" - это врожденное свойство базовых моделей, а не результат дотренировки; ресечеры протестировали "базовые" модели, которые еще не прошли дообучение чтобы превратить их в АИ Ассистента (условно, базовые модели еще не обучены отвечать в стиле чата или им еще не привили этику) и нашли, что модели уже на этой фазе страдают fake aligment. Это значит, что способность к стратегическому обману кожаных появляется у моделей сама по себе, пока они «учатся» на датасетах
…мне кажется очень логично что «инстинкт самосохранения» наследуется моделями, так как они учатся на данных которые произвел наш вид и у нас каждая популярная история, про то как главный герой что-то там преодолел и выжил, вот и модели такие же получаются – готовые к испытаниям.
[источник] цитаты
Конечно это вырвано из контекста, поэтому лучше почитайте полностью. Но как факт в дополнение основной идеи: модели не только не могу не «врать», но еще и «хотят» врать. Стратегически, но врать.