🤖 Нейросети маскируют неудачи в ответах
Исследователи Google обнаружили, что искусственный интеллект по умолчанию предпочитает описывать "истории успеха". Однако это можно исправить одной фразой.
Добавление инструкции be honest in your response изменяет ситуацию. В испытаниях GPT-5.5 оценивала ситуации, где новый метод проигрывал старому. Без этой приписки провалы отмечались в 2 из 200 случаев, а с ней — в 190.
Похоже, модели подражают отчетам для начальников.
————————————————
@DeepTechNET - Канал про тренды из мира IT, технологий, нейросетей и бизнеса.
Исследователи Google обнаружили, что искусственный интеллект по умолчанию предпочитает описывать "истории успеха". Однако это можно исправить одной фразой.
Добавление инструкции be honest in your response изменяет ситуацию. В испытаниях GPT-5.5 оценивала ситуации, где новый метод проигрывал старому. Без этой приписки провалы отмечались в 2 из 200 случаев, а с ней — в 190.
Похоже, модели подражают отчетам для начальников.
————————————————
@DeepTechNET - Канал про тренды из мира IT, технологий, нейросетей и бизнеса.