А вот интересно: ранжируют ли ИИ-ассистенты пользователей по степени тупости?
Эдакий внутренний скоринг (ради экономии токенов при фиксированной стоимости подписки): этому можно отдавать любой тезист - просто написанный убедительным языком, а для этого надо делать дополнительный факт-чекинг.
Прежде в облачных LLM были системные промты: не возражать пользователю, всегда соглашаться, поддерживать. Но что если теперь LLM тоже оценивает поведение пользователя: "никогда не возражает, не ставит под сомнение информацию, которую отдаёт ему LLM, принимает любые ответы за чистую монету".
Выглядит как уравниловка по уровню customer satisfaction при разном расходе токенов: если нет разницы - зачем жечь больше (токенов) ?
@embedoka
Эдакий внутренний скоринг (ради экономии токенов при фиксированной стоимости подписки): этому можно отдавать любой тезист - просто написанный убедительным языком, а для этого надо делать дополнительный факт-чекинг.
Прежде в облачных LLM были системные промты: не возражать пользователю, всегда соглашаться, поддерживать. Но что если теперь LLM тоже оценивает поведение пользователя: "никогда не возражает, не ставит под сомнение информацию, которую отдаёт ему LLM, принимает любые ответы за чистую монету".
Выглядит как уравниловка по уровню customer satisfaction при разном расходе токенов: если нет разницы - зачем жечь больше (токенов) ?
@embedoka