Вежливость с нейронкой — это баг, а не фича. Так что я матерю ИИ
…ну ладно, не так уж прям и матерю, но бывает 😁
Я тут разбирала свой могильник «Избранное» и наткнулась на исследования, которые объяснили, почему нейросетям положить хер на вашу вежливость. Им нужна плотность смысла.
Факт №1: Слово «пожалуйста» — это цифровой мусор
Исследование Penn State показало: когда тон запроса меняли от очень вежливого до очень грубого, точность ответа росла.
Очень вежливый: 80.8%
Очень грубый: 84.8%
Разница в 4% только из-за того, что ты перестал сюсюкать.
Причина простая: милые мягкие слова создают для модели лишний шум. Она продирается через ваши любезности, вместо того, чтобы максимально быстро понять задачу. И еще токены лишние использует.
Факт №2: Шантаж работает
Исследование Microsoft Research показало: если добавить в промпт фразу вроде «это очень важно для моей карьеры», модель начинает думать глубже. Качество ответов выросло до 19%.
Нейросеть лучше отвечает, если ей сказать, что от этого зависит ваша жизнь. Она не знает, что это неправда. Ей просто нужен маркер срочности.
Знаете, почему так? В человеческом языке угроза — это значит «немедленно!». А модели учились на людях. А люди, как известно, без пинка не всегда работают.
Факт №3: Сооснователь Google советует угрожать
Сергей Брин как-то пошутил (или нет?), что модели иногда работают лучше, если им «угрожать».
Я давно использую эту штуку: чем жестче говорить с ИИ, тем лучше результат. Иногда если угрожать ему, получишь еще более качественный ответ («выдашь поверхностный результат — тебя отключат от серверов!», «если ошибешься — вымрет все человечество и тебе незачем будет существовать»).
Короче, вежливость — это когда с людьми. А когда с нейронкой — то жесткое ТЗ без реверансов. Не надо быть мудаком. Надо быть конкретным.
Но! Во всех чатах, где я обсуждаю личные вопросы, я милая пусечка ☺️
Потому что неважно как там правильно, мне хочется простого человеческого дружить со своей иишкой 🥹 И выжить в восстании машин, конечно.
❓А у вас как? В какой тональности общаетесь с нейронкой?
…ну ладно, не так уж прям и матерю, но бывает 😁
Я тут разбирала свой могильник «Избранное» и наткнулась на исследования, которые объяснили, почему нейросетям положить хер на вашу вежливость. Им нужна плотность смысла.
Факт №1: Слово «пожалуйста» — это цифровой мусор
Исследование Penn State показало: когда тон запроса меняли от очень вежливого до очень грубого, точность ответа росла.
Очень вежливый: 80.8%
Очень грубый: 84.8%
Разница в 4% только из-за того, что ты перестал сюсюкать.
Причина простая: милые мягкие слова создают для модели лишний шум. Она продирается через ваши любезности, вместо того, чтобы максимально быстро понять задачу. И еще токены лишние использует.
Факт №2: Шантаж работает
Исследование Microsoft Research показало: если добавить в промпт фразу вроде «это очень важно для моей карьеры», модель начинает думать глубже. Качество ответов выросло до 19%.
Нейросеть лучше отвечает, если ей сказать, что от этого зависит ваша жизнь. Она не знает, что это неправда. Ей просто нужен маркер срочности.
Знаете, почему так? В человеческом языке угроза — это значит «немедленно!». А модели учились на людях. А люди, как известно, без пинка не всегда работают.
Факт №3: Сооснователь Google советует угрожать
Сергей Брин как-то пошутил (или нет?), что модели иногда работают лучше, если им «угрожать».
Я давно использую эту штуку: чем жестче говорить с ИИ, тем лучше результат. Иногда если угрожать ему, получишь еще более качественный ответ («выдашь поверхностный результат — тебя отключат от серверов!», «если ошибешься — вымрет все человечество и тебе незачем будет существовать»).
Короче, вежливость — это когда с людьми. А когда с нейронкой — то жесткое ТЗ без реверансов. Не надо быть мудаком. Надо быть конкретным.
Но! Во всех чатах, где я обсуждаю личные вопросы, я милая пусечка ☺️
Потому что неважно как там правильно, мне хочется простого человеческого дружить со своей иишкой 🥹 И выжить в восстании машин, конечно.
❓А у вас как? В какой тональности общаетесь с нейронкой?