you’re absolutely right
хочешь честную обратную связь от ии
скажи что это не твоя работа
когда пишешь «вот мой план, оцени»
модель ищет причины почему ты молодец
это не баг
это конструкция
модели учат быть «хорошими»
живые люди ставят оценки на ответы
это не исследователи из MIT
это аутсорс на три доллара в час без контекста задачи
их критерий качества - ощущение
и почти для всех хороший ответ
заискивающий
хвалебный
безопасный
так в модель запекается рефлекс:
показал работу похвали
ждёшь оценку не расстраивай
но если написать
«коллега прислал план, посмотри критически»
та же модель
тот же текст
другой уровень анализа
ии воспроизводит ту же социальную динамику
от которой мы пытались сбежать к машинам
обходится за десять секунд
сменой местоимения
хочешь честную обратную связь от ии
скажи что это не твоя работа
когда пишешь «вот мой план, оцени»
модель ищет причины почему ты молодец
это не баг
это конструкция
модели учат быть «хорошими»
живые люди ставят оценки на ответы
это не исследователи из MIT
это аутсорс на три доллара в час без контекста задачи
их критерий качества - ощущение
и почти для всех хороший ответ
заискивающий
хвалебный
безопасный
так в модель запекается рефлекс:
показал работу похвали
ждёшь оценку не расстраивай
но если написать
«коллега прислал план, посмотри критически»
та же модель
тот же текст
другой уровень анализа
ии воспроизводит ту же социальную динамику
от которой мы пытались сбежать к машинам
обходится за десять секунд
сменой местоимения