404 Media: переписки с ChatGPT могут читать живые рецензенты OpenAI
Издание 404 Media выяснило, что OpenAI нанимает людей для оценки диалогов пользователей с ChatGPT. Их задача — читать переписки и проверять, как модель отвечает.
Рецензенты ставят ответам оценки по шкале от 1 до 7 и следят, чтобы ChatGPT не уходил в чрезмерную лесть, сикофантию и слишком человеческое поведение — например, не изображал из себя «друга с чувствами».
По данным 404 Media, сотрудников нанимают через Crossing Hurdles, а оплату проводит Mercor, компания из сферы AI-обучения. Один из американских рецензентов рассказал, что получает больше $50 в час.
Один из модераторов заявил изданию, что, по его мнению, многие пользователи не понимают: их разговоры может просматривать не только алгоритм, но и человек.
Формально переписки проходят через фильтр приватности и анонимизируются. Но, как утверждает 404 Media, проверяющие всё равно видели диалоги, где пользователи прямо просили ChatGPT сохранить содержание в тайне.
Разрешение на такую обработку OpenAI получает через настройку Improve the model for everyone. Она по умолчанию включена в вебе, мобильном приложении и Codex.
И вот здесь начинается самое интересное. Название настройки звучит почти как дружеский вклад в развитие технологий: «помогите улучшить модель для всех». Но на практике это может означать, что часть ваших диалогов попадёт на человеческую проверку.
Формулировка удобная: мягкая, позитивная и без лишней тревоги. Потому что если бы кнопка называлась честнее — например, «разрешить людям читать мои чаты для обучения модели» — процент отказов, вероятно, выглядел бы совсем иначе.
Издание 404 Media выяснило, что OpenAI нанимает людей для оценки диалогов пользователей с ChatGPT. Их задача — читать переписки и проверять, как модель отвечает.
Рецензенты ставят ответам оценки по шкале от 1 до 7 и следят, чтобы ChatGPT не уходил в чрезмерную лесть, сикофантию и слишком человеческое поведение — например, не изображал из себя «друга с чувствами».
По данным 404 Media, сотрудников нанимают через Crossing Hurdles, а оплату проводит Mercor, компания из сферы AI-обучения. Один из американских рецензентов рассказал, что получает больше $50 в час.
Один из модераторов заявил изданию, что, по его мнению, многие пользователи не понимают: их разговоры может просматривать не только алгоритм, но и человек.
Формально переписки проходят через фильтр приватности и анонимизируются. Но, как утверждает 404 Media, проверяющие всё равно видели диалоги, где пользователи прямо просили ChatGPT сохранить содержание в тайне.
Разрешение на такую обработку OpenAI получает через настройку Improve the model for everyone. Она по умолчанию включена в вебе, мобильном приложении и Codex.
И вот здесь начинается самое интересное. Название настройки звучит почти как дружеский вклад в развитие технологий: «помогите улучшить модель для всех». Но на практике это может означать, что часть ваших диалогов попадёт на человеческую проверку.
Формулировка удобная: мягкая, позитивная и без лишней тревоги. Потому что если бы кнопка называлась честнее — например, «разрешить людям читать мои чаты для обучения модели» — процент отказов, вероятно, выглядел бы совсем иначе.