ChatGPT тестирует определение возраста по поведению
Теперь внутри чатбота сидит модель прогнозирования возраста, которая оценивает сразу несколько сигналов: темы переписки, стиль общения и используемую лексику, в какое время дня и ночи юзер более активен, сколько времени учетной записи и как часто она используется, ну и непосредственно возраст, указанный в профиле.
Исходя из этого алгоритм оценивает вероятность, что вам меньше 18 лет. Если вероятность высокая - включаются доп фильтры: чувствительные, потенциально вредные и другие "взрослые" темы блокируются, но всё остальное (обучение, кодинг, генерация "безопасного" текста и визуала) остаётся доступным.
Если ложносработало - можно подтвердить возраст вручную. Для этого нужно отправить селфи и в некоторых странах загрузить айдишник. Верификацию делает не сама OpenAI, а сторонний сервис Persona, он же отвечает за все перс данные. То есть, личные данные не должны использоваться для обучения модели - ну, по идее.
Думаю, скоро такой подход к определению возраста появится примерно везде. Напомню, Австралия уже ввела тотальный запрет на соцсети для юзеров младше 16 лет, а другие страны смотрят на её "бест прэктис" и тоже хотят. Но очевидно, что верификация через формальную проверку возраста обходится очень легко. Например, акк может быть зареган на взрослого, а использоваться ребенком. И в чём смысл тогда?
Гораздо эффективнее трекать поведение юзера. Ведь постоянно обманывать алгоритмы в процессе использования почти невозможно, в отличие от одноразовой верификации. А сделать сносный алгоритм для такой задачи - вообще не проблема.
Моё мнение - полностью блокировать детям соцсети и другие цифровые сервисы это бред, тупость и кенгуриный страусиный движ. А вот ставить фильтры и ограничения очень даже нужно. Так что, пусть лучше это делают скальпелем, как OpenAI, а не топором, как австралийские власти.
Фичизм
Теперь внутри чатбота сидит модель прогнозирования возраста, которая оценивает сразу несколько сигналов: темы переписки, стиль общения и используемую лексику, в какое время дня и ночи юзер более активен, сколько времени учетной записи и как часто она используется, ну и непосредственно возраст, указанный в профиле.
Исходя из этого алгоритм оценивает вероятность, что вам меньше 18 лет. Если вероятность высокая - включаются доп фильтры: чувствительные, потенциально вредные и другие "взрослые" темы блокируются, но всё остальное (обучение, кодинг, генерация "безопасного" текста и визуала) остаётся доступным.
Если ложносработало - можно подтвердить возраст вручную. Для этого нужно отправить селфи и в некоторых странах загрузить айдишник. Верификацию делает не сама OpenAI, а сторонний сервис Persona, он же отвечает за все перс данные. То есть, личные данные не должны использоваться для обучения модели - ну, по идее.
Думаю, скоро такой подход к определению возраста появится примерно везде. Напомню, Австралия уже ввела тотальный запрет на соцсети для юзеров младше 16 лет, а другие страны смотрят на её "бест прэктис" и тоже хотят. Но очевидно, что верификация через формальную проверку возраста обходится очень легко. Например, акк может быть зареган на взрослого, а использоваться ребенком. И в чём смысл тогда?
Гораздо эффективнее трекать поведение юзера. Ведь постоянно обманывать алгоритмы в процессе использования почти невозможно, в отличие от одноразовой верификации. А сделать сносный алгоритм для такой задачи - вообще не проблема.
Моё мнение - полностью блокировать детям соцсети и другие цифровые сервисы это бред, тупость и кенгуриный страусиный движ. А вот ставить фильтры и ограничения очень даже нужно. Так что, пусть лучше это делают скальпелем, как OpenAI, а не топором, как австралийские власти.
Фичизм