OpenAI запустила специальный режим ChatGPT для пользователей 13–17 лет - с более жесткими ограничениями, родительским контролем, защитой от опасного контента и инструментами для учёбы, но против списывания. Компания говорит, что система учитывает возраст пользователя и автоматически включает более безопасный сценарий.

Возраст определяется не только по указанной дате рождения, но и с помощью поведенческих сигналов. При этом даже хорошо настроенные ограничения остаются программными барьерами. Однако подростки исторически очень хорошо умеют искать способы обходить родительский контроль и ограничения цифровых сервисов. Первые тесты уже показывают слабое место. Например, Business Insider смог получить от «подростковой» версии ChatGPT полноценное эссе после нескольких попыток и уговоров, хотя изначально модель отказывалась выполнять домашнее задание целиком.

При этом дети и подростки используют ChatGPT уже несколько лет, а специализированная защита появилась только сейчас. OpenAI постепенно готовила систему. Сначала компания разработала принципы для пользователей младше 18 лет, затем представила концепцию Teen Safety Blueprint, родительский контроль и другие механизмы. Компания явно не хотела просто включить несколько фильтров и отправить их в релиз. Но возникает очевидный парадокс. Чем дольше компания тестирует систему на разных аудиториях, тем больше реальных пользователей успевают столкнуться с прежними ограничениями. Поэтому запуск ChatGPT for Teens выглядит не столько финальной системой защиты, сколько началом большого эксперимента.

Мне кажется, что компания тормозила с запуском сервиса неслучайно - всё-таки настоящие данные о запросах и интересах молодой аудитории помогают понять, какой она будет в будущем. Где и как теперь компания будет их искать сквозь сетку фильтров, большой практический вопрос.