Репост из: Песец контенту
🔒 Как сайты проверяют контент: технологии верификации
Я уже рассказывала, что работаю на позиции Product Manager (настоящий — а не то, что подразумевают под этим пара блогеров-владельцев OF-агентств). Сейчас делаю продукт: платформа 18+ на IAP.
И самый большой пласт работы на нашей платформе: верификация и модерация. Да, не дизайн, не трафик и даже не разработка. Про модерацию я уже рассказывала выше, так что сегодня про верификацию.
✏️ Верификация контента отвечает на вопросы: «Кто на изображении?», «Сколько ей/ему лет?», «Дал ли человек с изображения согласие на публикацию?», «Реальная это персона или синтетическая (сгенерированная копия реального человека)?»
‼️ Цена ошибки. В лучшем случае — потеря платёжки, которую бывает очень сложно вернуть: на этом канале рекламировалось несколько платформ, которым открутили платёжку, и они сдохли за пару месяцев, так и не сумев её вернуть. В худшем — иск, штраф, потеря репутации или срок.
Почему платформы вводят верификацию?
🤩 Закон. В США — 18 U.S.C. §2257: на каждого человека в кадре нужны документы о возрасте и личности плюс «хранитель записей». Плюс за последние пару лет нас захлестнула волна законов об age verification в штатах и странах ЕС.
🤩🤩 Платёжные системы. С 2021 Mastercard (стандарт AN 5196) требует от 18+ площадок проверять возраст и личность всех, кто в кадре, хранить письменные согласия и проверять контент до публикации. Visa пошла следом. Нет комплаенса — нет процессинга, а без денег продукт мёртв.
🤩🤩🤩 Наказание за нелегальный контент. Один пропущенный нелегальный файл может привести к уголовному делу и сносу платформы.
Методология и инструментарий верификации
1️⃣ Age Assurance (возраст). Лидеры рынка комбинируют три метода:
— *age estimation* — нейросеть оценивает возраст по лицу (быстро, без документов, но с погрешностью);
— *документы* — ID + сверка;
— *liveness* — проверка, что перед камерой живой человек, а не фото/дипфейк.
2️⃣ IDV / KYC (личность). Тут уже не «примерно 18+», а «это конкретный человек с удостоверением личности»: документ + селфи + биометрическая сверка + проверка по базам. Вендоры: Jumio, Onfido, Persona, Veriff, Yoti.
3️⃣ Согласие и 2257 (право на контент). Площадке нужно доказуемое согласие каждого в кадре на съёмку и публикацию: подписанные релизы, привязанные к верифицированной личности, с датами съёмок. Для UGC-платформ это главная головная боль — у каждого файла должен быть свой набор «документов согласия».
4️⃣ Модерация загрузок. Подробно — вот здесь, тут лишь напомню.
Каждый файл прогоняется до публикации:
— *перцептивные хеши* против известного нелегального контента: PhotoDNA (Microsoft), PDQ (Meta), Safer (Thorn);
— *AI-классификаторы*, ловящие новый, ещё не хешированный материал: Hive, Thorn Safer Predict (только Safer за 2025 обработал 415 млрд файлов).
5️⃣ Дипфейки и AI-контент. Новый фронт: чужое лицо на чужом теле и полностью сгенерированные «люди».
— *детекция*: Sensity и аналоги вычисляют синтетику;
— *провенанс*: C2PA (Content Credentials) — «паспорт происхождения» файла; SynthID (Google) — невидимый вотермарк в AI-изображениях.
Тренд UGC-платформ: доказывать не только «кто в кадре», но и «настоящий ли это кадр».
🤩 Сейчас я готовлю AI-платформу к проверке платёжной системой. Хотите, расскажу, как это происходит и что платёжка требует от меня как от фаундера продукта? пишите в комментах или ставьте 🔥
💌 Пообщаться с автором в DM канала или боте: @pecetsbot
@contentaboutcontent
@contentaboutcontent
@contentaboutcontent
Я уже рассказывала, что работаю на позиции Product Manager (настоящий — а не то, что подразумевают под этим пара блогеров-владельцев OF-агентств). Сейчас делаю продукт: платформа 18+ на IAP.
И самый большой пласт работы на нашей платформе: верификация и модерация. Да, не дизайн, не трафик и даже не разработка. Про модерацию я уже рассказывала выше, так что сегодня про верификацию.
✏️ Верификация контента отвечает на вопросы: «Кто на изображении?», «Сколько ей/ему лет?», «Дал ли человек с изображения согласие на публикацию?», «Реальная это персона или синтетическая (сгенерированная копия реального человека)?»
‼️ Цена ошибки. В лучшем случае — потеря платёжки, которую бывает очень сложно вернуть: на этом канале рекламировалось несколько платформ, которым открутили платёжку, и они сдохли за пару месяцев, так и не сумев её вернуть. В худшем — иск, штраф, потеря репутации или срок.
Почему платформы вводят верификацию?
🤩 Закон. В США — 18 U.S.C. §2257: на каждого человека в кадре нужны документы о возрасте и личности плюс «хранитель записей». Плюс за последние пару лет нас захлестнула волна законов об age verification в штатах и странах ЕС.
🤩🤩 Платёжные системы. С 2021 Mastercard (стандарт AN 5196) требует от 18+ площадок проверять возраст и личность всех, кто в кадре, хранить письменные согласия и проверять контент до публикации. Visa пошла следом. Нет комплаенса — нет процессинга, а без денег продукт мёртв.
🤩🤩🤩 Наказание за нелегальный контент. Один пропущенный нелегальный файл может привести к уголовному делу и сносу платформы.
Методология и инструментарий верификации
1️⃣ Age Assurance (возраст). Лидеры рынка комбинируют три метода:
— *age estimation* — нейросеть оценивает возраст по лицу (быстро, без документов, но с погрешностью);
— *документы* — ID + сверка;
— *liveness* — проверка, что перед камерой живой человек, а не фото/дипфейк.
2️⃣ IDV / KYC (личность). Тут уже не «примерно 18+», а «это конкретный человек с удостоверением личности»: документ + селфи + биометрическая сверка + проверка по базам. Вендоры: Jumio, Onfido, Persona, Veriff, Yoti.
3️⃣ Согласие и 2257 (право на контент). Площадке нужно доказуемое согласие каждого в кадре на съёмку и публикацию: подписанные релизы, привязанные к верифицированной личности, с датами съёмок. Для UGC-платформ это главная головная боль — у каждого файла должен быть свой набор «документов согласия».
4️⃣ Модерация загрузок. Подробно — вот здесь, тут лишь напомню.
Каждый файл прогоняется до публикации:
— *перцептивные хеши* против известного нелегального контента: PhotoDNA (Microsoft), PDQ (Meta), Safer (Thorn);
— *AI-классификаторы*, ловящие новый, ещё не хешированный материал: Hive, Thorn Safer Predict (только Safer за 2025 обработал 415 млрд файлов).
5️⃣ Дипфейки и AI-контент. Новый фронт: чужое лицо на чужом теле и полностью сгенерированные «люди».
— *детекция*: Sensity и аналоги вычисляют синтетику;
— *провенанс*: C2PA (Content Credentials) — «паспорт происхождения» файла; SynthID (Google) — невидимый вотермарк в AI-изображениях.
Тренд UGC-платформ: доказывать не только «кто в кадре», но и «настоящий ли это кадр».
🤩 Сейчас я готовлю AI-платформу к проверке платёжной системой. Хотите, расскажу, как это происходит и что платёжка требует от меня как от фаундера продукта? пишите в комментах или ставьте 🔥
💌 Пообщаться с автором в DM канала или боте: @pecetsbot
@contentaboutcontent
@contentaboutcontent
@contentaboutcontent