🍎 Вчера вечером Apple ненадолго удалила Telegram из App Store из-за того, что один-единственный пользователь разместил в публичном групповом чате запрещённый порнографический контент.

⬅️ Telegram восстановили спустя несколько часов. Но я хочу объяснить, что произошло, — чтобы предупредить других разработчиков приложений и помочь защитить онлайн-сообщества от подобных атак.

🧹 Поскольку Telegram оперативно удаляет запрещённый контент из публичных групп с помощью жалоб пользователей, ИИ-фильтров, хешей контента и других инструментов модерации, злоумышленнику пришлось прибегнуть к техническому трюку. Он внедрил запрещённый контент, изменённый с помощью ИИ, отредактировав старое сообщение в активном групповом чате. В результате контент оказался фактически скрыт от участников группы, что не позволило им увидеть его и своевременно пожаловаться.

💰 Злоумышленник — вымогатель, специализирующийся на удалении контента (takedown extortionist): человек, требующий выкуп у владельцев групп в обмен на то, что их сообщества не станут мишенью. Такие вымогатели используют автоматизированные аккаунты, чтобы размещать запрещённый контент в публичных группах, а затем напрямую сообщают об этом в Apple, пытаясь добиться удаления легитимных сообществ, чьи владельцы отказались им платить.

🤝 С практической точки зрения запрещённый порнографический контент в публичных группах Telegram не является системной проблемой. Наша модерация эффективна. Тот факт, что злоумышленникам приходится прибегать к скрытому, фактически невидимому контенту с изменённой датой и другим техническим уловкам, это лишь подтверждает.

⚠️ Тем не менее из этой ситуации разработчикам приложений и онлайн-сообществам стоит извлечь два важных урока:

— Вымогатели нашли способ манипулировать Apple, вынуждая её реагировать чрезмерно резко. Apple удалила Telegram из App Store, даже не связавшись с нами предварительно. Это создаёт потенциальный системный риск для любого мобильного приложения, где размещается пользовательский контент. Если приложение, которым пользуется более миллиарда человек, могут удалить из App Store без предварительного предупреждения, то это может произойти с любым приложением.

— Тактика вымогателей, специализирующихся на удалении контента, постоянно развивается, что создаёт риски для сообществ на всех социальных платформах. У Telegram большой опыт выявления уловок, которые используют координированные группы, массово отправляющие жалобы, и защиты легитимных сообществ (даже когда это грозит временным удалением нашего собственного приложения из App Store). Другие платформы могут быть подготовлены к этому не так хорошо.

Будьте бдительны! ☝️