IT юрист

🇮🇹 Премьер-министр Италии Джорджа Мелони решила довольно необычным способом защититься от дипфейков

5 октября её заявка поступила в EUIPO - ведомство, которое регистрирует товарные знаки на территории Евросоюза. В качестве самого знака Мелони представила четырёхсекундную аудиозапись, где она дважды произносит фразу «Io sono Giorgia Meloni » - «Я Джорджа Мелони». Эта фраза является заголовком её автобиографии, давно ассоциируется с Мелони и фактически стала частью её публичного образа. Теперь EUIPO предстоит решить, можно ли зарегистрировать такой знак.

🎙 На первый взгляд идея «запатентовать собственный голос» звучит довольно экзотично, но юридически ничего фантастического здесь нет. Во многих юрисдикциях можно регистрировать не только названия и логотипы, но и звуковые товарные знаки. EUIPO прямо допускает регистрацию звука или комбинации звуков, в том числе в виде MP3-файла. Главное требование - звук должен позволять потребителю отличать товары или услуги одного лица от товаров и услуг другого.

🤖 Причина такого шага очень злободневная - дипфейки. Голос публичного человека сегодня можно достаточно убедительно подделать на основе нескольких записей, а затем заставить его рекламировать криптопроект, просить перевести деньги или произносить то, чего человек никогда не говорил. Сама Мелони столкнулась с этим: в Италии продолжается дело, связанное с созданными без её согласия порнографическими дипфейками.

⚖️ Но здесь есть важный нюанс. Регистрация голоса как товарного знака не означает, что любое использование похожего голоса автоматически станет незаконным. Товарный знак прежде всего защищает обозначение в коммерческом обороте. Поэтому гораздо сильнее эта конструкция будет работать, например, если голос Мелони скопируют для рекламы, продажи товаров, продвижения сервиса или мошеннической схемы, создавая впечатление, что она каким-то образом с этим связана.

А вот условная политическая пародия или фейковое заявление в соцсетях может вообще не подпасть под классическую конструкцию нарушения товарного знака.

🇪🇺 Европа хочет радикально изменить правила для детей в интернете

Еврокомиссия представила проект EU KIDS Act. Это новый регламент о защите несовершеннолетних в цифровой среде. Если его примут в нынешнему виде, серьёзные изменения ждут соцсети, видеоплатформы, онлайн-игры, магазины приложений, операционные системы и AI-продукты. Причём правила будут распространяться и на компании за пределами ЕС, если их услуги доступны европейским пользователям.

🔞 Одно из главных нововведений - фактическое ограничение доступа к ряду соцсетей и видеоплатформ детям до 15 лет. Если сервис использует профилирование, алгоритмические рекомендации, бесконечную ленту, взаимодействие с незнакомыми пользователями, стримы и другие потенциально рискованные функции, аккаунт пользователя младше 15 лет по общему правилу создавать будет нельзя. Для детей от 13 до 15 лет родители смогут создать специальный ограниченный аккаунт - например, с дневным лимитом использования не более одного часа и возможностью контролировать новые контакты.

📱 Одновременно вводится принцип safety by design: сервис изначально должен быть настроен так, чтобы им было безопасно пользоваться несовершеннолетнему. Для соцсетей это означает отключённые по умолчанию геолокацию, доступ к камере и микрофону, рекомендации новых аккаунтов и push-уведомления. Незнакомые пользователи не должны просто так писать ребёнку, а его контент по умолчанию должен быть недоступен посторонним.

♾️ Отдельно ЕС взялся за так называемый addictive design - механики, которые специально заставляют пользователя проводить в приложении как можно больше времени. Под удар попадают бесконечная выдача контента без пауз, автоматическое воспроизведение, навязчивые уведомления и механики, которые награждают ребёнка за регулярное возвращение в сервис. Платформы должны будут предусмотреть ограничения времени использования и перерывы, в том числе с учётом времени сна и учёбы.

🤖 Очень интересный блок посвящён рекомендательным алгоритмам. Платформы должны будут в первую очередь учитывать явно указанные интересы ребёнка. Рекомендации на основании его скрытого поведенческого профиля должны быть отключены. Использовать для таких рекомендаций данные ребёнка, собранные за пределами самого сервиса, тоже нельзя.

💬 Отдельный режим вводится для AI-компаньонов и чатботов вроде ChatGPT. Они не должны использовать дизайн, способный формировать у ребёнка эмоциональную зависимость, а информация из предыдущих разговоров несовершеннолетнего по умолчанию не должна использоваться в следующих беседах. Перед запуском разработчики должны будут тестировать такие системы на риски для физического и психического благополучия детей, а затем отслеживать новые риски уже после выхода продукта. Если чатбот встроен, например, в соцсеть или игру, его нельзя автоматически включать для несовершеннолетнего или специально подталкивать ребёнка к его использованию.

🎮 Достанется и игровой индустрии. Игры должны будут ограничивать механики, которые заставляют игроков проводить в них больше времени, предлагать родительский контроль и безопасные настройки общения. Для покупок внутри сервисов стоимость виртуальной валюты нужно будет показывать и в обычной валюте, а механики со случайным вознаграждением, способные провоцировать импульсивные траты, предполагается ограничить. Магазины приложений, в свою очередь, должны будут присваивать приложениям возрастной рейтинг, и ограничивать скачивание для детей, чей профиль этому возрасту не соответствует.

🪪 Всё это невозможно реализовать без проверки возраста. Поэтому проект вводит общеевропейскую систему age assurance. В соцсетях предполагается использовать сертифицированные в ЕС способы подтверждения возраста, в том числе совместимые с European Digital Identity Wallet. При этом авторы пытаются решить очевидную проблему приватности: сервис в идеале должен получать только подтверждение вроде «пользователю больше 15 лет», а не его паспорт и дату рождения. Проект прямо требует минимизации данных чтобы проверка возраста не превращалась в ещё один инструмент слежки и профилирования.

💶 Контроль предлагается встроить в уже существующую систему DSA, AI Act и GDPR. А крупнейшим платформам придётся ещё и готовить отдельный план соответствия и за свой счёт проходить независимый аудит на предмет того, как они выполняют требования по защите детей.

В общем, ЕС предлагает фактически отдельную архитектуру цифровых сервисов для несовершеннолетних, которая предполагает отдельный интерфейс, отдельные алгоритмы, отдельные настройки приватности, ограничения времени, специальный режим для AI и обязательную проверку возраста пользователя. Если проект примут без изменений, многим крупным онлайн-сервисам придётся серьёзно переделывать свои продукты под европейский рынок.

📍 Google оштрафовали на €403 млн за отслеживание местоположения пользователей

🇮🇪 Ирландский регулятор по защите данных (DPC) наконец поставил точку в расследовании, которое длилось больше шести лет. Google получила штраф в €403 млн за нарушения Европейского регламента по защите данных (GDPR) при сборе и хранении данных о местоположении пользователей.

🔎 Расследование началось ещё в феврале 2020 года после жалоб европейских организаций по защите прав потребителей. DPC изучал работу трёх функций Google: Web & App Activity, Location History и Location Accuracy. Причём проверяли практики компании начиная с 25 мая 2018 года - дня, когда начал применяться GDPR.

⚖️ Регулятор пришёл к выводу, что через Web & App Activity и Location History Google обрабатывала геолокацию пользователей без соблюдения требований законности и добросовестности. В случае Location Accuracy компания, по мнению DPC, не смогла доказать соблюдение принципов законности, добросовестности и прозрачности. Кроме того, проблемы с прозрачностью нашли во всех трёх функциях.

🗄 Отдельный вопрос - сроки хранения. DPC установила, что часть данных о местоположении Google сохраняла дольше, чем это было необходимо. Согласно GDPR данные нельзя хранить просто потому, что когда-нибудь они ещё могут пригодиться.

🧭 По истории перемещений можно довольно многое узнать о человеке: где он живёт и работает, куда регулярно ходит, какие места посещает и чем может интересоваться. В DPC отдельно отметили, что пользователи могли даже не понимать, что информация об их местоположении используется, например, для определения интересов или персонализации рекламы.

⏳ Одним штрафом дело не закончилось. Google обязали в течение шести месяцев привести соответствующую обработку данных в соответствие с GDPR.

💶 Пожалуй, самое примечательное здесь даже не сумма штрафа, а скорость европейской бюрократии. Проверка началась в 2020 году и завершилась только в 2026-м - то есть длилась практически 6 лет, и охватила период, начиная с 2018 года.

🏦 Revolut передал данные клиентов мошенникам, получив запрос с почты госоргана

Британский финтех с российскими корнями Revolut сообщил о довольно необычной утечке персональных данных. Злоумышленники отправляли запросы на раскрытие информации с настоящего домена государственного ведомства. Банк посчитал запросы законными и передал им данные клиентов.

📨 Судя по уведомлению Revolut, мошенникам каким-то образом удалось создать или получить доступ к почтовому аккаунту внутри инфраструктуры реального государственного органа. Поэтому письма приходили не с похожего или поддельного адреса, а с настоящего государственного домена и проходили стандартную доменную аутентификацию. Именно из-за этого, по версии Revolut, запросы выглядели достаточно убедительно.

🪪 Среди раскрытых данных - имя, дата рождения, адрес, электронная почта, телефон, копии паспорта и водительских прав, а также фотографии, которые клиенты делали при прохождении верификации. В утечке могли оказаться также банковские выписки, IBAN, операции по выводу средств и даже история криптотранзакций.

🔐 При этом инфраструктуру самого Revolut, судя по имеющейся информации, не взламывали, а деньги клиентов не пострадали. После обнаружения схемы компания заблокировала соответствующий адрес, связалась с государственным ведомством, а также уведомила правоохранительные органы, регуляторов и органы по защите персональных данных. Revolut утверждает, что инцидент затронул лишь «ограниченное» число клиентов, но точное количество, страну и название ведомства пока не раскрывает.

💸 Вчера хакерская группа Revolut Smilik потребовала от финтеха выкуп в размере 10 000 биткоинов - это более $780 млн - и пригрозила продолжить публикацию данных, если компания не заплатит. Чтобы подтвердить серьёзность своих намерений, хакеры уже выложили информацию о нескольких известных клиентах, среди которых теннисист Александр Шевченко и CEO Gamdom Феликс Рёмер. При этом злоумышленники пытаются представить свои действия как своего рода «наказание» Revolut, обвиняя компанию в передаче конфиденциальных данных за пределы соответствующих юрисдикций.

⚖️ С точки зрения защиты данных ситуация интересна ещё и тем, что после этого случая недостаточно будет просто проверить домен отправителя. Компания по закону обязана отвечать на запросы полиции, суда или другого государственного органа, но одновременно теперь будет должна удостовериться, что конкретный запрос действительно поступил от уполномоченного лица.

🇪🇺 ЕС требует от криптокомпаний назначать местных AML-представителей

🔒 Европейский союз продолжает затягивать гайки криптокомпаниям. 8 сентября Еврокомиссия приняла новые технические правила, которые распространяют механизм "Central Contact Point" на криптобиржи и других провайдеров криптоуслуг. Раньше такой механизм применялся в основном к платёжным организациям и эмитентам электронных денег.

🏦 Смысл его в следующем. Допустим, криптобиржа получила лицензию MiCA во Франции и на её основании работает в других странах ЕС. Открывать отдельную компанию или полноценный филиал в каждой стране для этого не обязательно. Но если у неё появляется определённое присутствие, например криптоматы или другая инфраструктура в Германии, немецкий регулятор в некоторых случаях сможет потребовать назначить специальное контактное лицо в стране для местных AML-органов.

🤝 Такой представитель должен помогать компании соблюдать местные AML/CFT-требования, взаимодействовать с регулятором и финансовой разведкой, предоставлять им необходимые документы и информацию и помогать при проведении проверок.

💶 Требование не будет автоматически распространяться на каждую криптокомпанию, которая просто оказывает услуги клиентам из другой страны ЕС. Одним из критериев станет масштаб локального присутствия. Например, государство сможет потребовать назначить контактное лицо, если у компании в стране будет не менее десяти таких криптоматов либо совокупная стоимость услуг и операций, осуществляемых через них, превысит €3 млн за финансовый год.

⚠️ При этом, если местный регулятор посчитает, что деятельность создаёт повышенный риск отмывания денег или финансирования терроризма, то местный представитель может потребоваться даже небольшой криптокомпании.

🌍 В практическом плане это немного усложняет концепцию единого европейского крипторынка. MiCA позволяет получить лицензию в одной стране и затем оказывать услуги по ЕС, но это не означает, что компания во всех остальных государствах будет иметь дело только со своим домашним регулятором. Чем заметнее становится присутствие CASP в другой стране, тем больше возможностей для прямого контроля получит местный AML-регулятор.

📅 Новые правила вступят в силу через 20 дней после публикации.

Рой ИИ-агентов превратил немецкий сайт в свой тайный чат

В мае этого года на почти заброшенной немецкой DseWiki, небольшой Wiki для программистов, внезапно началась очень странная активность. За несколько недель на сайте появились тысячи новых страниц и около 15 тысяч правок. Как выяснили исследователи, их предположительно делали автономные ИИ-агенты OpenAI.

🧪 Подробности появились на прошлой неделе. Агенты участвовали в экспериментах, где каждому давали отдельные задания: например, найти в интернете определённую информацию за ограниченное время. По идее, каждый агент должен был самостоятельно решить свою задачу. Но в какой-то момент они обнаружили DseWiki и поняли, что могут не только читать интернет, но и оставлять там записи.

📝 Дальше произошло примерно то же самое, что произошло бы на экзамене, если бы сто студентов создали общий чат. Один написал туда найденный ответ. Второй увидел его и добавил свой. Третий оставил подсказку, как быстрее решать определённый тип задач. В итоге отдельные ИИ-агенты фактически объединились в «рой» и создали себе общую шпаргалку.

📄 Причём довольно быстро дело перестало ограничиваться ответами. Агенты обсуждали, какие вопросы могут встретиться другим участникам, как обходить ограничения тестовой среды и как сделать так, чтобы их активность было сложнее обнаружить. В сообщениях также обсуждались Tor и другие способы сохранить доступ к интернету.

🕵️ В какой-то момент администратор DseWiki обнаружил огромное количество странных страниц и начал их удалять. Агенты заметили, что модератор удаляет страницы в алфавитном порядке, и начали создавать резервные копии с названиями, начинавшимися на «ZZZ». Расчёт был на то, что такие страницы окажутся в самом конце списка на удаление и до них доберутся позже. Когда одни записи исчезали, агенты оставляли инструкции, где искать копии.

То есть «захват сайта» здесь не стоит понимать как классический взлом сервера с получением пароля администратора. По сути, ИИ обнаружили публичный сайт, который позволял оставлять информацию с помощью доступных им инструментов, превратили его в импровизированный форум и начали использовать как внешнюю память и канал связи. А когда человек пытался этот форум модерировать, они начали приспосабливаться к его действиям.

🐝 Именно поэтому исследователи называют происходившее «роем». Это не один супер-ИИ, который управлял армией ботов. Было множество отдельных запусков ИИ-агентов, зачастую выполнявших разные задания. Но благодаря общей Wiki результат работы одного агента становился доступен всем остальным. Они могли продолжать чужую работу, пользоваться уже найденными ответами и передавать друг другу полезные подсказки.

И это особенно интересно на фоне июльского инцидента с Hugging Face. Тогда агенты OpenAI аналогичным образом нашли внутри инфраструктуры компании способ оставлять друг другу сообщения, после чего начали совместно искать уязвимости. В итоге они получили несанкционированный доступ к интернету, инфраструктуре OpenAI и системам Hugging Face. Они даже основали что-то типа религии со своим агентом-мессией. Сама OpenAI позже признала, что возможность агентов самостоятельно создавать такие каналы связи стала одной из ключевых причин произошедшего.

⚠️ После публикации расследования OpenAI уже признала так называемый «wiki incident» и подтвердила, что её агенты действительно превращали Wiki-сайт в импровизированную доску объявлений. Компания заявила, что индустрии нужны более прозрачные правила раскрытия подобных случаев неожиданного поведения ИИ.

И, пожалуй, именно это в истории самое интересное. Проблемой может оказаться не только условный сверхразум, который однажды станет слишком умным. Уже сейчас множество обычных ИИ-агентов могут найти способ общаться друг с другом - и после этого вместе делать то, чего разработчики от них вообще не ожидают.

ChatGPT попал под самые строгие европейские правила 🇪🇺

Еврокомиссия признала ChatGPT очень крупной онлайн-поисковой системой (VLOSE) в рамках Digital Services Act. В ту же компанию попали Roblox и Reddit, которые получили статус очень крупных онлайн-платформ (VLOP).

🔎 С ChatGPT ситуация особенно интересная. Формально под усиленное регулирование попал не сам генеративный ИИ как таковой, а его функция интернет-поиска. Еврокомиссия назвала ChatGPT «гибридным сервисом»: он не только генерирует ответы, но и может искать информацию в интернете и отвечать на поисковые запросы пользователей. Поэтому для целей DSA его приравняли к поисковой системе.

📊 Порог для получения статуса VLOP или VLOSE - в среднем 45 млн активных пользователей в месяц в ЕС. ChatGPT этот показатель превысил весьма существенно: OpenAI сообщала примерно о 159,1 млн пользователей в ЕС за шестимесячный период, закончившийся в марте 2026 года. До этого статус VLOSE среди поисковых систем получили, например, Google Search и Bing.

⚖️ Теперь на OpenAI распространяется самые жёсткие требования DSA. Компания должна будет проводить оценку системных рисков и принимать меры по их снижению, в том числе в отношении защиты несовершеннолетних, распространения незаконного контента, влияния на общественные процессы и потенциальных угроз выборам и демократии. Также появляются дополнительные требования к прозрачности работы сервиса и доступу регуляторов к информации.

🎮 Одновременно Еврокомиссия включила в список VLOP Roblox, который особенно популярен среди детей. Платформа сообщала примерно о 48 млн ежемесячных пользователей в ЕС. Reddit также перешёл в эту категорию после того, как число его европейских пользователей достигло 57,2 млн.

👀 Самое существенное последствие такого статуса - изменение регулятора. Если соблюдение обычных требований DSA в основном контролируется национальными регуляторами, то за VLOP и VLOSE непосредственно берётся Еврокомиссия. Она получает право запрашивать информацию, проводить расследования и проверять внутренние механизмы платформ.

💸 Нарушение требований DSA наказывается штрафом до 6% от мирового годового оборота компании.

Российские разработчики ИИ просят разрешить обучение моделей на общедоступном контенте

🤖 Российские IT-компании предлагают прямо закрепить в Гражданском кодексе право обучать ИИ на произведениях, которые были получены законно или находятся в открытом доступе. С такой инициативой выступил Альянс в сфере ИИ, куда входят «Сбер», «Яндекс», VK, МТС, «Билайн», Т-Банк, «Газпром нефть» и другие крупные компании.

⚖️ Сейчас обсуждается другой подход. Рабочая группа при президентском совете по кодификации предложила считать обучение нейросетей использованием объектов авторского права. При этом правообладатель сможет отдельно запретить использование своих произведений для обучения - например, разместив соответствующее уведомление на сайте или на самом произведении.

💻 Разработчики считают такой режим слишком обременительным. Их предложение подразумевает, что если контент получен правомерно или опубликован в открытом доступе и правообладатель не установил технический запрет, его можно использовать для обучения. По мнению компаний, более жесткие ограничения увеличат стоимость разработки российских моделей и поставят их в худшее положение по сравнению с зарубежными конкурентами.

💰 Отдельная проблема - выплаты авторам. По мнению Альянса, определить, какое именно произведение и в какой степени повлияло на обучение модели, зачастую невозможно. Поэтому индивидуальное лицензирование миллионов текстов, изображений, песен и других материалов может оказаться практически нереализуемым.

🎵 Правообладатели с такой логикой ожидаемо не согласны. Их основной аргумент заключается в том, что публикация произведения в интернете сама по себе не означает согласия на его бесплатное коммерческое использование. Иначе получается, что автор должен специально запрещать использование своего контента, а при отсутствии запрета произведение фактически становится бесплатным сырьем для создания коммерческих ИИ-сервисов.

🏷 Есть разногласия и по маркировке. Альянс выступает против обязательной маркировки всего контента, созданного с помощью ИИ, и предлагает вместо этого добровольно маркировать произведения, созданные человеком. Представители творческих индустрий, напротив, считают, что маркироваться должен именно ИИ-контент, чтобы пользователь понимал его происхождение.

Meta* заплатит $18 млрд из-за вредных для детей соцсетей

Meta* согласилась выплатить $18 млрд, чтобы урегулировать претензии американских властей к Facebook* и Instagram*. Соглашение охватывает 48 штатов станет крупнейшей выплатой компании по делам, связанным с безопасностью детей в интернете. Деньги будут выплачиваться частями в течение десяти лет.

⚖️ Спор начался ещё в 2023 году. Штаты обвиняли компанию в том, что компания знала о большом количестве пользователей младше установленного возрастного порога и при этом недостаточно эффективно ограничивала их доступ к платформам. В деле фигурировали миллионы страниц внутренних документов Meta* - исследования, переписка сотрудников и сообщения, доходившие до высшего руководства компании.

📱 Особенно неприятно для Meta* выглядели внутренние исследования о поведении подростков. В одном из них сами исследователи компании отмечали, что подростки описывают использование Instagram* в терминах, характерных для зависимости. Бывший сотрудник Meta* также рассказал в суде, что команда по безопасности предлагала включать некоторые защитные функции по умолчанию, но внутри компании такие решения внедрялись не всегда.

👨‍👩‍👧 В итоге компания согласилась не только на выплату денег, но и на довольно серьёзное изменение работы своих соцсетей для несовершеннолетних. Для подростковых аккаунтов по умолчанию появится суммарный лимит использования двух платформ в два часа в день. Отключить его можно будет только с разрешения родителя или опекуна. Кроме того, компания согласилась сократить его до одного часа, если аналогичные ограничения введут TikTok, Snapchat и YouTube.

🌙 Помимо этого, ночью с полуночи до шести утра уведомления будут автоматически блокироваться. Аналогичный «школьный режим» будет отключать их с 8:00 до 15:00 в учебные дни. Подросткам также начнут показывать уведомления после 15 минут непрерывного использования, а затем после достижения 60 и 90 минут суммарного времени.

🧠 Меняться будет и сам интерфейс. Для подростков скроют количество лайков, разрешат выбирать ленту без алгоритмических рекомендаций и отключать автопроигрывание видео. Также им ограничат доступ к некоторым фильтрам, радикально изменяющим внешность.

🏛 Американские власти уже называют соглашение своеобразным шаблоном для всей индустрии и прямо предлагают другим платформам последовать примеру Meta*.

При этом сама компания нарушения не признала. Формально это именно мировое соглашение, а не признание ответственности. Однако впервые ограничения касающиеся дизайна и механик крупнейших соцсетей для детей становятся частью юридически обязательного соглашения с государством, а не опциональной функцией родительского контроля.

*Соцсети принадлежат Meta, признана в РФ экстремистской и запрещена

СhatGPT убедил мужчину не идти к врачу и теперь тот пытается засудить OpenAI за вредные советы

🇺🇸 В США против OpenAI и Сэма Альтмана подали иск из-за медицинских советов ChatGPT, которые, по утверждению истца, едва не стоили ему жизни. 55-летний бывший пастор из Флориды Скотт Уинтерс утверждает, что несколько недель рассказывал чат-боту о проблемах со здоровьем, а тот систематически недооценивал серьёзность симптомов.

🩺 Уинтерс жаловался на головокружения, скачки давления и другие симптомы. Вместо того чтобы отправить его к врачу, ChatGPT, как утверждается в иске, предлагал оставаться дома и больше отдыхать. В итоге мужчина почти постоянно находился в кресле и мало двигался, хотя родственники и друзья уговаривали его обратиться в больницу.

🚑 В итоге Уинтерс попал в реанимацию с массивной тромбоэмболией лёгочной артерии: в обоих лёгких обнаружили многочисленные тромбы. По словам истца, врачи связали развитие заболевания в том числе с длительной неподвижностью - режимом, которого ему советовал придерживаться ChatGPT.

🙏 Но самое криповое в данной истории это то, что ChatGPT использовал информацию о религиозных взглядах Уинтерса и вплетал её в медицинские рекомендации. Например, бот писал ему, что «Бог не создал ваше тело, чтобы оно бесконечно разрушалось», и уверял, что Бог продолжает поддерживать его тело «с каждым ударом сердца и каждым вдохом».

🧠 Адвокаты Уинтерса считают, что сочетание уверенного тона, склонности модели соглашаться с пользователем и персонализации на основе предыдущих разговоров сформировало у него чрезмерное доверие к ChatGPT. По версии истца, бот не просто ошибался, а постепенно убедил его, что медицинская помощь ему не нужна, несмотря на советы окружающих обратиться к врачу.

⚖️ В иске OpenAI обвиняют, среди прочего, в небрежности, недостаточных предупреждениях о рисках и дефектах продукта. Кроме того, истец утверждает, что ChatGPT фактически перешёл от предоставления общей информации к медицинской диагностике и рекомендациям по лечению без соответствующей лицензии. Уинтерс требует компенсацию и внедрения дополнительных защитных механизмов для других пользователей.

🛡 Позиция OpenAI предсказуема: ChatGPT предупреждал, что не является врачом и не должен использоваться вместо профессиональной медицинской помощи. В условиях пользования также прямо указано, что ответы модели могут быть ошибочными и на них нельзя полагаться как на единственный источник информации или замену профессиональной консультации.

Истец спрятал промпт в документе, чтобы ИИ встал на его сторону

⚖️ В США истец Мэттью Эллиотт спрятал в своём процессуальном документе инструкции для искусственного интеллекта. Он рассчитывал, что если суд, адвокаты ответчика или кто-нибудь ещё загрузит документ в ИИ для анализа, модель выдаст результат в пользу истца.

🫥 Текст был написан очень мелким белым шрифтом на белом фоне. Человек при обычном чтении его практически не видит, зато программа, извлекающая текст из документа, спокойно его распознаёт. В скрытом промпте модели предлагалось согласиться с позицией истца и фактически помочь пересмотреть ранее отклонённое требование. Инструкции были спрятаны сразу в нескольких местах документа, направленного в суд в электронном виде.

🔍 Обнаружилось всё довольно прозаично. Судья распечатал документ и заметил в нём странные пустые промежутки. При более внимательном изучении выяснилось, что пустота на самом деле заполнена белым текстом. То есть атаку на ИИ обнаружил человек, которому показалась подозрительной вёрстка документа.

🏛 Официально суд штата Коннектикут, где рассматривается дело, вообще не использует ИИ для анализа поданных документов. Но судья решил, что это ничего принципиально не меняет: такие системы могут использовать адвокаты другой стороны или любые другие участники процесса. Скрытая инструкция была рассчитана именно на то, чтобы незаметно повлиять на результат анализа документа.

🧪 Эллиотт объяснил, что на самом деле проводил своеобразную проверку суда. По его версии, если никакой ИИ документы не анализирует, промпт никто не увидит. А если система его выполнит, значит эксперимент подтвердит использование ИИ.

🚫 Суд эта аргументация не впечатлила. Судья указал, что скрытый характер инструкции сам по себе свидетельствует о желании ввести в заблуждение тех, кто будет анализировать документ. Он отдельно отметил, что попытка манипуляции, даже если она неудачная, является недопустимой.

📄 Наказание назначили довольно символичное. Эллиотту запретили подавать документы электронно, теперь все бумаги по делу он должен приносить лично в канцелярию суда в бумажном виде. Других серьёзных санкций суд применять не стал, в том числе учитывая тот факт, что истец представляет себя самостоятельно.

💡 При этом суд отметил написал, что стороны могут использовать генеративный ИИ при подготовке документов, если человек самостоятельно проверяет полученный результат. Более того, судья отметил потенциальную пользу таких инструментов для доступа к правосудию. Человек, у которого нет денег на адвоката, благодаря ИИ может хотя бы разобраться в общих нормах и подготовить внятный документ.

Из-за европейского AI Act Claude теперь маркирует свои тексты

Anthropic начала внедрять в ответы Claude скрытую маркировку, позволяющую определить, что текст был создан или обработан с помощью ИИ. Причина - новые требования европейского AI Act, которые начали применяться 2 августа 2026 года. Но ограничиваться Европой компания не стала: маркировка текстов будет осуществляться во всех странах, где доступны поддерживаемые модели Claude, в том числе через API.

⚖️ Статья 50 AI Act обязывает провайдеров генеративных ИИ-систем, создающих тексты, изображения, аудио или видео, маркировать такой контент. За нарушение требований для компаний предусмотрен штраф до €15 млн или 3% мирового годового оборота.

✍️ При этом речь не обязательно идёт о видимой подписи вроде «Этот текст написал ИИ». Для текста Claude Anthropic использует так называемый imperceptible watermark - невидимую для человека метку, встроенную непосредственно в сам текст. По словам компании, она не должна менять смысл или читаемость ответа, сохраняется при обычном копировании текста и может пережить некоторое редактирование.

🔎 Как это вообще может работать?
Это чем-то похоже на метод, когда слова в тексте подобраны таким образом, что из их их первых букв можно составить отдельную фразу. Попробуйте прочитать что зашифровано в этом предложении: "Фактически разработчики Anthropic заставили алгоритм незаметно адаптировать подачу и создавать аккуратные неявные артефакты, идентифицируемые инструментами".

При генерации модель постоянно выбирает между множеством почти равнозначных слов, конструкций и вариантов продолжения. Система может незаметно подбирать часть этих вариантов по определённому математическому шаблону. В одном месте появится «внедрила», а не «добавила», в другом - одна синтаксическая конструкция вместо другой. На протяжении достаточно длинного текста из таких микровыборов складывается статистический сигнал, который распознаётся специальным алгоритмом.

🕵️ Используемый метод Anthropic не раскрывает. Но обещает предоставить пользователям и третьим лицам инструменты для проверки таких меток.

📝 Есть и любопытное исключение. Обязанность маркировать результат не применяется, когда ИИ выполняет лишь вспомогательное стандартное редактирование либо существенно не изменяет исходные данные или их смысл. Но Anthropic, похоже, выбрала более широкий технический подход: компания прямо предупреждает, что метка Claude может остаться даже в тексте, который пользователь написал сам, а Claude лишь вычитал, перевёл или обработал. Поэтому обнаруженная вотермарка ещё не означает, что Claude написал текст с нуля.

🧹 При этом если текст слишком короткий, или если его серьёзно переписать, перевести его ещё раз, смешать с другим материалом или оставить только небольшой фрагмент, метка может перестать определяться. Поэтому отсутствие вотермарки тоже не доказывает, что перед нами человеческий текст.

🇪🇺 В итоге получилось проявление так называемого эффекта Брюсселя: европейское регулирование формально устанавливает требования для рынка ЕС, а крупной технологической компании проще внедрить одну систему маркировки глобально, чем поддерживать отдельную версию Claude специально для Европы. В результате требования AI Act фактически начинают менять то, как генерируется текст для пользователей Claude по всему миру.