Новости от Н.А. Лопашенко

🍓🇪🇺50 депутатов Европейского парламента стали жертвами порнографических дипфейков

46 женщин и четверо мужчин-евродепутатов были изображены в материалах сексуального характера, созданных искусственным интеллектом, или связаны с ними, следует из отчета одной из немецких аналитических организаций.

Заявляется, что проблема затронула все крупные фракции Европарламента.

Ранее Евросоюз поддержал запрет на использование ИИ для создания дипфейков сексуального характера без согласия человека.

Фото: Zhao Dingzhe/XinHua/Global Look Press

🧠Опубликован текст законопроекта о безопасном использовании ИИ в России

«КонсультантПлюс» опубликовал проект закона «О безопасном использовании систем искусственного интеллекта в РФ» с комментарием разработчиков.

Что важно знать
📌Базовый закон об ИИ уже принят: № 243-ФЗ от 26 июля 2026 года «О поддержке развития технологий искусственного интеллекта в Российской Федерации». Его основной предмет - большие фундаментальные модели. Опубликованный же проект посвящён безопасности использования систем ИИ, прежде всего в социальной сфере, госуправлении и массовом обслуживании.

📌Документ подготовлен рабочей группой Совета Федерации. В публикации указаны пять авторов:
Владимир Кожин, сенатор Совета Федерации, руководитель рабочей группы.
Игорь Ашманов, президент АО «Крибрум».
Андрей Калинин, экс-генеральный директор Центра ИИ МТС, экс-вице-президент ВК по искусственному интеллекту.
Наталья Касперская, президент группы компаний InfoWatch.
Виктор Наумов, главный научный сотрудник Института государства и права РАН, профессор МГЮА.

📌Опубликована редакция проекта по состоянию на июнь 2026 года. В ней 27 статей: права граждан, обязанности участников рынка, доверенные и запрещённые системы, надзор, страхование и ответственность.

📌Вот несколько положений непосредственно из текста.
1. Право отказаться от ИИ. В социальной сфере и при взаимодействии с органами власти требуется предварительное информированное согласие. Его можно отозвать без объяснений и оплаты. Отказ не должен ограничивать права или приводить к доплате за обслуживание без ИИ.
2. Человеческий контроль над решениями. Решения, порождающие юридические последствия или затрагивающие права и интересы, нельзя принимать исключительно автоматически с помощью ИИ. Предусмотрен бесплатный пересмотр юридически значимого решения без использования ИИ.
3. Реестр доверенных систем. В социальной сфере, массовом обслуживании и госуправлении предлагается использовать только такие системы. Среди условий включения — создание в России, внесение соответствующего ПО и баз данных в российский реестр, экспертиза, русскоязычные интерфейс и документация.
4. Маркировка и документирование. Сгенерированные тексты, изображения, аудио и видео должны иметь уведомляющие идентификаторы. Для доверенных систем предусмотрены документирование жизненного цикла, запись действий и возможность аварийной остановки.
5. Ответственность и страхование. Производители и операторы доверенных систем обязаны страховать гражданскую ответственность. Обязанность возместить причинённый вред нельзя ограничить договором. Отдельные нормы посвящены пользователям, формирователям обучающих данных и лицам, финансирующим разработки.
6. Судебный запрет. Основанием для иска о запрете использования системы может стать уже риск причинения вреда. Если суд откажет в запрете из-за общественных интересов, право потерпевших на возмещение вреда сохраняется.

Есть и необычная статья: законодательство об ИИ предлагается проверять специальной межведомственной комиссией не реже раза в год. Предусмотрена процедура внесения законодательных инициатив для его актуализации.

По авторскому комментарию, проект встраивается в действующее информационное законодательство. Регулирование интеллектуальной собственности и персональных данных сохраняется в профильных законах.

С подробной позицией одного из ключевых разработчиков законопроекта Виктора Наумова можно ознакомиться в беседе с Борисом Ореховым: человек и его права должны оставаться в центре регулирования ИИ.

Читать законопроект

Анонимный Молотников 🎓
Читайте нас в MAX

🕷Британские студенты массово обращаются к юристам, чтобы защититься от обвинений в использовании ИИ
а что, так можно было?

От этом пишет Financial Times. В основном студенты  оспаривают обвинения в недопустимом использовании ИИ при подготовке учебных работ.

Барристер Дэниел Сокол сообщил о 300 запросах по таким вопросам за первое полугодие 2026 года — около 40% всех обращений в его практике. По его оценке, защита перед внутренней дисциплинарной комиссией университета обычно обходится в £2–3 тыс. Привлечение лингвистов и других экспертов увеличивает расходы.

Одна из героинь статьи, студентка музыкальной специальности, представила университету свои записи и ранние версии эссе. Однако разбирательство продолжилось. Опасаясь остаться без диплома после многолетнего обучения, она наняла юриста и заплатила более £3 тыс. В итоге обвинения сняли.

Для будущих врачей и юристов последствия особенно чувствительны: обвинение в академической недобросовестности может повлиять на дальнейшую профессиональную карьеру.

Юридический спор возникает сразу вокруг нескольких вопросов:
🔺Какие правила действовали для конкретного задания?
🔺Было ли студенту понятно, где заканчивается допустимая помощь ИИ?
🔺На каких доказательствах основано обвинение?

Адвокаты обращают внимание на неоднозначность университетских правил:
требования конкретного преподавателя могут расходиться с общей политикой вуза.

Отдельная проблема - надёжность детекторов ИИ. Как отмечает FT, они могут ошибочно маркировать человеческий текст, причём особенно уязвимы авторы, для которых английский - неродной язык.

Университетам приходится одновременно обучать работе с ИИ и обеспечивать самостоятельность оценочных работ. Для этого нужны понятные границы разрешённого использования и процедура, позволяющая проверить обвинение. Однако не везде это введено на уровне локальных нормативных актов. В результате крайними становятся роботы студенты

Такое бывает...

Анонимный Молотников 🎓
Читайте нас в MAX

Пользователи больше не смогут бездумно копировать тексты из ChatGPT. OpenAI объявила, что в ближайшее время добавит в работу своей модели особые «водяные знаки», которые сразу выдадут созданный ИИ контент. Обойти это будет возможно, только если самому переписать весь текст вручную. @banksta

ИИ-модель Claude сдала американской полиции пользователя
 
Как сообщил телеканал WINK News, жительница Флориды Карли Мишель Хеллер в беседе с ИИ сообщила, что собирается устроить стрельбу в офисе шерифа, а на следующий день написала, что приобрела оружие.
 
Женщина использовала ИИ в качестве личного дневника, с которым делилась своими мыслями, а платформа, выявив потенциально угрожающий контент, передала информацию группе экспертов, которые позвонили в полицию.

Хеллер задержали и обвинили в «письменной угрозе насилием» в соответствии с законодательством штата

✔️После ошибки с Harvey судья предложил младшим юристам писать первые черновики без ИИ

Юрфирма Shapiro Arato Bach, представлявшая Foundation Media в споре об авторских правах, использовала юридическую ИИ-платформу Harvey при подготовке процессуального документа. В суд попали ссылка на несуществующее дело Zhao и некорректные цитаты из решения Piazza.

Особенно интересно, что у юрфирмы уже были установлены внутренние правила использования ИИ: обязательное обучение по профессиональной этике, несколько вводных занятий и подписанная сотрудниками политика использования ИИ, требовавшая проверять результаты.

Но юрист, готовившая документ, не проверила судебные ссылки.
Партнёр Синтия Арато редактировала текст, однако не знала об использовании ИИ и тоже не перепроверила цитаты: изложенные правовые принципы казались ей знакомыми и бесспорными. Фирма признала ошибку и сообщила о дополнительных мерах контроля.

Судья Арун Субраманиан в определении от 29 сентября не стал применять санкции, но поставил более широкий вопрос: как молодые юристы научатся писать и анализировать, если эту работу сразу передавать машине?

Один из предложенных им вариантов - готовить хотя бы первоначальные черновики процессуальных документов без помощи ИИ. Это рекомендация, а не общий запрет.

«Использование ИИ может быть неизбежным, но наставничество над молодыми юристами — наша общая ответственность».

Что почитать
Статья Reuters
Определение суда
Объяснения партнёра фирмы

Анонимный Молотников 🎓
Читайте нас в MAX

Если б не было учителя,
То и не было б, наверное,
Ни поэта, ни мыслителя,
Ни Шекспира, ни Коперника.

И поныне бы, наверное,
Если б не было учителя,
Неоткрытые Америки
Оставались неоткрытыми.

И не быть бы нам Икарами,
Никогда б не взмыли в небо мы,
Если б в нас его стараньями
Крылья выращены не были.

Без его бы сердца доброго
Не был мир так удивителен.
Потому нам очень дорого
Имя нашего учителя!

Вероника Тушнова

Мировая Поэзия|Подписаться