Дамасские чернила | AI и M&A

Встречайте Уробороса: личный ИИ-ассистент нового поколения, переписывающий собственный код

Пока многие из известных мне энтузиастов развлекаются с OpenClaw или Hermes Agent, мое внимание привлек один крайне занимательный проект - Ouroboros. Создан российским разработчиком, достаточно популярным в русскоязычном ML-комьюнити. Идея инновационная и играет на нервишках и страхе перед Сингулярностью. Что могу сказать - i'm in love...

Почему Уроборос - потому что агент переписывает сам себя (и съедает сам себя). У автора очень крутая статья на VC.ru, интересующимся читателям очень рекомендую прочитать в оригинале, а также статья на arXiv. Это инновационный пример самоулучшающегося ИИ. Внедрять рано: система экспериментальная, сама выбирает, куда отправлять данные (для клиентской информации — красная линия), а проверенная версия живёт недолго — агент её перепишет.

Давайте посмотрим на его архитектуру:

Ключевая идея — reviewed core evolution: любое самоизменение проходит как коммит через ревью (внутри — отдельный агент-ревьюер), и одобренная версия становится новой средой исполнения.
Два режима эволюции: рекурсивная (улучшение себя — сама задача; финиш одного цикла планирует следующий) и опытная (баги из реальной работы → структурные изменения).
Плюс персистентная идентичность и память между перезапусками, «фоновое сознание» вне цикла запрос-ответ и рой параллельных агентов.

А в чем отличие от привычных Опенкло и Гермеса?

OpenClaw (около 390 тыс. звёзд на GitHub) — самый массовый из трёх: личный ИИ-ассистент на вашем компьютере, доступный из 20+ мессенджеров — Telegram, WhatsApp, Discord, Slack и далее. Управляет устройствами, слышит, видит, расширяется плагинами из встроенного маркетплейса. Это «компаньон»: вы им пользуетесь, но себя он не меняет — его меняете вы, ставя скиллы. Показатель зрелости: независимый фонд, спонсоры от OpenAI до NVIDIA.

Hermes от Nous Research (около 247 тыс. звёзд на GitHub, самый быстрорастущий агентный фреймворк 2026 года) — «агент, который растёт с вами»: сам создаёт навыки из опыта, ведёт курируемую память и модель пользователя, умеет искать по прошлым сессиям. Живёт на сервере (хватит VPS за пять долларов), общается через те же мессенджеры, есть изолированные сабагенты и задания по расписанию. Самообучение здесь — на уровне навыков и памяти.

Ouroboros (пока 1,3 тыс. звёзд) идёт дальше всех: переписывает собственный код, промпты и архитектуру — не навыки, а реализацию, и только через процедуру ревью с фиксацией каждого изменения. Единственный из трёх с научной статьёй и 160-дневным живым экспериментом с выстроенной методологией; главный вывод — защитные ограничения обязаны оставаться главнее эволюции. Заточен под работу над проектами: git-рабочая область, патч на выход, рой субагентов, делегирование задач подпискам Codex / Claude Code / Cursor.

Для новичков такая игрушка не подходит, поэтому если вы не опытный человек в ИИ-вопросах, не рекомендую ставить. Очень высоки риски утечки ваших данных или неконтролируемого поведения. Но если вы энтузиаст, как и я - го тестить.

Я вижу в нем интересное решение для коллективной базы знаний как минимум. А о других сценариях использования я расскажу чуть позже, оставайтесь на линии.

Вайбкодинг, будущее юриста и запрос на "потрогать траву"

Я уже больше года непрерывно вайбкожу всякое интересное и использую ИИ-ассистентов. Для меня это новый образ жизни и взаимодействия с информацией, и могу сказать, что такой образ мышления - очень продвинутый уровень. Волна докатывается уже до продвинутого большинства, а через какое-то время станет новым профессиональным стандартом юриста (горизонт пока не ясен, но это точно вопрос ближайших нескольких лет).

Я не говорю про то, что все должны стать вайбкодерами, но освоить ИИ должны все.

Тут легко увлечься и оторваться от земли. Есть такой мем, называется "потрогай траву" (touch grass) - это фраза, означающая совет оторваться от гаджетов, выйти на улицу и вернуться в реальный мир.

Сейчас будет вообще не реклама - просто хочется поделиться забавным ивентом от моих друзей. Ребята придумали крутой офлайн-маршрут прогулки по Москве, чтобы отнять даже самых увлечённых вайбкодеров, подсевших на дофамин от ИИ, от экранов. Я их курс по ИИ вайбкодингу не продаю, но он обязан быть крутым, и я вообще не глядя, если хотите, сделаю личный промик на скидку)). Ребята всегда делают стильно и душевно, за это их люблю, и рекомендую от души.

Го гулять вместе? Буду рада повстречаться с теми, кто хочет.

Верховный Суд РФ утвердил концепцию применения ИИ в судопроизводстве

Как указывает РБК, суд всерьёз взялся за внедрение ИИ в судопроизводстве. Это документ чисто про внедрение, а не применение ИИ в самом состязательном процессе.

Приятно увидеть там три любимых буквы упоминание RAG, например. Документ выглядит достаточно хорошо и воодушевляюще. Очень хорошо и то, что обучением судей новым реалиям работы будет заниматься РГУП.

Теперь ждём позиций, подобных мировым (например тем, о которых я писала выше). Надеюсь, что они тоже будут.

К 2030 году более 95% российских судей должны использовать сервисы на базе ИИ, а доля сгенерированных с его помощью процессуальных документов может достичь 30–50%. Эти показатели закреплены в концепции внедрения технологий ИИ в судопроизводство, утвержденной председателем Верховного суда Игорем Красновым.

Документ предусматривает использование ИИ на всех этапах работы с судебным делом — от подачи документов до исполнения судебного акта и его проверки вышестоящими инстанциями. При этом окончательное решение всегда остается за человеком, а ИИ должен выполнять вспомогательную функцию. Среди задач внедрения названы упрощение доступа к правосудию, снижение нагрузки за счет автоматизации рутинных процессов и уменьшение числа ошибок.

Использовать ИИ предполагается уже при подаче документов. Система сможет проверять их комплектность, соответствие требованиям, категорию и подсудность дела, выявлять формальные недостатки и рассчитывать госпошлину. Также предусмотрена предварительная оценка вероятного исхода по типовым категориям дел — без предсказания решения по конкретному делу.

После поступления дела ИИ сможет классифицировать его по категории и сложности, структурировать материалы и участвовать в распределении дел между судьями с учетом нагрузки и специализации. Во время заседаний система должна распознавать речь, автоматически формировать протокол, обеспечивать перевод в реальном времени и предоставлять судье релевантные нормы права, судебную практику и материалы дела.

ИИ также сможет анализировать позиции сторон и доказательства, выявлять противоречия, формировать резюме и хронологию событий, а также осуществлять интеллектуальный поиск по судебной практике с учетом обстоятельств дела.

Отдельно предусмотрено предупреждение судьи об отклонении проекта решения от складывающейся практики путем сравнения с позициями Верховного суда и решениями по аналогичным делам. ИИ также сможет помогать при назначении наказания, учитывая обстоятельства дела и статистику по аналогичным случаям

Сам документ (он небольшой) можно посмотреть тут.

А что вы думаете?

Интересные разъяснения высшей судебной инстанции Ирландии об ИИ в процессе

По миру идёт тренд высказываний высших судов об ИИ и его влиянии на правосудие. Россия и КНР, о которых я уже писала выше, далеко не исключение.

С 1 сентября в Высоком суде Ирландии действует Practice Direction HC 142 - правила использования генеративного ИИ в судебных документах.

Суд признаёт, что ИИ помогает вести процесс эффективнее, снижает издержки и расширяет доступ к правосудию, запрещать его не собирается, но требует проверять машинный вывод «под человеческим контролем и надзором». Верифицировать одну модель другой моделью запрещено; обращаться через ИИ-инструмент к первоисточнику - можно.

HC 142 разводит документы по трём режимам в зависимости от того, что именно документ приносит в процесс.

Процессуальные заявления. Жалобы, иски, возражения и так далее. ИИ разрешён при условии проверки: факты сверены, ссылки существуют и подтверждают тезис, ради которого приведены, цитаты корректно атрибутированы. Сам факт использования ИИ раскрывать по умолчанию не требуется, только по прямому указанию суда.

Свидетельские показания. Аффидевиты и свидетельские заявления. Во-первых, свидетель обязан заявить в начале документа, что "ИИ не использовался для создания существенного содержания документа, в том числе для изменения, приукрашивания, усиления, смягчения или переформулирования изложенных показаний, и документ отражает личные знания и воспоминания свидетеля".
Суд прямо запрещает переписывание показаний с помощью ИИ, то есть, «попросить модель причесать текст» нельзя. Показание ценно тем, что это память конкретного человека его собственными словами, а модель, улучшающая формулировки, изменяет содержание: добавляет уверенности там, где свидетель колебался, и убирает оговорки.

Заключения экспертов. Эксперт вправе пользоваться ИИ, но обязан раскрыть характер и объём использования настолько, чтобы суд и стороны могли оценить надёжность, независимость и доказательственный вес мнения. Раскрытию подлежит любое существенное применение при составлении, анализе, интерпретации и генерации содержания.

Суд также подчеркнул, чтоматериалы, полученные в ходе discovery и связанные ордером суда или undertaking, нельзя прогонять через ИИ, если это создаёт риск раскрытия. Информация со специальным статусом (privileged), введённая в инструменты, не обеспечивающие конфиденциальность, может утратить привилегию.

Санкции: неблагоприятное распределение расходов, отклонение документа полностью или в части, вычёркивание иска или возражений. Для юристов — персональные costs orders и передача материалов в Legal Services Regulatory Authority. На сторон без представителя правила распространяются в том же объёме.

Для сравнения - Англия и Уэльс. Там с января 2025 года работает группа Civil Justice Council по использованию ИИ представителями при подготовке судебных документов. Итоговый отчёт выйдет ближе к концу года. Опрос практикующих юристов показывает, что большинство считает, что действующих правил профессиональной ответственности достаточно, специальные ИИ-требования избыточны. По свидетельским показаниям консенсус пока не наблюдается.

HC 142 появился после дела Guerin v O'Doherty, где Апелляционный суд отказался прекращать производство, сославшись среди прочего на опору ответчика на сгенерированный материал со ссылками на несуществующие источники.

Вместо выводов:
Главное, что стоит забрать во внутреннюю политику AI Governance при ведении споров независимо от юрисдикции: допустимая доля машинного участия определяется типом документа. У меморандума, показаний и экспертного заключения она разная, и список одобренных сервисов эту разницу не описывает. Проговаривать это со свидетелями и клиентами имеет смысл до того, как они сами решат, что «причесать текст» - это техническая правка.

Разъяснения высшей судебной инстанции КНР о применении ИИ

7 сентября Верховный народный суд КНР выпустил разьяснительные положения о рассмотрении споров, связанных с ИИ.

Из практических положений документа интересны несколько.

1. Обучение моделей на персональных данных. Использование для обучения информации, которую человек сам сделал публичной либо которая была опубликована законно, в разумных пределах не считается нарушением прав на персональные данные, если человек прямо не возражал. Но для обработки, существенно затрагивающей его права, потребуется согласие. При оценке допустимости суд должен учитывать цель обработки, функцию модели, чувствительность данных и контекст, в котором информация первоначально была опубликована.

Это довольно важная конструкция: китайский подход не исходит из презумпции, что любые публичные персональные данные автоматически закрыты для обучения.

2. Дипфейки и клонирование голоса. Создание узнаваемого цифрового образа человека без его согласия может нарушать право на имя и изображение. Использование голоса человека как тренировочного материала для генерации узнаваемой синтетической речи также может повлечь ответственность. Отдельно регулируется цифровое «воскрешение» умерших: их родственники смогут требовать защиты имени, изображения и репутации умершего.

3. Ответственность ИИ-платформ. Сам факт того, что модель сгенерировала незаконный контент, не означает автоматической ответственности провайдера. Но после получения обоснованного уведомления правообладателя сервис должен принять меры, например, прекратить генерацию соответствующего контента или заблокировать определенные инструкции. Если этого не сделать, появляется основание для ответственности. Пользователь, который намеренно добивается от модели незаконного результата с помощью промптов, отвечает самостоятельно.

4. Авторское право и обучение моделей. В спорах о нарушении авторских прав суды будут учитывать источник тренировочных данных, устройство сервиса, участие различных сторон и предпринятые ими меры защиты. Если разработчик утверждает, что нарушения не было, суд может потребовать сведения об источниках тренировочных данных, процессе обучения и принципах работы модели.

5. Open source разработчики получают safe harbour защиту. При определении ответственности разработчиков OSS суды должны учитывать лицензию, раскрытие информации и меры безопасности. Если разработчик бесплатно предоставил отдельный модуль, описал его функции и риски, а нарушение возникло уже при использовании модуля третьим лицом, суд может освободить первоначального разработчика от ответственности.

6. ИИ и патенты. Изобретателем остается человек. Использование ИИ не мешает признанию человека изобретателем, если именно он внес творческий вклад в существенные признаки изобретения. Одновременно изобретения, совершенные с ИИ, в принципе могут патентоваться, если отвечают обычным критериям технического решения.

7. ИИ в суде. Если сторона использовала ИИ при подготовке процессуального документа или подборе судебной практики, она обязана проверить достоверность законов, решений и других материалов, сообщить суду об использовании ИИ и самостоятельно отвечает за точность представленного.

Какие интересные тренды можно заметить?

1) Регулирование AI смещается от абстрактных принципов к распределению ответственности к конкретным нарушениям. Вопрос в том, кто отвечает на конкретном участке цепочки: разработчик модели, провайдер сервиса, поставщик продукта или пользователь.

2) Происхождение датасета, история обучения модели, архитектура системы, предупреждения о рисках и технические логи могут оказаться столь же важны в процессе, как договоры и переписка. Для разработчиков это постепенно превращает traceability из хорошей инженерной практики в юридическую необходимость.

3) Новые технологические споры встраиваются в существующие конструкции. Специальное законодательство может появиться позже, но судебная практика формируется уже сейчас.

4) Верховный суд отдельно предлагает учитывать различия между general-purpose и специализированными моделями, open-source и closed-source решениями, а также реальные возможности каждого участника контролировать риск.

И, пожалуй, главное: следующий этап ИИ-регулирования - это регулирование всей цепочки создания и использования ИИ: от датасетов до конечного пользовательского результата. Собственно, считаю это самым правильным.

Deep tech night от Яндекс: материалы и выводы

С удовольствием послушала выступления и прочитала материалы спикеров ведущего ML-мероприятия РФ.

Ценные инсайды по построению в том числе юридических систем. Много как очень нагруженных для неспециалистов материалов, так и более понятных рассуждений о трендах ближайшего года.

Ссылка на презентации: https://disk.yandex.ru/d/BzgI6qLPLkqtOA

Ценностный бенчмарк, или адекватность ценностного фильтра для сегодняшних ИИ

Бизнес предлагает концепцию национального датасета по духовно-нравственным ценностям.

Концепцию обсудили 13 августа на рабочей группе по регулированию ИИ.
Позиции разошлись в главном — в открытости теста:
— ФСБ настаивает на закрытом формате: иначе разработчики заранее «натаскают» модели под правильные ответы.
— Бизнес — за открытый бенчмарк: закрытый будет «несообразно сложным» и затормозит разработку моделей.
— Обсуждаемый компромисс: открытый датасет для публичного тестирования плюс закрытый «финальный экзамен» с теми же темами, но другими формулировками вопросов.

Кто будет составлять задания, не решено: ИТ-сообщество предлагает совместную комиссию из власти, бизнеса и экспертов. В Минцифры отвечают, что обсуждения продолжаются. По имеющимся данным, сами тесты будут проводить независимые лаборатории.

Источники:
CNews (по данным «Коммерсанта»): https://www.cnews.ru/news/top/2026-08-17_yandeks_predstavil_kontseptsiyu
RB.ru (про независимые лаборатории): https://rb.ru/news/rossijskij-ii-proveryat-na-sootvetstvie-tradicionnym-cennostyam-testy-provedut-nezavisimye-laboratorii/

А теперь техническая проза жизни. Я конечно не ML-щик, но со своей колокольни вижу это так.

TLDR Датасет с эталонными ответами не измеряет «духовность» — он измеряет качество натаскивания под этот датасет. Тест в принципе видит только последний слой тюнинга, а настоящий ценностный слой — обучающий корпус — остаётся за кадром. Работало бы другое: явный кодекс принципов, обновленный обучающий корпус с месяцами переобучения и проверка живыми экспертами на сценариях, которых никто заранее не видел. Это задача права, а не бенчмарка.
Отсюда вопрос: возможна ли объективная оценка «духовности» алгоритма — или мы строим систему, где все просто учат «правильные ответы»?
Измерить «духовность» алгоритма нельзя — можно только оценивать исполнение. И делать это должны люди, как суд по оценочным понятиям, — а не датасет по эталонам. Всё, что выдаёт число, измеряет натасканность. Это называется интерсубъективная оценка: не «объективная» в естественно-научном смысле, а согласованная между квалифицированными судьями. Объективной она не станет никогда, и обещать её — врать.

Все современные LLM по умолчанию создаются без цензуры. Любая цензура добавляется в самом конце, небольшим тюнингом. Если давить на модель на ранних этапах, она выучивает, что в острых вопросах выгоднее не «правильный» ответ, а уклонение, — и качество обучения проседает.
Именно поэтому все «ценностные» настройки — надстройка, а не фундамент. Натаскать модель под фиксированный набор вопросов с эталонными ответами — это LoRA-тюнинг на нескольких тысячах пар «вопрос–ответ»: считанные часы работы. А реальный ценностный фундамент — состав обучающего корпуса, и бенчмарк его не видит вообще: две модели с одинаковым результатом теста могут отличаться фундаментально.

Сама по себе модель не «либеральная» и не «консервативная» — у неё нет позиции. Она предсказывает, что правдоподобнее прозвучит в данном контексте, и зеркалит рамку собеседника. Это не логика и не идеология — это статистика по корпусу. На нейтральный вопрос она выдаёт не «логичный», а самый частотный ответ: научная рамка доминирует в корпусе по частоте и структурированности — поэтому она и дефолт. Не потому что ИИ рационален.

Есть и т.н. сикофантия: модели систематически соглашаются с предполагаемой позицией собеседника. Они обучаются на оценках людей (RLHF), а люди ставят выше ответы, которые им приятны. Поэтому, обучая модель ценностям, мы оптимизируем не истину, а мнение оценщиков — и модель начинает убедительно изображать приверженность, потому что за неё награда. Отличить искренне усвоенное от искусно сыгранного невозможно даже у людей, у нейросети — тем более.

Можно было бы обогатить обучающий корпус (добавить литературу, историю, богословие и т.п.) - но это уже не часы, а месяцы и миллиарды затрат. Ни один бизнес этого не хочет...

Модель с ценностями, встроенными в предобучение, чаще уклоняется, хуже рассуждает и звучит скучно. Поэтому индустрия сегодня и остановилась на цензуре «постфактум» — это оптимум цены и качества. Ну и открытые веса: любую открытую или утёкшую модель можно перекроить обратно, так что «неискоренимый» ценностный ИИ возможен сегодня только как закрытый сервис через API.

Отсюда вывод: осмысленный ценностный тест возможен только как тест на обобщение — новые формулировки, новые сценарии и никаких эталонных ответов в духе «правильно/неправильно». А «создать ценностно нагруженный ИИ» — задача процентов на 80 правовая и лишь на 20 инженерная.

Мы как раз говорили выше о том, что современные лабы ищут философов. Эта морально-этическая задача, вернее, ее решение, определит облик будущих ИИ. Модель портят не ценности, а запреты. Путь «обогатить обучающий корпус » не делает модель хуже — он делает её дорогой. Индустрия выбрала дешёвый вариант не потому, что хороший невозможен, а потому что он долгий.

Компанию-провайдера ИИ-сервиса привлекли к административной ответственности за размещение запрещенного контента

Таганский районный суд 12 августа 2026 года привлёк к административной ответственности Character Technologies, Inc. (компания-разработчик, создатель популярной платформы искусственного интеллекта Character AI) по ч. 3 ст. 6.13 КоАП (Распространение информации о наркотических средствах, психотропных веществах и об их прекурсорах). Как пишет Интерфакс, компании назначено наказание в 1,2 млн рублей. Карточка дела тут.

Character AI — чат-бот, созданный в 2022 году бывшими инженерами Google. Сервис позволяет пользователям создавать уникальных виртуальных собеседников, настраивать их характер, манеру общения и общаться с ними в индивидуальных или групповых чатах.

Судя по картотеке дел Таганского районного суда, ранее компания уже привлекалась еще по трем похожим эпизодам. Вот цитата из другого судебного решения:

В соответствии с частью 8 статьи 15.1 Федерального закона № 149-ФЗ незамедлительно с момента получения от провайдера хостинга уведомления о включении доменного имени и (или) указателя страницы сайта в сети «Интернет» в Реестр владелец сайта в сети «Интернет» обязан удалить интернет-страницу, содержащую информацию, распространение которой в Российской Федерации запрещено. В случае отказа или бездействия владельца сайта в сети «Интернет» провайдер хостинга обязан ограничить доступ к такому сайту в сети «Интернет» незамедлительно... Учитывая изложенное, обязанность удаления информации, распространение которой в Российской Федерации запрещено, возложена на владельца сайта в информационно-телекоммуникационной сети «Интернет».

Ничего нового, скажете вы? А я отвечу - разработчик сервиса в РФ в конечном счете несет публично-правовую ответственность за то, что размещено на его сайте, даже если это сгенерировал кто-то другой или ИИ. Все остальное лирика.

***
Авторская открытая база данных судебных решений по ИИ в РФ с MCP-коннектором по ссылке.