LegalTech

👮‍♂️Claude написал на пользователя заявление в полицию.

Жительница Флориды арестована по обвинению в «письменной или электронной угрозе массовой стрельбы». Информация об этой угрозе была получена правоохранительными органами от компании Anthropic. Женщина использовала ИИ в качестве личного дневника, с которым делилась своими мыслями, в том числе сообщила о намерении устроить стрельбу в офисе шерифа округа.

Anthropic отслеживает чаты на предмет ключевых фраз и контента, которые могут быть расценены как угроза. В зависимости от степени серьёзности такие сообщения могут быть переданы на проверку сотрудникам-людям. В данном случае команда компании приняла решение сообщить о выявленной угрозе правоохранительным органам.

Разговор с чат-ботом может подпадать под действие закона как угроза, отправленная, опубликованная или переданная «любым способом, позволяющим другому лицу ознакомиться с ней». Сообщения, выявленные в ходе проверки сотрудниками Anthropic, включая упоминание огнестрельного оружия, вероятно, послужили основанием для ареста и предъявления обвинения.

💻 Нейроюрист теперь выполняет многоступенчатые задачи по одному запросу в чате

Он научился самостоятельно разбивать сложную задачу на этапы и выполнять их один за другим. Раньше пользователю нужно было последовательно ставить отдельные задачи: найти, изучить, проверить, сформулировать. Теперь можно сразу описать конечный результат, и агент сам определит, что и в каком порядке нужно сделать.

К примеру, задача требует одновременного анализа нескольких документов, связанных с ними норм и судебной практики, проверки информации на публичных веб-страницах, сопоставления результатов и формирования итогового документа. Для пользователя это один запрос. Для системы - цепочка действий, в которой каждый следующий шаг может использовать результаты предыдущих, а при необходимости - менять дальнейший план.

Ключевой компонент обновления - собственный харнес Яндекса. Это агентный слой вокруг ИИ-модели, который управляет ее взаимодействием с инструментами и контекстом задачи. Харнес помогает агенту составить план, выбрать инструменты для каждого шага, сохранить промежуточные результаты и передать их дальше. В зависимости от задачи Нейроюрист может обращаться к правовой базе и интернету, читать и сопоставлять документы, работать с файлами и редактировать их.

Причем последовательность действий не фиксируется заранее. Например, если в ходе анализа ИИ-агент понимает, что для следующего шага не хватает данных, он может запросить их у пользователя, а затем продолжить работу с того места, где остановился. Или, если новый результат меняет дальнейший ход задачи, скорректировать план и выполнить дополнительные действия. То есть агент не просто выполняет заранее заданный набор команд, а принимает решения о следующих шагах по мере работы над задачей.

Бесплатно можно отправлять до 5 запросов в месяц.

⚖Верховный суд утвердил концепцию внедрения ИИ в деятельность судов.

К 2030 году более 95% российских судей должны использовать сервисы на базе ИИ, а доля сгенерированных с его помощью процессуальных документов может достичь 30–50%. Эти показатели закреплены в концепции внедрения технологий ИИ в судопроизводство, утвержденной председателем Верховного суда Игорем Красновым.

Документ предусматривает использование ИИ на всех этапах работы с судебным делом — от подачи документов до исполнения судебного акта и его проверки вышестоящими инстанциями. При этом окончательное решение всегда остается за человеком, а ИИ должен выполнять вспомогательную функцию. Среди задач внедрения названы упрощение доступа к правосудию, снижение нагрузки за счет автоматизации рутинных процессов и уменьшение числа ошибок.

Использовать ИИ предполагается уже при подаче документов. Система сможет проверять их комплектность, соответствие требованиям, категорию и подсудность дела, выявлять формальные недостатки и рассчитывать госпошлину. Также предусмотрена предварительная оценка вероятного исхода по типовым категориям дел — без предсказания решения по конкретному делу.

После поступления дела ИИ сможет классифицировать его по категории и сложности, структурировать материалы и участвовать в распределении дел между судьями с учетом нагрузки и специализации. Во время заседаний система должна распознавать речь, автоматически формировать протокол, обеспечивать перевод в реальном времени и предоставлять судье релевантные нормы права, судебную практику и материалы дела.

ИИ также сможет анализировать позиции сторон и доказательства, выявлять противоречия, формировать резюме и хронологию событий, а также осуществлять интеллектуальный поиск по судебной практике с учетом обстоятельств дела.

Отдельно предусмотрено предупреждение судьи об отклонении проекта решения от складывающейся практики путем сравнения с позициями Верховного суда и решениями по аналогичным делам. ИИ также сможет помогать при назначении наказания, учитывая обстоятельства дела и статистику по аналогичным случаям.

Наконец, ИИ предполагается использовать для подготовки проектов судебных актов, включая формирование их структуры и отдельных фрагментов, интеграцию норм права и проверку текста на ошибки. На основе апелляционных и кассационных актов система сможет выявлять повторяющиеся причины изменения или отмены решений и готовить аналитические материалы по судебной практике.

Внедрение будет проходить поэтапно: сначала аудит процесса и подбор решения, затем пилотирование, оценка результатов по специальным метрикам и масштабирование.

При этом концепция предусматривает отдельную матрицу рисков, которую должны обновлять не реже одного раза в полугодие. В числе угроз названы появление у моделей несуществующих норм и судебных актов (галлюцинирование), утечки персональных данных, сопротивление судейского сообщества, кибератаки, систематическое смещение обучающих данных, снижение независимости судьи и зависимость от иностранных моделей.

Для защиты от таких рисков предусмотрены, в частности, обязательная RAG-архитектура со ссылками на источники, проверка результатов судьей, закрытый контур и использование отечественных технологий. Публичные ИИ-сервисы для судебных задач использовать запрещается, предполагается стресс-тестирование моделей.

⚖Переписка о займе в мессенджере стала доказательством в суде.

Договоренность о займе денег с процентами, заключенная в переписке в мессенджере, стала основным доказательством в московском суде по делу о принудительном возврате долга.

В прошлом году мужчина занял у знакомого 365 тысяч рублей, условия они обсудили в переписке в Telegram, сказано в документах. Должник обещал вернуть средства к определенной дате и выплатить еще 91 тысячу рублей за пользование деньгами, однако этого не сделал. Тогда кредитор обратился в суд.

Суд подтвердил, что аккаунты в мессенджере привязаны к номерам телефонов истца и ответчика и проверил банковские выписки, свидетельствующие о переводе денег. Переписку, подлинность которой была удостоверена нотариусом, инстанция сочла договором.

"Между истцом и ответчиком в соответствии с правилами статьи 434 ГК РФ были фактически установлены заемные правоотношения… Указанная переписка, подтверждающая условия займа и срок возврата… является надлежащим доказательством в суде", - указано в решении.

В итоге с ответчика взыскали 365 тысяч рублей долга, проценты за пользование чужими деньгами, снизив сумму до 25 тысяч рублей, и более 85 тысяч рублей судебных расходов.

💻OpenAI привлекла сотни сторонних подрядчиков, которые читают переписки пользователей с ChatGPT.

OpenAI привлекла сотни сторонних подрядчиков, которые читают и оценивают реальные переписки пользователей с ChatGPT для улучшения моделей искусственного интеллекта компании. Инициатива имеет кодовое название Project Lily.

Иногда разговоры с чат‑ботами содержат конфиденциальную информацию, к которой имеют доступ нанимаемые OpenAI подрядчики. Заявляется, что цель Project Lily заключается в улучшении ответов, которые ChatGPT предоставляет своим пользователям.

Подрядчики оценивают и критикуют сгенерированные чат‑ботом результаты. Также они обучают чат‑бот не очеловечивать себя и быть менее склонным к «подхалимству» — это одна ключевых проблем OpenAI.

Подрядчики не видят имена пользователей ChatGPT. В свою очередь OpenAI заявляет, что старается удалять личную информацию до того, как промпты попадут к проверяющим. Однако компания признаёт, что конфиденциальные данные всё же могут проходить через этот фильтр.

Сведения о Project Lily развеивают ошибочное представление о том, что языковые модели совершенствуются только благодаря массовому сбору OpenAI данных из интернета, таланту её высокооплачиваемых инженеров и специалистов по ИИ, а также возможностям новых поколений моделей.