Спецвыпуск Право.ру об ИИ: что заботит юристов и бизнес
Крупнейший правовой портал уделил большое место ИИ в своих июльских сюжетах. Я дала несколько крупных комментариев в двух разделах спецвыпуска — о политиках работы с ИИ в компаниях и в большом разборе в формате "вопросов и ответов" об использовании ИИ юристами.
У меня в целом один ответ на вопрос о главном риске: корпоративная культура и политики - столп безопасности в любой корпорации, потому что самое уязвимое место в системах - это люди.
Итак, сотрудники уже используют нейросети, нравится это безопасникам или руководству или нет. Разница в том, где это происходит — в контролируемом контуре или в личных аккаунтах, куда неизбежно убегут клиентские данные, персональные данные и коммерческая тайна (и узнать об этой утечке можно далеко не сразу).
Про утечки и попадание защищенных данных в обучающие выборки говорят все. Реже вспоминают, например, что документы, загруженные во внешний сервис, не защищены от правоохранительных органов — они могут быть прочитаны и приобщены к материалам расследования (например, в том числе в юрисдикции вашего иностранного контрагента, против которого вы готовите позицию). И что у провайдеров ИИ есть процедуры ревью контента: если контент чата попал на проверку, его может прочитать и живой сотрудник.
Отдельный слой — регуляторный и договорный. В период, пока регулирование (ФЗ и подзаконные акты) об ИИ не готовы или не вступили в силу — это окно, чтобы выстроить процессы без спешки. А контрагенты уже не ждут закона: банки и крупные корпорации включают в анкеты вопрос, есть ли у фирмы политика по ИИ и какие инструменты используются при работе с их данными. Без внятного ответа сложнее подписать даже NDA.
Тотальный запрет на ИИ тут не поможет: он лишь выталкивает людей в личные аккаунты. Как не поможет декларация «используйте ИИ осмотрительно». Сработает политика, закрывающая конкретные сценарии: перечень одобренных инструментов, правила для клиентских данных, порядок действий при инциденте — от утечки через промпт до ошибочного ответа модели, попавшего в документ. Плюс обучение, после которого люди понимают логику ограничений, а не обходят их.
Мы внутри фирмы уже прошли этот путь на себе и теперь помогаем выстраивать такие контуры компаниям, для которых цена ошибки измеряется оборотными штрафами и доверием клиентов. Если вы сейчас на этапе «у нас пока ничего не зафиксировано» — это нормальная точка старта, но лучше не задерживаться в ней надолго. Если захочется обсудить - я всегда рада.
Политика работы с ИИ: зачем она нужна и какие правила стоит зафиксировать — https://pravo.ru/story/263946/
От клиентских данных до чат-ботов: юристы отвечают на вопросы о нейросетях — https://pravo.ru/story/263339/
Крупнейший правовой портал уделил большое место ИИ в своих июльских сюжетах. Я дала несколько крупных комментариев в двух разделах спецвыпуска — о политиках работы с ИИ в компаниях и в большом разборе в формате "вопросов и ответов" об использовании ИИ юристами.
У меня в целом один ответ на вопрос о главном риске: корпоративная культура и политики - столп безопасности в любой корпорации, потому что самое уязвимое место в системах - это люди.
Итак, сотрудники уже используют нейросети, нравится это безопасникам или руководству или нет. Разница в том, где это происходит — в контролируемом контуре или в личных аккаунтах, куда неизбежно убегут клиентские данные, персональные данные и коммерческая тайна (и узнать об этой утечке можно далеко не сразу).
Про утечки и попадание защищенных данных в обучающие выборки говорят все. Реже вспоминают, например, что документы, загруженные во внешний сервис, не защищены от правоохранительных органов — они могут быть прочитаны и приобщены к материалам расследования (например, в том числе в юрисдикции вашего иностранного контрагента, против которого вы готовите позицию). И что у провайдеров ИИ есть процедуры ревью контента: если контент чата попал на проверку, его может прочитать и живой сотрудник.
Отдельный слой — регуляторный и договорный. В период, пока регулирование (ФЗ и подзаконные акты) об ИИ не готовы или не вступили в силу — это окно, чтобы выстроить процессы без спешки. А контрагенты уже не ждут закона: банки и крупные корпорации включают в анкеты вопрос, есть ли у фирмы политика по ИИ и какие инструменты используются при работе с их данными. Без внятного ответа сложнее подписать даже NDA.
Тотальный запрет на ИИ тут не поможет: он лишь выталкивает людей в личные аккаунты. Как не поможет декларация «используйте ИИ осмотрительно». Сработает политика, закрывающая конкретные сценарии: перечень одобренных инструментов, правила для клиентских данных, порядок действий при инциденте — от утечки через промпт до ошибочного ответа модели, попавшего в документ. Плюс обучение, после которого люди понимают логику ограничений, а не обходят их.
Мы внутри фирмы уже прошли этот путь на себе и теперь помогаем выстраивать такие контуры компаниям, для которых цена ошибки измеряется оборотными штрафами и доверием клиентов. Если вы сейчас на этапе «у нас пока ничего не зафиксировано» — это нормальная точка старта, но лучше не задерживаться в ней надолго. Если захочется обсудить - я всегда рада.
Политика работы с ИИ: зачем она нужна и какие правила стоит зафиксировать — https://pravo.ru/story/263946/
От клиентских данных до чат-ботов: юристы отвечают на вопросы о нейросетях — https://pravo.ru/story/263339/