Об ошибках ИИ
🔹 Мы сейчас ведём большую исследовательскую работу: тестируем языковые модели в своей бизнес-логике на разных задачах GR. Совсем скоро расскажу, когда это выльется в новый продукт. А пока наблюдение.
Поймали четыре типовые ошибки, которые модели делают, если пользоваться ими без продуманной методики и специальной обвязки данными.
Первая. Ссылка на недействующую редакцию. Норма на месте, номер есть, цитата есть, редакция отменена год назад.
Вторая. Дельта не накладывается на действующую редакцию. Проект «о внесении изменений» — это только кусок смысла. Пока текст не наложен, читать его сложно, но модель читает и делает вывод.
Третья. Правдоподобные выдуманные реквизиты: номер проекта, ID на портале, номер статьи, дата внесения. Самый распространённый класс: формат легко имитировать, а проверяют его в последнюю очередь.
Четвёртая. Пересказ пояснительной записки вместо анализа текста. В записке стоит «снижение административной нагрузки» — это позиция разработчика, а не то, что документ делает.
🔹 У всех четырёх похожая причина. Открытая модель, взятая как есть, не ходит в верифицированную базу действующих актов, не накладывает текст и не перепроверяет ссылку.
Юрист один раз ловит модель на недействующей редакции — и закрывает тему для себя на год вперёд. На кастдевах слышим это регулярно: пробовали, ошиблась, больше не хотим. Доверие теряют не из-за технологии, а из-за того, что её взяли без обвязки.
Но вот что интересно. Каждую из четырёх ошибок я видел и у людей. Модель делает то же, только быстрее и с большей уверенностью.
🔹 Но выверка предмета изменений — не главный результат аналитики, а только фундамент. Главное лежит выше: во что документ обойдётся компании, какие риски несёт, что поменяется, если из проекта уберут один пункт и оставят другой.
Ошибка в предмете умножается на каждом шаге: неверно прочитанная редакция даёт неверную оценку издержек и рисков.
Поэтому мы возимся с редакциями и ссылками не ради аккуратной справки, а чтобы дальше можно было разворачивать настоящую отраслевую экспертизу, считать деньги, проигрывать сценарии и давать работающие решения.
#Регулирование #ИИвGR #инженерияGR
🔹 Мы сейчас ведём большую исследовательскую работу: тестируем языковые модели в своей бизнес-логике на разных задачах GR. Совсем скоро расскажу, когда это выльется в новый продукт. А пока наблюдение.
Поймали четыре типовые ошибки, которые модели делают, если пользоваться ими без продуманной методики и специальной обвязки данными.
Первая. Ссылка на недействующую редакцию. Норма на месте, номер есть, цитата есть, редакция отменена год назад.
Вторая. Дельта не накладывается на действующую редакцию. Проект «о внесении изменений» — это только кусок смысла. Пока текст не наложен, читать его сложно, но модель читает и делает вывод.
Третья. Правдоподобные выдуманные реквизиты: номер проекта, ID на портале, номер статьи, дата внесения. Самый распространённый класс: формат легко имитировать, а проверяют его в последнюю очередь.
Четвёртая. Пересказ пояснительной записки вместо анализа текста. В записке стоит «снижение административной нагрузки» — это позиция разработчика, а не то, что документ делает.
🔹 У всех четырёх похожая причина. Открытая модель, взятая как есть, не ходит в верифицированную базу действующих актов, не накладывает текст и не перепроверяет ссылку.
Юрист один раз ловит модель на недействующей редакции — и закрывает тему для себя на год вперёд. На кастдевах слышим это регулярно: пробовали, ошиблась, больше не хотим. Доверие теряют не из-за технологии, а из-за того, что её взяли без обвязки.
Но вот что интересно. Каждую из четырёх ошибок я видел и у людей. Модель делает то же, только быстрее и с большей уверенностью.
🔹 Но выверка предмета изменений — не главный результат аналитики, а только фундамент. Главное лежит выше: во что документ обойдётся компании, какие риски несёт, что поменяется, если из проекта уберут один пункт и оставят другой.
Ошибка в предмете умножается на каждом шаге: неверно прочитанная редакция даёт неверную оценку издержек и рисков.
Поэтому мы возимся с редакциями и ссылками не ради аккуратной справки, а чтобы дальше можно было разворачивать настоящую отраслевую экспертизу, считать деньги, проигрывать сценарии и давать работающие решения.
#Регулирование #ИИвGR #инженерияGR