😤 ИИ-слоп проник в законодательную работу
Управление законодательного совета Палаты представителей США столкнулось с лавиной законопроектов, сгенерированных ИИ, которые переполнены ошибками. В некоторых случаях юристам приходится тратить больше времени на исправление ИИ-драфта, чем потребовалось бы для написания законопроекта с нуля.
➡️ Сотрудники аппарата Конгресса чаще всего используют Claude или ChatGPT для составления законодательных текстов.
➡️ ИИ-агенты путаются в важных деталях: например, не могут отличить налоговый кредит от налогового вычета, исключения или гранта.
➡️ Сгенерированные проекты могут неверно ссылаться на предыдущие законы и разделы Свода законов США.
Похожая проблема уже проявилась и в других странах. Высокий суд Англии и Уэльса вынес постановление по двум делам, где юристы использовали ИИ для подготовки состязательных бумаг со ссылками на несуществующую судебную практику. Некоторые провинции Канады полностью пересмотрели процесс заключения госконтрактов после того, как в двух отчетах, включая подготовленный Deloitte Canada за $1,6 млн, были обнаружены ложные цитаты, сгенерированные ИИ.
Или, наверное, помните, как недавно депутат законодательного собрания Нью-Брансуика Билл Оливер зачитал во время официальной речи не только сам текст, но и инструкцию для чат-бота — фразу вроде «вот более естественная версия этого раздела, звучащая как парламентская речь».
Однако есть и обратные кейсы. Например, в эстонский закон о налоге на азартные игры попала ошибка в формулировке, из-за которой онлайн-казино фактически могли оказаться вне налогового режима. Ошибка могла стоить государству около €24 млн в год. Бывший заместитель госсекретаря по цифровой трансформации Luukas Ilves прогнал закон через Claude и Gemini — обе модели обнаружили проблему. После этого он буквально за несколько часов создал инструмент Apsakaleidja / “Fuckup Finder”, который автоматически проверяет проекты законов на противоречия.
Что с этим делать? Известно одно: ИИ может писать закон, но ИИ не может быть ответственным за закон. Сейчас многие регуляторы идут по пути маркировки ИИ-контента. ЕС, например, с 2 августа 2026 года ввёл требования прозрачности для ИИ-сгенерированного контента в рамках Article 50 AI Act, включая маркировку синтетического контента и определённые требования к machine-readable indicators. Но надпись «сгенерировано ИИ» сама по себе не делает закон правильным.
Поэтому следующий этап развития государственных ИИ-систем, вероятно, будет связан не столько с AI that writes, сколько с AI that verifies. И в этом смысле эстонский Fuckup Finder может оказаться гораздо более важным прецедентом, чем американская история с плохими законопроектами: ИИ может стать не автором закона, а его автоматическим red-team'ом. Побеждать будет не тот, кто запретит ИИ, а тот, кто построит эффективный инструмент верификации.
💬 Тест Тьюринга. События в сфере ИИ. Подписаться
Управление законодательного совета Палаты представителей США столкнулось с лавиной законопроектов, сгенерированных ИИ, которые переполнены ошибками. В некоторых случаях юристам приходится тратить больше времени на исправление ИИ-драфта, чем потребовалось бы для написания законопроекта с нуля.
➡️ Сотрудники аппарата Конгресса чаще всего используют Claude или ChatGPT для составления законодательных текстов.
➡️ ИИ-агенты путаются в важных деталях: например, не могут отличить налоговый кредит от налогового вычета, исключения или гранта.
➡️ Сгенерированные проекты могут неверно ссылаться на предыдущие законы и разделы Свода законов США.
Похожая проблема уже проявилась и в других странах. Высокий суд Англии и Уэльса вынес постановление по двум делам, где юристы использовали ИИ для подготовки состязательных бумаг со ссылками на несуществующую судебную практику. Некоторые провинции Канады полностью пересмотрели процесс заключения госконтрактов после того, как в двух отчетах, включая подготовленный Deloitte Canada за $1,6 млн, были обнаружены ложные цитаты, сгенерированные ИИ.
Или, наверное, помните, как недавно депутат законодательного собрания Нью-Брансуика Билл Оливер зачитал во время официальной речи не только сам текст, но и инструкцию для чат-бота — фразу вроде «вот более естественная версия этого раздела, звучащая как парламентская речь».
Однако есть и обратные кейсы. Например, в эстонский закон о налоге на азартные игры попала ошибка в формулировке, из-за которой онлайн-казино фактически могли оказаться вне налогового режима. Ошибка могла стоить государству около €24 млн в год. Бывший заместитель госсекретаря по цифровой трансформации Luukas Ilves прогнал закон через Claude и Gemini — обе модели обнаружили проблему. После этого он буквально за несколько часов создал инструмент Apsakaleidja / “Fuckup Finder”, который автоматически проверяет проекты законов на противоречия.
Что с этим делать? Известно одно: ИИ может писать закон, но ИИ не может быть ответственным за закон. Сейчас многие регуляторы идут по пути маркировки ИИ-контента. ЕС, например, с 2 августа 2026 года ввёл требования прозрачности для ИИ-сгенерированного контента в рамках Article 50 AI Act, включая маркировку синтетического контента и определённые требования к machine-readable indicators. Но надпись «сгенерировано ИИ» сама по себе не делает закон правильным.
Поэтому следующий этап развития государственных ИИ-систем, вероятно, будет связан не столько с AI that writes, сколько с AI that verifies. И в этом смысле эстонский Fuckup Finder может оказаться гораздо более важным прецедентом, чем американская история с плохими законопроектами: ИИ может стать не автором закона, а его автоматическим red-team'ом. Побеждать будет не тот, кто запретит ИИ, а тот, кто построит эффективный инструмент верификации.
💬 Тест Тьюринга. События в сфере ИИ. Подписаться