Почему нейросеть не заменит главбуха: эксперт рассказала о критических ошибках ИИ в финансах
Эксперт рассказала, почему ИИ придумывает несуществующие законы.
ИИ может придумывать нормы, которых не существует. С чем связана эта особенность LLM-моделей для финансов и бухгалтерии – рассказала гендиректор ООО «Декодика» Наталья Кошеляева.
Важно учитывать сам принцип работы языковых моделей. LLM (большая языковая модель) формирует ответ на основе закономерностей в данных, на которых она обучалась, и контекста конкретного запроса.
В финансовом праве и бухгалтерии такие ошибки критичны. Здесь имеет значение не только содержание нормы, но и ее актуальная редакция, дата вступления изменений в силу, область применения, исключения и обстоятельства конкретной ситуации. Поэтому использование ИИ без дополнительной проверки может создавать для компании финансовые и правовые риски.
Языковую модель в таких задачах корректнее рассматривать как вспомогательный инструмент. Она может помочь структурировать большой объем информации, провести первичный анализ, подготовить черновой материал или обозначить вопросы, которые требуют внимания специалиста.
Но нормы, ставки, сроки, требования и другие значимые сведения необходимо сверять с актуальными официальными источниками.
Нужно определить задачи, которые можно передавать нейросети. ИИ может быть полезен при работе с большими массивами информации, структурировании данных, первичном анализе и подготовке черновых материалов. Но расчеты, выводы и рекомендации, которые влияют на финансовые, налоговые или юридические решения компании, должны проходить дополнительную проверку человеком.
Чем выше возможные последствия ошибки, тем важнее участие профильного специалиста в проверке результата, подчеркнула эксперт.
Эксперт рассказала, почему ИИ придумывает несуществующие законы.
ИИ может придумывать нормы, которых не существует. С чем связана эта особенность LLM-моделей для финансов и бухгалтерии – рассказала гендиректор ООО «Декодика» Наталья Кошеляева.
Важно учитывать сам принцип работы языковых моделей. LLM (большая языковая модель) формирует ответ на основе закономерностей в данных, на которых она обучалась, и контекста конкретного запроса.
«При этом убедительно сформулированный ответ сам по себе не означает, что приведенная информация достоверна и актуальна. Модель может некорректно интерпретировать исходные данные, смешивать разные положения или сформировать ссылку на норму, которой в действительности не существует.»
В финансовом праве и бухгалтерии такие ошибки критичны. Здесь имеет значение не только содержание нормы, но и ее актуальная редакция, дата вступления изменений в силу, область применения, исключения и обстоятельства конкретной ситуации. Поэтому использование ИИ без дополнительной проверки может создавать для компании финансовые и правовые риски.
Языковую модель в таких задачах корректнее рассматривать как вспомогательный инструмент. Она может помочь структурировать большой объем информации, провести первичный анализ, подготовить черновой материал или обозначить вопросы, которые требуют внимания специалиста.
Но нормы, ставки, сроки, требования и другие значимые сведения необходимо сверять с актуальными официальными источниками.
Нужно определить задачи, которые можно передавать нейросети. ИИ может быть полезен при работе с большими массивами информации, структурировании данных, первичном анализе и подготовке черновых материалов. Но расчеты, выводы и рекомендации, которые влияют на финансовые, налоговые или юридические решения компании, должны проходить дополнительную проверку человеком.
Чем выше возможные последствия ошибки, тем важнее участие профильного специалиста в проверке результата, подчеркнула эксперт.