Разработали AI-поиск по сотням документов Level Group и получили точность ответов выше 90%
В базе знаний девелопера хранится множество регламентов и инструкции по разным направлениям. При этом данные для ответа на один вопрос могут быть разбросаны сразу по нескольким источникам, объём информации растёт, появляются дубли и устаревшие документы. Всё это замедляет работу с базой знаний и отнимает время сотрудников.
Чтобы инженеры и менеджеры быстрее получали точные ответы, мы вместе с командой Level Group запустили ИИ-ассистента. Обычно для ускорения поиска используют классический RAG, где система ищет фрагменты по семантической близости. Но для процессов в девелопменте у такого подхода есть ограничения: модель не видит связей между разрозненными чанками и теряет общий контекст.
Для ИИ-ассистента Level Group мы спроектировали архитектуру на базе KTS AI Platform и подключили к ней корпоративную wiki. При разработке решения использовали фреймворк LightRAG, который объединяет векторный и графовый поиск. Такой подход позволяет связывать разрозненные документы в единые смысловые кластеры.
Например, сотрудник спрашивает о порядке действий при обнаружении дефекта. Векторный поиск найдёт шаблон акта осмотра. Графовый свяжет его с регламентами по расчётам с подрядчиками, строительными ГОСТами и сроками устранения. LLM получит полный контекст и сможет точнее сформулировать ответ.
Чтобы быстрее получить измеримый результат и подтвердить эффективность решения перед масштабированием, мы сначала запустили пилот на одном источнике. На подготовленном массиве данных точность ответов превысила 90%.
Подробнее о том, как подготовили базу данных к подключению LLM и объединили два подхода к поиску, читайте в статье.
В базе знаний девелопера хранится множество регламентов и инструкции по разным направлениям. При этом данные для ответа на один вопрос могут быть разбросаны сразу по нескольким источникам, объём информации растёт, появляются дубли и устаревшие документы. Всё это замедляет работу с базой знаний и отнимает время сотрудников.
Чтобы инженеры и менеджеры быстрее получали точные ответы, мы вместе с командой Level Group запустили ИИ-ассистента. Обычно для ускорения поиска используют классический RAG, где система ищет фрагменты по семантической близости. Но для процессов в девелопменте у такого подхода есть ограничения: модель не видит связей между разрозненными чанками и теряет общий контекст.
Для ИИ-ассистента Level Group мы спроектировали архитектуру на базе KTS AI Platform и подключили к ней корпоративную wiki. При разработке решения использовали фреймворк LightRAG, который объединяет векторный и графовый поиск. Такой подход позволяет связывать разрозненные документы в единые смысловые кластеры.
Например, сотрудник спрашивает о порядке действий при обнаружении дефекта. Векторный поиск найдёт шаблон акта осмотра. Графовый свяжет его с регламентами по расчётам с подрядчиками, строительными ГОСТами и сроками устранения. LLM получит полный контекст и сможет точнее сформулировать ответ.
Чтобы быстрее получить измеримый результат и подтвердить эффективность решения перед масштабированием, мы сначала запустили пилот на одном источнике. На подготовленном массиве данных точность ответов превысила 90%.
Подробнее о том, как подготовили базу данных к подключению LLM и объединили два подхода к поиску, читайте в статье.