RAGFlow — чтобы LLM перестала выдумывать
Знакомая боль: спрашиваешь модель по рабочим документам, а она либо галлюцинирует, либо живёт знаниями двухлетней давности. И отдавать корпоративные файлы куда-то наружу тоже не вариант. Тут на сцену выходит RAG — модель сначала ищет ответ в твоей базе знаний, а потом уже отвечает. Обновил документы — и всё, никакого дорогого переобучения.
RAGFlow — это RAG, но аккуратный. Он не тупо режет текст на куски, а разбирает документ по структуре: заголовки, таблицы, абзацы, графика. Поэтому нормально жуёт даже толстые отчёты, презентации и техдоку, на которых обычные решения плывут.
Чем подкупает:
- ест почти всё — PDF, Word, Excel, картинки, сканы, веб-страницы;
- показывает, откуда именно взял ответ, так что галлюцинации ловятся сразу;
- есть API и готовые шаблоны агентов;
- разворачивается одним Docker-образом — API, веб-морда, индексация в комплекте.
В общем, если хотелось «свой умный поиск по внутренней вики» — это прям оно.
🔥 — поднимаю в выходные
👀 — сначала гляну на сканы
Источник: habr.com
@ai_for_dev
Знакомая боль: спрашиваешь модель по рабочим документам, а она либо галлюцинирует, либо живёт знаниями двухлетней давности. И отдавать корпоративные файлы куда-то наружу тоже не вариант. Тут на сцену выходит RAG — модель сначала ищет ответ в твоей базе знаний, а потом уже отвечает. Обновил документы — и всё, никакого дорогого переобучения.
RAGFlow — это RAG, но аккуратный. Он не тупо режет текст на куски, а разбирает документ по структуре: заголовки, таблицы, абзацы, графика. Поэтому нормально жуёт даже толстые отчёты, презентации и техдоку, на которых обычные решения плывут.
Чем подкупает:
- ест почти всё — PDF, Word, Excel, картинки, сканы, веб-страницы;
- показывает, откуда именно взял ответ, так что галлюцинации ловятся сразу;
- есть API и готовые шаблоны агентов;
- разворачивается одним Docker-образом — API, веб-морда, индексация в комплекте.
В общем, если хотелось «свой умный поиск по внутренней вики» — это прям оно.
🔥 — поднимаю в выходные
👀 — сначала гляну на сканы
Источник: habr.com
@ai_for_dev