Архитектура RAG-системы: компоненты и схема работы
Разбираем архитектуру RAG-системы: из каких компонентов она состоит, как выглядит схема обработки запроса и что важно учесть при построении RAG для корпоративных документов.
Общая схема RAG-системы
Архитектура RAG (Retrieval Augmented Generation) делится на два контура. Офлайн-контур — индексация: документы загружаются, разбиваются на фрагменты и превращаются в векторы. Онлайн-контур — обработка запроса: поиск релевантных фрагментов и генерация ответа. Ниже — все пять этапов по порядку.
Индексация и разбиение документов
PDF, Word, Excel и сканы проходят через парсер и OCR, затем текст режется на смысловые фрагменты (чанки). От качества разбиения зависит точность всей системы: слишком крупные чанки размывают смысл, слишком мелкие теряют контекст.
Векторизация: эмбеддинги
Каждый фрагмент проходит через модель эмбеддингов и превращается в числовой вектор — точку в многомерном пространстве смыслов. Близкие по смыслу тексты получают близкие векторы — на этом свойстве построен весь поиск в RAG.
Векторная база данных
Эмбеддинги сохраняются в векторную базу данных. Она за миллисекунды находит ближайшие векторы к вектору запроса даже среди десятков миллионов фрагментов — это ядро архитектуры RAG-системы.
Retrieval и генерация ответа
Вопрос пользователя векторизуется той же моделью, система находит ближайшие по смыслу фрагменты, при необходимости переранжирует их (reranking) и передаёт языковой модели вместе с вопросом. LLM формирует ответ строго по контексту — с цитатой и ссылкой на документ-источник.
Построение RAG-системы: с чего начать
На практике построение начинают с пилота: берут один-два типа документов, собирают минимальный пайплайн и проверяют качество ответов на реальных вопросах сотрудников. Дальше добавляют форматы, разграничение доступа и интеграции. Такой пилот мы собираем за неделю — демо на ваших документах покажем в течение 24 часов.