Question 1

Какие задачи решает RAG в реальных продуктах?

Accepted Answer

RAG позволяет модели отвечать по данным, которых не было в ее обучении: внутренней документации, базе знаний поддержки, договорам, регламентам, коду и тикетам. Типичные продукты — ассистент для сотрудников, который отвечает на вопросы по внутренним правилам, бот поддержки, опирающийся на справочный центр, поиск по технической документации с цитатами. RAG также снижает число выдуманных ответов: модель получает конкретные фрагменты и может сослаться на источник, а пользователь может проверить ответ. Еще одно преимущество — актуальность: при изменении документа достаточно переиндексировать его, модель переобучать не нужно.

Question 2

Когда RAG подходит, а когда лучше выбрать другой подход?

Accepted Answer

RAG хорошо работает, когда ответ содержится в небольшом числе фрагментов текста: найти правило в регламенте, нужный раздел документации, описание товара. Он хуже справляется с вопросами, требующими агрегации по всем данным, например подсчитать все договоры с определенным условием: здесь лучше подходят SQL-запросы к структурированным данным. Если весь набор документов небольшой и помещается в контекстное окно, иногда проще передать его целиком. Если же нужно изменить стиль или формат ответов модели, а не дать ей знания, поможет дообучение или более точный промпт.

Question 3

Чем RAG отличается от дообучения модели?

Accepted Answer

RAG добавляет знания во время запроса: система находит нужные фрагменты и вставляет их в промпт, а сама модель не меняется. Дообучение (fine-tuning) меняет веса модели на ваших примерах и лучше всего подходит для того, чтобы закрепить формат, стиль, терминологию или поведение. Для фактов RAG обычно надежнее: данные легко обновить, можно показать источник и разграничить доступ, а дообученная модель может смешивать и забывать факты. На практике подходы сочетают: модель дообучают под формат ответов предметной области, а актуальные данные получают через поиск.

Question 4

Что нужно знать, чтобы построить свою первую RAG-систему?

Accepted Answer

Понадобится Python или TypeScript, работа с API языковой модели и базовое понимание эмбеддингов: как текст превращается в вектор и почему близкие по смыслу фрагменты оказываются рядом. Нужно уметь подготовить данные: извлечь текст из PDF и HTML, разбить его на фрагменты, сохранить метаданные. Затем стоит освоить одну векторную базу, например pgvector, если проект уже использует PostgreSQL, или Qdrant. Самый недооцененный навык — оценка: заранее собрать набор вопросов с правильными ответами и проверять, находит ли поиск нужные фрагменты, прежде чем настраивать промпт.

Question 5

Кто использует RAG и в каких сценариях?

Accepted Answer

Строят RAG-системы AI-инженеры и backend-разработчики, а данные для них часто готовят дата-инженеры. Пользуются результатом самые разные отделы. Поддержка получает ассистента, который отвечает по справочному центру и предлагает операторам черновики ответов. Юристы и комплаенс ищут положения в договорах и регламентах. Разработчики задают вопросы по внутренней документации, коду и истории инцидентов. Отделы продаж находят ответы на технические вопросы клиентов. В крупных компаниях RAG часто становится общей платформой: один поисковый слой с учетом прав доступа обслуживает ассистентов для разных отделов.

RAG: Список курсов

Создайте свой первый продукт с LLM, Prompting и RAG

Создание SaaS‑AI веб‑платформы: от нуля до продакшена

RAG (Retrieval)

Буткемп по AI-разработке: Освоение Retrieval Augmented Generation (RAG) для LLM

Введение в RAG

От прототипа к продукту: разработка продвинутых AI приложений