Что такое RAG (Retrieval-Augmented Generation)?

RAG — это техника, при которой LLM дополняется внешней базой знаний. Перед генерацией ответа система находит релевантные документы через поиск по вектору и передаёт их в контекст модели, что повышает точность и актуальность ответов.

Зачем использовать RAG вместо fine-tuning?

RAG позволяет обновлять знания модели без переобучения, просто обновляя базу документов. Это дешевле, быстрее и прозрачнее: можно увидеть, из какого источника пришла информация. Fine-tuning лучше подходит для изменения стиля или формата ответов.

Как работает векторный поиск в RAG?

Документы разбиваются на чанки и преобразуются в числовые вектора (embedding). При запросе пользователя его вопрос тоже конвертируется в вектор. Система находит ближайшие по косинусному сходству чанки и передаёт их в контекст LLM для генерации ответа.

Какие базы данных используются для RAG?

Популярные векторные базы: Pinecone, Weaviate, Qdrant, ChromaDB, pgvector (расширение PostgreSQL). Выбор зависит от масштаба, требований к задержке и инфраструктуры. Для прототипов часто хватает ChromaDB, для продакшена — Pinecone или Qdrant.

Урок 4

RAG — Retrieval Augmented Generation

Ответы на основе знаний

Проблема: ИИ знает только то, на чём обучался. Как дать ему доступ к документам вашей компании, свежим новостям или специализированным знаниям?

Решение: Библиотека под рукой

RAG (Retrieval-Augmented Generation) извлекает релевантные документы из базы знаний и включает их в промпт как контекст. Это как иметь личного библиотекаря, который находит нужные книги, прежде чем вы отвечаете на вопрос. Он использует эмбеддинги, хранящиеся в векторной базе данных, и помогает снизить галлюцинации.

Представьте это как помощника-библиотекаря:

1. Пользователь задаёт вопрос: "Какова наша политика отпусков?"
2. Поиск в базе знаний: Находим релевантные HR-документы
3. Добавляем в промпт: Включаем выдержки из документов как контекст
4. Генерируем ответ: ИИ отвечает, используя предоставленную информацию

Компоненты RAG

Хранилище документов: Где живут ваши знания (файлы, базы данных)
Эмбеддинги: Векторные представления для семантического поиска
Retriever: Находит наиболее релевантные документы для запроса
Генератор: LLM, который производит финальный ответ

Интересный факт: RAG может снизить галлюцинации до 50%, основывая ответы на реальных документах! Это самая распространённая продакшн-техника для построения надёжных ИИ-систем на приватных данных.

Попробуйте сами!

Используй интерактивный пример ниже, чтобы увидеть, как RAG извлекает релевантные документы и использует их для точных ответов на вопросы.

RAG — Retrieval Augmented Generation

🔍 RAG позволяет LLM использовать внешние документы для генерации ответов. Модель находит релевантную информацию в базе знаний и использует её для более точных и актуальных ответов!

Выбери запрос:

Запрос пользователя

Расскажи про Python

Embedding запроса

Преобразуем запрос в векторное представление для поиска похожих документов

Поиск релевантных документов

База знаний:

Что такое Python

Python — высокоуровневый язык программирования, созданный в 1991 году. Используется для веб-разработки, анализа данных и ML.

История JavaScript

JavaScript создан в 1995 году для браузеров. Сейчас используется везде: frontend, backend (Node.js), мобильные приложения.

Основы React

React — библиотека для создания пользовательских интерфейсов. Использует компоненты и виртуальный DOM для эффективного обновления UI.

Машинное обучение

ML — область ИИ, где компьютеры учатся на данных без явного программирования. Популярные библиотеки: TensorFlow, PyTorch, scikit-learn.

Веб-фреймворки

Фреймворки упрощают разработку: Django и Flask для Python, Express для Node.js, Spring для Java, Rails для Ruby.

Дополнение контекста

Объединяем запрос пользователя с найденными документами в единый контекст для LLM

Генерация ответа

Преимущества RAG

✓ Актуальная информация без переобучения модели
✓ Ответы основаны на проверенных источниках
✓ Можно добавлять новые документы в реальном времени
✓ Снижает галлюцинации LLM

Попробуй сам

Интерактивное демо этой техники

Сравнение техник

Демо режим

Предзаписанные ответы

ЗадачаНачинающийАнализ

Ответ на вопрос с использованием извлечённого контекста (RAG) и без него

Без техники

Промпт

Какие побочные эффекты у препарата "Нейростабил"?

Ответ

Нейростабил — это седативный препарат на основе растительных компонентов. Побочные эффекты могут включать сонливость, аллергические реакции и снижение давления.

Токены:16/38

Время:260ms

Качество:

С Context + RAG

С техникой

Промпт

Контекст из медицинской базы знаний: --- [DOC-1] Нейростабил (рег. №12345): Побочные эффекты: головокружение (5%), тошнота (3%), сухость во рту (2%). Противопоказан при беременности. Совместим с большинством НПВС. [DOC-2] Клиническое исследование 2024: у 1.2% пациентов наблюдалась бессонница при вечернем приёме. --- Вопрос: Какие побочные эффекты у препарата "Нейростабил"? Отвечай строго на основе предоставленных документов. Если информации недостаточно, скажи об этом.

Ответ

Согласно документации, побочные эффекты Нейростабила:

Головокружение (5% пациентов)
Тошнота (3%)
Сухость во рту (2%)
Бессонница при вечернем приёме (1.2%, по данным исследования 2024 года)

Препарат противопоказан при беременности.

👁️Без RAG модель "угадывает" — выдаёт правдоподобные, но потенциально неверные факты

👁️RAG добавил два релевантных документа с точными данными и процентами

🧠Инструкция "отвечай на основе документов" предотвращает галлюцинации

✅В медицине точность критически важна — RAG превращает LLM в надёжный инструмент

Токены:135/62

Время:380ms

Качество:

Почему это работает

Без RAG модель галлюцинирует "правдоподобные" факты. С RAG — отвечает на основе реальных данных с указанием источников.

1 / 2

Практика

Создайте бесплатный аккаунт для решения челленджей

3 челленджей с AI-проверкой для этого урока

Связанные уроки:Rag System Prompts

Этот урок — часть структурированного курса по LLM.

Мой путь обучения

Урок 4

RAG — Retrieval Augmented Generation

Ответы на основе знаний

Решение: Библиотека под рукой

Представьте это как помощника-библиотекаря:

1. Пользователь задаёт вопрос: "Какова наша политика отпусков?"
2. Поиск в базе знаний: Находим релевантные HR-документы
3. Добавляем в промпт: Включаем выдержки из документов как контекст
4. Генерируем ответ: ИИ отвечает, используя предоставленную информацию

Компоненты RAG

Хранилище документов: Где живут ваши знания (файлы, базы данных)
Эмбеддинги: Векторные представления для семантического поиска
Retriever: Находит наиболее релевантные документы для запроса
Генератор: LLM, который производит финальный ответ

Попробуйте сами!

RAG — Retrieval Augmented Generation

Выбери запрос:

Запрос пользователя

Расскажи про Python

Embedding запроса

Преобразуем запрос в векторное представление для поиска похожих документов

Поиск релевантных документов

База знаний:

Что такое Python

История JavaScript

JavaScript создан в 1995 году для браузеров. Сейчас используется везде: frontend, backend (Node.js), мобильные приложения.

Основы React

Машинное обучение

Веб-фреймворки

Фреймворки упрощают разработку: Django и Flask для Python, Express для Node.js, Spring для Java, Rails для Ruby.

Дополнение контекста

Объединяем запрос пользователя с найденными документами в единый контекст для LLM

Генерация ответа

Преимущества RAG

✓ Актуальная информация без переобучения модели
✓ Ответы основаны на проверенных источниках
✓ Можно добавлять новые документы в реальном времени
✓ Снижает галлюцинации LLM

Попробуй сам

Интерактивное демо этой техники

Сравнение техник

Демо режим

Предзаписанные ответы

ЗадачаНачинающийАнализ

Ответ на вопрос с использованием извлечённого контекста (RAG) и без него

Без техники

Промпт

Какие побочные эффекты у препарата "Нейростабил"?

Ответ

Токены:16/38

Время:260ms

Качество:

С Context + RAG

С техникой

Промпт

Ответ

Согласно документации, побочные эффекты Нейростабила:

Головокружение (5% пациентов)
Тошнота (3%)
Сухость во рту (2%)
Бессонница при вечернем приёме (1.2%, по данным исследования 2024 года)

Препарат противопоказан при беременности.

👁️Без RAG модель "угадывает" — выдаёт правдоподобные, но потенциально неверные факты

👁️RAG добавил два релевантных документа с точными данными и процентами

🧠Инструкция "отвечай на основе документов" предотвращает галлюцинации

✅В медицине точность критически важна — RAG превращает LLM в надёжный инструмент

Токены:135/62

Время:380ms

Качество:

Почему это работает

1 / 2

Практика

Создайте бесплатный аккаунт для решения челленджей

3 челленджей с AI-проверкой для этого урока

Связанные уроки:Rag System Prompts

Этот урок — часть структурированного курса по LLM.

Мой путь обучения