RAG — Retrieval Augmented Generation
Ответы на основе знаний
Проблема: ИИ знает только то, на чём обучался. Как дать ему доступ к документам вашей компании, свежим новостям или специализированным знаниям?
Решение: Библиотека под рукой
RAG (Retrieval-Augmented Generation) извлекает релевантные документы из базы знаний и включает их в промпт как контекст. Это как иметь личного библиотекаря, который находит нужные книги, прежде чем вы отвечаете на вопрос. Он использует эмбеддинги, хранящиеся в векторной базе данных, и помогает снизить галлюцинации.
Представьте это как помощника-библиотекаря:
- 1. Пользователь задаёт вопрос: "Какова наша политика отпусков?"
- 2. Поиск в базе знаний: Находим релевантные HR-документы
- 3. Добавляем в промпт: Включаем выдержки из документов как контекст
- 4. Генерируем ответ: ИИ отвечает, используя предоставленную информацию
Компоненты RAG
- Хранилище документов: Где живут ваши знания (файлы, базы данных)
- Эмбеддинги: Векторные представления для семантического поиска
- Retriever: Находит наиболее релевантные документы для запроса
- Генератор: LLM, который производит финальный ответ
Интересный факт: RAG может снизить галлюцинации до 50%, основывая ответы на реальных документах! Это самая распространённая продакшн-техника для построения надёжных ИИ-систем на приватных данных.
Попробуйте сами!
Используй интерактивный пример ниже, чтобы увидеть, как RAG извлекает релевантные документы и использует их для точных ответов на вопросы.
🔍 RAG позволяет LLM использовать внешние документы для генерации ответов. Модель находит релевантную информацию в базе знаний и использует её для более точных и актуальных ответов!
Расскажи про Python
Преобразуем запрос в векторное представление для поиска похожих документов
Объединяем запрос пользователя с найденными документами в единый контекст для LLM
- ✓ Актуальная информация без переобучения модели
- ✓ Ответы основаны на проверенных источниках
- ✓ Можно добавлять новые документы в реальном времени
- ✓ Снижает галлюцинации LLM
Частые вопросы
Что такое RAG (Retrieval-Augmented Generation)?
RAG — это техника, при которой LLM дополняется внешней базой знаний. Перед генерацией ответа система находит релевантные документы через поиск по вектору и передаёт их в контекст модели, что повышает точность и актуальность ответов.
Зачем использовать RAG вместо fine-tuning?
RAG позволяет обновлять знания модели без переобучения, просто обновляя базу документов. Это дешевле, быстрее и прозрачнее: можно увидеть, из какого источника пришла информация. Fine-tuning лучше подходит для изменения стиля или формата ответов.
Как работает векторный поиск в RAG?
Документы разбиваются на чанки и преобразуются в числовые вектора (embedding). При запросе пользователя его вопрос тоже конвертируется в вектор. Система находит ближайшие по косинусному сходству чанки и передаёт их в контекст LLM для генерации ответа.
Какие базы данных используются для RAG?
Популярные векторные базы: Pinecone, Weaviate, Qdrant, ChromaDB, pgvector (расширение PostgreSQL). Выбор зависит от масштаба, требований к задержке и инфраструктуры. Для прототипов часто хватает ChromaDB, для продакшена — Pinecone или Qdrant.
Попробуй сам
Интерактивное демо этой техники
Ответ на вопрос с использованием извлечённого контекста (RAG) и без него
Нейростабил — это седативный препарат на основе растительных компонентов. Побочные эффекты могут включать сонливость, аллергические реакции и снижение давления.
Согласно документации, побочные эффекты Нейростабила:
- Головокружение (5% пациентов)
- Тошнота (3%)
- Сухость во рту (2%)
- Бессонница при вечернем приёме (1.2%, по данным исследования 2024 года)
Препарат противопоказан при беременности.
Без RAG модель галлюцинирует "правдоподобные" факты. С RAG — отвечает на основе реальных данных с указанием источников.
Квиз по уроку
1.Что означает RAG и какова его цель?
Создайте бесплатный аккаунт для решения челленджей
3 челленджей с AI-проверкой для этого урока
Рецепты по теме
Этот урок — часть структурированного курса по LLM.
Мой путь обучения