DSPy — программирование языковых моделей

Решение: Программируй, а не промпти

DSPy (Declarative Self-improving Python) — фреймворк от Stanford NLP, который заменяет хрупкие ручные промпты декларативными программами. Вместо того чтобы угадывать идеальную формулировку, ты описываешь форму задачи через сигнатуру (signature) — какой вход и какой выход ожидается — затем выбираешь модуль рассуждения (Predict, ChainOfThought, ReAct), а компилятор сам генерирует и подстраивает реальный промпт под твои данные и метрику. Главный лозунг — «программируй, а не промпти»: ты пишешь Python, который объявляет намерение, а DSPy подбирает строку, на которой конкретная модель работает лучше всего.

Как это работает

Три слоя складываются друг на друга. Сигнатура вида context, question -> answer объявляет поля и их типы. Модуль (module) оборачивает сигнатуру в стратегию рассуждения — например, dspy.ChainOfThought заставляет модель думать пошагово перед ответом. Наконец, оптимизатор (optimizer, его ещё называют teleprompter), такой как BootstrapFewShot или MIPROv2, прогоняет твою программу на небольшом наборе размеченных примеров, измеряет результат заданной тобой метрикой и ищет лучшую комбинацию few-shot примеров и инструкций. На выходе — скомпилированная программа: конкретный воспроизводимый промпт, который можно сохранить, версионировать и перезапустить. Поскольку промпт генерируется, а не печатается вручную, смена базовой модели означает перекомпиляцию, а не переписывание всего руками.

Когда применять — и компромиссы

Бери DSPy, когда у тебя есть многошаговый пайплайн (поиск + рассуждение + извлечение), измеримая метрика и небольшой набор размеченных примеров — именно там ручной подбор промптов превращается в угадайку. Особенно хорошо он сочетается с RAG и многошаговыми вопросами, где взаимодействует много под-промптов. Компромиссы тоже реальны: есть порог входа, компиляция делает лишние вызовы модели (это время и деньги), а хорошая метрика обязательна — без неё оптимизатору нечего оптимизировать. Для одного разового промпта обычный промптинг быстрее. Конкретный пример: классификатор тикетов поддержки. Ты пишешь сигнатуру ticket -> category, оборачиваешь в dspy.Predict, задаёшь метрику, которая возвращает 1, когда предсказанная категория совпала с меткой, и даёшь оптимизатору 50 размеченных тикетов. BootstrapFewShot перебирает разные наборы примеров, оставляет те, что поднимают точность, и выдаёт финальный промпт — никакого ручного подбора примеров, а ту же программу можно перекомпилировать под более дешёвую или новую модель за минуты.

Где это используется?

• NLP-пайплайны: Цепочки модулей (суммаризация -> классификация -> извлечение) с автооптимизированными промптами на каждом шаге
• Оптимизация RAG: Автоматическая оптимизация запросов к поиску и генерации ответов вместе для лучших результатов
• Многошаговые вопросы: Сложные вопросы, требующие нескольких шагов рассуждения — DSPy выстраивает цепочку модулей и оптимизирует весь пайплайн
• Классификация: Автоподобранные промпты с лучшими few-shot примерами, выбранными компилятором для ваших данных

Попробуйте сами!

Исследуй интерактивную визуализацию ниже, чтобы увидеть, как DSPy превращает ручной промпт в скомпилированную оптимизированную программу.