Цепочки промптов: как разбить сложную задачу для нейросети¶

Когда вы просите нейросеть сделать что-то очень сложное - например, проанализировать длинный документ и дать развернутый ответ, - результат может быть неточным или поверхностным. Проблема часто не в модели, а в том, что мы пытаемся уместить всю логику в один огромный промпт. Более надежный подход - разбить большую задачу на последовательность простых шагов. Этот метод называется созданием цепочек промптов (prompt chaining).

Суть проста: вместо одного сложного запроса вы строите цепочку из нескольких промптов. Ответ модели на первом шаге становится входными данными для второго шага, и так далее. Это похоже на конвейер. Такой подход не только повышает качество итогового ответа, но и делает процесс более управляемым и прозрачным. Если что-то пошло не так, вы легко можете определить, на каком именно этапе произошел сбой, и доработать конкретный промпт. Этот метод особенно полезен при создании диалоговых помощников или систем, требующих глубокой обработки информации.

Практика: цепочка промптов для ответа по документу¶

Один из классических сценариев - ответить на вопрос по большому текстовому документу. Попытка сделать это за один запрос часто приводит к тому, что модель либо упускает детали, либо начинает выдумывать. Гораздо эффективнее разделить процесс на две четкие фазы: 1) поиск релевантных фрагментов и 2) формулировка ответа на их основе.

Представьте, что у вас есть длинная статья, например, из Википедии о техниках промпт-инжиниринга. Вам нужно перечислить все упомянутые в ней методы. Первый промпт будет отвечать только за извлечение цитат из текста, где эти методы перечислены.

Промпт 1: Извлечение цитат

You are a helpful assistant. Your task is to help answer a question given a document. The first step is to extract quotes relevant to the question from the document, delimited by ####. Please output the list of quotes using <quotes></quotes>. Respond with "No relevant quotes found!" if no relevant quotes were found.

####
{{document}}
####

Prompt Chaining Part 1

В качестве {{document}} подставьте ваш текст. Модель (например, GPT-4, Claude или российский GigaChat/YandexGPT с большим контекстом) проанализирует документ и вернет список цитат в заданном формате.

Ответ модели:

<quotes>
- Chain-of-thought (CoT) prompting[27]
- Generated knowledge prompting[37]
- Least-to-most prompting[38]
- Self-consistency decoding[39]
- Complexity-based prompting[41]
- Self-refine[42]
- Tree-of-thought prompting[43]
- Maieutic prompting[45]
- Directional-stimulus prompting[46]
- Textual inversion and embeddings[59]
- Using gradient descent to search for prompts[61][62][63][64]
- Prompt injection[65][66][67]
</quotes>

Теперь у вас есть сырые данные - список методов со ссылками на источники в квадратных скобках. Это идеальный вход для второго промпта, задача которого - сформулировать чистый, структурированный ответ для пользователя.

Промпт 2: Формирование итогового ответа

На основе приведенного ниже списка цитат из документа составь четкий перечень упомянутых техник промпт-инжиниринга. Оформи ответ в виде нумерованного списка, опуская ссылки в квадратных скобках (например, [27]).

Список цитат:
<quotes>
- Chain-of-thought (CoT) prompting[27]
- Generated knowledge prompting[37]
- Least-to-most prompting[38]
- Self-consistency decoding[39]
- Complexity-based prompting[41]
- Self-refine[42]
- Tree-of-thought prompting[43]
- Maieutic prompting[45]
- Directional-stimulus prompting[46]
- Textual inversion and embeddings[59]
- Using gradient descent to search for prompts[61][62][63][64]
- Prompt injection[65][66][67]
</quotes>

Ответ модели:

The prompting techniques mentioned in the document include:

1. Chain-of-thought (CoT) prompting
2. Generated knowledge prompting
3. Least-to-most prompting
4. Self-consistency decoding
5. Complexity-based prompting
6. Self-refine
7. Tree-of-thought prompting
8. Maieutic prompting
9. Directional-stimulus prompting
10. Textual inversion and embeddings
11. Using gradient descent to search for prompts
12. Prompt injection

Each of these techniques employs unique strategies to enhance or specify the interactions with large language models to produce the desired outcomes.

Таким образом, мы получили точный и отформатированный ответ. Цепочка промптов позволила разделить ответственность: первая модель выступила как поисковик, вторая - как редактор. При необходимости вы можете добавить и третий шаг, например, для проверки фактов или адаптации ответа под конкретную аудиторию.

Этот метод вдохновлен практиками, описанными в документации Claude, и отлично работает с любыми современными LLM. В российском контексте его можно применять для анализа нормативных документов, технической документации или длинных отчетов, используя доступные локально модели. Ключевой вывод: не заставляйте нейросеть делать всю работу за один раз. Разбейте процесс на шаги, и вы получите более надежный, контролируемый и качественный результат.

Попробуйте ENGRAM на своих данных

Нейросеть на ваших встречах, документах и переписке: отвечает со ссылкой на источник. Это ваша вторая память на базе ИИ. Данные хранятся в России, старт бесплатный.

Зарегистрироваться бесплатно