Техники prompt engineering: руководство✦
Коллега поделился разделом Prompting Techniques из Prompt Engineering Guide (dair-ai) — обзорным каталогом продвинутых приёмов промптинга. Базовые примеры хороши для простых запросов, но для сложных задач нужны техники, которые повышают надёжность и качество ответов LLM. Ниже — ключевые приёмы из этого каталога.
От zero-shot к few-shot✦
Zero-shot — запрос без примеров: модель опирается только на знания, полученные при обучении. Крупные модели показывают сильные zero-shot способности, но на сложных задачах их не хватает. Few-shot добавляет в промпт несколько демонстраций «вход → выход»: они работают как обучение в контексте (in-context learning) и настраивают модель на нужный формат ответа. Ограничение: на задачах с рассуждением few-shot ненадёжен — например, в проверке чётности суммы модель ошибается даже при нескольких примерах.
Chain-of-Thought (CoT)✦
CoT добавляет промежуточные шаги рассуждения: модель «показывает работу» — выкладки, вычисления, вывод — прежде чем дать ответ. Это раскрывает способность к сложному многошаговому рассуждению (математика, логика). Упрощённый вариант — zero-shot CoT: достаточно приписать к запросу фразу «Let's think step by step», без единого примера, и качество на reasoning-задачах заметно растёт.
ReAct✦
ReAct (Yao et al., 2022) чередует рассуждение и действие: цикл «мысль → действие → наблюдение». Модель формулирует ход мысли, выбирает действие (например, поиск в базе знаний), смотрит на результат и корректирует план. Приём борется с галлюцинациями и устаревшими знаниями чистого CoT, подтягивая реальные данные из внешних инструментов, и лучше держится на задачах, где нужно исследовать и планировать (бенчмарки ALFWorld, WebShop).
Retrieval Augmented Generation (RAG)✦
RAG соединяет поиск с генерацией: по запросу извлекается набор релевантных документов (например, из Wikipedia), они добавляются к промпту, и уже на этом контексте модель формирует ответ. Так решаются две проблемы — галлюцинации (ответ опирается на реальные документы) и устаревание знаний (параметрическая память модели статична, а RAG даёт доступ к свежей информации без переобучения).
Другие приёмы каталога✦
Помимо перечисленных, гайд разбирает Meta Prompting, Self-Consistency, Generate Knowledge, Prompt Chaining, Tree of Thoughts, Automatic Reasoning and Tool-use (ART), Automatic Prompt Engineer (APE), Active-Prompt, Directional Stimulus Prompting, Program-Aided Language Models (PAL), Reflexion, Multimodal CoT и Graph Prompting — как расширенный набор для разных типов задач.