Few-Shot промптинг (In-Context Learning)(Промптинг на кількох зразках та контекстне навчання)

1. Огляд концепції та системна проблема

Один із найпоширеніших викликів у роботі з мовними моделями — це неоднозначність природної мови. Коли розробник пише в інструкції: «Напиши лаконічний TypeScript інтерфейс у стилі нашого проєкту», модель змушена спиратися на усереднені уявлення з інтернету:

1. Суб'єктивність формулювань: Поняття «лаконічний», «гарний» чи «суворий» трактуються моделлю надто широко, що викликає нестабільність результатів від запуску до запуску.
2. Неможливість описати всі правила текстом: Опис конвенцій кодової бази може зайняти 10 сторінок правил, які модель неминуче почне порушувати.
3. «Краще один раз побачити»: Як і живому програмісту, мовній моделі значно простіше повторити стиль за двома наочними зразками, ніж розбиратися в абстрактних описах.

Few-Shot промптинг усуває неоднозначність через демонстрацію: ви показуєте моделі 2–4 контрастні пари «Вхідні дані -> Еталонний результат», задаючи чіткий канон поведінки.

2. Архітектурна таксономія та ментальна модель

Градація методів навчання в контексті (In-Context Learning):

• 1. Zero-Shot (Без прикладів): Модель отримує суто текстову інструкцію та нове завдання. Підходить для базових рутинних задач, але дає найбільшу варіативність виводу.
• 2. One-Shot (Один еталонний зразок): У промпт додається один ідеальний приклад. Цього достатньо, щоб задати синтаксичний каркас (наприклад, форму вихідного JSON).
• 3. Few-Shot (Класичний набір з 2–5 прикладів): Золотий баланс. Включає зразки різних сценаріїв: простий випадок, складний випадок із вкладеними даними та один крайовий випадок (Edge Case / Error Handling).
• 4. Retrieval-Augmented (Dynamic) Few-Shot: Просунутий продакшен-патерн: бібліотека з 500 прикладів індексується у векторній базі даних. Для кожного запиту користувача векторний пошук підтягує топ-3 найбільш релевантні зразки.

3. Технічний пайплайн та внутрішня механіка

Життєвий цикл підготовки та виконання Few-Shot промпту:

1. Exemplar Selection & Curation (Відбір прикладів): Формується компактний набір пар, що демонструють бажаний результат без помилок і зайвого багатослів'я.
2. Structural Delimitation (Структурна ізоляція): Приклади загортаються у суворі XML- або Markdown-теги для уникнення змішування інструкцій із прикладами: <example id="1"><input>...</input><output>...</output></example>.
3. Induction Head Pattern Activation (Активація індукційних голів): Під час розрахунку шарів уваги трансформер фіксує перехід від тегу <input> до <output> як детерміноване перетворення даних.
4. Target Inference Alignment (Генерація цільової відповіді): Модель генерує відповідь на нове запитання, підсвідомо копіюючи синтаксис, довжину, конвенції неймінгу та ключі, використані у зразках.

4. Практичні інженерні сценарії в продакшені

01. Суворий парсинг неструктурованих даних у JSON

Вам потрібно перетворити текстові описи банківських транзакцій у валідний JSON. Zero-shot часто плутає поля дат або копіює копійки. Few-shot із трьома зразками (включаючи повернення коштів та мультивалютні платежі) забезпечує 99.8% стабільність схеми.

02. Дотримання фірмового стилю коду компанії

Команді потрібно, щоб кодовий агент писав юніт-тести суто за внутрішнім стандартом: використання describe.concurrent, специфічний хелпер фабрики користувачів makeUser() та заборона моків через jest.spyOn. Два приклади в системному промпті повністю вирішують проблему.

03. Канонізація та переклад технічних термінів

Переклад документації на українську мову з вимогою зберігати специфічні терміни в оригіналі (наприклад, Checkpointer, Race condition) та перекладати інші за корпоративним глосарієм.

5. Підводні камені, типові помилки та безпека

• Зміщення більшості та позиції (Majority & Recency Bias): Моделі вкрай чутливі до порядку прикладів. Якщо в 3 з 4 прикладів результатом була відповідь «Так», модель матиме сильне зміщення на користь «Так» для будь-якого нового входу. Завжди збалансовуйте класи в прикладах (50/50).
• Копіювання багів із прикладів (Error Mimicry): Якщо в одному зі зразків ви випадково пропустили закриваючу дужку або зробили орфографічну помилку, модель відтворить цю помилку і в нових результатах.
• Роздування вхідного контексту: Десять детальних Few-shot прикладів можуть зайняти 15 000 токенів. Завжди використовуйте Prompt Caching для системних промптів із прикладами.