Параметры Семплирования (Температура, Top-p, Min-p)

1. Обзор концепции и системная проблема

Языковая модель не генерирует готовый текст непосредственно. На каждом авторегрессионном шаге выходной слой трансформера выдает массив сырых ненормализованных чисел — логитов (Logits) для каждого слова из словаря размером 100 000+ элементов. Преобразование этих сырых чисел в конкретно выбранный токен регулируется алгоритмом декодирования.

Если всегда выбирать токен с абсолютно наивысшей вероятностью (жадный поиск, Greedy Search), модель становится предсказуемой, сухой и часто попадает в бесконечные циклы повторения одних и тех же фраз. Напротив, если выбирать слова полностью случайно, генерация превращается в бессмысленный бред и синтаксические ошибки.

Параметры семплирования (Sampling Parameters) — это набор математических регуляторов, которые изменяют форму вероятностного распределения перед выбором символа. Понимание их внутренней механики позволяет инженеру тонко балансировать между строгим детерминизмом компилятора и креативной эвристикой поиска решений.

2. Архитектурная таксономия и ментальная модель

Конвейер обработки логитов состоит из последовательных математических фильтров:

┌─────────────────────────────────────────────────────────────┐
│                 TOKEN DECODING PIPELINE                     │
├─────────────────────────────────────────────────────────────┤
│ 1. Raw Output Logits z_i from Transformer Linear Head       │
├─────────────────────────────────────────────────────────────┤
│ 2. Penalties Modification:                                  │
│    • Frequency Penalty (Снижение веса за количество повторов)│
│    • Presence Penalty (Одноразовый штраф за уже упомянутые слова)│
├─────────────────────────────────────────────────────────────┤
│ 3. Temperature Scaling: z'_i = z_i / T                      │
│    T ➔ 0: пики заостряются (Argmax детерминизм)            │
│    T > 1: распределение сглаживается (высокая энтропия)     │
├─────────────────────────────────────────────────────────────┤
│ 4. Softmax Normalization: P(w_i) = exp(z'_i) / Sum(exp(z'_j))│
├─────────────────────────────────────────────────────────────┤
│ 5. Truncation Filters (Top-K ➔ Top-P ➔ Min-P)                │
│    Отсечение длинного «хвоста» маловероятных мусорных токенов│
├─────────────────────────────────────────────────────────────┤
│ 6. Stochastic Multinomial Draw (Финальный выбор токена)     │
└─────────────────────────────────────────────────────────────┘

1. Температура (Temperature, $T$):
   • Масштабирующий делитель для вектора логитов перед функцией Softmax. При $T \to 0$ разница между наиболее вероятным токеном и другими стремится к бесконечности (детерминизм). При высокой температуре ($T = 1.0–1.5$) маловероятные токены получают реальный шанс быть выбранными.
2. Top-P (Nucleus Sampling):
   • Динамический порог кумулятивной вероятности. Алгоритм сортирует токены по убыванию и оставляет лишь минимальную множину, сумма вероятностей которой достигает $P$ (например, 0.9 = 90% массы распределения).
3. Min-P (Dynamic Thresholding):
   • Современный передовой фильтр. Отсекает все токены, чья индивидуальная вероятность меньше $P_{\min} = \text{Min-P} \times P_{\max}$, где $P_{\max}$ — вероятность абсолютного лидера. Если лидер имеет 80%, а Min-P = 0.05, отсекаются все варианты с шансом меньше 4%.
4. Штрафы за повторения (Presence & Frequency Penalties):
   • Снижают значения логитов токенов, которые уже встречались в сгенерированном тексте, предотвращая зацикливание.

3. Технический пайплайн и внутренняя механика

Жизненный цикл одного шага вероятностного выбора токена:

1. Получение логитов: Последний слой сети выдает сырой вектор логитов $z = [12.4, 8.1, 15.6, -3.2, \dots]$.
2. Применение штрафов за повторения: Если слово уже встречалось трижды, его логит уменьшается на величину $3 \times \text{frequency_penalty}$.
3. Температурное деление: Каждое значение вектора делится на температуру: $z'_i = z_i / T$.
4. Расчет вероятностей через Softmax: Логиты переводятся в нормализованные вероятности от 0 до 1, сумма которых строго равна 1.0.
5. Фильтрация через Min-P: Находится наивысший балл $P_{\max} = 0.70$. При $\text{Min-P} = 0.1$ порог составляет $0.07$. Все токены с вероятностью ниже 7% удаляются из пула.
6. Стохастический розыгрыш (Multinomial Sampling): Генератор псевдослучайных чисел (PRNG) осуществляет выборку из сохраненного пула вероятностей. Выбранный токен передается на выход.

4. Практические инженерные сценарии в продакшене

01. Безошибочная генерация SQL-запросов и схем валидации

Бекенд-сервис генерирует код миграций на основе промпта пользователя:

• Настройки: temperature: 0.0 (Greedy Search).
• Модель гарантированно выбирает наиболее стандартные синтаксические конструкции, исключая случайные ошибки запятой или несуществующие ключевые слова.

02. Использование Min-p для высококачественного рефакторинга

Агент рефакторит сложный алгоритмический модуль:

• Настройки: temperature: 0.7, min_p: 0.05.
• Модель получает творческую свободу в выборе архитектурного паттерна, но механизм Min-P надежно защищает от выбора случайных галлюцинированных функций.

03. Исследовательский брейншторм архитектуры (High Entropy Search)

Генерация нетривиальных бизнес-идей и сценариев тестирования:

• Настройки: temperature: 0.9, top_p: 0.95.
• Модель предлагает неожиданные крайние случаи, нестандартные сценарии нагрузки и альтернативные гипотезы сбоев систем.

5. Подводные камни, типовые ошибки и безопасность

• Штрафы за повторения ломают синтаксис кода: Высокий frequency_penalty (например, > 0.5) в задачах программирования ведет к катастрофе: модель пытается избегать естественных повторов ключевых слов (return, const, закрывающих фигурных скобок }}), что ломает компиляцию. Для кода штрафы должны равняться 0.
• Фиксированная температура в новых моделях размышления: В моделях класса OpenAI o1 или DeepSeek-R1 внутренний цепочка мыслей обучалась под строго фиксированную температуру (обычно $T=1.0$ или $0.6$). Попытка принудительно выставить $T=0$ через API часто запрещена или разрушает процесс самокоррекции модели.
• Конфликт чрезмерно агрессивных фильтров: Одновременная установка top_p: 0.1 и высокого min_p может сократить выборку до единственного или нулевого токена, вызывая сбой инференс-рушителя.
• Иллюзия воспроизводимости через Seed: Параметр seed фиксирует начальное состояние генератора случайных чисел, но не гарантирует одинаковый текст при изменении версии драйвера CUDA или количества параллельных потоков в батче.