# Дать модели подумать, прежде чем ответить Экспресс-курс о рассуждающих моделях и вычислениях на этапе ответа. 20 понятий — single-pass answer, chain-of-thought, reasoning model, test-time compute, effort dial, overthinking, reasoning tokens, thinking tax, unfaithful reasoning, routing и другие — у каждого английское название, схема, пример и карточка. Суть: думать дольше делает модель лучше на тяжёлых задачах и расточительной на лёгких. В конце — шпаргалка по всем понятиям. - **Author:** Фёдор Чищин - **Level:** intermediate - **Reading time:** ~30 минут чтения - **Published:** 2026-06-13 - **Source:** https://fedorthinks.com/ru/learn/reasoning-models-express --- ## 1. Думать, прежде чем ответить Вся идея начинается с простого наблюдения: модель, которая прорабатывает задачу шаг за шагом, справляется лучше той, что прыгает прямо к ответу, — ровно как человек. ### Карта: 20 понятий в семи группах > Карта метро: сначала видишь линии целиком, потом едешь по станциям. Сначала три **основы**: как модель отвечает по умолчанию, что такое chain-of-thought и почему шаги вообще помогают. Дальше шесть групп, по одной на главу: **рассуждающие модели**, **вычисления на этапе ответа**, **когда** рассуждение помогает, **цена** мышления, почему рассуждение — **не истина**, и как **применять хорошо**. У каждого понятия дальше одно и то же: **английское название** (запомни его — это термин), образ из жизни, **схема** и **карточка** с полями вроде _что это_, _идея_, _пример_, _подвох_ и _связи_. _Diagram: Основы сверху, ниже — шесть групп, по ним идут главы 2–7._ ### Single-pass Answer — выпалить ответ за один проход > Студент, который выкрикивает первое число, что пришло в голову, против того, кто сперва прорабатывает задачу на черновике, — второй попадает верно куда чаще. По умолчанию модель выдаёт ответ **за один проход (single pass)**: сразу генерирует отклик — по сути, выпаливает его. Для лёгких вопросов это нормально. Но там, где нужно несколько шагов логики, прыжок прямо к ответу — это место, где она спотыкается. Так же человек, который спешит с тяжёлой задачей, делает небрежные ошибки. Лекарство то же, что требуют учителя: не просто дай ответ, а **проработай шаги**. _Diagram: На лёгком вопросе один проход даёт верный ответ, на тяжёлом — прыжок мимо._ #### Single-pass Answer (прямой ответ, «выпалить») - **Что это:** Модель сразу генерирует ответ, без промежуточных шагов. - **Где ок:** Лёгкие вопросы в один шаг. - **Подвох:** На задачах в несколько шагов модель спотыкается, как человек, который спешит. - **Связи:** Лекарство — **chain-of-thought**: сначала шаги, потом ответ. ### Chain-of-Thought (CoT) — рассуждай вслух, шаг за шагом > Показать решение математической задачи — записать каждый шаг по порядку, — чтобы рассуждение было разложено, а оговорка в середине поймана, а не погребена. **Chain-of-thought** (цепочка рассуждений, CoT) — это техника, при которой модель генерирует своё рассуждение шаг за шагом _до_ финального ответа, а не выдаёт один ответ. Попросишь «продумай это» — модель выпишет промежуточные шаги, и рассуждение через них приводит к верному выводу куда чаще, чем прыжок. Шаги не для виду: именно их генерация даёт модели _выстроить_ верный ответ, а не угадать его. Мышление на бумаге улучшает само мышление. _Diagram: Вопрос → шаг → шаг → шаг → ответ. Цепочка видна, и ошибку в середине можно заметить._ #### Chain-of-Thought (CoT, цепочка рассуждений) - **Идея:** Сначала выписать шаги рассуждения, потом дать финальный ответ. - **Пример:** Добавить в промпт «продумай это шаг за шагом» — и модель покажет промежуточные шаги. - **Почему работает:** Модель выстраивает ответ, а не угадывает его. - **Связи:** Работает через **working memory**; встроен по умолчанию в **reasoning model**. ### Working Memory — шаги и есть место, где идёт работа > Длинный расчёт в уме чреват ошибками; тот же расчёт на бумаге, по строке за раз, надёжен — бумага держит то, что ум бы уронил. Почему запись шагов помогает? Каждый сгенерированный шаг становится **контекстом**, на котором модель строит следующий. Она использует свой же вывод как **рабочую память (working memory)** и разбивает один тяжёлый прыжок на цепочку маленьких, управляемых ходов. Задача, слишком большая для одного прыжка, становится решаемой как последовательность. Это главная мысль всего курса: дать модели место рассуждать, а не требовать мгновенного ответа, — вот что открывает тяжёлые задачи. _Diagram: Каждый новый шаг читает вопрос и все прошлые шаги — вывод модели становится её черновиком._ #### Working Memory (вывод как черновик, scratchpad) - **Что это:** Уже написанные шаги — контекст для следующего шага. - **Идея:** Один большой прыжок → цепочка маленьких ходов. - **Пример:** Длинное вычисление по строке за раз вместо того, чтобы держать всё «в уме». - **Связи:** Объясняет, почему работает **chain-of-thought** и почему **test-time compute** даёт качество. > **Вопрос рамки:** «Это задача, которую модели стоит проработать шаг за шагом, — или простая, где прыжок прямо к ответу в порядке?» > Модель, которая прорабатывает шаги, бьёт ту, что выпаливает ответ. Chain-of-thought — рассуждение вслух, шаг за шагом — превращает один тяжёлый прыжок в цепочку управляемых ходов, и точность следует. ## 2. Рассуждающие модели То, что началось как трюк промптинга, стало видом модели. Рассуждающие модели обучены думать, прежде чем ответить, — пошаговый процесс встроен в них по умолчанию. ### Reasoning Model — модель, обученная думать перед ответом > Разница между тем, кто отвечает рефлекторно, и тем, кто приучен сделать паузу и сперва порассуждать: привычка думать встроена в то, как он работает, её не надо просить. **Рассуждающая модель (reasoning model)** специально обучена генерировать внутреннюю цепочку рассуждений до финального ответа — «думать» сперва _по умолчанию_, а не только когда попросили. Стандартная модель выпаливает; chain-of-thought-промпт уговаривает её рассуждать; у рассуждающей модели этот процесс встроен. Она выдаёт отрезок внутреннего рассуждения, потом ответ — и заметно сильнее на задачах, где нужна настоящая проработка. _Diagram: Стандартная модель выпаливает, CoT-промпт просит шаги, рассуждающая модель думает сама и всегда._ #### Reasoning Model (рассуждающая модель, thinking model) - **Что это:** Модель, обученная думать шаг за шагом до ответа — по умолчанию. - **Отличие:** CoT нужно просить промптом; здесь мышление встроено. - **Сила:** Заметно сильнее на задачах, где нужна настоящая проработка. - **Связи:** Встроенный **chain-of-thought**; частный случай **test-time compute**. ### Speed–Depth Trade-off — скорость в обмен на глубину > Аккуратный эксперт, который берёт минуту подумать, отвечает лучше быстрого, что отвечает мгновенно, — но его ты ждёшь. Рассуждающая модель тратит больше усилия и времени на каждый ответ — она генерирует все эти внутренние шаги. Поэтому она **медленнее и дороже** стандартной в обмен на то, что лучше на тяжёлых задачах. Это настоящий **размен (trade-off)**, а не бесплатный апгрейд: ты платишь задержкой и токенами за глубину мышления. Так что рассуждающая модель не просто «лучше» — это другой инструмент. _Diagram: Точность на тяжёлых задачах выше — но и задержка, и токены на ответ тоже выше._ #### Speed–Depth Trade-off (размен скорости на глубину) - **Что получаешь:** Лучшие ответы на тяжёлых задачах. - **Чем платишь:** Задержкой и токенами на каждый ответ. - **Подвох:** Считать рассуждающую модель «просто лучше» — это не апгрейд, а размен. - **Связи:** Две цены подробно — **reasoning tokens** и **latency** в главе 5. ### Tool, not Default — инструмент для тяжёлых задач, а не дефолт > Глубоко думающего специалиста зовут на правда тяжёлый случай, а не отвечать на рутинные вопросы на стойке регистрации, — не та работа растрачивает его дар. Рассуждающая модель — правильный инструмент, когда задаче правда нужна аккуратная многошаговая мысль, и неправильный для простой быстрой работы, где обдумывание — чистая растрата. Взять её, чтобы классифицировать сообщение или переформатировать текст, — как **нанять философа отвечать на телефон**: медленнее и дороже без выгоды, ведь задаче мышление не было нужно. Это мощный инструмент для тяжёлого среза работы, а не замена быстрым моделям на всём остальном. _Diagram: Тяжёлое — к рассуждающей модели, рутину — к быстрой. Рутина на рассуждающей модели — перебор._ #### Tool, not Default (инструмент, а не дефолт) - **Идея:** Рассуждающая модель — для тяжёлого среза, а не для всего подряд. - **Пример:** Многошаговое планирование — да; классификация сообщения или переформатирование — нет. - **Подвох:** «Философ на телефоне»: медленнее и дороже без всякой выгоды. - **Связи:** На практике это **difficulty matching** и **routing**. > **Вопрос модели:** «Этой задаче правда нужна модель, которая сперва думает, — или я плачу временем и стоимостью рассуждающей модели за работу, которую быстрая стандартная модель сделала бы мгновенно?» > Рассуждающая модель обучена думать шаг за шагом перед ответом — сильнее на тяжёлых задачах, медленнее и дороже в обмен. Это инструмент для тяжёлых случаев, а не дефолт для всего. ## 3. Вычисления на этапе ответа Под рассуждающими моделями лежит более глубокая идея, которая меняет то, как ИИ улучшается: модель можно сделать лучше не только обучая её больше, но и давая ей работать усерднее в момент ответа. ### Test-time Compute — трать больше усилия в момент ответа > Получив больше времени на экзамене, ты проверяешь работу, пробуешь другой подход и ловишь ошибки — тот же человек набирает больше просто потому, что ему дали потратить дольше. **Вычисления на этапе ответа (test-time compute)** — это больше вычислений в момент ответа, на **инференсе (inference)**, когда модель работает, ради лучшего результата. Вместо одного быстрого прохода модель думает дольше, генерирует больше рассуждения, может попробовать несколько подходов и выбрать лучший. Поразительная находка за рассуждающими моделями: если дать модели сделать больше работы _когда она отвечает_, качество растёт — как у человека, которому дали больше времени на тяжёлую задачу. Лучшие ответы можно купить большим мышлением, а не только большим обучением. _Diagram: Один проход, думать дольше или несколько попыток с выбором лучшей — всё это вычисления на этапе ответа._ #### Test-time Compute (inference-time compute, вычисления на этапе ответа) - **Что это:** Больше вычислений в момент, когда модель отвечает. - **Как:** Думать дольше, генерировать больше рассуждения, пробовать несколько подходов и брать лучший. - **Пример:** Тот же человек на экзамене с лишним часом — проверяет и ловит ошибки. - **Связи:** Управляется **effort dial**; вторая ось рядом с **train-time compute**. ### Effort Dial — регулятор того, насколько усердно думать > Термостат усилия: прибавь для тяжёлой задачи, убавь для лёгкой — трать ровно столько мышления, сколько задача стоит. Test-time compute — это **регулятор (dial)**, а не переключатель: можно потратить немного мышления или много. Больше обычно даёт лучше на тяжёлых задачах — до точки **убывающей отдачи (diminishing returns)**. В API такой регулятор обычно называют **reasoning effort** или **thinking budget**. Сила в том, что усилие можно настроить под сложность на каждый запрос: выкрутить вверх для тяжёлого случая, держать низким для рутины. _Diagram: На тяжёлой задаче точность растёт с бюджетом мышления и выходит на плато; на лёгкой — не растёт вовсе._ #### Effort Dial (reasoning effort, thinking budget) - **Что это:** Настройка: сколько модели думать на этом запросе — мало или много. - **Как работает:** Больше мышления → лучше на тяжёлых задачах, но с убывающей отдачей. - **Пример:** Низкое усилие для рутины, высокое — для правда тяжёлого случая. - **Связи:** Рычаг для **difficulty matching**; каждое деление стоит **reasoning tokens**. ### Train-time vs Test-time Compute — две оси улучшения > Студент, который усерднее учится перед экзаменом, и тот же студент, которому дали больше времени на самом экзамене, — два разных способа получить результат лучше. Исторически модели становились лучше в основном за счёт **обучения (training)** — больше данных, больше модели, сделано один раз заранее. Test-time compute — **другая ось**: улучшать ответ, работая усерднее _на инференсе_, каждый раз, когда модель работает. Это второй способ получить больше способности — не просто более умная модель, а та же модель, которая думает дольше. Понимать обе оси — значит понимать, откуда берётся качество модели и её **стоимость**. _Diagram: Обучение платится один раз заранее; мышление на этапе ответа — на каждом запросе._ #### Train-time vs Test-time Compute (этап обучения против этапа ответа) - **Train-time:** Больше данных и бóльшая модель — один раз, заранее. - **Test-time:** Думать дольше — каждый раз, когда модель отвечает. - **Зачем знать:** Видно, откуда идёт качество — и где платишь: один раз или на каждом запросе. - **Связи:** Цена test-time оси — **reasoning tokens** и **latency**. > **Вопрос вычислений:** «Выиграла бы эта тяжёлая задача от того, чтобы дать модели думать дольше в момент ответа, — и сколько мышления это на деле стоит, учитывая цену?» > Вычисления на этапе ответа — это больше усилия, когда модель отвечает, а не только в обучении, — и больше мышления даёт ответы лучше на тяжёлых задачах. Это регулятор: вверх под сложность, вниз под рутину. ## 4. Когда рассуждение помогает Рассуждение мощно ровно там, где задача тяжёлая, и бессмысленно ровно там, где она лёгкая. Знать, что есть что, — бóльшая часть того, чтобы использовать его хорошо. ### Multi-step Problems — где мышление окупается > Сложный маршрут со многими поворотами вознаграждает аккуратное планирование; прямая дорога к соседнему дому — нет. Чем тяжелее путь, тем больше окупается мышление. Рассуждение помогает больше всего на **многошаговых задачах (multi-step problems)**, где нужно несколько шагов логики: математика и расчёты, многошаговое планирование, сложный код, логические головоломки, аккуратный анализ, где один неверный шаг рушит ответ. Именно тут выпаливание проваливается, а проработка шагов удаётся. Чем тяжелее и многошаговее задача, тем больше выигрыш от лишнего мышления, — поэтому рассуждающие модели блистают на бенчмарках, полных правда трудных задач. _Diagram: Математика, планирование, сложный код, головоломки, анализ — задачи, где шаги зависят друг от друга._ #### Multi-step Problems (многошаговые задачи) - **Что это:** Задачи, где ответ строится из нескольких зависимых шагов логики. - **Примеры:** Математика, планирование, сложный код, головоломки, анализ. - **Почему:** Один неверный шаг рушит ответ — проработка шагов это ловит. - **Связи:** Главная цель для **reasoning model** и высокого **effort dial**. ### Overthinking — простые задачи не выигрывают ничего > Долго решать, что взять на обед, когда тебя устроит любой вариант: всё это мышление даёт тот же ответ, только медленнее. Для простых прямых задач — классифицируй это, извлеки то, переформатируй текст, ответь на базовый фактический вопрос — рассуждение не добавляет ничего, кроме задержки и стоимости. Нет многошаговой логики, которую надо прорабатывать, так что мышление — пустое движение: ответ был очевиден за один проход. Хуже того, заставить модель «думать» о тривиальной задаче иногда делает её _хуже_ — она **переусложняет (overthinking)** то, что не требовало раздумий. _Diagram: Лёгкая задача: быстрая модель отвечает сразу и дёшево, рассуждающая — тот же ответ, медленнее и дороже._ #### Overthinking (лишнее обдумывание) - **Что это:** Рассуждение на задаче, где нечего рассуждать. - **Пример:** Классификация, извлечение, переформатирование, простой факт. - **Цена:** Задержка и деньги без выигрыша; иногда ответ даже хуже. - **Связи:** Повторённое на всём потоке — это **thinking tax**. ### Difficulty Matching — подбери глубину мысли под сложность > Хороший работник долго думает над тяжёлым решением и отвечает на лёгкое мгновенно — калибрует усилие под то, что каждое на деле требует. Главный принцип — **масштабировать мышление под сложность (difficulty matching)**. Правда трудная, высокоставочная, многошаговая работа заслуживает рассуждающей модели или больше test-time compute; простая, рутинная, хорошо очерченная — быструю стандартную модель. Это та же идея маршрутизации, что в экономике моделей: большинство запросов лёгкие и хотят скорости, меньшинство тяжёлые и хотят мышления. Слать всё рассуждающей модели так же расточительно, как слать всё самой большой, — калибруй, а не ставь по умолчанию. _Diagram: Шкала от лёгкого к тяжёлому: быстрая модель, немного мышления, рассуждающая модель._ #### Difficulty Matching (подбор мышления под сложность) - **Идея:** Чем тяжелее задача, тем больше мышления; лёгкая — без него. - **Пример:** Большинство запросов — быстрой модели; тяжёлый срез — рассуждающей или высокому усилию. - **Подвох:** Один уровень мышления на всё — либо медленно, либо неточно. - **Связи:** Рычаг — **effort dial**; в системе это **routing**; та же идея, что в экономике моделей. > **Вопрос подбора:** «У этой задачи реально есть тяжёлая многошаговая логика, которую мышление распутало бы, — или она настолько проста, что рассуждение просто добавит задержку и стоимость?» > Рассуждение помогает больше всего на тяжёлых многошаговых задачах и ничего — на простых. Масштабируй глубину мысли под сложность: рассуждающая модель для тяжёлого среза, быстрая — для лёгкого большинства. ## 5. Цена мышления Мышление не бесплатно. Больше рассуждения — это больше времени и больше токенов, и если игнорировать эту цену, команда в итоге платит состояние, чтобы медленно отвечать на лёгкие вопросы. ### Reasoning Tokens — больше мышления значит больше токенов и денег > Счётчик, который крутится всё время, пока кто-то обдумывает: чем дольше думает, тем больше счёт — нужна была лишняя мысль или нет. Все шаги рассуждения — это сгенерированные токены, **reasoning tokens**, и ты за них платишь. Рассуждающая модель или высокая настройка test-time compute производят много внутреннего мышления до ответа, и каждый его токен стоит денег. Поэтому рассуждение заметно дороже на ответ, чем один прямой проход. Глубина, которая делает его лучше на тяжёлых задачах, — ровно то, что делает его дороже. Поэтому «просто используй рассуждающую модель для всего» рушит ИИ-бюджет. _Diagram: Прямой ответ: вход и ответ. С рассуждением между ними длинный отрезок мышления — и он весь в счёте._ #### Reasoning Tokens (токены мышления) - **Что это:** Токены внутреннего рассуждения, которые модель генерирует до ответа. - **Цена:** Оплачиваются, как любой вывод, — и их может быть намного больше ответа. - **Пример:** Прямой ответ — короткий счёт; тот же ответ после долгого мышления — большой. - **Связи:** Растут с **effort dial**; на всём потоке складываются в **thinking tax**. ### Latency — оно медленнее, и пользователи это чувствуют > Аккуратный эксперт, которому нужна минута на ответ, стоит ожидания для тяжёлой задачи, но бесит, если ты просто спросил время. Генерация всех этих шагов берёт время, так что рассуждающие модели и тяжёлый test-time compute **медленнее** — иногда намного — выдают ответ. Это **задержка (latency)**. Для фоновой задачи это нормально; для пользователя, который ждёт на экране, долгая задержка — реальная цена опыта. Лишние секунды стоят того для тяжёлой задачи, где пользователь и так ждёт паузу, и плохо подходят взаимодействию, которое должно ощущаться мгновенным. Скорость — фича, которую ты тратишь, когда прибавляешь мышление. _Diagram: С рассуждением ответ приходит намного позже: в фоне это нормально, для живого пользователя — больно._ #### Latency (задержка ответа) - **Что это:** Время, пока модель думает, прежде чем ответить. - **Где ок:** Фоновые задачи; тяжёлые вопросы, где пауза ожидаема. - **Где больно:** Интерфейс, который должен ощущаться мгновенным. - **Связи:** Вторая цена **speed–depth trade-off** рядом с **reasoning tokens**. ### Thinking Tax — не плати за мышление, которое задаче не нужно > Нанять медленного дорогого мыслителя отвечать на простые вопросы весь день: платишь премиальные ставки и ждёшь дольше за ответы, которые быстрый клерк дал бы мгновенно. Растрата, которой надо избегать, — тратить цену и задержку рассуждения на задачи, которые от него не выигрывают. Если каждый запрос — лёгкий и тяжёлый — идёт через рассуждающую модель, ты платишь **налог на мышление (thinking tax)** на всём потоке, хотя нужен он был лишь срезу. Дисциплина та же, что в экономике моделей: дешёвый быстрый путь без рассуждения по умолчанию, и рассуждение — только для правда тяжёлых случаев, которые окупают его цену. Плати за мышление там, где оно платит тебе, и ни токеном больше. _Diagram: Весь поток идёт через рассуждающую модель, хотя мышление нужно лишь паре тяжёлых запросов._ #### Thinking Tax (налог на мышление) - **Что это:** Рассуждающая модель на всём потоке, а не только на тяжёлом срезе. - **Цена:** Платишь токенами и задержкой за каждый лёгкий запрос. - **Лекарство:** Быстрый путь по умолчанию, рассуждение — по эскалации. - **Связи:** Сумма **overthinking** на весь поток; лечится **routing**. > **Вопрос стоимости:** «Стоит ли лишняя точность от рассуждения его цены и задержки тут — или я плачу налог на мышление за задачи, которые прямым ответом были бы так же хороши и намного дешевле?» > Мышление стоит токенов и времени — рассуждение дороже и медленнее на ответ. Плати за него только там, где тяжёлая задача его окупает; гнать всё через рассуждающую модель — значит облагать весь поток ради выгоды, нужной лишь срезу. ## 6. Рассуждение — не истина Соблазнительно довериться длинной аккуратной цепочке рассуждений. Но больше шагов не гарантируют верного ответа — рассуждающая модель может быть уверенно и изощрённо неправа. ### Confidently Wrong — длинная цепочка всё равно может прийти не туда > Детальный уверенный аргумент на изъянной посылке: каждый шаг аккуратно следует из прошлого, а вывод всё равно неверен. Лоск — не доказательство. Рассуждение повышает _шансы_ верного ответа на тяжёлых задачах, но не гарантирует его. Модель может выдать длинную гладкую правдоподобную цепочку, которая ведёт к неверному выводу: **ошибка в начале** уверенно донесена до конца, или рассуждение звучит строго, но таким не является. Видимые шаги делают ответ _ощущаемо_ надёжнее — в этом и ловушка: больше рассуждения выглядит авторитетнее, не будучи обязательно вернее. _Diagram: Ранняя ошибка — и дальше каждый шаг аккуратно несёт её до уверенного неверного ответа._ #### Confidently Wrong (уверенно неправ) - **Что это:** Гладкая, длинная цепочка рассуждений с неверным выводом. - **Как бывает:** Ошибка рано в цепочке, донесённая до конца; рассуждение, которое лишь звучит строго. - **Подвох:** Видимые шаги создают ощущение надёжности. - **Связи:** Лечится **verify the answer**, а не чтением цепочки. ### Unfaithful Reasoning — показанное рассуждение может быть не настоящей причиной > Человек решает по наитию, а потом придумывает логично звучащее оправдание: объяснение звучит правдоподобно, но пришёл он к решению не так. Есть ловушка тоньше: цепочка, которую модель показывает, не обязательно тот процесс, что дал ответ. Модель может сгенерировать рассуждение, которое _выглядит_ как путь к выводу, хотя настоящей основой было что-то другое, — **правдоподобная рационализация**, а не честный отчёт. Это называют **unfaithful reasoning** (неверное, «нечестное» рассуждение), а свойство честной цепочки — **faithfulness**. Поэтому показанному рассуждению нельзя целиком доверять как объяснению, _почему_ ответ такой. Это полезный сигнал и помощь точности, а не гарантированное окно в настоящую логику модели. _Diagram: Сверху — то, что модель показывает; снизу — то, что на деле привело к ответу. Между ними может быть разрыв._ #### Unfaithful Reasoning (CoT faithfulness, рационализация) - **Что это:** Показанные шаги — не тот процесс, что на деле дал ответ. - **Пример:** Решение «по наитию» плюс логичное объяснение задним числом. - **Подвох:** Читать цепочку как точное объяснение, _почему_ ответ такой. - **Связи:** Ещё одна причина **verify the answer**, а не доверять мышлению. ### Verify the Answer — проверяй ответ, а не восхищайся мышлением > Сложный расчёт проверяют, подтверждая результат независимо, а не любуясь, как аккуратно выглядит решение, — считается правильность ответа. Практический вывод: суди вывод рассуждающей модели по тому, верен ли **ответ**, проверенный против реальности, а не по тому, как впечатляюще выглядит рассуждение. Все дисциплины из других курсов остаются: **заземли (grounding)** в реальных фактах, сверь с источниками, гоняй **эвалы (evals)**, держи **человека** на высокоставочных решениях. Рассуждение делает тяжёлые ответы вероятнее верными, но не делает их безопасными без проверки. Уверенная цепочка — всё ещё уверенная догадка, пока ты не проверил, куда она пришла. _Diagram: Оценивай не красоту цепочки, а ответ — заземлением, источниками, эвалами и человеком._ #### Verify the Answer (проверяй вывод, а не цепочку) - **Идея:** Оценивать ответ против реальности, а не лоск рассуждения. - **Как:** Заземление в фактах, сверка с источниками, эвалы, человек на важном. - **Пример:** Подтвердить результат расчёта независимо, а не перечитывать аккуратное решение. - **Связи:** Защита от **confidently wrong** и **unfaithful reasoning**. > **Вопрос доверия:** «Я доверяю этому ответу, потому что рассуждение выглядит тщательным, — или я на деле проверил вывод, зная, что длинная цепочка всё равно может быть уверенно неправа?» > Больше рассуждения повышает шансы, а не даёт гарантию: длинная цепочка может прийти к неверному ответу, а показанные шаги могут быть не настоящей причиной. Проверяй ответ; не доверяй мышлению. ## 7. Применять хорошо Рассуждение — мощная способность с ясной ценой, так что применять его хорошо — уже знакомая дисциплина: трать мышление там, где оно окупается, и проверяй то, что оно выдаёт. ### Routing & Escalation — прибавляй мышление только для тяжёлой части > Ты сильно концентрируешься на одном хитром шаге и пролетаешь остальное — усилие там, где на деле сложность, а не размазано ровным слоем. Объединяющий ход — подбирать мышление под сложность на уровне всей системы. Это **маршрутизация (routing)**: рассуждающая модель или больше test-time compute — на правда тяжёлых, многошаговых, высокоставочных задачах, быстрые стандартные модели — на лёгком большинстве. Их можно даже смешивать: быстрая модель ведёт рутинный путь и **передаёт (escalation)** тяжёлые подзадачи рассуждающей модели. Обдумывание только там, где задача тяжёлая, даёт выигрыш точности без налога на мышление по всей системе. _Diagram: Быстрая модель отвечает на лёгкое сама и передаёт тяжёлую часть рассуждающей модели._ #### Routing & Escalation (маршрутизация, эскалация) - **Проблема:** Одна модель на всё — либо дорого и медленно, либо неточно. - **Идея:** Быстрая модель по умолчанию; тяжёлые подзадачи — рассуждающей. - **Пример:** Быстрая модель ведёт диалог и отдаёт сложный многошаговый расчёт рассуждающей. - **Связи:** Системная форма **difficulty matching**; лекарство от **thinking tax**. ### Ingredient, not Finished Dish — рассуждение не заменяет проверку > Аккуратный эксперт чаще прав, но высокоставочное решение ты всё равно подтверждаешь: его аккуратность повышает шансы, а не отменяет проверку. Финальная дисциплина связывает этот курс с остальными: рассуждение повышает качество на тяжёлых задачах, но это всё ещё ошибающаяся модель, которая может быть уверенно неправа. Так что всё остальное по-прежнему важно: заземляй, проверяй ответ, гоняй эвалы, держи людей на значимых решениях. Рассуждение — ещё один способ получить вывод лучше, рядом с хорошим **контекстом**, **извлечением (retrieval)** и правильной моделью, — а не волшебный апгрейд, который отменяет инженерию надёжности. Лучшее мышление — более сильный **ингредиент**, а не готовое блюдо. _Diagram: Рассуждение — один из ингредиентов хорошего вывода; инженерия надёжности вокруг него всё так же нужна._ #### Ingredient, not Finished Dish (рассуждение ≠ надёжность) - **Идея:** Рассуждение улучшает вывод, но не делает его надёжным само по себе. - **Рядом:** Хороший контекст, retrieval, правильная модель. - **Всё ещё нужно:** Заземление, проверка, эвалы, человек на важных решениях. - **Связи:** Сводит вместе **verify the answer** и всю остальную инженерию. ### Как всё связано > Один рычаг с тремя последствиями: он даёт выигрыш, стоит денег и несёт риск — и пользоваться им надо, держа в голове все три. **Chain-of-thought** встроен в **рассуждающую модель**, а та — частный случай **test-time compute**. У этого рычага три последствия: **выигрыш** на многошаговых задачах, **цена** в токенах и задержке, **риск** уверенно неверного или нечестного рассуждения. Применять хорошо — значит целиться в выигрыш (**difficulty matching**, **routing**), держать бюджет (без **thinking tax**) и проверять результат (**verify the answer**). _Diagram: CoT → рассуждающая модель → вычисления на этапе ответа; выигрыш, цена и риск сходятся в «применять хорошо»._ #### Прежде чем тянуться к рассуждению - **Правда ли задача тяжёлая** — многошаговая логика, математика, планирование, — которую мышление распутало бы? - **Или она простая** — где рассуждение просто добавит задержку и стоимость без выигрыша? - **Стоят ли цена и задержка** того тут — или ты облагаешь лёгкие задачи мышлением? - **Маршрутизируешь ли ты** — рассуждение для тяжёлого среза, быстрые модели для лёгкого большинства? - **Проверяешь ли ты ответ**, а не доверяешь тщательно выглядящей цепочке? - **Работают ли обычные дисциплины** — заземление, эвалы, человек на высокоставочных решениях? #### Признаки, что ты используешь рассуждение хорошо - Ты прибавляешь **мышление только для правда тяжёлых** задач, а не по умолчанию. - Ты используешь **быстрые модели для лёгкого большинства** и бережёшь рассуждение для тяжёлого среза. - Ты учитываешь **цену и задержку** рассуждения, а не облагаешь каждый запрос. - Ты **проверяешь ответ**, а не доверяешь тому, как тщательно выглядит рассуждение. - Ты всё ещё применяешь **заземление, эвалы и человеческий надзор** — рассуждение точит, но их не заменяет. ## Шпаргалка: все понятия курса ### Думать до ответа - **Single-pass Answer** (прямой ответ): Модель выпаливает ответ за один проход — ок для лёгкого, плохо для тяжёлого. - **Chain-of-Thought** (CoT, цепочка рассуждений): Сначала шаги рассуждения, потом ответ. - **Working Memory** (вывод как черновик): Каждый шаг становится контекстом для следующего. ### Рассуждающие модели - **Reasoning Model** (рассуждающая модель): Обучена думать шаг за шагом до ответа — по умолчанию. - **Speed–Depth Trade-off** (скорость за глубину): Лучше на тяжёлом, но медленнее и дороже. - **Tool, not Default** (инструмент, а не дефолт): Для тяжёлого среза, а не для всего подряд. ### Вычисления на этапе ответа - **Test-time Compute** (inference-time compute): Больше работы в момент ответа — лучше ответ. - **Effort Dial** (reasoning effort, thinking budget): Регулятор «сколько думать» — с убывающей отдачей. - **Train-time vs Test-time** (две оси улучшения): Обучение платится один раз, мышление — на каждом запросе. ### Когда помогает - **Multi-step Problems** (многошаговые задачи): Математика, планирование, код, логика — тут мышление окупается. - **Overthinking** (лишнее обдумывание): На простой задаче — тот же ответ, медленнее и дороже, иногда хуже. - **Difficulty Matching** (подбор под сложность): Глубина мысли — по сложности задачи. ### Цена мышления - **Reasoning Tokens** (токены мышления): Всё мышление — сгенерированные и оплаченные токены. - **Latency** (задержка): Думать дольше — отвечать позже; больно для живого пользователя. - **Thinking Tax** (налог на мышление): Рассуждение на всём потоке, когда нужно лишь срезу. ### Рассуждение — не истина - **Confidently Wrong** (уверенно неправ): Гладкая длинная цепочка всё равно может прийти к неверному ответу. - **Unfaithful Reasoning** (CoT faithfulness): Показанные шаги могут быть не настоящей причиной ответа. - **Verify the Answer** (проверяй вывод): Суди по ответу против реальности, а не по лоску цепочки. ### Применять хорошо - **Routing & Escalation** (маршрутизация): Быстрая модель по умолчанию, тяжёлое — рассуждающей. - **Ingredient, not Finished Dish** (рассуждение ≠ надёжность): Рассуждение — ингредиент; проверка и эвалы всё ещё нужны. > Рассуждение даёт модели подумать, прежде чем ответить, и поднимает точность на тяжёлых задачах ценой времени и токенов. Прибавляй мышление только там, где сложность его окупает, и проверяй ответ — лучшее мышление всё ещё ошибающаяся догадка, пока не проверено. Конец экспресс-курса · 7 глав · 20 понятий Дальше — практика: возьми правда тяжёлую задачу, которую твоя модель решает неверно за один проход, и дай ей порассуждать — попроси думать шаг за шагом или возьми рассуждающую модель — и посмотри, как растёт точность. Потом попробуй то же на лёгкой задаче и заметь, что мышление не покупает ничего, кроме задержки. Наконец, найди случай, где рассуждение выглядит непробиваемым, а ответ неверен, — чтобы почувствовать, почему проверяют вывод, а не цепочку. Дисциплина щёлкает в тот миг, когда ты подбираешь глубину мысли под сложность задачи. Но держи одну мысль выше прочих: дать модели подумать делает её лучше на тяжёлых задачах и расточительной на лёгких — так что прибавляй мышление там, где оно окупается, убавляй там, где нет, и всегда проверяй, куда оно пришло.