Карта: 20 понятий в семи группах

Карта метро: сначала видишь линии целиком, потом едешь по станциям.

Сначала три основы: как модель отвечает по умолчанию, что такое chain-of-thought и почему шаги вообще помогают. Дальше шесть групп, по одной на главу: рассуждающие модели, вычисления на этапе ответа, когда рассуждение помогает, цена мышления, почему рассуждение — не истина, и как применять хорошо.

У каждого понятия дальше одно и то же: английское название (запомни его — это термин), образ из жизни, схема и карточка с полями вроде что это, идея, пример, подвох и связи.

Single-pass Answer — выпалить ответ за один проход

Студент, который выкрикивает первое число, что пришло в голову, против того, кто сперва прорабатывает задачу на черновике, — второй попадает верно куда чаще.

По умолчанию модель выдаёт ответ за один проход (single pass): сразу генерирует отклик — по сути, выпаливает его. Для лёгких вопросов это нормально. Но там, где нужно несколько шагов логики, прыжок прямо к ответу — это место, где она спотыкается. Так же человек, который спешит с тяжёлой задачей, делает небрежные ошибки. Лекарство то же, что требуют учителя: не просто дай ответ, а проработай шаги.

Chain-of-Thought (CoT) — рассуждай вслух, шаг за шагом

Показать решение математической задачи — записать каждый шаг по порядку, — чтобы рассуждение было разложено, а оговорка в середине поймана, а не погребена.

Chain-of-thought (цепочка рассуждений, CoT) — это техника, при которой модель генерирует своё рассуждение шаг за шагом до финального ответа, а не выдаёт один ответ. Попросишь «продумай это» — модель выпишет промежуточные шаги, и рассуждение через них приводит к верному выводу куда чаще, чем прыжок. Шаги не для виду: именно их генерация даёт модели выстроить верный ответ, а не угадать его. Мышление на бумаге улучшает само мышление.

Working Memory — шаги и есть место, где идёт работа

Длинный расчёт в уме чреват ошибками; тот же расчёт на бумаге, по строке за раз, надёжен — бумага держит то, что ум бы уронил.

Почему запись шагов помогает? Каждый сгенерированный шаг становится контекстом, на котором модель строит следующий. Она использует свой же вывод как рабочую память (working memory) и разбивает один тяжёлый прыжок на цепочку маленьких, управляемых ходов. Задача, слишком большая для одного прыжка, становится решаемой как последовательность. Это главная мысль всего курса: дать модели место рассуждать, а не требовать мгновенного ответа, — вот что открывает тяжёлые задачи.

Reasoning Model — модель, обученная думать перед ответом

Разница между тем, кто отвечает рефлекторно, и тем, кто приучен сделать паузу и сперва порассуждать: привычка думать встроена в то, как он работает, её не надо просить.

Рассуждающая модель (reasoning model) специально обучена генерировать внутреннюю цепочку рассуждений до финального ответа — «думать» сперва по умолчанию, а не только когда попросили. Стандартная модель выпаливает; chain-of-thought-промпт уговаривает её рассуждать; у рассуждающей модели этот процесс встроен. Она выдаёт отрезок внутреннего рассуждения, потом ответ — и заметно сильнее на задачах, где нужна настоящая проработка.

Speed–Depth Trade-off — скорость в обмен на глубину

Аккуратный эксперт, который берёт минуту подумать, отвечает лучше быстрого, что отвечает мгновенно, — но его ты ждёшь.

Рассуждающая модель тратит больше усилия и времени на каждый ответ — она генерирует все эти внутренние шаги. Поэтому она медленнее и дороже стандартной в обмен на то, что лучше на тяжёлых задачах. Это настоящий размен (trade-off), а не бесплатный апгрейд: ты платишь задержкой и токенами за глубину мышления. Так что рассуждающая модель не просто «лучше» — это другой инструмент.

Tool, not Default — инструмент для тяжёлых задач, а не дефолт

Глубоко думающего специалиста зовут на правда тяжёлый случай, а не отвечать на рутинные вопросы на стойке регистрации, — не та работа растрачивает его дар.

Рассуждающая модель — правильный инструмент, когда задаче правда нужна аккуратная многошаговая мысль, и неправильный для простой быстрой работы, где обдумывание — чистая растрата. Взять её, чтобы классифицировать сообщение или переформатировать текст, — как нанять философа отвечать на телефон: медленнее и дороже без выгоды, ведь задаче мышление не было нужно. Это мощный инструмент для тяжёлого среза работы, а не замена быстрым моделям на всём остальном.

Test-time Compute — трать больше усилия в момент ответа

Получив больше времени на экзамене, ты проверяешь работу, пробуешь другой подход и ловишь ошибки — тот же человек набирает больше просто потому, что ему дали потратить дольше.

Вычисления на этапе ответа (test-time compute) — это больше вычислений в момент ответа, на инференсе (inference), когда модель работает, ради лучшего результата. Вместо одного быстрого прохода модель думает дольше, генерирует больше рассуждения, может попробовать несколько подходов и выбрать лучший. Поразительная находка за рассуждающими моделями: если дать модели сделать больше работы когда она отвечает, качество растёт — как у человека, которому дали больше времени на тяжёлую задачу. Лучшие ответы можно купить большим мышлением, а не только большим обучением.

Effort Dial — регулятор того, насколько усердно думать

Термостат усилия: прибавь для тяжёлой задачи, убавь для лёгкой — трать ровно столько мышления, сколько задача стоит.

Test-time compute — это регулятор (dial), а не переключатель: можно потратить немного мышления или много. Больше обычно даёт лучше на тяжёлых задачах — до точки убывающей отдачи (diminishing returns). В API такой регулятор обычно называют reasoning effort или thinking budget. Сила в том, что усилие можно настроить под сложность на каждый запрос: выкрутить вверх для тяжёлого случая, держать низким для рутины.

Train-time vs Test-time Compute — две оси улучшения

Студент, который усерднее учится перед экзаменом, и тот же студент, которому дали больше времени на самом экзамене, — два разных способа получить результат лучше.

Исторически модели становились лучше в основном за счёт обучения (training) — больше данных, больше модели, сделано один раз заранее. Test-time compute — другая ось: улучшать ответ, работая усерднее на инференсе, каждый раз, когда модель работает. Это второй способ получить больше способности — не просто более умная модель, а та же модель, которая думает дольше. Понимать обе оси — значит понимать, откуда берётся качество модели и её стоимость.

Multi-step Problems — где мышление окупается

Сложный маршрут со многими поворотами вознаграждает аккуратное планирование; прямая дорога к соседнему дому — нет. Чем тяжелее путь, тем больше окупается мышление.

Рассуждение помогает больше всего на многошаговых задачах (multi-step problems), где нужно несколько шагов логики: математика и расчёты, многошаговое планирование, сложный код, логические головоломки, аккуратный анализ, где один неверный шаг рушит ответ. Именно тут выпаливание проваливается, а проработка шагов удаётся. Чем тяжелее и многошаговее задача, тем больше выигрыш от лишнего мышления, — поэтому рассуждающие модели блистают на бенчмарках, полных правда трудных задач.

Overthinking — простые задачи не выигрывают ничего

Долго решать, что взять на обед, когда тебя устроит любой вариант: всё это мышление даёт тот же ответ, только медленнее.

Для простых прямых задач — классифицируй это, извлеки то, переформатируй текст, ответь на базовый фактический вопрос — рассуждение не добавляет ничего, кроме задержки и стоимости. Нет многошаговой логики, которую надо прорабатывать, так что мышление — пустое движение: ответ был очевиден за один проход. Хуже того, заставить модель «думать» о тривиальной задаче иногда делает её хуже — она переусложняет (overthinking) то, что не требовало раздумий.

Difficulty Matching — подбери глубину мысли под сложность

Хороший работник долго думает над тяжёлым решением и отвечает на лёгкое мгновенно — калибрует усилие под то, что каждое на деле требует.

Главный принцип — масштабировать мышление под сложность (difficulty matching). Правда трудная, высокоставочная, многошаговая работа заслуживает рассуждающей модели или больше test-time compute; простая, рутинная, хорошо очерченная — быструю стандартную модель. Это та же идея маршрутизации, что в экономике моделей: большинство запросов лёгкие и хотят скорости, меньшинство тяжёлые и хотят мышления. Слать всё рассуждающей модели так же расточительно, как слать всё самой большой, — калибруй, а не ставь по умолчанию.

Reasoning Tokens — больше мышления значит больше токенов и денег

Счётчик, который крутится всё время, пока кто-то обдумывает: чем дольше думает, тем больше счёт — нужна была лишняя мысль или нет.

Все шаги рассуждения — это сгенерированные токены, reasoning tokens, и ты за них платишь. Рассуждающая модель или высокая настройка test-time compute производят много внутреннего мышления до ответа, и каждый его токен стоит денег. Поэтому рассуждение заметно дороже на ответ, чем один прямой проход. Глубина, которая делает его лучше на тяжёлых задачах, — ровно то, что делает его дороже. Поэтому «просто используй рассуждающую модель для всего» рушит ИИ-бюджет.

Latency — оно медленнее, и пользователи это чувствуют

Аккуратный эксперт, которому нужна минута на ответ, стоит ожидания для тяжёлой задачи, но бесит, если ты просто спросил время.

Генерация всех этих шагов берёт время, так что рассуждающие модели и тяжёлый test-time compute медленнее — иногда намного — выдают ответ. Это задержка (latency). Для фоновой задачи это нормально; для пользователя, который ждёт на экране, долгая задержка — реальная цена опыта. Лишние секунды стоят того для тяжёлой задачи, где пользователь и так ждёт паузу, и плохо подходят взаимодействию, которое должно ощущаться мгновенным. Скорость — фича, которую ты тратишь, когда прибавляешь мышление.

Thinking Tax — не плати за мышление, которое задаче не нужно

Нанять медленного дорогого мыслителя отвечать на простые вопросы весь день: платишь премиальные ставки и ждёшь дольше за ответы, которые быстрый клерк дал бы мгновенно.

Растрата, которой надо избегать, — тратить цену и задержку рассуждения на задачи, которые от него не выигрывают. Если каждый запрос — лёгкий и тяжёлый — идёт через рассуждающую модель, ты платишь налог на мышление (thinking tax) на всём потоке, хотя нужен он был лишь срезу. Дисциплина та же, что в экономике моделей: дешёвый быстрый путь без рассуждения по умолчанию, и рассуждение — только для правда тяжёлых случаев, которые окупают его цену. Плати за мышление там, где оно платит тебе, и ни токеном больше.

Confidently Wrong — длинная цепочка всё равно может прийти не туда

Детальный уверенный аргумент на изъянной посылке: каждый шаг аккуратно следует из прошлого, а вывод всё равно неверен. Лоск — не доказательство.

Рассуждение повышает шансы верного ответа на тяжёлых задачах, но не гарантирует его. Модель может выдать длинную гладкую правдоподобную цепочку, которая ведёт к неверному выводу: ошибка в начале уверенно донесена до конца, или рассуждение звучит строго, но таким не является. Видимые шаги делают ответ ощущаемо надёжнее — в этом и ловушка: больше рассуждения выглядит авторитетнее, не будучи обязательно вернее.

Unfaithful Reasoning — показанное рассуждение может быть не настоящей причиной

Человек решает по наитию, а потом придумывает логично звучащее оправдание: объяснение звучит правдоподобно, но пришёл он к решению не так.

Есть ловушка тоньше: цепочка, которую модель показывает, не обязательно тот процесс, что дал ответ. Модель может сгенерировать рассуждение, которое выглядит как путь к выводу, хотя настоящей основой было что-то другое, — правдоподобная рационализация, а не честный отчёт. Это называют unfaithful reasoning (неверное, «нечестное» рассуждение), а свойство честной цепочки — faithfulness. Поэтому показанному рассуждению нельзя целиком доверять как объяснению, почему ответ такой. Это полезный сигнал и помощь точности, а не гарантированное окно в настоящую логику модели.

Verify the Answer — проверяй ответ, а не восхищайся мышлением

Сложный расчёт проверяют, подтверждая результат независимо, а не любуясь, как аккуратно выглядит решение, — считается правильность ответа.

Практический вывод: суди вывод рассуждающей модели по тому, верен ли ответ, проверенный против реальности, а не по тому, как впечатляюще выглядит рассуждение. Все дисциплины из других курсов остаются: заземли (grounding) в реальных фактах, сверь с источниками, гоняй эвалы (evals), держи человека на высокоставочных решениях. Рассуждение делает тяжёлые ответы вероятнее верными, но не делает их безопасными без проверки. Уверенная цепочка — всё ещё уверенная догадка, пока ты не проверил, куда она пришла.

Routing & Escalation — прибавляй мышление только для тяжёлой части

Ты сильно концентрируешься на одном хитром шаге и пролетаешь остальное — усилие там, где на деле сложность, а не размазано ровным слоем.

Объединяющий ход — подбирать мышление под сложность на уровне всей системы. Это маршрутизация (routing): рассуждающая модель или больше test-time compute — на правда тяжёлых, многошаговых, высокоставочных задачах, быстрые стандартные модели — на лёгком большинстве. Их можно даже смешивать: быстрая модель ведёт рутинный путь и передаёт (escalation) тяжёлые подзадачи рассуждающей модели. Обдумывание только там, где задача тяжёлая, даёт выигрыш точности без налога на мышление по всей системе.

Ingredient, not Finished Dish — рассуждение не заменяет проверку

Аккуратный эксперт чаще прав, но высокоставочное решение ты всё равно подтверждаешь: его аккуратность повышает шансы, а не отменяет проверку.

Финальная дисциплина связывает этот курс с остальными: рассуждение повышает качество на тяжёлых задачах, но это всё ещё ошибающаяся модель, которая может быть уверенно неправа. Так что всё остальное по-прежнему важно: заземляй, проверяй ответ, гоняй эвалы, держи людей на значимых решениях. Рассуждение — ещё один способ получить вывод лучше, рядом с хорошим контекстом, извлечением (retrieval) и правильной моделью, — а не волшебный апгрейд, который отменяет инженерию надёжности. Лучшее мышление — более сильный ингредиент, а не готовое блюдо.

Как всё связано

Один рычаг с тремя последствиями: он даёт выигрыш, стоит денег и несёт риск — и пользоваться им надо, держа в голове все три.

Chain-of-thought встроен в рассуждающую модель, а та — частный случай test-time compute. У этого рычага три последствия: выигрыш на многошаговых задачах, цена в токенах и задержке, риск уверенно неверного или нечестного рассуждения. Применять хорошо — значит целиться в выигрыш (difficulty matching, routing), держать бюджет (без thinking tax) и проверять результат (verify the answer).