Сначала тянись к маленькой модели

У большинства строящих с ИИ один рефлекс: слать задачу в самую большую, самую умную доступную модель. Кажется безопасным — зачем отдавать работу модели послабее? Но цифры 2026-го говорят, что этот рефлекс обычно неверный дефолт, и тянуться к маленькой модели первой — вот ход, что тихо побеждает.

Начнём с экономики, потому что она не тонкая. Обслуживать маленькую модель на 7 миллиардов параметров в 10–30 раз дешевле, чем гонять большую на 70–175B, а компании, переносящие правильную работу на маленькие модели, режут расходы на ИИ до 75%. И это не жертва качеством ради скидки: Phi-3.5-Mini от Microsoft держит уровень класса GPT-3.5 при примерно 98% меньшем вычислении. Разрыв между «маленькой» и «достаточно хорошей» закрылся, пока все смотрели на передовую.

Давайте приведу довод перевернуть ваш дефолт, потому что это меняет и счёт, и архитектуру.

«Маленькая» перестала значить «слабая»

Пару лет назад выбрать маленькую модель значило принять заметно худший вывод. Этого размена для работы, которую большинство приложений реально делает, в основном больше нет. Сегодняшние маленькие модели тянут классификацию, извлечение, маршрутизацию, суммаризацию, задачи со структурированными данными и прямолинейный код с качеством, которое трудно отличить от гиганта, — ровно на тех задачах, что составляют основную массу настоящего продукта.

Передовая модель всё ещё лучше на по-настоящему тяжёлом: глубоком многошаговом рассуждении, новых задачах, длинном хвосте краевых случаев. Но вот что большинство приложений упускает — тяжёлое составляет меньшинство вызовов. Вы платите по передовым ценам, чтобы классифицировать тикеты поддержки и переформатировать JSON. Это та же мысль, что и дешёвая модель делает 90% работы: дорогая модель — это исключение, к которому эскалируешь, а не дефолт, с которого начинаешь.

Новая суперсила: она работает на устройстве

Есть вторая причина, почему «сначала маленькая» важно, и это не только цена. Маленькие модели работают там, где большие не могут. Больше двух миллиардов смартфонов теперь гоняют годные локальные модели, а модель на миллиард параметров влезает примерно в 650 МБ памяти и работает на телефоне со скоростью чтения. Достаточно маленькая модель означает вообще никакого похода в облако.

Это открывает то, что облачный API никогда не сможет. Данные не покидают устройство — это ответ про приватность и комплаенс, а не только про задержку. Нет счёта за токены, нет лимита запросов, нет простоя, который надо пересидеть, и оно работает в самолёте. Для целого класса фич — ассистентов на устройстве, приватного извлечения, всего чувствительного к задержке или приватности — маленькая локальная модель не бюджетный вариант, а единственный с такими свойствами. Gartner ждёт, что задачные маленькие модели будут использоваться втрое чаще общих LLM к 2027-му, и это большая часть почему.

Когда всё же тянуться к большой

«Сначала маленькая» — это дефолт, а не религия. Тянитесь к передовой модели, когда задача реально этого требует:

• Тяжёлое, открытое рассуждение — многошаговые задачи, неоднозначные цели, новая работа без чистого паттерна, которому следовать.
• Широта, которую не предсказать — общий ассистент, отбивающий что угодно, что пользователь может спросить, где задачу не очертить заранее.
• Когда вы ещё не замерили — прототипируйте на большой модели, чтобы понять, как выглядит «хорошо», потом переносите устоявшиеся повторяющиеся пути вниз, на маленькую.

Побеждает паттерн маршрутизации по сложности: маленькая модель по умолчанию, эскалация к большой, только когда задача это заслужила. Переворачивается стартовое предположение — с «бери лучшую модель и экономь потом» на «бери самую маленькую модель, что берёт планку, и эскалируй, когда не берёт».

Суть

Инстинкт всегда хватать самую мощную модель — пережиток времён, когда маленькие модели были по-настоящему плохи. Больше нет. Для основной массы реальных задач маленькая модель в 10–30 раз дешевле, часто работает на устройстве вообще без облака и выдаёт вывод, который не отличить от гигантского. Дефолтить на передовую для всего — теперь в основном способ переплачивать и переусложнять.

Так что переверните рефлекс. Тянитесь к маленькой модели первой, замерьте, берёт ли она планку — обычно берёт, — и приберегите дорогую модель для меньшинства задач, которым она реально нужна. Команды, что так делают, не жертвуют качеством ради цены. Они подбирают инструмент под работу и получают меньший счёт, меньшую задержку и лучшую приватность как награду.