Лучший агент — самый скучный

Демки, которые собирают репосты, — автономные: «дал цель, ушёл, а оно сделало всё само». Системы, которые выживают в проде, — противоположные, и они скучные. Запертые инструменты, фиксированные воркфлоу, ограниченный выбор, человек на рискованных шагах. Смотреть, как такое работает, примерно так же захватывающе, как смотреть на отправку формы. В этом и суть.

Автономия — это издержка, а не фича

Нас приучили читать автономию как изощрённость: чем больше агент решает сам, тем он умнее. Переверни. Каждое решение, которое ты отдаёшь модели, — это решение, которое может пойти не так, и провалы множатся вместе с решениями. Предприятия, чьи агенты реально доезжают до прода, — те, что ограничивают доступ к инструментам, пороги одобрения и объём исполнения; те, кто закрывает проекты — Gartner ждёт, что к концу 2027 умрёт больше 40% — часто те, кто позволил объёму и стоимости расти без границ во имя «пусть подумает».

Автономия — это бюджет. Каждое решение, которое ты делегируешь модели, — это снятие со счёта, а счёт — твоя надёжность.

Агент против воркфлоу — это спектр, и почти всё хочет скучного конца

В головах живёт ложная дихотомия: либо это настоящий агент, свободно рассуждающий, либо тупой скрипт. На деле это спектр, и правильная точка почти для любой продовой задачи гораздо ближе к «скрипт с умным шагом», чем к «свободно гуляющий агент». Флоу записи не нужен агент, который решает, как записывать. Ему нужны детерминированные шаги — проверить доступность, собрать детали, записать в базу, — где модель делает одну по-настоящему размытую вещь: понимает, чего человек на самом деле хочет.

Вот проектный ход: детерминизм там, где можешь, агентность — только там, где обязан. Интеллект модели должен жить в узком, неустранимо-неоднозначном решении. Всё вокруг — последовательность, валидация, ретраи, сайд-эффекты — должно быть тупым, тестируемым, предсказуемым кодом, которому ты бы доверял и без LLM в контуре.

Скучный by design

• Дай минимум инструментов, которые делают работу. Плотный набор, которым агент пользуется хорошо, бьёт широкий, которым он пользуется творчески. Творчество в выборе инструмента — синоним сюрприза.
• Ограничь каждое решение. Перечисленные варианты бьют открытые. «Выбери один из трёх» падает тремя известными способами; «разберись сам» падает способами, которые ты откроешь в проде.
• Детерминированные леса, умное ядро. Оберни единственное суждение модели в код, который можно юнит-тестить. Если шаг может быть функцией — сделай его функцией.
• Гейти необратимое. Чтение дёшево; всё, что тратит деньги, отправляет сообщение или пишет в прод, — под границу или под человека. Автономия хороша ровно до момента, когда она дорога.

Это тот же урок, что один агент, который делает всё, не делает ничего хорошо и оркестрация — вот настоящая архитектура, со стороны одного агента: выигрыш не в более свободном агенте, а в более ограниченной системе с умной частью.

Итог

Автономия красиво демается и ужасно шипается, потому что то, что делает её впечатляющей — модель, решающая всё, — это же и делает её ненадёжной. Агенты, которые доезжают до прода, — те, чьи строители отнеслись к автономии как к обязательству и тратили её только там, где она себя окупает.

Не строй более автономного агента. Построй более скучную систему — детерминированную везде, где можешь, умную только там, где обязан, — и поставь человеческий гейт на шаги, которые кусаются.