Salesforce признаёт: ваш процесс построен под людей, а не под агентов

Этой весной Salesforce выпустила продукт, вся подача которого — это признание. Называется Agentforce Operations, и существует он, чтобы чинить процессы, которые ломают корпоративный ИИ. Формулировка в их же материалах необычно прямая:

Корпоративные ИИ-команды упираются в стену — не потому, что их модели не умеют рассуждать, а потому, что процессы под ними никогда не строились под агентов.

Перечитайте, потому что вендор, продающий агентов, только что сказал вам: агент — не проблема. Модель в порядке. Ломается процесс, который вы ей вручили. Это самая полезная фраза про корпоративный ИИ в этом году, и стоит понять, почему она верна.

Люди работают на процессах, полных дыр

Вот часть, которую мы никогда не замечаем. Почти любой бизнес-процесс, по которому вы когда-либо работали, тихо сломан — и всё равно работает, потому что человек латает дыры на ходу, никому об этом не сообщая.

Шаги определены расплывчато. Половина решений подразумевается. Передача между двумя отделами «просто работает», потому что Мария из дебиторки знает, что по пятницам надо заглянуть во вторую таблицу, — и знает это девять лет. Как сказано в одном разборе, это процессы, которые складывались годами обходных путей: расплывчатые шаги, неявные решения, координация, держащаяся на том, что отдельные люди знают, что делать дальше. Их строили вокруг провалов человеческого суждения, а не вокруг машинного исполнения.

Человек воспринимает написанный процесс как примерный намёк и достраивает остальное из опыта. Эта импровизация невидима, не оплачивается и абсолютно несущая.

Агент делает ровно то, что вы записали

Теперь опустите в этот же процесс агента. Агент делает то единственное, чего человек никогда не делает: выполняет инструкции буквально. Он не знает про пятничную таблицу Марии. Он не чувствует, что «получить одобрение» значит «написать Дане в Slack, но только если сумма больше пяти тысяч». Он доходит до первого неопределённого шага и либо встаёт, либо уверенно делает не то.

Вот почему столько пилотов глохнет — и интеллект тут ни при чём. Умная модель лишь точнее проходит ваш сломанный процесс до самого обрыва. Не агент проваливает процесс — процесс проваливает агента, рассчитывая, что рядом будет человек, чтобы импровизировать. А его теперь нет.

Лечение — это работа, которую никто не хочет делать

Негламурная правда в том, что сделать процесс готовым к агенту значит наконец-то его определить: записать неявные решения, закодировать правила, которые Мария держит в голове, провести границу между тем, что зафиксировано, и тем, что — суждение. Складывающийся консенсус о том, как, — ровно то, за что я постоянно выступаю: вы смешиваете детерминированные шаги — правила, API, системные проверки — с рассуждением агента только там, где оно приносит пользу. Пороги одобрения, триггеры эскалации, комплаенс-ворота становятся жёсткими детерминированными правилами. Агент рассуждает в зазорах между ними, а не поверх них.

Это та же мысль, что и задать правильный первый вопрос: не «какую часть автоматизировать агентом», а «где здесь детерминированный источник правды и где именно место суждению». Вы не учите агента своему процессу. Вы наконец записываете свой процесс достаточно хорошо, чтобы его мог выполнить кто угодно — человек или машина. Просто агент, в отличие от человека, не простит вам, что вы этого не сделали.

Скептически относитесь к чудо-цифрам

Одна оговорка, ведь это рекламная подача в костюме диагноза. На том же запуске машут цифрами вроде 70% ускорения циклов и 80% устранённой ручной рутины, а опросы заявляют, что 79% компаний уже «запускают агентов». Относитесь к ним так же, как к любой цифре, которая вендору нужна правдой. «Запускать агентов» в пилоте — не то же самое, что агенты, делающие реальную работу без присмотра, а автоматизируется всегда чистые, хорошо определённые 80% — та часть, что и так была почти готова к агенту. Грязные 20%, где жило суждение Марии, — ровно та часть, что не автоматизируется, и именно в ней и лежит тяжёлая работа по перепроектированию.

Вывод

Чтобы воспользоваться уроком, Agentforce покупать не нужно, и масштабируется он до сольного проекта. Прежде чем винить модель в провале задачи, перечитайте процесс, который вы ей дали, и спросите: справился бы новый сотрудник, с нулевым контекстом и без возможности спросить, если бы следовал этим инструкциям точно? Если нет — агент никогда не был вашей проблемой.

Компании, которые выиграют с агентами в ближайший год, будут не теми, у кого самая умная модель. Она есть у всех. Это будут те, кто сделал скучную работу — превратил свои человекоформенные, дырявые процессы в нечто достаточно точное, чтобы это могла исполнить машина, — и обнаружил по пути, что понимал собственные операции куда хуже, чем думал.