Как выкатывать агента, который едет в потоке

Роботакси — самый буквальный «ИИ-агент в реальном мире»: автономная система, совершающая реальные действия с реальными последствиями, в потоке, среди людей. Поэтому стоит посмотреть, как серьёзные игроки реально его выкатывают, — потому что этот плейбук урок и для агентов, которые никогда не трогают руль.

2 июня Uber, WeRide и AVOMO объявили о первом в Испании коммерческом сервисе роботакси в Мадриде — их первый совместный заход в Европу, с заказом поездок через приложение Uber. И вся суть именно в том, как они это раскатывают.

Раскатка и есть урок

Они не щёлкают переключателем и не уходят. По заявлению, сервис стартует с обученными операторами в салоне, а партнёры обязуются добавлять сотни роботакси по мере достижения ключевых метрик — расширяясь до полностью беспилотного режима только когда показатели берут планку. Сначала под присмотром. Автономия заслуживается, поэтапно, против цифр.

Это не робость. Это то, как выкатывают штуку, которая по-настоящему способна, но по-настоящему чревата последствиями, когда ошибается. Держишь человека в контуре, неустанно меряешь и убираешь человека только там, где доказательства говорят, что ты это заслужил.

Эта кривая не только для машин

Уберите колёса — и это кривая развёртывания для любого серьёзного агента:

• Начинайте под присмотром. Человек смотрит на действия агента до того, как агент действует без присмотра. Оператор безопасности за рулём — это ревьюер на PR агента, человек, одобряющий платёж, тот, кто читает вывод до отправки.
• Определите вехи. Заранее решите, что значит «достаточно хорошо, чтобы ослабить поводок», в цифрах — доля ошибок, доля вмешательств, стоимость, что угодно под ваши ставки.
• Заслужите автономию. Убирайте человека с шага только когда измеренная производительность на этом шаге берёт планку. Не когда демка ощущалась хорошо. Когда так говорят данные.

Я тот же аргумент приводил про программных агентов с другой стороны: ты не переводишь агента из поднадзорного в автономного по ощущениям; ты смотришь на него, меряешь его и расширяешь его полномочия по мере того, как он зарабатывает доверие. Роботакси просто делает ставки достаточно зримыми, чтобы никто не соблазнился пропустить шаги.

Физический мир держит в честности

Причина, почему с машинами эта дисциплина так очевидна, — в том, что отказ громкий: авария это не тихий регресс. У программных агентов отказы тише: плохой мёрж, неверный платёж, утёкшая запись. Соблазн — прыгнуть сразу в полную автономию, потому что ничего зримо не взрывается. Не надо. Агент, который двигает деньги или выпускает код, заслуживает той же раскатки «сначала под присмотром, потом заслужи», что и тот, который вливается в мадридский поток, — просто последствия менее фотогеничны.

Итог

Запуск роботакси — не история про машины. Это чистый шаблон развёртывания всего автономного и чреватого последствиями.

Начинайте под присмотром, определяйте вехи в цифрах и убирайте человека только когда измеренная производительность это заслужила. Так выводят агента в поток — и так же стоит выводить его в продакшен, даже когда разбиться может только ваш кодовый репозиторий.