ИИ, который решает, сколько вы заплатите

Вот что ИИ тихо удешевил и о чём вам стоит знать: брать с вас, конкретно, другую цену, чем с человека рядом, — за ровно то же самое, на основе ваших персональных данных. Это называется слежечное ценообразование, и с этого месяца оно прямо в прицеле регуляторов. Нью-Йорк только что в последней сессии пошёл против ИИ-слежечного ценообразования поверх уже действующего закона о раскрытии, и он далеко не один.

Большинство никогда не слышали термина, так что скажу прямо — потому что, увидев это, вы уже не развидите на следующем экране оплаты.

Что это на самом деле (и чем не является)

Слежечное ценообразование — это когда компания использует ваши персональные данные — локацию, историю браузера, устройство, предполагаемый доход или размер семьи, даже движения мыши и то, что вы оставили в корзине, — чтобы угадать наивысшую цену, которую заплатите именно вы, и затем показывает вам её.

Важно отделить это от обычного динамического ценообразования, которое нормально и привычно: цены, что двигаются с рынком — наценка при высоком спросе, дешевле билеты в несезон. Оно реагирует на мир. Слежечное реагирует на вас. Регуляторы проводят ровно эту черту: динамическое реагирует на спрос и предложение; персонализированное — на характеристики отдельного человека.

Примеры из собственного исследования FTC тревожны. Покупателю с профилем нового родителя могут показать более дорогие детские термометры первыми. Расследование одного приложения доставки продуктов нашло, что его ценообразование может стоить некоторым клиентам около $1200 в год больше. Весь смысл — найти число, от которого именно вы не уйдёте, что противоположно справедливой рыночной цене.

Почему именно сейчас

ИИ — это то, что сделало это практичным в масштабе. Вывести готовность каждого покупателя платить раньше было сложно; теперь модель делает это из того же следа данных, что питает «персонализированные» рекомендации. Так что регуляция пришла быстро и широко. Нью-йоркский закон о раскрытии алгоритмического ценообразования уже заставляет бизнес буквально печатать «ЭТА ЦЕНА УСТАНОВЛЕНА АЛГОРИТМОМ С ИСПОЛЬЗОВАНИЕМ ВАШИХ ПЕРСОНАЛЬНЫХ ДАННЫХ». Мэриленд пошёл дальше и запретил использовать слежечные данные для повышения цен в некоторых категориях. К весне больше 40 законопроектов в двух десятках штатов целились в это, а FTC и Конгресс расследовали туристические и платформенные компании.

Что это значит для вас

Два практических прочтения, смотря по какую сторону кассы вы.

Если вы покупатель: одно знание, что это существует, меняет то, как вы читаете цены. Тот же билет, корзина или подписка могут стоить разным людям по-разному намеренно — не из-за рынка, а из-за того, что продавец вывел про вас. Поэтому сравнение между аккаунтами, выход из системы или очистка данных иногда двигают цену. Асимметрия и есть суть: они знают о вас много, а вы не знаете ничего о том, как установили ваше число. Новые законы о раскрытии существуют ровно чтобы закрыть этот разрыв.

Если вы строите продукты: здесь есть черта, которую стоит впитать до того, как закон заставит. ИИ даёт вам достаточно знания о каждом клиенте, чтобы делать две очень разные вещи — служить им лучше или выжимать их сильнее. Те же данные, что персонализируют полезный опыт, могут персонализировать цену, которую вы извлекаете. Динамическое-по-рынку ценообразование нормально и легально. Персонализированное-по-данным-человека становится незаконным во всё большем числе мест каждый месяц, и даже где легально — это бомба доверия: в тот миг, когда клиенты узнают, что их цена установлена из их данных, они чувствуют не заботу, а охоту.

Суть

Слежечное ценообразование — чистый пример более широкого, что ИИ делает с любым бизнесом: он делает дешёвым знать каждого клиента близко — а близость можно использовать, чтобы помочь или эксплуатировать. Регуляция, охватывающая штаты, по сути просто проводит эту черту в законе: можно использовать ИИ, чтобы понять клиента, но не чтобы обернуть это понимание против него у кассы.

Так что как покупатель — знайте, что практика существует, потому что она уже формирует цены, что вы видите. А как строитель — решите, по какую сторону «служить против выжимать» вы, до того как закон решит за вас, — потому что та же модель, что позволяет обращаться с клиентом лучше, позволяет обращаться хуже, а клиенты, регуляторы и всё чаще суды отличают одно от другого. Самое дешёвое доверие, которое вы когда-либо сохраните, — это цена, которую вы тихо не персонализировали.