Вы больше не можете отличить настоящее

Опрос на этой неделе дал цифру тому, что мы все чувствовали приближением. 85% людей теперь говорят, что не могут надёжно отличить настоящий контент от сгенерированного ИИ — против 66% всего год назад. Половина за последние двенадцать месяцев нарвалась на ИИ-мошенничество: персонализированные мошеннические сообщения, поддельные отзывы, ИИ-картинки, звонки с клонированным голосом, звучавшим как кто-то знакомый. И строка, которая должна вас остановить: 84% сказали, что «убедительное видео-доказательство» больше не ощущается доказательством.

Посидите с последней. Всю историю интернета допущение по умолчанию было «то, что я вижу, в основном настоящее, а насторожусь я, только если что-то не так». Это допущение только что перевернулось почти у всех. Новый дефолт — сомнение. И как только это увидишь, понимаешь, что это не только история про мошенничество — это тихое изменение того, что теперь должен делать каждый продукт, касающийся пользователей.

Доверие перестало быть бесплатным

То, что сломал ИИ, — не какой-то отдельный кусок контента. А базовую установку. Доверие было дефолтным состоянием цифровой жизни — вы предполагали, что письмо от банка, отзыв от клиента, голос в трубке от коллеги, видео — о реальном событии. ИИ сделал все четыре дешёвыми для подделки, так что база перевернулась с «доверять, пока не подозрительно» на «подозревать, пока не проверено». Подлинность, которая была фоновой и бесплатной, теперь дефицитна и дорога.

У этого прямая цена для любого, кто строит продукты, с двух сторон.

Оборонительная сторона: ваши пользователи теперь мишени

Если в вашем продукте есть любой флоу, доверяющий «это выглядит как они» или «звучит как они», этот флоу теперь эксплуатируем. Опрос полон разрыва между страхом и действием: 67% боятся клонирования голоса, но лишь 19% что-то с этим сделали, 81% боятся подделки облика семьи, но лишь 13% завели кодовое слово. Ваши пользователи себя не защитят — они не знают как. Так что агент поддержки, одобряющий запрос, потому что голос звонящего совпал; сброс пароля, доверяющий лицу; система отзывов, полагающая, что писал человек, — это больше не краевые случаи. Проектируйте так, будто любой сигнал «это правда они» может быть синтезирован, потому что теперь может.

Сторона возможностей: провенанс становится фичей

Вот более интересная половина. Когда подлинность дефицитна, быть проверяемо настоящим становится ценным — а это то, что можно построить. На той же неделе регуляция и индустрия сходятся к этому: EU AI Act потребует машиночитаемой маркировки ИИ-контента с августа, а стандарты вроде C2PA — криптографически подписанные «учётные данные контента», фиксирующие, кто что сделал, какими инструментами и был ли замешан ИИ, — появляются в выводах OpenAI и даже в камере Samsung.

Продуктовый урок обобщается за пределы медиа. В мире, который предполагает, что всё может быть фейком, доверие зарабатывают те, кто показывает свою работу: утверждение с проверяемым источником, ответ, заземлённый на проверяемое, а не утверждённый, провенанс-след, который пользователь может осмотреть. «Доверьтесь мне» теперь ничего не стоит. «Вот как вы сами это проверите» стоит много. Встроить эту проверяемость — откуда ваш контент, почему ответ такой, что человеческое, а что машинное — переезжает из приятного дополнения в обязательный минимум.

Будьте честны о пределах

Одна оговорка, потому что лёгкая версия этого переобещает. Провенанс — не машина правды. Валидная подпись доказывает, что файл не трогали после подписания, — не что он честен, точен или в контексте, а отсутствие подписи не доказывает, что что-то фейк. И более глубокая проблема, «дивиденд лжеца», не уходит целиком: когда все знают, что фейки существуют, плохие актёры отмахиваются от настоящих доказательств как «наверное, ИИ». Провенанс поднимает планку — подписанный контент не отмахнёшь, не объяснив подделку, — но войну не заканчивает. Продавайте проверку как доказательство, а не как уверенность, иначе размоете то самое доверие, которое строите.

Суть

Заголовок в том, что люди больше не отличают настоящее от фейка. Более глубокая история в том, что бесплатное фоновое доверие интернета — допущение под письмами, отзывами, звонками и видео — ушло, и не вернётся. ИИ сделал подделку дешёвой и тем самым сделал обратное, проверяемую подлинность, дефицитной и ценной.

Так что стройте под мир, который реально существует сейчас, а не тот, под который проектировались ваши флоу аутентификации. Считайте, что любой сигнал «это правда они» можно подделать, и перестаньте на него полагаться. А с другой стороны, сделайте доверие тем, что ваш продукт зарабатывает и даёт пользователям проверить: провенанс, источники, заземление, показ своей работы, — потому что в море убедительных фейков редкая вещь, за которую стоит платить, — это то, что можно действительно проверить. Доверие было дефолтом. Теперь это фича, и продукты, которые её построят, будут теми, кому люди ещё верят.