Ya no puedes saber qué es real

Una encuesta publicada esta semana le puso un número a algo que todos veíamos venir. El 85% de las personas dice ahora que no puede distinguir de forma confiable el contenido real del generado por IA — frente al 66% de apenas un año atrás. La mitad se había topado con una estafa impulsada por IA en los últimos doce meses: mensajes de estafa personalizados, reseñas de productos falsificadas, imágenes de IA, llamadas con voz clonada que sonaban como alguien que conocían. Y la frase que debería detenerte: el 84% dijo que la «evidencia en video convincente» ya no se siente como prueba.

Detente en esa última. Durante toda la historia de internet, el supuesto por defecto era «lo que estoy viendo es básicamente real, y solo voy a sospechar si algo se siente raro». Ese supuesto acaba de invertirse para casi todos. El nuevo estado por defecto es la duda. Y una vez que lo ves, te das cuenta de que no es solo una historia de estafas — es un cambio silencioso en lo que cada producto que toca usuarios tiene que hacer ahora.

La confianza dejó de ser gratis

Lo que la IA rompió no es ninguna pieza de contenido en particular. Es la base. La confianza solía ser el estado por defecto de la vida digital — asumías que el correo era de tu banco, que la reseña era de un cliente, que la voz al teléfono era tu colega, que el video era de un evento real. La IA hizo que falsificar las cuatro cosas fuera barato, así que la base pasó de «confiable salvo sospecha» a «sospechoso salvo verificación». La autenticidad, que era ambiental y gratis, ahora es escasa y cara.

Eso tiene un costo directo para cualquiera que construya productos, por dos lados.

El lado defensivo: tus usuarios ahora son blancos

Si tu producto tiene cualquier flujo que confía en «parece ser él» o «suena como él», ese flujo ahora es explotable. La encuesta está llena de la brecha entre el miedo y la acción: el 67% se preocupa por la clonación de voz pero solo el 19% ha hecho algo al respecto, el 81% teme que alguien falsifique la imagen de su familia pero solo el 13% ha configurado una palabra clave. Tus usuarios no se van a defender solos — no saben cómo. Así que un agente de soporte que aprueba una solicitud porque la voz de quien llama coincide, un restablecimiento de contraseña que confía en una cara, un sistema de reseñas que asume que lo escribió un humano — eso ya no son casos extremos. Diseña como si toda señal de «¿es realmente él?» pudiera sintetizarse, porque ahora puede.

El lado de la oportunidad: la procedencia se vuelve una característica

Aquí está la mitad más interesante. Cuando la autenticidad es escasa, ser verificablemente real se vuelve valioso — y eso es algo que puedes construir. Esa misma semana, la regulación y la industria están convergiendo en ello: la Ley de IA de la UE exigirá el marcado legible por máquina del contenido de IA a partir de agosto, y estándares como C2PA — «credenciales de contenido» firmadas criptográficamente que registran quién hizo algo, con qué herramientas, y si hubo IA involucrada — están apareciendo en las salidas de OpenAI e incluso en la cámara de Samsung.

La lección de producto se generaliza más allá de los medios. En un mundo que asume que todo podría ser falso, las cosas que se ganan la confianza son las que muestran su trabajo: una afirmación con una fuente verificable, una respuesta anclada en algo comprobable en lugar de afirmada sin más, un rastro de procedencia que un usuario pueda inspeccionar. «Confía en mí» ya no vale nada. «Aquí tienes cómo verificarlo tú mismo» vale mucho. Construir esa verificabilidad — de dónde vino tu contenido, por qué una respuesta es lo que es, qué es humano y qué es máquina — está pasando de ser un lujo a ser un requisito mínimo.

Sé honesto sobre los límites

Una advertencia, porque la versión fácil de esto promete de más. La procedencia no es una máquina de la verdad. Una firma válida demuestra que un archivo no fue alterado después de firmarse — no que sea justo, preciso o esté en contexto, y una firma ausente no demuestra que algo sea falso. Y el problema más profundo, el «dividendo del mentiroso», no desaparece del todo: una vez que todos saben que existen las falsificaciones, los malos actores descartan la evidencia real como «probablemente IA». La procedencia sube el listón — el contenido firmado no se puede descartar con la mano sin explicar la falsificación — pero no termina la guerra. Vende la verificación como evidencia, no como certeza, o erosionarás la misma confianza que intentas construir.

En resumen

El titular es que la gente ya no puede distinguir lo real de lo falso. La historia más profunda es que la confianza gratuita y ambiental de internet — el supuesto debajo del correo, las reseñas, las llamadas y el video — desapareció, y no va a volver. La IA hizo barata la falsificación, y al hacerlo convirtió lo opuesto, la autenticidad verificable, en lo escaso y valioso.

Así que construye para el mundo que existe ahora, no para el que tus flujos de autenticación fueron diseñados. Asume que cualquier señal de «es realmente él» puede falsificarse, y deja de depender de ella. Y por el otro lado, haz de la confianza algo que tu producto se gane y permita a los usuarios comprobar — procedencia, fuentes, anclaje, mostrar tu trabajo — porque en un mar de falsificaciones convincentes, lo raro que vale la pena pagar es algo que de verdad puedas verificar. La confianza solía ser lo predeterminado. Ahora es una característica, y los productos que la construyan serán los que la gente todavía crea.