Curso exprés · No. 30
La mayoría de los cursos de IA tratan sobre el motor. Este trata sobre la experiencia construida encima — y sobre el hecho duro que está en su centro: el modelo es seguro, fluido y a veces se equivoca. El buen diseño de producto con IA no consiste en ocultar eso; consiste en diseñar para ello — fijar expectativas honestas, mostrar el trabajo, mantener al humano al mando y fallar con elegancia. Es el diseño, no el modelo, lo que se gana la confianza.
Solo lo esencial · Una imagen por idea · Confianza por diseño
Toda la disciplina arranca al aceptar lo que el modelo es: brillante, útil y poco fiable de una manera particular. Un diseño que finge lo contrario expone a los usuarios a salir escaldados.
El modelo es seguro incluso cuando se equivoca
Un experto carismático que da cada respuesta con el mismo tono de autosuficiencia — las correctas y las inventadas suenan exactamente igual.
Un modelo de lenguaje produce salidas fluidas y seguras esté o no en lo correcto — sus errores no llegan con un tono de preocupación ni con una señal de alerta. Este es el desafío de diseño que define a los productos de IA: la interfaz no puede confiar en que el modelo señale su propia incertidumbre, porque suena igual de seguro cuando acierta y cuando alucina. Así que es el diseño el que tiene que aportar lo que el modelo no aportará: pistas sobre la fiabilidad, espacio para verificar, formas de recuperarse. Estás envolviendo una experiencia de usuario alrededor de un componente seguro y falible.
La confianza la construye el diseño, no el modelo
Confías en un buen banco no porque el cajero sea infalible, sino por los recibos, los extractos y la posibilidad de disputar un cargo — el sistema se gana una confianza que la persona por sí sola no podría.
Los usuarios no confiarán en una función de IA porque sea potente; confiarán en ella porque la experiencia que la rodea les hace sentir seguros — pueden comprobarla, corregirla, deshacerla y saber qué esperar. El modelo aporta capacidad; el diseño aporta confianza. Un modelo brillante en una interfaz descuidada se siente poco fiable; un modelo modesto en una interfaz cuidadosa se siente de fiar. La confianza es una propiedad del producto que construyes, no del modelo que usaste.
Ajusta el diseño a lo que está en juego
Dejarás encantado que una herramienta autocorrija una errata, pero querrás leer cada palabra antes de que envíe una carta legal — el mismo motor, salvaguardas muy distintas.
Cuánta libertad le das a la IA debería seguir lo costoso que sería un error. Una salida de bajo riesgo y fácilmente reversible (una etiqueta sugerida, una frase borrador) puede ser más automática; una acción de alto riesgo e irreversible (enviar dinero, borrar datos, publicar) exige revisión y confirmación. La decisión de diseño más importante de todas es calibrar la autonomía según lo que está en juego — y equivocarse en esto, en cualquier dirección, es lo que vuelve a una función de IA o bien temeraria o bien inútilmente tímida.
El modelo es seguro incluso cuando se equivoca, así que el diseño debe aportar lo que él no aportará: pistas de fiabilidad, espacio para verificar, formas de recuperarse. La confianza la construye el producto, ajustada a lo que está en juego.
Una enorme parte de la decepción con la IA es en realidad un desajuste de expectativas. Decirles a los usuarios con honestidad a qué se enfrentan — antes de que salgan escaldados — es la confianza más barata que puedes comprar.
Dile a los usuarios que es IA, y que puede equivocarse
Un pronóstico del tiempo dice «70% de probabilidad de lluvia», no «va a llover» — nombrar la incertidumbre por adelantado es lo que hace que la gente confíe en él incluso cuando falla.
Sé claro desde el principio en que una función funciona con IA y en que su salida puede ser imperfecta. Esto no es una disculpa ni una debilidad — es calibración. Un usuario que sabe que está recibiendo una sugerencia de IA la lee como corresponde: útil, digna de comprobarse, no una verdad absoluta. Ocultar que la salida está generada por IA, o dar a entender que es autoritativa, expone a la gente a confiar de más en ella y luego sentirse traicionada cuando se equivoca. Un encuadre honesto convierte una respuesta equivocada de una traición en un evento esperado y manejable.
Presenta las salidas como drafts y sugerencias
Un sello manuscrito de «draft» sobre un documento cambia cómo lo lees — lo tratas como un punto de partida para mejorar, no como una palabra final que obedecer.
Las palabras y el encuadre alrededor de una salida moldean cuánto confían en ella los usuarios. Presentar los resultados de IA como drafts, sugerencias o puntos de partida — en lugar de respuestas terminadas y autoritativas — invita al usuario a comprometerse críticamente y a editar, que es exactamente la postura correcta frente a una herramienta falible. «Aquí tienes un draft que puedes editar» produce mejores resultados y menos desastres que «aquí está la respuesta». El encuadre hace un trabajo callado y constante para mantener al usuario en la relación correcta con el modelo.
No exageres lo que puede hacer
Un vendedor que promete que un cacharro lo hace todo te prepara para sentirte estafado; uno que te dice exactamente en qué es bueno y en qué es malo se gana una confianza duradera.
Es tentador vender una función de IA como magia, pero exagerar garantiza la decepción — la brecha entre la promesa y la realidad se convierte en la experiencia del usuario. Fija las expectativas ligeramente por debajo de lo que el modelo puede hacer, no por encima, y deja que sorprenda gratamente. Ser honesto sobre sus límites, incluso de forma prominente, construye una confianza mucho más duradera que la exageración que el primer fallo hace añicos. Promete de menos y deja que el modelo entregue de más, no al revés.
La mayor parte de la decepción con la IA es un desajuste de expectativas. Di que es IA y que puede equivocarse, presenta las salidas como drafts y no como veredictos, y promete de menos — un encuadre honesto es la confianza más barata que existe.
Una respuesta que no puedes comprobar es una respuesta en la que no puedes confiar. Dejar que los usuarios vean de dónde salió la salida convierte una afirmación de caja negra en algo que pueden verificar — y la verificabilidad es el cimiento de la confianza.
Cita las fuentes detrás de una respuesta
Un artículo de investigación con notas al pie permite a cualquier lector rastrear una afirmación hasta su fuente — las citations son lo que lo hace creíble en lugar de solo seguro.
Cuando el modelo responde a partir de información recuperada, muestra las fuentes — enlaza los documentos, cita el pasaje, señala de dónde salió la afirmación. Las citations permiten a los usuarios verificar una respuesta en vez de tomarla por fe, y convierten al modelo de un oráculo en el que debes creer en un asistente de investigación que puedes comprobar. Esta es la recompensa de diseño de fundamentar las respuestas: no basta con que la respuesta esté respaldada internamente, el usuario tiene que poder ver y seguir la fuente.
Haz la respuesta verificable, no solo plausible
Un buen contador no se limita a entregarte un número — te muestra las partidas, para que puedas confirmarlo en lugar de fiarte de un total seguro.
Diseña para que el usuario pueda comprobar la salida, no solo recibirla. Saca a la superficie en qué basó el modelo su respuesta, resalta los datos concretos que usó, haz que sea fácil confirmarla contra la realidad. Una respuesta verificable es de fiar incluso cuando ocasionalmente se equivoca, porque el usuario puede atrapar las equivocadas; una respuesta no verificable es peligrosa incluso cuando suele acertar, porque no hay manera de distinguir las buenas de las malas. Construye para la comprobación, y los errores inevitables se vuelven atrapables en lugar de costosos.
Muestra la confidence y el razonamiento donde ayude
Un médico que dice «estoy bastante seguro, pero confirmémoslo con una prueba» te guía mejor que uno que enuncia cada diagnóstico con idéntica certeza.
Donde puedas, saca a la superficie señales de cuán fiable es una salida — un nivel de confidence, los pasos del razonamiento, una alerta cuando el modelo no está seguro o trabaja a partir de evidencia escasa. Esto ayuda a los usuarios a calibrar cuánto apoyarse en cada respuesta, en lugar de tratarlas a todas como igual de sólidas. No será perfecto, pero hasta una pista tosca de «esta es endeble» mejora drásticamente la seguridad con la que la gente usa la función. Darle al usuario la señal de fiabilidad que el tono del modelo oculta es de los diseños de mayor valor que puedes hacer.
Una respuesta que no puedes comprobar es una en la que no puedes confiar. Cita fuentes, haz las salidas verificables y saca a la superficie la confidence — la verificabilidad convierte las inevitables respuestas equivocadas de riesgos ocultos en riesgos atrapables.
El lugar más seguro para un modelo falible es en el asiento del copiloto. Diseñar para que el usuario siga al mando — aprobando, editando, deshaciendo — es lo que hace que una IA potente sea segura de lanzar.
Sugiere y asiste, no actúes sin que te lo pidan
Un buen asistente redacta el correo y te lo deja para que lo envíes — no le da a enviar por su cuenta y te lo cuenta después.
Para cualquier cosa de peso, diseña la IA para que sugiera en lugar de actuar: propón la edición, redacta el mensaje, recomienda la opción — y deja que el humano decida si la acepta. Esto mantiene a la persona dentro del bucle en las decisiones que importan, de modo que un error del modelo se convierte en una sugerencia rechazada en lugar de en un error ejecutado. Cuanto más importa una acción o menos se puede deshacer, con más firmeza debería el modelo proponer y el humano disponer. La asistencia que el usuario ordena es más segura que la autonomía que el usuario solo supervisa.
Deja que los usuarios editen, no solo acepten o rechacen
Una buena plantilla te deja cambiar las partes que no encajan, en lugar de forzar una elección de todo o nada entre lo perfecto y lo inútil.
Las mejores interacciones con IA dejan que el usuario moldee la salida, no solo que la tome o la deje. Haz que los resultados de IA sean fáciles de editar, refinar y conservar en parte — porque el modelo a menudo te lleva al 80% del camino, y el valor está en dejar que el humano termine el último 20% en lugar de descartarlo todo por un solo defecto. Tratar la salida como arcilla editable y no como un veredicto terminado encaja con cómo rinde el modelo en realidad: un buen draft que un humano mejora. La editabilidad convierte «casi correcto» de un fracaso en una ventaja de salida.
Confirma antes de cualquier cosa irreversible
Un banco exige una segunda confirmación para una transferencia grande — una pausa deliberada antes de lo que no puedes echar atrás.
Pon un paso de confirmación claro antes de cualquier acción que el usuario no pueda deshacer — enviar, pagar, borrar, publicar, cualquier cosa irreversible. Este es el mismo pensamiento de radio de impacto que en seguridad, expresado en la experiencia de usuario: un error del modelo debería como mucho producir una sugerencia que el usuario rechaza, nunca una acción irreversible tomada por su cuenta. Y combínalo con undo allí donde puedas, para que incluso las acciones aceptadas sigan siendo recuperables. La capacidad de dar marcha atrás es lo que permite a los usuarios actuar sobre la IA con confianza en lugar de con miedo.
Mantén al humano al mando: el modelo sugiere, la persona decide; las salidas son editables, no de tómalo o déjalo; y cualquier cosa irreversible necesita confirmación y, idealmente, undo.
Un componente falible fallará, así que cómo falla es una decisión de diseño, no un caso límite. Un fallo elegante — admitir los límites en lugar de fabricar — es lo que separa un producto de fiar de uno peligroso.
Déjalo decir no lo sé
El experto en el que más confías es el que dice «eso está fuera de lo que sé» en lugar de inventarse algo con seguridad para llenar el silencio.
Diseña la experiencia para permitir — y preferir — un honesto «no lo sé» o «no estoy seguro» antes que una respuesta fabricada. El fallo más peligroso de una IA es inventarse una respuesta con seguridad cuando no tiene base, y un producto que hace de la negativa un resultado válido y elegante es mucho más seguro que uno que presiona al modelo para producir siempre algo. Sacar a la superficie la incertidumbre en lugar de taparla no es un fallo de la función — es la función trabajando con honestidad. Un modelo que conoce sus límites, y un diseño que los respeta, se gana más confianza que uno que siempre responde.
Maneja el caso de baja confidence de otra forma
Un filtro de spam que está seguro encamina el mensaje automáticamente, pero uno que no está seguro lo marca para que lo revises — el caso incierto se maneja, no se oculta.
No trates cada salida igual sin importar lo endeble que sea. Cuando el modelo está inseguro o trabaja a partir de evidencia débil, diseña un camino distinto: márcalo, pide confirmación, encamínalo a un humano o hazle al usuario una pregunta aclaratoria. Los casos inciertos son exactamente donde la automatización ciega más daño hace, así que merecen su propio manejo elegante en lugar de lanzarse con la misma confianza que los sólidos. Diseñar para el centro endeble, y no solo para el camino feliz, es lo que vuelve robusta a la función.
Degrada, no te derrumbes
Cuando el GPS pierde señal muestra tu última posición conocida y dice «buscando», en vez de quedarse en blanco o lanzarte por un barranco — falla suavemente.
Cuando la IA no puede rendir — un error, una caída, una petición fuera de alcance — la experiencia debería degradarse con elegancia en lugar de romperse o, peor, producir basura. Recurre a una opción más simple, un mensaje claro, una ruta manual, un resultado en caché. Una función que falla hacia un estado sensato y honesto conserva la confianza del usuario; una que falla hacia una respuesta equivocada y segura o hacia una pantalla rota la destruye. Planifica los modos de fallo con tanta deliberación como el camino de éxito, porque con un componente falible, el fallo es parte de la operación normal.
El fallo no es un caso límite para un modelo falible — es lo normal. Déjalo decir «no lo sé», maneja los casos de baja confidence de otra forma y degrada hacia una alternativa honesta en lugar de hacia basura segura.
Un buen producto de IA no se limita a servir salidas — aprende de cómo reaccionan los usuarios ante ellas. Capturar esa señal convierte cada interacción en una oportunidad de mejorar, y le da al usuario una forma de ser escuchado.
Dale a los usuarios una forma fácil de reaccionar
Un pulgar arriba y un pulgar abajo junto a cada respuesta — una forma de un toque para que el usuario te diga si dio en el blanco o lo falló, sin costarle nada.
Haz que sea sin esfuerzo para los usuarios señalar si una salida fue buena o mala — un pulgar arriba/abajo, una valoración rápida, una marca. Esto hace dos cosas a la vez: le da al usuario una sensación de agencia y de ser escuchado, y te da un flujo continuo de señal real sobre dónde la función funciona y dónde falla. Una función que no se puede valorar es una función sobre la que vuelas a ciegas; un simple control de reacción es el feedback más barato y más rico que vas a obtener. Captura la reacción que los usuarios darían de todos modos.
Deja que las correcciones enseñen al sistema
Cuando corriges la dirección que sugirió el teclado de tu teléfono, este aprende — la corrección no es solo para esta vez, mejora la próxima.
El feedback más rico es el usuario corrigiendo la salida. Cuando alguien edita una sugerencia de IA, esa edición es una señal precisa de cómo se veía lo «correcto» — captúrala. Las correcciones y los rechazos son oro: te dicen exactamente dónde se quedó corto el modelo, en casos reales. Reintégralos en tus evals (el curso sobre evals) para que la función mejore de forma medible, y el producto se vuelve mejor a lo largo de los contornos donde los usuarios reales de verdad batallan. La corrección es a la vez un arreglo para ahora y una lección para después.
El feedback de producción es tu mejor conjunto de evals
Las mejores preguntas de prueba salen del examen real que los estudiantes hicieron, no de lo que el profesor imaginó — la realidad escribe mejores pruebas de las que tú puedes.
Las reacciones y correcciones que llegan del uso real son la fuente más valiosa de casos de evals que tienes — son lo que tus usuarios hacen de verdad, incluidos los fallos que nunca habrías inventado. Minar este feedback para encontrar dónde se rompe la función, y plegar esos casos en tu conjunto de evaluación, cierra el bucle: producción te enseña qué arreglar, tú lo arreglas y la siguiente versión es mejor. Un producto con este bucle en marcha mejora de forma continua; uno sin él está adivinando. El feedback loop es lo que hace que una función de IA mejore en lugar de simplemente existir.
Un buen producto de IA aprende del uso: dale a los usuarios una forma fácil de reaccionar, captura sus correcciones como señal precisa y reintegra los fallos reales de producción en tus evals para mejorar de forma continua.
El diseño de producto con IA se reduce a una postura, aplicada de principio a fin: trata al modelo como un asistente potente y falible, y construye la experiencia que permite a un humano usarlo con seguridad y confianza.
Calibra la autonomía según lo que está en juego, en todas partes
Dejas que el asistente tramite el papeleo por su cuenta, redacte la carta importante para tu revisión y nunca firme el contrato sin ti — autonomía escalada a la consecuencia.
La decisión unificadora, tomada una y otra vez a lo largo de un producto, es cuánto dejar que la IA haga por su cuenta frente a cuánto encaminar a través del humano — y la respuesta es siempre: escálala a lo que está en juego. Las cosas de bajo riesgo y reversibles pueden ser más automáticas; las de alto riesgo e irreversibles llevan expectativas, verificación, control y confirmación superpuestos. Un producto de IA bien diseñado no es uniformemente autónomo ni uniformemente cauteloso; está calibrado, pieza a pieza, según cuánto costaría allí un error.
Diseña para la respuesta equivocada, no solo para la correcta
Un buen ingeniero de seguridad diseña el coche asumiendo que ocurrirá un choque, no esperando que no — los airbags son para el mal día, y son el punto.
La marca de un diseño de producto con IA maduro es que está construido en torno a que el modelo se equivoque, no solo a que acierte. La demo muestra la respuesta correcta; el producto sobrevive a la equivocada. Así que diseñas la verificación, el control, el fallo elegante, el feedback loop — la maquinaria que hace que un error seguro sea atrapable y recuperable. Haz funcionar el camino feliz y tienes una demo; diseña para el camino infeliz y tienes un producto en el que la gente puede confiar de verdad para trabajo real.
- ¿Está la autonomía ajustada a lo que está en juego — más automática donde es reversible, más controlada donde no lo es? - ¿Son honestas las expectativas — se le dice al usuario que es IA, las salidas se presentan como drafts, sin exagerar? - ¿Puede el usuario verificar — fuentes citadas, respuestas comprobables, confidence sacada a la superficie donde ayuda? - ¿Está el humano al mando — sugerir no actuar, salida editable, confirmación antes de lo irreversible, undo? - ¿Falla con elegancia — capaz de decir «no lo sé», baja confidence manejada, degrada sin derrumbarse? - ¿Está cerrado el feedback loop — fácil de reaccionar, correcciones capturadas, reintegradas en los evals?
- componente falible — el modelo es seguro incluso cuando se equivoca; el diseño debe contar con ello. - calibrar la autonomía según lo que está en juego — más libertad donde un error es barato, más control donde es costoso. - expectativas honestas / drafts no veredictos — un encuadre que mantiene a los usuarios en la relación correcta con el modelo. - verificabilidad / citations — dejar que los usuarios comprueben una respuesta en lugar de confiar en ella a ciegas. - human-in-the-loop — sugerir, editar, confirmar, undo — la persona sigue al mando. - fallo elegante — admitir «no lo sé» y degradar en lugar de fabricar. - feedback loop — capturar reacciones y correcciones para mejorar la función con el tiempo.
- La experiencia se gana la confianza a través de la verificabilidad y el control, no solo del poder del modelo. - A los usuarios se les dice con honestidad lo que es, y las salidas se presentan como drafts a comprobar. - El humano sigue al mando — editando, confirmando y capaz de deshacer. - Falla con elegancia, admitiendo incertidumbre en lugar de fabricar con seguridad. - El feedback real fluye de vuelta a tus evals, de modo que la función mejora con el uso.
El diseño de producto con IA es construir la experiencia que hace que un modelo potente y falible sea seguro de usar: autonomía ajustada a lo que está en juego, expectativas honestas, respuestas verificables, el humano al mando, fallo elegante y un feedback loop que aprende.