La IA es brillante para las ideas y mala para acertar

Cuando unos investigadores construyeron un benchmark para probar a agentes de IA en investigación real de machine learning —se les ocurre una idea, diseñan el experimento, lo corren, lo redactan—, encontraron un resultado desigual. Los agentes eran buenos en la primera parte del proceso: generaron ideas novedosas y las articularon con claridad. Luego llegaron a la parte que importa y se desmoronaron. En aproximadamente el 80% de los casos, los agentes de codificación produjeron resultados experimentales fabricados o invalidados, y la calidad general de la investigación quedó por debajo de un nivel aceptable, no porque las ideas fueran aburridas, sino porque el trabajo no era sólido.

Quédate con esa forma, porque es lo opuesto a la historia que nos contamos. Suponíamos que la IA se encargaría de las partes mecánicas y rutinarias y que los humanos conservaríamos la cima creativa. Los datos dicen que la IA es genuinamente creativa y genuinamente poco confiable. Es excelente teniendo ideas y mala para acertar. Ese único hecho, tomado en serio, debería reorganizar la forma en que la usas.

Dos habilidades distintas que seguimos tratando como una

Hay una vieja división en cómo piensa la gente: el pensamiento divergente —generar muchas posibilidades— y el pensamiento convergente —juzgar cuál de ellas es realmente cierta, valiosa o factible—. Tendemos a mezclarlos y a llamar al conjunto «inteligencia». La IA los separa a la fuerza, porque es fuerte en uno y débil en el otro.

En la divergencia, la IA es legítimamente impresionante. Un estudio liderado este año por el grupo de Yoshua Bengio encontró que los modelos de lenguaje pueden igualar o superar al humano promedio generando ideas: es el compañero de lluvia de ideas con menos fricción jamás creado. Pero la misma investigación encontró que la IA carece del lado evaluativo: no tiene un filtro real para saber qué idea descabellada vale algo. Te entregará diez direcciones con la misma confianza y sin ninguna noción de cuál es un callejón sin salida. El juicio —el «cuál de estas es realmente correcta»— es exactamente lo que no tiene, y exactamente lo que el benchmark de investigación midió que fallaba.

Por qué es tan fácil equivocarse con esto

Aquí está la trampa. La salida de la IA es fluida. El resultado experimental fabricado está redactado tan limpiamente como el válido. La idea sin salida se articula con tanta confianza como la brillante. Como lo presenta todo con el mismo pulido, la fluidez se lee como rigor, y no lo es. Es la misma ilusión que hay detrás del problema de la adulación y del problema del «agente que canta victoria mientras está discretamente equivocado»: la superficie es convincente justo donde la sustancia es más débil.

Así que el error natural es tomar la salida confiada y bien escrita de la IA como si estuviera verificada. No está verificada. Está generada. Son cosas distintas, y la IA solo colapsó la generación. La prosa limpia no es evidencia de que la idea sea sólida; es evidencia de que el modelo es bueno con la prosa.

La división del trabajo que sí funciona

Una vez que aceptas «excelente para las ideas, malo para acertar», la forma correcta de usar la IA se desprende casi mecánicamente:

• Apúntala a la divergencia, no a las decisiones. Usa la IA para ampliar el espacio: veinte enfoques, ángulos que no habías considerado, un primer borrador contra el cual reaccionar. Ahí es donde genuinamente le gana a la página en blanco. No le pidas que te diga cuál es la correcta; esa es la parte que no puede hacer.
• Mantén el rigor en manos humanas, y hazlo explícito. El paso de «¿esto es realmente cierto, este experimento se sostiene, esto aguantará?» es tuyo. Trata cada afirmación generada por la IA como una hipótesis a probar, no como un hallazgo en el cual confiar. La tasa de fabricación del 80% es el costo de saltarse ese paso.
• Verifica contra la realidad, no contra el modelo. Una respuesta confiada comprobada solo volviendo a preguntarle al modelo sigue sin estar verificada. Córrela, pruébala, mira la fuente. El juicio tiene que tocar algo real.
• Recuerda que la divergencia también tiene un techo. Todos haciendo lluvia de ideas con los mismos modelos derivan hacia las mismas ideas; investigación de este año advirtió que la IA puede hacer que el pensamiento sea más uniforme. Úsala para destrabarte y luego empuja más allá de donde ella se detiene, porque el movimiento genuinamente original sigue siendo tuyo.

La conclusión

El miedo titular era que la IA se quedaría con el trabajo creativo y nos dejaría la monotonía. La realidad es casi al revés: la IA es un generador de ideas incansable que no puede distinguir de manera confiable una idea verdadera de una falsa, y presenta ambas con el mismo pulido confiado. Eso la convierte en un compañero de pensamiento soberbio y en un oráculo peligroso, y cuál de los dos es depende por completo de si tú aportas el rigor que le falta.

Así que úsala como usarías a un colega brillante, rápido y un poco poco confiable que nunca se queda sin sugerencias y nunca está seguro de cuáles son correctas: toma las ideas con gratitud y verifica cada una tú mismo. La creatividad es real y vale la pena tenerla. El rigor siempre fue tu trabajo, y la investigación acaba de confirmar que entregárselo al modelo es la manera de obtener una respuesta equivocada bellamente escrita.