Knowledge Cutoff — su conocimiento está congelado y es general

Un graduado brillante que leyó una biblioteca enorme hace años — pero no los archivos de tu empresa, ni nada publicado desde el día en que se graduó.

Un modelo solo sabe lo que había en sus training data. Esos datos salen de la internet pública y están congelados en una fecha de knowledge cutoff. El conocimiento es amplio y general — pero el modelo no sabe nada de tus datos privados, de tu dominio específico ni de nada que haya ocurrido después del entrenamiento.

Así que de fábrica no puede responder sobre tu producto, seguir el estilo de tu casa ni usar las cifras de la semana pasada. Todo en este curso es una forma de cerrar esa brecha entre el conocimiento general del modelo y tu mundo particular.

Knowledge Gap vs Behaviour Gap — tres brechas distintas

Una persona recién contratada podría necesitar un documento de orientación, un archivero que pueda consultar, o entrenamiento real que cambie cómo trabaja — tres brechas distintas, tres arreglos distintos.

La brecha viene en formas distintas, y no tienen el mismo arreglo. A veces necesitas que el modelo sepa unos hechos para esta tarea. A veces que recurra a un cuerpo de conocimiento grande y cambiante. A veces que se comporte distinto — un formato, tono o habilidad consistentes.

Estas son una knowledge gap (brecha de conocimiento) y una behaviour gap (brecha de comportamiento). Se corresponden con las tres técnicas: decírselo (prompting), darle una fuente de conocimiento (RAG) o reentrenarlo (fine-tuning). Nombrar qué brecha tienes es casi toda la decisión.

El mapa: 15 conceptos en seis grupos

Un mapa de metro: primero ves el conjunto de líneas, luego recorres estación por estación.

Cada concepto de este curso cae en uno de seis grupos. Primero, la brecha misma. Luego las tres técnicas en orden de costo creciente: prompting, RAG, fine-tuning. Después la distinción clave entre ellas. Y por último cómo elegir — y cómo comprobar la elección.

Cómo leer este curso

No mandas a alguien a un año de entrenamiento cuando bastaría un memo de una página — emparejas el esfuerzo con lo que de verdad falta.

Cada concepto recibe el mismo tratamiento: su nombre en inglés (recuérdalo — es el término de la documentación y los papers), una imagen de la vida cotidiana, un diagrama y una ficha con campos: qué es, cómo funciona, ejemplo, trampa y conceptos relacionados.

La idea principal del curso: las técnicas difieren enormemente en costo, velocidad y para qué sirven. El error más común es saltar directo al fine-tuning — la opción más pesada — cuando prompting o RAG resolverían el problema más rápido y más barato. La habilidad no es saber cómo hacer fine-tuning; es diagnosticar la brecha con la precisión suficiente para elegir la técnica más ligera que la cierre.

Prompting / In-context Learning — pon lo que necesita directo en el contexto

Dar instrucciones a un temporal muy espabilado antes de una tarea: esta es la situación, estas son las reglas, aquí un ejemplo de lo bueno — es capaz, solo necesitaba el contexto.

La forma más simple de darle a un modelo lo que le falta es ponerlo en el prompt — las instrucciones, los hechos relevantes, el formato que quieres, unos cuantos ejemplos. El modelo usa esa información de inmediato, sin entrenamiento. Esto se llama in-context learning.

Los modelos son buenos siguiendo instrucciones claras. Así que una sorprendente cantidad de «el modelo no puede hacer esto» en realidad es «no se lo dije con suficiente claridad». El prompting es lo primero que hay que agotar, no lo último.

Few-shot Prompting — enseña comportamiento con ejemplos, al instante

Mostrar tres ejemplos terminados de exactamente la salida que quieres, y pedir un cuarto — el patrón se aprende en el momento, sin necesidad de escuela.

Puedes moldear no solo lo que el modelo sabe sino cómo se comporta, directo en el prompt, mostrando ejemplos — esto es few-shot prompting. ¿Quieres un formato, un tono o una forma concreta de resolver una tarea? Incluye dos o tres ejemplos y el modelo copia el patrón.

Mucho de lo que la gente cree que exige fine-tuning — un estilo consistente, una forma concreta de salida — a menudo se logra con ejemplos en el contexto. Gratis y al instante.

Context Window — los límites: la ventana y la repetición

Una instrucción sirve para una reunión, pero solo puedes entregar tantas páginas, y tienes que volver a entregarlas cada vez — bien para un memo, torpe para una enciclopedia.

El prompting tiene dos límites reales. Primero, todo debe caber en la context window (ventana de contexto), así que no puedes pegar una base de conocimiento enorme. Segundo, es por llamada: envías ese contexto cada vez, lo pagas en cada petición, y el modelo nunca lo retiene entre llamadas.

Cuando el conocimiento es demasiado grande para la ventana, cambia constantemente, o estarías pegando una y otra vez el mismo material voluminoso, el prompting solo ya no basta. Justo ahí entra la siguiente técnica.

RAG — recupera los hechos relevantes en tiempo de ejecución

Un examen a libro abierto: en vez de memorizar toda la biblioteca, buscas las pocas páginas relevantes en el momento de la pregunta y respondes con ellas.

RAG (retrieval-augmented generation) maneja el conocimiento demasiado grande para un prompt trayendo solo la parte relevante a demanda. En el momento de la pregunta, busca en tus documentos, saca los chunks más relevantes — trozos de texto — y pone esos en el contexto. El modelo responde a partir de ellos.

Así el modelo trabaja con tus datos reales y actuales sin haberlos memorizado nunca — le das la página correcta justo cuando la necesita. (El curso de RAG profundiza; aquí está su lugar en la alineación.)

Grounding — ancla las respuestas en conocimiento grande, cambiante y privado

Una biblioteca de consulta que mantienes al día: no reimprimes el cerebro del bibliotecario cuando cambia un dato — solo actualizas el estante, y la siguiente consulta ya está al día.

RAG brilla justo donde el prompting sufre: una base de conocimiento demasiado grande para la ventana, hechos que cambian a menudo o datos privados con los que el modelo nunca se entrenó. Actualizas un documento y la siguiente respuesta lo refleja al instante — sin reentrenar.

Esto se llama grounding — anclar la respuesta del modelo en tu información específica, actual y quizá confidencial. Cuando la brecha es «necesita saber cosas», sobre todo cosas que cambian, RAG suele ser la respuesta.

RAG añade conocimiento, no comportamiento nuevo

Darle a alguien mejores libros de consulta lo deja mejor informado — pero no cambia su estilo de escritura ni le enseña una habilidad nueva. Entran hechos, no hábitos.

Lo crucial de RAG: cambia lo que el modelo sabe para esta respuesta, no cómo se comporta en el fondo. Las habilidades, el estilo y el razonamiento del modelo siguen igual — solo le has dado mejores hechos con los que trabajar.

Así que RAG es la herramienta correcta para una knowledge gap y la equivocada para una behaviour gap. Si necesitas que el modelo responda siempre de cierta manera, recuperar más documentos no te llevará ahí. Eso apunta a la tercera técnica.

Fine-tuning — reentrena el modelo con tus ejemplos

No es dar instrucciones a un trabajador para una tarea, sino enviarlo a un entrenamiento que cambia cómo trabaja por defecto — la nueva forma queda incorporada, no se entrega cada vez.

Fine-tuning toma un modelo existente y lo entrena más con un conjunto de tus propios ejemplos. Esto ajusta sus weights internos — los números que contienen todo lo que el modelo puede hacer — de modo que el nuevo comportamiento pasa a ser parte del modelo mismo.

Prompting y RAG añaden información en tiempo de ejecución y dejan el modelo intacto. El fine-tuning sí cambia el modelo. El resultado se comporta a tu manera por defecto, sin instrucciones ni ejemplos en cada prompt — los aprendió.

Lo que enseña el fine-tuning: comportamiento, formato, estilo

Un entrenamiento que convierte a un generalista en alguien que escribe de forma fiable con la voz de tu casa o resuelve tu tarea específica siempre igual — un hábito aprendido, no un recordatorio.

Para lo que el fine-tuning sirve de verdad es para el comportamiento: un tono o estilo de la casa consistente, un formato de salida concreto, una tarea especializada que el modelo repite una y otra vez, o imitar la manera en que tu dominio formula las cosas.

Cuando tienes muchos ejemplos de «una entrada así debe producir una salida así», el fine-tuning puede incorporar ese patrón de forma profunda y fiable, más allá de lo que logran los ejemplos en un prompt. Moldea cómo responde el modelo, aprendido en sus weights.

LoRA / PEFT — más barato, pero no gratis

Mandar a alguien a un programa de entrenamiento de verdad cuesta tiempo, dinero y un plan de estudios — y cuando el trabajo cambia, hay que reentrenarlo desde cero.

El fine-tuning es la opción cara. Necesita un conjunto de ejemplos de calidad (a menudo muchos), un proceso de entrenamiento y experiencia. Y no es un costo único: cuando las cosas cambian, reentrenas.

LoRA (Low-Rank Adaptation) y otros métodos de parameter-efficient fine-tuning (PEFT) lo abaratan ajustando solo una parte pequeña del modelo en lugar de todos sus weights. Eso ha bajado la barrera — pero el fine-tuning sigue siendo mucho más pesado que el prompting o RAG.

Form vs Facts — el fine-tuning enseña la forma, RAG enseña los hechos

A una persona le enseñas a escribir un informe (una habilidad aprendida), pero le entregas los datos para ponerle dentro (consultados cada vez) — la habilidad se enseña, los hechos se traen.

Esta es la regla que lo aclara todo: el fine-tuning es para cómo responde el modelo; RAG es para lo que sabe. El fine-tuning enseña la forma — estilo, tono, formato, la silueta de una tarea — incorporándola en los weights. RAG aporta hechos — información actual, específica, privada — trayéndolos en tiempo de ejecución.

Uno cambia el comportamiento; el otro cambia el conocimiento. Casi toda pregunta de «¿hago fine-tuning o uso RAG?» se disuelve cuando te preguntas si la brecha es de forma o de hechos.

Fine-tuning for Facts — el error caro

Mandar a alguien a la escuela a memorizar una guía telefónica que cambia cada semana — cuando la termina de aprender ya está mal, y tendrás que reentrenarlo con cada actualización.

El error costoso más común es hacer fine-tuning para añadir hechos que el modelo debería saber. Es un anti-pattern: en su mayoría no funciona bien, es caro y, lo peor, los hechos quedan congelados en cuanto termina el entrenamiento.

En cuanto tus datos cambian, el modelo con fine-tuning queda desactualizado y debes reentrenar. Los hechos que cambian pertenecen a RAG, donde una actualización es instantánea. Hacer fine-tuning para inyectar conocimiento es hacer lo difícil y frágil teniendo a mano lo fácil y actual.

Fine-tune + RAG — fine-tuning para la forma, recuperación para los hechos

Un especialista entrenado en cómo hacer el trabajo (fine-tuning), que además consulta una referencia siempre actual para los detalles (RAG) — lo mejor de ambos, cada uno haciendo lo que se le da bien.

No son rivales; los sistemas más fuertes a menudo usan ambos. Puedes hacer fine-tuning de un modelo para el comportamiento y el estilo de tu dominio, y usar RAG para darle hechos actuales en tiempo de ejecución. La forma, del fine-tuning; los hechos, de la recuperación.

Verlos como complementarios, no competidores, es la marca de haber entendido la distinción. No eliges una técnica — aplicas cada una a la parte del problema que le corresponde.

Decision Ladder — empieza por abajo, con prompting

Antes de reservar un curso de formación, pruebas simplemente a explicar la tarea con claridad — la mayoría de las veces, eso era todo lo que hacía falta.

La decision ladder (escalera de decisión) va de lo barato e instantáneo a lo caro y lento: prompting, luego RAG, luego fine-tuning. Empieza siempre por abajo.

Prueba primero instrucciones claras y unos ejemplos; una enorme parte de los problemas se resuelve ahí mismo, gratis, en minutos. Solo cuando el prompting de verdad no cierra la brecha subes. Empezar por arriba — agarrar primero el fine-tuning — es el error caro que define al principiante con presupuesto.

Sube solo cuando el peldaño de abajo no alcanza

Pasas a una herramienta más grande solo cuando la pequeña de verdad ha fallado en el trabajo — no porque la grande suene más seria.

Sube a RAG cuando el conocimiento es demasiado grande, demasiado actual o demasiado privado para el prompt — una knowledge gap clara que el prompting no puede llenar. Sube al fine-tuning cuando necesitas un comportamiento consistente que el prompting y los ejemplos no logran de forma fiable, y tienes los datos y el presupuesto para enseñarlo.

Cada peldaño solo se justifica porque falla el de abajo. La pregunta en cada paso: ¿la técnica más barata de verdad se quedó corta aquí, o solo asumo que lo haría?

La mayoría de los productos nunca necesita el peldaño más alto

La mayoría de los trabajos se hace con una buena instrucción y un libro de consulta — el reentrenamiento completo es la excepción, reservada para el caso raro que de verdad lo exige.

La realidad honesta: la gran mayoría de las aplicaciones con LLM se atiende bien con prompting y RAG, y nunca necesita fine-tuning. El fine-tuning es una herramienta real y potente para el caso específico del comportamiento arraigado a escala — pero es la excepción, no lo predeterminado.

Trátalo como último recurso, al que llegas solo cuando los peldaños más ligeros han fallado de forma demostrable. Eso te encaminará bien con mucha más frecuencia que agarrarlo porque suena avanzado.

Gap Diagnosis — diagnostica antes de elegir la herramienta

Un buen médico diagnostica antes de recetar — no recurre a la cirugía porque sea dramática, primero averigua qué falla de verdad.

Toda la decisión depende de nombrar la brecha con precisión. ¿Al modelo le faltan hechos (RAG), necesita una instrucción más clara (prompting) o necesita otro comportamiento incorporado (fine-tuning)? Esto es gap diagnosis.

La mayoría de las malas elecciones vienen de saltarse este paso y lanzarse a una técnica. Pregunta qué falta de verdad, empareja con la herramienta más ligera que encaje, y evitarás los rodeos caros — sobre todo el grande: fine-tuning para hechos.

Evals — mide si de verdad funcionó

No das por hecho que el entrenamiento ayudó — pruebas al trabajador después y ves si su resultado mejoró.

Uses la técnica que uses, verifícala con evals — pruebas sobre casos reales: ¿el cambio de verdad mejoró las salidas? Un mejor prompt, un pipeline de RAG, un fine-tune — cada uno es una hipótesis que confirmas midiendo, no por sensación.

Esto es doblemente importante para el fine-tuning, donde el costo es alto y un vago «parece mejor» no basta para justificarlo. Medir te mantiene honesto sobre si la técnica más pesada se ganó su lugar frente a la más ligera.

Cómo encaja todo

Un botiquín: cada remedio tiene su enfermedad, y el médico elige según el diagnóstico — y luego comprueba si ayudó.

Los conceptos del curso suman una sola imagen. La gap diagnosis apunta a una técnica: instrucción → prompting, hechos → RAG, comportamiento → fine-tuning. El prompting incluye few-shot; el fine-tuning se abarata con LoRA; RAG y fine-tuning se combinan en el híbrido. Y los evals comprueban cada elección.