El mapa: 20 conceptos en seis grupos

Un mapa de metro: primero ves todas las líneas juntas, luego recorres estación por estación.

Primero tres bases: la cloud AI, la on-device AI y el round-trip por la red que las separa. Después seis grupos, uno por capítulo: por qué ejecutarlo localmente, cómo hacer un modelo pequeño, el sacrificio honesto de capacidad, la especialización, el patrón hybrid y cómo usarlo bien.

Cada concepto recibe después el mismo tratamiento: su nombre en inglés (apréndelo — es el término), una imagen de la vida cotidiana, un diagrama y una ficha con campos: problema, idea, ejemplo, coste, cuándo usarlo y relaciones.

Cloud AI — el modelo en un centro de datos, a través de la red

Llamar a una oficina lejana para cada respuesta — tu pregunta viaja hasta allí, un experto responde y la respuesta vuelve, cada una de las veces.

Por defecto, un modelo se ejecuta en la cloud (cloud AI) — en servidores potentes de un centro de datos — y tu dispositivo lo alcanza por internet. Envías la petición, se procesa de forma remota y la respuesta vuelve. Así funciona la mayoría de la IA, y es lo que hace posibles los modelos más grandes e inteligentes: necesitan hardware muy por encima de un teléfono. Pero también significa que cada llamada hace un viaje por la red hasta el ordenador de otra persona.

On-device AI / Edge AI — el modelo justo donde estás

Un experto que vive en tu casa en lugar de al otro lado de la ciudad — simplemente preguntas y la respuesta llega de inmediato, sin llamada, sin viaje.

La on-device AI, o edge AI, ejecuta el modelo localmente — en el teléfono, el portátil, el sensor, el coche — sin ningún viaje a un servidor. El cómputo ocurre justo donde están los datos, en el hardware que tienes en la mano. Edge significa el borde de la red: lejos del centro de datos central, allí donde están los usuarios y los dispositivos. En lugar de enviar tu petición para que la respondan en otra parte, la respuesta se calcula en el sitio.

Round-trip — toda la diferencia es un viaje por la red

Cocinar en casa frente a pedir a domicilio — la comida puede ser la misma, pero una implica que un repartidor cruce la ciudad cada vez y la otra no.

La diferencia central entre cloud y on-device no es la IA en sí — es el round-trip: si tus datos salen del dispositivo y si esperas a la red. Esa única distinción impulsa cada beneficio y cada sacrificio de este curso. Mantén el trabajo local y ganas privacidad, uso sin conexión y velocidad, pero estás limitado a lo que el dispositivo puede ejecutar. Envíalo a la cloud y obtienes los modelos más grandes, pero lo pagas en round-trips, coste y datos que salen. Dónde se ejecuta el modelo decide casi todo.

Privacy — los datos nunca salen

Guardar tu diario en un cajón cerrado en casa frente a enviar cada página por correo a una empresa para que la lea — uno guarda el secreto contigo, el otro no.

La mayor razón para ejecutar en local es la privacidad (privacy): si el modelo está en el dispositivo, los datos que procesa nunca tienen que salir — sin enviar fotos personales, mensajes privados o registros sensibles a un servidor. Para todo lo que los usuarios prefieren mantener en su propio hardware, o que la normativa prohíbe enviar a un tercero, la respuesta es on-device. Procesar los datos donde viven, en lugar de enviarlos al ordenador de otro, es una garantía de privacidad que ningún servicio en la cloud puede igualar del todo.

Offline — funciona sin conexión

Un mapa de papel sigue funcionando en un túnel donde el mapa en línea se queda en blanco — lo local no depende de la señal.

Un modelo on-device funciona sin conexión (offline) — en un avión, en un túnel, en una zona remota, en cualquier sitio sin conexión fiable — porque no necesita un servidor. La cloud AI simplemente se detiene cuando se cae la red. Para funciones que tienen que funcionar en todas partes, o donde no se puede dar por hecha la conectividad, ejecutar en local no es una optimización, es la única opción. La independencia de la red es una capacidad que la cloud no puede ofrecer en esencia.

Latency — sin round-trip, sin esperas

Responder de memoria frente a llamar a alguien cada vez — de memoria es instantáneo.

La latencia (latency) es el tiempo desde la petición hasta la respuesta. Sin round-trip por la red, un modelo on-device puede responder casi al instante, sin el retraso de llegar a un servidor lejano y volver. Para funciones donde cada instante cuenta — autocompletado, reaccionar a lo que se escribe — es un beneficio decisivo.

Per-call cost — sin factura por cada llamada

Responder de memoria es gratis. Llamar a un consultor de pago pone un cargo en cada llamada.

El modelo se ejecuta en hardware que el usuario ya posee, así que no hay coste por llamada (per-call cost) — no le pagas a un proveedor por cada petición. Para una función de alto volumen, «instantáneo y gratis por llamada» es una combinación poderosa que la cloud, con su round-trip y su contador, no puede ofrecer.

SLM — los modelos pequeños caben donde los grandes no

Una guía de bolsillo en lugar de una pared de enciclopedias — mucho menos completa, pero cabe en el bolsillo y está ahí cuando la necesitas.

Un dispositivo tiene memoria y potencia de procesamiento limitadas, así que la IA on-device usa modelos de lenguaje pequeños (SLM, small language models) — modelos con muchos menos parámetros que los gigantes, construidos deliberadamente para ser compactos. No pueden saber ni hacer todo lo que hacen los modelos más grandes, pero son lo bastante pequeños para ejecutarse en un teléfono o un portátil. Todo el campo de la edge AI descansa en ellos: la tendencia hacia modelos pequeños capaces fue lo que hizo práctico ejecutar IA de verdad en local.

Quantization — menos precisión, mucho más pequeño

Guardar una medida como «unos 3,1» en lugar de «3,14159265» — pierdes un poco de exactitud, pero el número ocupa mucho menos y, para casi todo, sirve igual.

Una técnica clave para reducir un modelo es la cuantización (quantization): guardar sus números internos (los pesos, o weights) con menor precisión — más o menos, menos dígitos — de modo que todo el modelo ocupa muchísima menos memoria y corre más rápido. Sacrificas un poco de exactitud a cambio de una gran reducción de tamaño, lo que suele ser un gran trato para caber en un dispositivo. La cuantización es cómo un modelo que no cabría en un teléfono se comprime hasta uno que sí, a menudo con una pérdida de calidad apenas perceptible.

Distillation — un modelo pequeño aprende de uno grande

Un aprendiz que aprende el oficio del maestro para un trabajo concreto — no todo lo que sabe el maestro, pero lo bastante para hacer ese trabajo casi igual de bien, en una fracción del tamaño.

Otra técnica es la destilación (distillation): entrenar a un modelo pequeño para que imite a uno grande, de modo que el pequeño capture buena parte de la capacidad del grande en una forma mucho más compacta. El comportamiento del modelo grande, el teacher (maestro), se transfiere a un student (alumno) pequeño, lo bastante barato para ejecutarse en local. Entre los SLM construidos compactos desde el principio, la cuantización para reducirlos más y la destilación para transferir capacidad, se puede lograr que un modelo útil sea lo bastante pequeño para vivir en un dispositivo.

Capability Trade-off — no hay almuerzo gratis

Una calculadora de bolsillo frente a un laboratorio de investigación — la calculadora es instantánea y siempre contigo, pero no le pedirías que diseñe un puente.

Este es el sacrificio de capacidad (capability trade-off): un modelo pequeño es realmente menos capaz que uno grande. Tiene menos conocimiento general, maneja el razonamiento complejo con menos fiabilidad y es más débil en tareas difíciles y abiertas. La compacidad que le permite correr en un teléfono se paga con capacidad bruta. Así que la IA on-device no es simplemente la cloud AI hecha local — es un modelo deliberadamente más débil a cambio de privacidad, uso sin conexión y velocidad. Fingir que el modelo pequeño es igual de listo es como las funciones edge decepcionan.

Task Fit — lo rutinario en el dispositivo, lo difícil en la cloud

Un manitas local experto resuelve perfectamente la mayoría de los trabajos de la casa, y solo llamas al especialista para el raro caso realmente difícil.

Un modelo pequeño on-device encaja bien con tareas rutinarias y bien acotadas — clasificar texto, extracción sencilla, transcripción, autocompletado, ayuda directa — el mismo tipo de trabajo que de todos modos no necesita un modelo de frontera. Le cuestan los problemas realmente difíciles, nuevos y de varios pasos, donde los modelos más grandes se ganan el sueldo. Esto se ajusta bien a la dificultad: la mayoría de las tareas cotidianas están muy al alcance de un modelo pequeño, y solo la minoría difícil necesita de verdad al gigante de la cloud.

Así que la disciplina es el ajuste a la tarea (task fit): emparejar la tarea con el modelo que el dispositivo puede ejecutar. Si el trabajo de una función es lo bastante rutinario, on-device gana en privacidad, uso sin conexión, latencia y coste. Si de verdad necesita razonamiento de nivel frontera, el dispositivo no puede dárselo y necesitas la cloud. Saber dónde cae esa línea es el criterio central de la edge AI. Si empujas trabajo demasiado difícil a un modelo pequeño, la calidad sufre; si dejas en local trabajo digno de la cloud, la función rinde por debajo de lo posible.

Specialization — un modelo pequeño enfocado frente a uno grande y general

Un cirujano local que ha hecho una sola operación miles de veces supera a un generalista brillante que la hace rara vez — el dominio estrecho gana al conocimiento amplio en la tarea concreta.

Un modelo pequeño es débil como generalista, pero en una tarea específica y bien definida puede igualar o incluso superar a un modelo general mucho más grande. Eso es la especialización (specialization). Un modelo gigante reparte su capacidad entre todo; un modelo pequeño entrenado para un solo trabajo concentra su capacidad limitada justo ahí. Así que para una tarea estrecha — tu clasificación concreta, tu extracción particular — un modelo pequeño especializado puede ser a la vez lo bastante bueno y lo bastante diminuto para ejecutarse en local. La especialización recupera buena parte de lo que se perdió al reducir.

Fine-tuning — afilar un modelo pequeño para su trabajo

Entrenar a un aprendiz de forma intensiva en la única tarea que hará cada día — se vuelve excelente en eso, incluso sin la amplia experiencia del maestro.

La forma de hacer que un modelo pequeño rinda por encima de su peso es hacerle fine-tuning para tu tarea concreta (hay un curso aparte sobre ello): entrenarlo con ejemplos de justo el trabajo que hará, grabando a fondo esa única habilidad. Un modelo pequeño ajustado a tu uso estrecho puede superar a un modelo general mucho más grande en ese uso — y sigue siendo lo bastante pequeño para el dispositivo. No un generalista débil, sino un especialista afilado que además es diminuto.

Narrow + Local — una combinación poderosa

Una herramienta hecha para un solo trabajo, a mano — no es lo más versátil que tienes, pero sí lo más rápido y fiable para esa tarea.

El patrón ganador de la IA on-device es narrow + local: un modelo pequeño que hace una sola cosa muy bien, ejecutándose justo en el dispositivo. Renuncias a la generalidad, que una función de un solo propósito de todos modos no necesitaba, y ganas privacidad, uso sin conexión, respuesta instantánea y coste cero. Para una función concreta, esta combinación puede vencer de lleno a un gigante de la cloud — más rápida, más barata, más privada e igual de buena en lo único para lo que sirve. La especialización es lo que convierte «pequeño y débil» en «pequeño y excelente donde cuenta».

Hybrid Routing — local para el caso común, cloud para el difícil

Una clínica donde una enfermera atiende las visitas rutinarias en el sitio y deriva solo los casos complejos a un hospital especializado lejano — la mayoría de las necesidades cubiertas en local, los pocos casos difíciles escalados.

El patrón más fuerte es el hybrid: ejecutar un modelo pequeño en el dispositivo para el trabajo común, rutinario o privado, y escalar (escalate) a un potente modelo de la cloud solo para los casos realmente difíciles. Como la mayoría de las peticiones son fáciles, la mayoría se resuelve en local — rápido, gratis y privado — y solo la minoría difícil hace el round-trip hasta el gigante de la cloud. Es la idea de routing de la economía de modelos, aplicada a través de la frontera dispositivo-cloud: por defecto la opción más barata y local, el peso pesado solo cuando se lo gana.

Privacy Boundary — mantener en el dispositivo lo privado y lo que funciona sin conexión

Gestionas tus papeles sensibles en casa y envías fuera solo las partes que de verdad necesitan a un experto externo — manteniendo privado lo que puede seguir siéndolo.

Un diseño hybrid te permite poner en el dispositivo las partes sensibles a la privacidad y las que deben funcionar sin conexión, y a la vez seguir usando la cloud para el razonamiento pesado que lo necesita. Los datos personales pueden procesarse en local y nunca salir; solo sale el trabajo no sensible y realmente difícil. Así que no tienes que sacrificar privacidad por capacidad ni capacidad por privacidad — diseñas el sistema para que cada pieza se ejecute donde encaja con sus necesidades. La frontera misma — la privacy boundary — se convierte en una herramienta de diseño.

Device–Cloud Split — la frontera como decisión de arquitectura

Decidir qué trabajo se queda en la sucursal local y cuál va a la oficina central — una división deliberada del trabajo, no una elección de todo o nada.

El enfoque maduro es tratar «dónde se ejecuta esto» como una decisión por función — como las capas de una arquitectura en la cloud o los peldaños de la escalera de LLM. Esa es la división dispositivo-cloud (device–cloud split). Algo del trabajo pertenece al dispositivo por privacidad, uso sin conexión, latencia o coste; algo pertenece a la cloud por capacidad; y un buen sistema coloca cada cosa donde encaja. No es una elección global única — es una arquitectura que diseñas, pieza a pieza.

Decisive Benefit — ve on-device cuando lo local gana de verdad

Eliges mantener una tarea en casa cuando la privacidad, la velocidad, el uso sin conexión o el coste la hacen claramente mejor allí — y subcontratas solo cuando de verdad necesitas al experto externo.

Ve on-device cuando uno de sus beneficios es decisivo (decisive): los datos deben seguir siendo privados, la función debe funcionar sin conexión, la respuesta debe ser instantánea o el coste por llamada debe ser cero — y la tarea es lo bastante rutinaria (o lo bastante especializada) para que un modelo pequeño la maneje. No fuerces una tarea realmente difícil y general en un modelo local débil solo por evitar la cloud, y no envíes datos privados a la cloud cuando podrían haberse quedado en casa. Empareja la ubicación con lo que de verdad importa para la función.

Honest Scoping — sé honesto sobre el trueque

Aceptas que la herramienta de bolsillo no es el taller — y solo la eliges para trabajos que de verdad puede hacer, sin fingir que es algo que no es.

La disciplina es el alcance honesto (honest scoping): un modelo local te da privacidad, uso sin conexión, velocidad y coste a cambio de capacidad real. No finjas que un modelo pequeño es tan listo como un gigante; en cambio, acota la función on-device a lo que el modelo pequeño puede hacer bien de verdad — estréchala, especialízala o mantenla rutinaria — y deriva las partes difíciles a la cloud. Usada donde sus fortalezas coinciden con la necesidad, la edge AI transforma; llevada más allá de lo que un modelo pequeño puede hacer, solo decepciona. Elígela con los ojos abiertos.

Cómo se conectan los conceptos

Una balanza: la capacidad de la cloud en un plato, los beneficios del dispositivo en el otro. Cada concepto del curso mueve un plato — o te ayuda a tener ambos.

La Cloud AI paga el round-trip; la on-device AI lo evita, y por eso da los cuatro beneficios. Pero el dispositivo necesita modelos pequeños — SLM, quantization, distillation — y estos cuestan capacidad. La specialization (fine-tuning, narrow + local) recupera buena parte de ella, y la cloud cubre el resto mediante el hybrid.