Todas las notas
La IA acaba de empezar a perfilarte en segundo plano

5 de junio de 2026

La IA acaba de empezar a perfilarte en segundo plano

Hasta esta semana, ChatGPT solo recordaba lo que le pedías que recordara. Desde el 4 de junio 'sueña' — un proceso en segundo plano lee a través de todos tus chats anteriores y construye en silencio un modelo de ti, manteniéndolo actualizado por su cuenta. Es una mejora genuinamente útil y el momento en que un chatbot se convirtió en un perfilador. El regulador de datos de la UE dijo exactamente eso, hoy. Esto es lo que realmente cambió, en términos simples — y por qué es el problema del grounding apuntado hacia ti.

Hasta esta semana, la memoria de ChatGPT era simple y honesta: recordaba las cosas que le pedías explícitamente que recordara, y nada más. El 4 de junio de 2026, eso cambió. OpenAI empezó a desplegar un nuevo sistema de memoria que llama "Dreaming V3" — y la versión corta es que el modelo ahora estudia tus conversaciones anteriores en segundo plano y construye en silencio un perfil de ti, sin que se lo pidan.

Es una mejora real. También es un cambio más grande de lo que sugiere la palabra "función", y vale la pena entenderlo en términos simples.

Qué cambió realmente

La memoria vieja era una lista. Decías "recuerda que soy vegetariano", y lo anotaba. Podías leer la lista y borrar de ella. Aburrido, pero sabías exactamente qué sabía.

Dreaming es distinto en tipo, no en grado. Un proceso en segundo plano ahora lee a través de muchas conversaciones y sintetiza lo que cree que es cierto sobre ti — automáticamente, de forma continua, sin un "recuerda esto". Incluso se mantiene actualizado a sí mismo: el propio ejemplo de OpenAI es una memoria que dice "vas a Singapur en julio" reescribiéndose como "fuiste a Singapur en julio de 2026" después del viaje. Y como un cambio reciente recortó el cómputo unas 5×, esto va camino de llegar a todos, no solo a los usuarios de pago.

Así que el modelo ya no está recordando lo que dijiste. Está infiriendo lo que es cierto sobre ti y guardándolo.

Esto es perfilado (profiling) — y el regulador lo dijo hoy

Suena como una palabra fuerte. No es mía. Hoy, 5 de junio de 2026, el Comité Europeo de Protección de Datos emitió una opinión preliminar que afirma que la memoria persistente de la IA constituye perfilado (profiling) bajo GDPR, lo que activa obligaciones en torno al consentimiento y al derecho al olvido. Las reglas de transparencia del EU AI Act para chatbots entran en vigor el 2 de agosto — semanas después de este despliegue.

Y la escala de lo "automático" es la parte para detenerse a pensar. Un estudio de 2,050 entradas de memoria de 80 usuarios encontró que el 96% fueron creadas por el sistema por su cuenta, no por alguien pidiéndole que recordara nada — el 28% de ellas eran datos personales en el sentido del GDPR, y el 52% eran inferencias psicológicas sobre el usuario. La máquina no está transcribiendo lo que le dijiste. Está sacando conclusiones sobre quién eres.

Es el problema del grounding, apuntado hacia ti

He escrito mucho sobre grounding: un LLM es un adivinador que produce "hechos" fluidos, seguros y a veces equivocados, así que nunca debes dejar que él sea el autor de los hechos — lo anclas a una fuente de verdad y dejas que solo reformule. Dreaming le entrega al adivinador el único trabajo que no dejo de decir que jamás debe tener: ser el autor de los hechos. Excepto que ahora los hechos son sobre ti — tus preferencias, tus restricciones, tu psicología — inferidos, no declarados, y guardados.

Y aquí está el filo: los reportes señalan que el nuevo sistema limita el registro de auditoría (audit trail) — la síntesis es más opaca que la lista vieja. Así que un modelo que es estructuralmente capaz de equivocarse con seguridad ahora está decidiendo con seguridad qué es cierto sobre ti, y no puedes verlo ni rastrearlo del todo. Ese es el problema de la memoria como superficie de ataque y el problema del grounding al mismo tiempo, apuntado hacia tu identidad en lugar de hacia la respuesta de un chatbot.

El otro lado honesto

No quiero pintar todo esto como una catástrofe, porque es una UX genuinamente buena. La continuidad es lo que a los chatbots siempre les faltó — un asistente que te olvida cada mañana no es mucho asistente. Y OpenAI sí lanzó controles reales: una página resumen legible de lo que ha sintetizado sobre ti, la capacidad de editar o borrar entradas, y chats temporales que no guardan nada. Esa es la dirección correcta.

El problema no es la memoria. Es que la memoria ahora es auto-autorada y más difícil de inspeccionar, y es opt-out (hay que desactivarla), no opt-in (hay que activarla). El valor por defecto pasó de "sabe lo que le dijiste" a "sabe lo que decidió", y tienes que ir a buscar para descubrir cuál de las dos.

Qué significa si construyes

Si construyes productos sobre estos modelos, absorbe esto: "la IA recuerda al usuario" se está volviendo el valor por defecto, y en el momento en que lo hace, estás operando un sistema de perfilado, lo hayas querido o no. Eso ya no es un detalle de UX; es consentimiento, derecho a la supresión, y poder mostrarle al usuario una rendición de cuentas veraz y completa de lo que se almacena sobre él. Trata la memoria del usuario como los datos regulados y propiedad del usuario que legalmente ahora son — inspeccionables por completo, borrables a demanda, anclados en lo que realmente dijo — no como una conveniencia oculta que acumula conclusiones en silencio.

La mejora que todos están a punto de amar es también el momento en que el chatbot se convirtió en un perfilador. Útil, sí. Pero ten claro qué cambió: ya no está recordando lo que le dijiste — está decidiendo qué es cierto sobre ti, y guardándose la mayor parte de eso para sí mismo. Lo mínimo que deberías exigirle a cualquier IA que te recuerda es ver, por completo, exactamente qué cree que sabe — y poder hacerla olvidar.

Comentarios

Aún no hay comentarios

Inicia sesión para unirte a la conversación.

Sé el primero en compartir una idea.