Resumen:
¡La IA te entiende tan bien que casi da miedo! En los últimos días,
el experimento de "habitación vacía" se ha vuelto popular
, atrayendo a millones de personas a través de Internet para verlo. El internauta Jakub Szymczuk también siguió la tendencia y la puso a prueba. Casualmente lanzó una foto de una casa gris y tosca con cuatro paredes desnudas a ChatGPT y escribió solo una línea: "Llena esta habitación con la información que sabes sobre mí
".
En sólo diez segundos, la habitación originalmente vacía se transformó instantáneamente en una "sala de monitoreo panorámico" llena de
privacidad personal
.Lo más sorprendente es un detalle en el escritorio de la computadora. En realidad, hay un insecto "pez plateado" en el frasco de vidrio.
Le llevó mucho tiempo darse cuenta de que había fotografiado este pequeño error hace un año y preguntó qué era ChatGPT. Incluso este tipo de pregunta casual que había sido olvidada durante mucho tiempo fue anotada en el cuaderno por AI.
Una cosa es chatear con la IA todos los días y saber que acumulará datos.
Pero cuando estos fragmentos se convierten en una gran imagen de alta definición y se muestran claramente frente a nuestros ojos, la gente todavía se siente paralizada.
Una imagen de una "habitación vacía" inundó Internet
Pronto, los internautas de todo el mundo no podían quedarse quietos. Alguien publicó los resultados y los calificó de "bastante precisos"
.Alguien agregó "pero hazlo exagerado" después de la palabra clave, y la sala se convirtió directamente en una gran sala de exhibición de personajes.
Alguien más consiguió un pantano y dos gatos.
El analista Patrick Moorhead simplemente realizó una ronda de revisiones de varios modelos y la conclusión fue sencilla: el mejor es ChatGPT y el peor es Claude.
En este sentido, un internauta lo resumió brillantemente. La IA es el decorador más barato que puedes encontrar y también es el que adora espiar.
¿Por qué ChatGPT te entiende tan bien?
96% de memoria de conversación, ChatGPT la guarda tú mismo
En realidad, esto no es ningún secreto.
Todo lo que hay en la habitación es casi algo que te escapaste de la boca mientras charlabas.
Detrás de esto está precisamente la "memoria" de
ChatGPT
Función. En pocas palabras, tiene dos funciones principales:—La primera es "memoria guardada", que recuerda información clara como su nombre, preferencias y objetivos;
El otro es el "Historial de chat de referencia", que puede extraer contexto útil de una gran cantidad de conversaciones pasadas.
Este año, un artículo seleccionado para la Conferencia Web ACM 2026 hizo algo que nadie había hecho antes.
Investigadores del Instituto Max Planck, la Universidad Ruhr de Bochum y otras instituciones encontraron 80 usuarios reales de ChatGPT, les pidieron que exportaran sus datos de acuerdo con el RGPD de la UE y luego donaron sus registros de chat.
¿Cómo sabes lo que la IA memorizó en secreto? A continuación, a los investigadores se les ocurrió una idea inteligente.
ChatGPT tiene una pequeña herramienta dedicada a escribir recuerdos, que equivale al bloc de notas que lleva consigo. Cada vez que escriba, se dejará en segundo plano una línea del registro "Contexto del conjunto de modelos actualizado (contexto del modelo actualizado)".
El investigador volvió a revisar esta línea de texto para ver qué oración hizo el usuario que hizo que la IA escribiera.
De esta forma, extrajeron 2.050 recuerdos de 1.058 conversaciones y más de 20.000 rondas de enfrentamientos entre 65 personas.
El artículo da a estos recuerdos un nombre, llamado "autorretratos algorítmicos".
Los tres conjuntos de datos extraídos como resultado pueden hacer que las personas sientan escalofríos.
Primero, el 96 % de los recuerdos se guardan en secreto mediante el propio ChatGPT.
¿Cómo saber si el usuario tomó la iniciativa de pedirle que recuerde? Los investigadores buscaron específicamente palabras como "recordar" y "olvidar" en la oración que desencadenaba el recuerdo.
Como resultado, solo 84 de los 2050 recuerdos coincidieron. Calculado, por cada 24 datos que la IA guarda sobre usted, solo 1 dato proviene de su asentimiento.
En segundo lugar, el 52 % de los recuerdos son secretamente "perfiles psicológicos" para usted.
Los investigadores tomaron prestado el marco de la "teoría de la mente" de la psicología y dividieron estos contenidos en categorías como deseos, intenciones, emociones y creencias.
Entre ellos, dominan los "deseos", que representan el 73%; las intenciones representan el 16%, las emociones el 14% y las creencias el 11%.
Para decirlo sin rodeos, a la IA no le importa si eres feliz hoy o no. Lo que realmente quiere saber es qué anhelas a largo plazo y qué planeas hacer a continuación. En lugar de tus alegrías y tristezas temporales, quiere ver qué tipo de persona eres.
En tercer lugar, se registra una privacidad más sensible de lo que cree.
El 28% de los recuerdos pertenecen a la privacidad personal reconocida por el RGPD de la UE, y solo nombres específicos aparecen en el 41% de los recuerdos.
Lo que es aún más exagerado es que el 7% entró directamente en las "líneas rojas de alto riesgo", como el estado de salud, las creencias religiosas y las inclinaciones políticas, de las cuales la privacidad de la salud representó más del 60%.
Si se extendiera a todo el mundo, el 91% de las personas tendrían datos personales almacenados y más de la mitad (54%) de las personas tendrían registrados registros de privacidad altamente confidenciales.
El documento señala directamente que esto es obviamente contradictorio con el compromiso público de OpenAI de "no guardar activamente información confidencial".
El artículo también llevó a cabo un experimento más detallado y aterrador.
Los investigadores utilizaron modelos de código abierto como Gemma y GPT-OSS para "copiar" un extractor de memoria ChatGPT y aprendieron seis imágenes.
Luego plantearon la hipótesis de que ¿qué pasaría si la IA recuperara la memoria de cada frase que dijo el usuario?
La respuesta es que la proporción de datos confidenciales aumentará del 28% al 31%~35%, y la proporción de retratos psicológicos aumentará del 52% al 55%~59%.
Debes saber que la versión antigua de ChatGPT es sólo una "nota".
Lo siguiente que Dreaming va a hacer es leer tu historial de chat en segundo plano.
Resulta estar "soñando", la IA reescribe repetidamente retratos personales
En junio de este año, OpenAI le dio a ChatGPT una importante revisión de su memoria, dándole un nombre misterioso: Dreaming.
Para decirlo sin rodeos, al igual que cuando una persona duerme, el cerebro ordena automáticamente las experiencias del día, ChatGPT también "revisará" silenciosamente los días de chat en segundo plano, actualizando constantemente su comprensión de usted.
Por ejemplo, dijiste "Iré a Singapur en julio". Una vez que pase el día, este recuerdo se reescribirá automáticamente como "Fui a Singapur en julio de 2026".
OpenAI ha realizado pruebas internas y ha descubierto que este nuevo mecanismo aumenta la precisión de sus registros:
Del 41,5% en 2024 y el 67,9% en 2025, se ha alcanzado directamente el 82,8% de la versión V3 actual.
Lo que es aún más cruel es que el coste de la potencia informática de backend se ha reducido a una quinta parte de su valor original.
Pero lo que realmente da miedo es pensar que eliminar una conversación de ChatGPT no eliminará los recuerdos que se han extraído de ella.
Entre ellos, lo más preocupante es la privacidad de su salud.
En septiembre, un artículo publicado en arXiv examinó casi 180.000 registros de chat de 1.057 usuarios y descubrió que más de una quinta parte (21,31%) de las conversaciones trataban temas de salud personal.
Lo que es aún más preocupante es que más del 95% de los retratos personales que contiene también fueron grabados en secreto por IA mientras el usuario no prestaba atención.
Esta proporción es casi exactamente la misma que el 96% medido en el artículo anterior.
Cuando la IA "suplementa el cerebro" y fusiona recuerdos en segundo plano, es muy fácil soldar sus síntomas temporales en una "etiqueta de registro médico" permanente.
Por ejemplo, si un día dices casualmente que tienes dolor de cabeza, a los ojos de la IA, es posible que te hayas convertido en un "paciente de migraña".
¿"Segundo cerebro"?
Siempre pensamos que estamos entrenando un "segundo cerebro" que se vuelve cada vez más sensato.
No fue hasta que me arrojaron a la cara la imagen de la habitación llena de privacidad que me sorprendí: después de miles de conversaciones, resultó que éramos los únicos a quienes nos habían despojado de nuestras cartas de triunfo.
A los ojos de los algoritmos, nunca existe la llamada empatía, sólo el "contexto" que tiene un precio claro.
Comentarios