Borrar un chat de IA no basta: así pueden recuperarlo

La mayoría de las personas asume que eliminar una conversación con ChatGPT equivale a hacerla desaparecer para siempre. Si bien empresas como OpenAI o Anthropic mantienen los chats en sus servidores por cuestiones legales, estos se eliminan después de un tiempo. Esto nos ha hecho pensar que tenemos cierto control sobre las conversaciones, pero un grupo de científicos ha encontrado la forma de recuperarlas desde la memoria de tu móvil.

Investigadores del Georgia Tech desarrollaron un nuevo sistema forense llamado ORISA, el cual puede recuperar conversaciones eliminadas de asistentes de IA. De acuerdo con una publicación en su blog, el proyecto intenta demostrar que, aunque el usuario borre un chat desde la interfaz de esa aplicación, parte de la información queda almacenada en la memoria de trabajo del dispositivo.

ORISA funciona con asistentes de IA que se ejecutan localmente en los móviles Android. Al no depender de los servicios en la nube, estos conservan fragmentos de contexto mientras están en funcionamiento. La herramienta se aprovecha de esos restos para localizar datos de conversaciones eliminadas y reconstruir sesiones completas que pensabas que se habían esfumado de tu dispositivo.

Los investigadores usaron ChatterUI, una app gratuita que funciona como interfaz de chat para modelos LLM que se ejecutan en modo local. Tras crear un asistente ficticio llamado Project Note Keeper y proporcionarle 100 datos relacionados con un supuesto proyecto, eliminaron la conversación. ORISA consiguió recuperar 26 datos para restaurar la sesión, una cantidad incluso mayor de los 14 que tiene permitidas la ventana de contexto del modelo.

La herramienta puede recuperar conversaciones con la IA desde la memoria del móvil

Según el Georgia Tech, este hallazgo demuestra que los fragmentos de memoria que conserva una IA pueden contener información relevante, incluso cuando el modelo los deja de usar activamente. Esto significa que ciertas conversaciones podrían recuperarse aun cuando el usuario creyó haberlas borrado por completo.

El experimento abarcó 10 aplicaciones de Android y tres modelos de IA distintos. En un total de 60 configuraciones, ORISA logró restaurar información de conversaciones eliminadas que permanecían en la memoria del dispositivo. Los científicos mencionaron que este trabajo permitiría a investigadores forenses reconstruir los datos que compartió un usuario con su asistente de IA, aunque esto podría representar un problema de privacidad.

Una de las ventajas de usar modelos de IA desde el dispositivo es que no tenemos que subir nada a la nube. Ni OpenAI ni Anthopic acceden a tus conversaciones, ya que los datos no salen del móvil. Lo malo es que alguien con acceso a ORISA podría recuperar parte de estos chats, siempre y cuando la memoria no se haya degradado o sobreescrito con otra información.

Por el momento, ORISA no tiene una versión para el público general. La herramienta está destinada a investigadores y requiere acceso a copias de la memoria y el almacenamiento del móvil. Lejos de pensar en espiar a los usuarios, los científicos dicen que puede servir en casos donde un delincuente usó una IA local para que no rastrearan sus intenciones.