La privacidad de ChatGPT se ha puesto en modo avión y no parece que vaya a aterrizar pronto. Una investigación de 404 Media acaba de destapar Project Lily, un programa secreto con el que OpenAI permite que cientos de empleados y contratistas lean a diario fragmentos de tus conversaciones privadas con el chatbot. Sin pedirte permiso. Sin un aviso claro. Y con la opción de desactivarlo tan escondida que casi nadie la ha tocado.
Project Lily: así funciona el programa secreto
El mecanismo es simple y un poco turbio. La mayoría de los usuarios de ChatGPT probablemente no imagina que sus preguntas pasan por ojos humanos, pero es exactamente lo que ocurre. Los trabajadores de Project Lily reciben una guía interna: primero leen el prompt original, escriben un resumen de lo que creen que pide el usuario, y después evalúan hasta cuatro respuestas distintas del modelo. Deben marcar al menos tres fragmentos concretos de cada respuesta y explicar por qué les parecen acertados o fallidos.
La guía de OpenAI incluso pone ejemplos. El uso excesivo de emojis se considera un fallo de alineación cuando no encaja con el tono de la conversación. Tras la revisión, cada respuesta recibe una puntuación del 1 al 7: un 1 significa que es inutilizable y un 7 que apenas admite mejoras. Cientos de personas. A diario. Suena a fábrica de contenido, pero con tus secretos como materia prima.
El filtro de privacidad es un colador con agujeros
Y aquí empieza lo más jugoso. OpenAI jura que antes de que los contratistas vean nada, las conversaciones pasan por un filtro de privacidad que elimina datos personales. El problema es que la propia compañía admite que ese filtro puede fallar en algunos casos. Traducción: si en tus chats hay detalles médicos, legales o financieros, pueden acabar en la pantalla de un revisor externo sin que nadie te haya avisado. Ni siquiera si el fallo es mínimo.
Google y Anthropic también lo hacen, pero al menos lo dicen
El detalle que más escama: Google y Anthropic también usan revisores humanos para mejorar sus modelos, pero al menos lo comunican con claridad. OpenAI nunca ha dicho explícitamente que hay personas leyendo tus conversaciones. Su política de privacidad menciona que puede usar "datos personales" para mejorar los sistemas, pero sin especificar que el proceso incluye revisión humana. Eso, en lenguaje de usuarios, se llama letra pequeña.
OpenAI anonimiza las conversaciones, pero el filtro de privacidad puede fallar y los datos sensibles acaban en manos de contratistas.
Para desactivar la función, hay que abrir ChatGPT, ir a Configuración, entrar en "Controles de datos" y tocar en en la opción "Mejora el modelo para todos". La opción viene activada por defecto en todas las cuentas, y si la desactivas, la medida solo se aplicará a las conversaciones futuras. Las que ya has escrito siguen ahí, a la espera de que alguien les eche un vistazo. Sí, has leído bien. No hay manera de borrar lo ya revisado.
Más contexto para no perder la perspectiva: el programa existe para que ChatGPT suene más natural y no repita frases robóticas. Nadie dice que sea ilegal, pero la sensación de traición es real al descubrir que tu diario de síntomas o tu borrador de separación están en una bandeja de entrada compartida. La privacidad no puede ser una función opcional que viene activada por defecto. Es un contrato. Y OpenAI lo ha roto delante de todos. Para más contexto sobre el chatbot, puedes echar un vistazo a su entrada en Wikipedia.
Hype-O-Meter
Nivel de hype: 4/10. El drama es más de transparencia que de novedad: los revisores humanos existen desde hace años, pero OpenAI lo ha escondido mejor que Google y Anthropic. La puntuación sube solo porque cientos de personas leen tus chats y el filtro falla — suficiente para no volver a hablar de nada íntimo con el bot.
El resumen para vagos (TL;DR)
- 🎯 ¿Qué ha pasado? OpenAI permite que cientos de contratistas lean chats privados de ChatGPT sin avisar.
- 🔥 ¿Por qué importa? El filtro de privacidad puede fallar y la opción para desactivarlo está escondida.
- 🤔 ¿Nos afecta o es solo un meme? Te afecta: desactiva "Mejora el modelo para todos" ya.
