El Parlamento Europeo ha aprobado este martes una reforma que prohíbe los sistemas de IA para generar imágenes íntimas sin permiso. La decisión busca frenar una práctica que ha causado alarma social tras la difusión masiva de montajes sexuales creados con IA en redes como X.
¿Qué se prohíbe exactamente?
La reforma veta los sistemas de inteligencia artificial destinados exclusivamente a crear imágenes sexuales o íntimas sin el consentimiento de la persona implicada. También queda terminantemente prohibido el material de abuso sexual infantil generado con esta tecnología. Además, las empresas que desarrollen modelos de propósito general deberán incorporar medidas de seguridad razonables para impedir que estos contenidos se difundan.
El detonante de esta revisión fue la circulación masiva de imágenes manipuladas con IA, especialmente a través de herramientas integradas en plataformas como Grok, el asistente de X. La presión social y mediática llevó al Parlamento y al Consejo a acelerar un cambio normativo que parecía urgente.
¿A quién protege y qué cambia en la práctica?
La medida blinda a cualquier persona, especialmente mujeres y menores, que vean cómo su imagen es utilizada sin autorización para crear contenido sexual. Hasta ahora, la legislación europea no abordaba de forma específica los deepfakes sexuales. La reforma obliga a las tecnológicas a ser más proactivas.
El impacto también toca a los usuarios. A partir de diciembre de este año, los sistemas de IA deberán incorporar mecanismos de transparencia para que cualquiera pueda identificar contenidos generados artificialmente. Las obligaciones de alto riesgo se retrasan hasta 2027, pero la protección frente a los deepfakes sexuales entra en vigor de inmediato.
Detrás de la prohibición hay una respuesta urgente a una realidad digital que ya afecta a miles de personas.
¿Por qué ahora y qué más incluye la reforma?
La polémica por los deepfakes no es nueva, pero la mayoría de los casos en los que se ha usado inteligencia artificial para humillar o chantajear a víctimas creció exponencialmente con herramientas de generación masiva. La respuesta europea se ha acelerado para cubrir ese vacío legal. Ya en 2024 la normativa original dejaba fuera los deepfakes sexuales, una omisión que ahora se corrige con urgencia. De hecho, el Parlamento y el Consejo pactaron en mayo acelerar los cambios tras la polémica de Grok.
Además de las prohibiciones, el acuerdo pospone varias obligaciones que se consideraban demasiado costosas para las empresas en este momento. Por ejemplo, la exigencia de transparencia en contenidos generados artificialmente se aplaza hasta el 2 de diciembre de este año, y las obligaciones para sistemas de IA de alto riesgo se dilatan hasta el 2 de diciembre de 2027, con una prórroga adicional para dispositivos médicos y maquinaria industrial hasta agosto de 2028. La Comisión Europea justifica estos aplazamientos por la falta de estándares técnicos, según el texto pactado en mayo.
El paquete, conocido como 'Omnibus VII', también busca aliviar la carga para las pymes y las empresas de mediana capitalización. Se aclaran las competencias de la Oficina Europea de IA y se exime de algunos requisitos duplicados a productos ya regulados por otras normas europeas, como ascensores o juguetes.
El texto restablece además el criterio de «estricta necesidad» para el uso de categorías especiales de datos personales empleados en la detección de sesgos en IA. También se clarifican las competencias de la Oficina Europea de IA para supervisar modelos de propósito general cuando el mismo proveedor desarrolle tanto el modelo como el sistema, con excepciones para control fronterizo y fuerzas de seguridad. El objetivo último es evitar que la regulación asfixie a las pequeñas empresas, sin dejar desprotegidas a las potenciales víctimas.
En este contexto, la Unión Europea refuerza su apuesta por una IA ética sin frenar la innovación. La clave ahora será cómo se apliquen estas normas en cada país y si las plataformas cumplen con las medidas de seguridad exigidas.
📌 El foco social: las claves
- 🔎 Qué es lo importante: La UE prohíbe los sistemas de IA que generen imágenes íntimas sin consentimiento.
- 👥 Quiénes son los afectados: Las víctimas de deepfakes sexuales, especialmente mujeres y menores, y las tecnológicas.
- ➡️ Qué consecuencias puede traer: Mayor protección legal, obligación de transparencia y retraso en otras normas de IA.
