El uso de la Inteligencia Artificial (IA) ha abierto un nuevo capítulo en la creación y distribución de contenido digital. Si bien esta tecnología ofrece numerosas oportunidades, también ha dado lugar a inquietantes fenómenos como la generación de imágenes sexualmente explícitas sin el consentimiento de las personas representadas. El Consejo Asesor de Contenido de Meta se ha pronunciado al respecto, ofreciendo recomendaciones clave para abordar este desafío.
Revisión de Casos y la Necesidad de Ajustes en la Clasificación
El Consejo ha analizado dos casos específicos en los que se generaron y publicaron imágenes explícitas de mujeres, una figura pública de la India y otra de Estados Unidos, sin su consentimiento. Estas imágenes fueron eliminadas de las plataformas de Meta, como Instagram y Facebook, y se incorporaron a una base de datos que permite su retiro automático en el futuro.
Sin embargo, el Consejo considera que la actual clasificación de este tipo de contenido como "Photoshop sexualizado despectivo" no es lo suficientemente clara para los usuarios. Proponen que, en lugar de "despectivo", se indique que se trata de contenido "no consensuado". Además, sugieren reemplazar el término "Photoshop" por uno que abarque mejor los contenidos sintéticos generados por IA.
El Impacto y la Necesidad de una Clasificación más Apropiada
El Consejo también señala que la clasificación actual de estas imágenes dentro de la categoría de "Acoso e Intimidación" no es la más adecuada. Consideran que deberían formar parte de las políticas sobre "Explotación Sexual de Adultos", ya que van más allá del acoso y ayudaría a los usuarios a denunciar este tipo de contenido de manera más efectiva.
Según el Consejo, el daño que genera la publicación y distribución de estas imágenes no se limita solo a engañar a las personas sobre su autenticidad, sino también al hecho de compartirlas y verlas. Por lo tanto, argumentan que la mejor manera de abordar este problema es a través de la eliminación de este tipo de contenido, ya que etiquetarlo como sintético no evitaría los perjuicios que causan a las personas afectadas, principalmente mujeres y niñas.
Conclusión: Hacia una Protección Efectiva de la Privacidad y Dignidad
El caso analizado por el Consejo Asesor de Contenido de Meta evidencia la urgente necesidad de abordar el desafío de las imágenes sexualmente explícitas generadas por IA sin el consentimiento de las personas. Las recomendaciones presentadas, como la clarificación de la clasificación de este tipo de contenido y su inclusión en las políticas de "Explotación Sexual de Adultos", son pasos importantes para brindar una protección más efectiva a la privacidad y dignidad de los usuarios.
A medida que la tecnología sigue avanzando, es crucial que las plataformas digitales y los organismos reguladores trabajen de manera conjunta para anticipar y abordar los nuevos riesgos que surgen, con el objetivo de garantizar un entorno digital más seguro y respetuoso para todos.
