Casi 50 aplicaciones de la App Store pueden crear deepfakes sexuales con IA. TikTok ya ha respondido al informe.
El reportaje lo publicó el New York Post el 4 de noviembre y atribuye el hallazgo a Copyleaks, firma especializada en detectar contenido generado con IA. Según su rastreo, esas casi 50 aplicaciones capaces de generar deepfakes sexuales se promocionaban sobre todo a través de anuncios de TikTok.
Conviene aclarar el término, porque se usa a la ligera: un deepfake sexual es una imagen o un vídeo creado con IA que coloca a una persona real en una escena sexual sin su permiso. Nadie ha dado su consentimiento. Por eso hablamos de violencia sexual digital y no de una gracieta tecnológica.
TikTok no lo ve igual. O al menos no lo enfoca así.
Qué dice el informe y qué contesta TikTok
Zachary Kizer, portavoz de la compañía, aseguró que TikTok no ha encontrado esos anuncios en circulación y que los ejemplos que recibieron parecían publicaciones de usuarios y una página de perfil. Es decir: la plataforma discute la naturaleza de las piezas, no su existencia.
También hubo movimiento. TikTok retiró uno de los tres vídeos señalados y etiquetó los otros dos para limitar su distribución, según detalló el propio Kizer. Lo que no hizo el portavoz fue pronunciarse sobre la legalidad de esas aplicaciones. Ni una palabra.
Ninguna plataforma gana esta guerra retirando un vídeo de tres: la gana decidiendo qué anuncios acepta antes de que alguien los pague.
Ahí empieza el problema de fondo. Una cosa es moderar vídeos sueltos y otra muy distinta es decidir qué anunciantes pagan por aparecer en el feed de millones de personas.
Apple ya movió ficha en julio
El informe no se queda solo en TikTok. Según el mismo reportaje, Apple retiró el 29 de julio tres de las aplicaciones señaladas. Tres de casi cincuenta.
Y no es un caso aislado. Otra investigación, de WIRED, ya documentó aplicaciones y dominios de deepfakes abusivos dentro de anuncios de Meta. Caso distinto, patrón idéntico: el contenido viaja más rápido que la revisión publicitaria.
La pregunta interesante es otra: cuántos de esos anuncios pasan el filtro sin que nadie proteste.
La moderación no se arregla con una nota de prensa
En la forma, la respuesta de TikTok es impecable: contesta a lo que le preguntan, separa qué era anuncio, y qué era publicación de usuario y detalla qué moderación aplicó. Cumple el expediente.
Pero el expediente no era el problema. Si casi cincuenta aplicaciones del mismo tipo se promocionan en la misma plataforma, el fallo está en el sistema que vendió ese espacio. Y ahí no hay comunicado que valga.
Queda el detalle legal que casi nadie está mirando: en ningún momento se ha valorado si esas aplicaciones son legales. Kizer no lo hizo, y es lógico porque no le toca, pero alguien tendrá que hacerlo.
En España, la Agencia Española de Protección de Datos tiene competencias sobre el uso de la imagen de una persona; en Europa, el reglamento de IA ya pone deberes a los sistemas generativos. La pelota está en el tejado legislativo, no solo en el de la moderación.
Lo que sí puedo decir después de leer la respuesta: es honesta en los datos y corta en las conclusiones. Retirar uno de los tres vídeos es más valiente que el silencio, pero no toca el negocio.
Cada vez que una plataforma se enfrenta a un informe incómodo, la secuencia se repite: se cuestiona la muestra, se retira una pieza ejemplar y se etiqueta el resto. Después, el ruido baja. Mientras, las apps siguen descargándose.
El Salseómetro
Nivel de salseo: 7,5/10. No hay beef entre creadores, sino algo más serio: un informe con casi 50 aplicaciones señaladas, una plataforma que contesta y un vacío legal abierto. Baja el tono de fiesta y sube el de la indignación.
📱 El TL;DR (Too Long; Didn't Read)
- 👤 De quién hablamos: TikTok, Copyleaks y Apple, con el informe del New York Post como origen.
- 📲 En qué red social ha pasado: En TikTok, donde se promocionaban casi todas las apps señaladas.
- 🔥 Por qué es viral: Por la respuesta de TikTok a un informe sobre deepfakes sexuales.
