TikTok se ha cansado de que su 'para ti' se llene de clones generados por inteligencia artificial. La red social está empezando a testear una herramienta para detectar los deepfakes que suplantan a sus creadores, y lo hace con un movimiento que recuerda bastante a lo que ya hizo hace meses YouTube.
El portavoz de TikTok en EE.UU., Zachary Kizer, confirmó a The Verge que la prueba se ha lanzado inicialmente con "algunos" creadores estadounidenses. La herramienta es opcional y escanea en busca de imitaciones generadas por IA de la apariencia de los usuarios. ¿Lo más llamativo? Para activarla tienes que demostrar que eres una persona real con una verificación de identidad nivel pasaporte.
Cómo va a pillarte TikTok si un deepfake te suplanta
El sistema funciona con una empresa externa llamada Jumio, especializada en verificación de identidad digital. Cuando un creador decide activar la herramienta, debe hacerse un selfie en tiempo real y subir un documento oficial (DNI, pasaporte o similar). Eso sí el proceso tiene un truco: TikTok asegura que no almacena ni los documentos ni los datos biométricos faciales. La verificación solo sirve para confirmar que la cuenta que activa la detección pertenece a una persona real y no a un avatar sintético.
Una vez verificada la identidad, la herramienta se pone a escanear los videos de la plataforma en busca de deepfakes que imiten la cara o la voz del creador. Si detecta una coincidencia sospechosa, el usuario puede denunciarla directamente desde la propia aplicación.
Es un movimiento que suena bien sobre el papel, pero que llega en un momento en el que los deepfakes ya llevan meses campando a sus anchas en TikTok. La plataforma se ha llenado de imitaciones de celebridades, políticos y creadores de contenido, a menudo con fines de desinformación o simplemente para rascar unos miles de likes con el morro fino.
YouTube ya tiene su propio detector. ¿Por qué TikTok no ha corrido más?
La comparación con YouTube es inevitable. La plataforma de Google lleva meses ofreciendo una herramienta similar para todos los usuarios adultos, que permite reclamar la suplantación de la apariencia por IA. TikTok, en cambio, ha optado por una fase beta muy reducida y, de momento, limitada a Estados Unidos.
La herramienta no es perfecta, pero es el primer paso serio de TikTok para enfrentarse a un problema que ya se ha comido la confianza en más de una plataforma.
La decisión de apoyarse en Jumio añade una capa de seguridad extra, pero también una barrera de entrada que muchos creadores pueden ver como un incordio. Nadie quiere pasar por un proceso de verificación de identidad como si estuviera abriendo una cuenta bancaria solo para que una red social detecte si alguien está usando su cara en un vídeo random.
Además, la herramienta solo escanea en busca de contenido que replique directamente la apariencia del creador verificado. Los deepfakes más genéricos, los que mezclan rasgos o crean rostros sintéticos sin atar a un usuario real, quedan fuera de su radar. Es decir, no es una solución contra la desinformación visual, sino un escudo para proteger las cuentas verificadas.
El contexto: una carrera por la identidad que TikTok no puede ignorar
Con la explosión de modelos como Sora o las nuevas versiones de Midjourney, generar un vídeo falso con la cara de cualquiera cuesta menos que una consumición en un bar de Malasaña. Las plataformas que basan su negocio en el contenido generado por humanos están en una carrera contrarreloj para distinguir lo real de lo sintético, y la verificación de identidad parece el siguiente paso lógico.
TikTok, como red que se ha construido sobre el contenido orgánico y el talento individual, necesita proteger la autenticidad de sus creadores estrella. Si los usuarios empiezan a desconfiar sistemáticamente de lo que ven en su feed, el algoritmo se viene abajo. Por eso este test, aunque pequeño y tardío, es una señal de que la compañía es consciente del problema.
La pregunta incómoda es si la propia TikTok está preparada para gestionar las consecuencias de una herramienta que, si se masifica, podría generar un aluvión de denuncias y falsos positivos. La moderación de contenido automática, como ya hemos visto en otras plataformas, tiende a ser un agujero negro de malentendidos y bloqueos injustos.
Hype-O-Meter
Nivel de hype: 5/10. La idea es necesaria, pero la ejecución es limitada y reactiva. YouTube ya lo tiene, y la verificación con Jumio, aunque segura, añade fricción. A TikTok le falta velocidad y alcance — y los deepfakes no van a esperar.
El resumen para vagos (TL;DR)
- 🎯 ¿Qué ha pasado? TikTok prueba un detector de deepfakes que verifica la identidad de los creadores con Jumio.
- 🔥 ¿Por qué importa? Proteger la autenticidad de los creadores es vital para la confianza en la plataforma.
- 🤔 ¿Nos afecta o es solo un meme? De momento es un test limitado para unos pocos en EE.UU., pero marca el rumbo.
