Alguien en TikTok pulsó el botón de 'grupo de control' y Chase Nasca, de 16 años, quedó al otro lado del experimento.
El A/B testing es tan viejo como el desarrollo de producto: se separa a los usuarios en dos grupos, se cambia una variable y se mide. TikTok lo aplicó a principios de 2022 para intentar reducir los bucles de contenido dañino. El problema no fue la prueba. Fue lo que decidieron no activar para una parte de la muestra.
Un control de 15 millones de personas
La nueva versión del algoritmo se desplegó para la gran mayoría de los usuarios. El grupo de control se quedó con la versión anterior: 15 millones de usuarios siguieron viendo el feed sin la red de seguridad, alrededor del 10% de los usuarios estadounidenses de la plataforma. Chase Nasca fue elegido de forma aleatoria para estar en ese grupo.
Durante las dos semanas previas a su muerte, TikTok le recomendó 7.563 vídeos. El 73% del contenido recomendado trataba sobre sufrimiento emocional, soledad o depresión. Casi el 10% incumplía las normas de la plataforma sobre autolesiones y suicidio. En las horas previas, el adolescente marcó como favoritos varios vídeos sobre suicidio.
La burbuja que no se rompió
El documento interno, filtrado en el marco de una demanda, recoge una frase que duele leer: 'por diseño'. La cuenta de Chase quedó atrapada en una burbuja de filtros porque la salvaguarda nunca estuvo activada en su versión del algoritmo. Sus búsquedas de deportes y comedia derivaron en canciones sobre sentirse solo, y a partir de ahí el sistema no dejó de recomendar contenido suicida.
La investigación no nació de un ataque de autocrítica. Bloomberg Businessweek contactó con la compañía en marzo de 2023 y solo entonces el equipo analizó la cuenta de Chase. Dos semanas antes, su CEO ya había negado ante el Congreso que la plataforma pudiera provocar suicidios. TikTok conocía el caso mientras mantenía su versión oficial.
Mientras Chase entraba en bucle con vídeos de suicidio, TikTok mantenía activa la versión del algoritmo que su propio equipo intentaba corregir.
Lo que el comunicado actual no responde
En su respuesta actual, la compañía insiste en que la seguridad de los adolescentes es su prioridad y que refuerza equipos e inversiones. Suena impecable. El problema es que este documento no habla de un fallo imprevisto, sino de una decisión estructural. Usar a millones de personas sin salvaguarda como grupo de control convierte la prevención del suicidio en una variable experimental.
El precedente no es nuevo: cada vez que una plataforma diseña para maximizar tiempo de uso, los usuarios más vulnerables pagan el coste. La UE y varios estados de EE UU aprietan, pero este caso demuestra que los algoritmos no actúan solos. Alguien decide qué versión toca, a quién y durante cuánto tiempo. Esa decisión no es magia. Es producto.
Hype-O-Meter
Nivel de hype: 2/10. No hay nada que celebrar: existe un documento judicial, 15 millones de usuarios sin red y una familia rota. Si esto fuese el lanzamiento de un nuevo feed, habría aplausos; aquí solo hay un tribunal y una pregunta incómoda.
El resumen para vagos (TL;DR)
- 🎯 ¿Qué ha pasado? TikTok mantuvo a 15 millones de usuarios en un grupo de control sin salvaguarda; un adolescente se suicidó.
- 🔥 ¿Por qué importa? El documento interno reconoce que el feed de Chase quedó atrapado por diseño en contenido suicida.
- 🤔 ¿Nos afecta o es solo un meme? No es un meme: explica la adicción y el daño que Bruselas y los estados de EE UU intentan regular.
