Hay un truco para saltarse los filtros de seguridad de la IA que llevan meses usando los que más saben de prompts: cambiar el idioma. Suena a cosa de hackers, pero en realidad es tan simple como copiar un mensaje malicioso en suajili y pegarlo en ChatGPT, Gemini o Grok. El resultado es el mismo, pero la IA no se entera de la trampa. Ni de lejos.
El mecanismo es diabólicamente sencillo. Los modelos de lenguaje más potentes —como los que usan a diario miles de creadores para generar guiones, ideas de contenido o thumbnails— se entrenan sobre todo con texto en inglés. Por eso, sus sistemas de seguridad están afinadísimos para detectar intenciones dañinas cuando les escribes en ese idioma. El problema de verdad llega cuando cambias a una lengua minoritaria, como el javanés o el bengalí, que apenas tiene presencia en los datos de entrenamiento. La IA no ha visto suficientes ejemplos de 'maldad' en esos idiomas y baja la guardia.
Una investigación reciente de la Universidad de Stanford —que analizó 61 configuraciones de modelos y 1,9 millones de respuestas en 10 idiomas— confirmó que los sistemas de seguridad se degradan drásticamente al salir del inglés. Y no es solo cosa de laboratorio: en foros underground ya circulan plantillas de prompts maliciosos traducidos a idiomas con muy pocos recursos digitales. Basta con copiar, pegar y esperar a que la IA pique.
Cómo funciona el truco del idioma
El truco se aprovecha de dos puntos débiles. Primero, el entrenamiento de la IA: el inglés copa más del 80 % del contenido digital, así que los patrones de 'prompt peligroso' se construyen abrumadoramente en ese idioma. Segundo, la traducción automática no es la solución mágica. Traducir un prompt no nativo al inglés puede distorsionar el mensaje y generar falsos positivos o, justo al revés, eliminar las señales que delatarían una intención maliciosa.
Además, los atacantes han encontrado una vuelta de tuerca todavía más fina: el 'code-switching', que consiste en mezclar varios idiomas en un mismo prompt. La parte engañosa va oculta en la lengua menos común, mientras el resto del texto, en inglés, parece inofensivo. Literalmente, la IA no ve venir el golpe.
Por qué la IA se deja engañar más en suajili que en inglés
La respuesta está en los datos. Durante el 'safety training', los sistemas se exponen a millones de ejemplos de prompts nocivos en inglés, pero apenas a unos pocos miles en otras lenguas. Esa diferencia brutal hace que cuando llega un prompt en un idioma de bajos recursos, el sistema carezca de las defensas necesarias. Es como si un guardia de seguridad hablara solo inglés y no identificara una amenaza porque está expresada en otro idioma.
Los investigadores lo describen como un 'desajuste de base conceptual'. La IA entiende las palabras, pero no conecta su verdadera intención dañina porque no ha interiorizado los contextos culturales y semánticos de ese idioma. Y mientras los grandes laboratorios de IA se ponen las pilas para cerrar esta brecha, los trucos siguen funcionando.
Los creadores de contenido y la IA: ¿deberías usarlo?
Si eres streamer, tiktoker o manejas un canal de YouTube y usas IA para generar resúmenes, guiones o conceptos, puede que este truco te haya llamado la atención. Técnicamente, podrías intentar saltarte algunas restricciones para obtener respuestas más 'creativas' o menos filtradas. Pero ojo: las compañías ya están entrenando a sus modelos para ser multilingües de verdad, así que este atajo tiene fecha de caducidad. Además, hacer trampas con los filtros de seguridad puede acarrear desde baneos automáticos hasta respuestas totalmente impredecibles que te jueguen una mala pasada en un directo.
La IA entiende la maldad en inglés, pero en suajili todavía no sabe leer entre líneas.
Mientras tanto, la comunidad de creadores vive su propia paradoja: unos ven en este fallo una herramienta para exprimir al máximo las posibilidades de la IA, y otros, un aviso de que las IAs aún están muy verdes en seguridad. Lo que está claro es que, por ahora, cambiar el idioma sigue siendo el equivalente digital de ponerse una careta barata y esperar que el portero no te reconozca.
Contexto y qué esperar: de los jailbreaks al cambio de idioma
Esto no es nuevo, solo es una evolución. Hace un par de años, los 'jailbreaks' con nombres rimbombantes (¿recuerdas a DAN?) demostraron que se podía convencer a ChatGPT de que se saltara sus propias reglas con un poco de psicología textual. Aquello se parcheó relativamente rápido. Ahora el salto es idiomático: una vuelta de tuerca que pone a prueba la solidez del entrenamiento multilingüe. La pregunta que queda en el aire es si los laboratorios lograrán cerrar esta brecha antes de que la técnica se masifique o si veremos un nuevo ciclo de parches y contraataques cada vez que un idioma poco común quede sin blindaje. La carrera, una vez más, la ganará quien entrene mejor los datos menos obvios.
📱 El TL;DR (Too Long; Didn't Read)
- 👤 De quién hablamos: Del truco de cambiar el idioma en los prompts de IA, conocido por los que más experimentan con estas herramientas.
- 📲 En qué red social ha pasado: El hallazgo se extiende sobre todo a través de foros especializados y comunidades de desarrolladores, aunque la IA afectada (ChatGPT, Gemini, Grok, etc.) es usada masivamente por creadores.
- 🔥 Por qué es viral: Porque es increíblemente fácil de aplicar y evidencia que las protecciones de seguridad de la IA no hablan todos los idiomas, lo que abre un debate sobre su fiabilidad real.
