La inteligencia artificial ha llegado para quedarse, y son muchas las aplicaciones que puede tener en ámbitos muy diversos. Gran parte de estos usos nos reportan grandes beneficios, sobre todo a la hora de poder automatizar ciertas tareas repetitivas que realizamos en nuestro día a día, pero no todo es positivo.
Más allá de quienes tienen una gran preocupación por el hecho de que la IA puede llegar a hacerles perder su puesto de trabajo, un informe de las autoridades de ciberseguridad de China ha alertado del riesgo que tienes esta tecnología en manos de terroristas, que aseguran que la podrían utilizar para crear armas mortales.
ALERTA SOBRE EL POTENCIAL DAÑINO DE LA INTELIGENCIA ARTIFICIAL
China, que ha preocupado al mundo al enseñar sus armas futuristas, ha alzado la voz de alarma por el potencial dañino que puede tener la inteligencia artificial para el mundo. Un documento elaborado de forma conjunta por el Comité Técnico de Estandarización Nacional de Ciberseguridad de China y el Equipo Nacional de Respuesta Técnica de Emergencia de Redes Informáticas lo ha advertido.
Desde estos organismos han asegurado que, de no tomarse las medidas apropiadas para poder hacerle frente, los grupos terroristas y extremistas podrían beneficiarse de la IA para adquirir conocimientos relevantes y desarrollar armas biológicas y nucleares, tal y como recoge SCMP.
Desde China se advierte que cualquier persona tiene la posibilidad de aprender a fabricar sus propias armas de destrucción masiva en cualquier parte del mundo gracias al conocimiento de la inteligencia artificial. Considera que se trata de "un riesgo real" por la capacidad de fabricar incluso misiles nucleares.
Ante esta circunstancia, las autoridades del país asiático consideran que el mundo está en peligro de "perder el control sobre el conocimiento y las capacidades de armas nucleares, biológicas, químicas y de misiles".
LA INTELIGENCIA ARTIFICIAL PUEDE AYUDAR A LOS TERRORISTAS
La inteligencia artificial combina la capacidad de poder adquirir el conocimiento de grandes cantidades de información y datos en internet con el poder generar una respuesta sintetizada, con el peligro que ello conlleva que pueda llegar a dictar paso a paso lo que se debe hacer para crear un arma mortal.
Los expertos aseguran que el problema principal se encuentra precisamente en el proceso de entrenamiento de los sistemas de IA. En su entrenamiento se emplean textos y datos ricos en contenido y de amplio alcance, incluyendo un conocimiento teórico fundamental que guarda relación con armas biológicas, químicas, nucleares y de misiles. Así lo asegura el documento, lo aseguran las autoridades de ciberseguridad chinas.
Desde China se asegura que, mientras que esta información estuvo restringida y controlada por gobiernos y organizaciones especializadas de forma tradicional, ahora es accesible para cualquiera que pueda acceder a modelos de inteligencia artificial avanzados.
La técnica que preocupa especialmente a las autoridades chinas es la "generación aumentada por recuperación". Este es un método de IA que accede a bases de conocimiento actualizadas y que puede combinar la información para generar respuestas detalladas. Así, se podría saber cómo, paso a paso, fabricar armas de destrucción masiva, sin necesidad de formación específica.
EL IMPACTO GEOPOLÍTICO DE LA INTELIGENCIA ARTIFICIAL
China, que revoluciona la guerra electrónica con una tecnología innovadora, hace hincapié en que las implicaciones geopolíticas son muy grandes. El motivo es que la inteligencia artificial en manos de terroristas podría hacer que sean ineficaces los sistemas de control existentes. Esto llevaría a que haya mayores amenazas para la paz y la seguridad global.
De igual forma, consideran que los medios utilizados de forma tradicional para poder ofrecer mayor seguridad a la ciudadanía, que están basados en conocimientos especializados y el control de materiales físicos, podrían volverse obsoletos una vez que la información más sensible esté disponible a través de la inteligencia artificial.
Hace aproximadamente un año, China dio comienzo a la Iniciativa Global de Gobernanza de IA, con el fin de estar en disposición de identificar los riesgos de las tecnologías de inteligencia artificial de doble uso que pueden ser una amenaza para la seguridad nacional. Al mismo tiempo, trabajan para reducir las posibilidades de que los terroristas puedan tener acceso a la fabricación de armas nucleares.
OTROS PELIGROS DE LA INTELIGENCIA ARTIFICIAL
Los riesgos de la inteligencia artificial van más allá del terrorismo, y en China consideran que es un gran peligro que las personas se sientan adictas a hablar con la IA “humanizada”, provocando que además la inteligencia artificial tenga impacto sobre la innovación y educación.
Por si esto fuera poco, las autoridades de ciberseguridad del país asiático destacan que este tipo de tecnología ya se está usando con el fin de realizar campañas masivas de desinformación, con las que se trata de manipular a los ciudadanos a nivel político. También se están dando estafas que son cada vez más sofisticadas para engañar a los ciudadanos, así como muchos casos de acoso cibernético que se cobran víctimas alrededor de todo el planeta.
Ante este panorama, los expertos consideran que es necesario comenzar a actuar para tomar medidas en las que pueda afrontarse un riesgo incontrolado que puede amenazar a la supervivencia y desarrollo de la humanidad a corto plazo. Las autoridades chinas instan a que se implementen las medidas necesarias para garantizar que la inteligencia humana esté siempre bajo el control humano.
Sin embargo, más allá de lo reflejado en el documento, destacan que la naturaleza distribuida y el código abierto de muchos desarrollos de IA hacen que cada vez sea más difícil tener la tecnología bajo control. De hecho, hay quienes aseguran que a día de hoy ya es imposible de controlar.
El documento de gobernanza de seguridad de la IA publicado por las máximas autoridades de ciberseguridad chinas insisten en la necesidad de actuar de forma inmediata. "Sin medidas suficientes, los grupos extremistas y los terroristas pueden ser capaces de adquirir conocimientos relevantes y desarrollar las capacidades necesarias para diseñar, fabricar, sintetizar y utilizar dichas armas con la ayuda de la inteligencia artificial", concluye este alarmante documento al respecto.
