La inteligencia artificial (IA) se ha convertido en una de las tendencias tecnológicas más influyentes y revolucionarias de los últimos años. A medida que esta tecnología continúa avanzando y desempeñando un papel cada vez más importante en la sociedad y los negocios, también surgen preocupaciones en torno a su uso malintencionado. Un reciente estudio de ISACA, la principal asociación profesional de confianza digital, arroja luz sobre las preocupaciones de los expertos en tecnología en Europa sobre el uso, el riesgo y el impacto de la IA generativa, una forma de IA que puede crear contenidos escritos y visuales, entre otros.
Expertos en tecnología en Europa preocupados por su uso malintencionado
ISACA, la principal entidad de confianza digital y asociación profesional, ha publicado un nuevo informe que arroja luz sobre la utilización, los riesgos y las implicaciones de la inteligencia artificial generativa (IA generativa), una tecnología que tiene la capacidad de crear contenido escrito, visual y otros tipos de medios. De los 334 profesionales encuestados en empresas y tecnología de la información en toda Europa, el 99% manifiesta inquietud en cierta medida sobre la posibilidad de que la IA generativa sea explotada por individuos malintencionados. Además, un 74% de ellos cree que los ciberdelincuentes están aprovechando la IA con un éxito igual o incluso mayor que los expertos en confianza digital.
Sin embargo, a pesar de estas crecientes preocupaciones, la toma de medidas concretas no ha sido generalizada, ya que solo el 28% de los encuestados considera que los riesgos relacionados con la IA son una prioridad inmediata. Sorprendentemente, solo el 10% de las organizaciones cuenta con políticas formales y exhaustivas que regulen el uso de la tecnología de IA, y un 29% carece de políticas y no planea implementarlas.
A pesar de las evidentes preocupaciones relacionadas con la IA, solo el 7% de las organizaciones proporciona formación en IA a todos sus empleados. Uno de cada diez profesionales en el ámbito empresarial y de TI (10%) percibe un aumento en las responsabilidades laborales dentro de sus organizaciones como resultado de los avances en la IA generativa, y esta tendencia parece destinada a crecer, dado que casi el 79% de los encuestados coincide en que la IA modificará muchos puestos de trabajo en los próximos cinco años. El auge de la adopción de la IA conlleva que el 81% de los encuestados reconozca la necesidad de mejorar sus habilidades y conocimientos para mantener sus empleos o avanzar en sus carreras profesionales.
Las empresas empiezan a darse cuenta del auge de la IA y, de hecho, casi una de cada cinco (19%) planea aumentar el número de puestos de trabajo relacionados con la IA en el próximo año. También están conscientes de los beneficios potenciales que esta tecnología puede aportar, ya que los encuestados consideran que tendrá un impacto positivo en su sector (60%), en sus organizaciones (54%) y en sus trayectorias profesionales (46%) en los próximos cinco años.
[/netxpage]
La inquietud de los expertos en tecnología
El informe de ISACA se basa en una encuesta a 334 profesionales de empresas y tecnología de la información en toda Europa. Uno de los hallazgos más destacados es que el 99% de los encuestados manifiesta preocupación en cierta medida por la posible explotación de la IA generativa por parte de agentes malintencionados. Esto indica que la comunidad de expertos en tecnología en Europa considera que la IA generativa es una tecnología con un alto potencial de abuso.
[/netxpage]
La IA generativa en el punto de mira
La IA generativa se ha destacado en este estudio como una tecnología particularmente inquietante. Esta forma de IA tiene la capacidad de generar contenido escrito y visual, incluyendo texto, imágenes, videos y otros medios. Si bien la IA generativa tiene aplicaciones legítimas y valiosas, como la creación de arte, la generación de contenido para redes sociales y la automatización de tareas creativas, su potencial para ser utilizada de manera maliciosa también es evidente. La creación de contenido falso o engañoso, la suplantación de identidad y la manipulación de información son algunas de las amenazas que se asocian con la IA generativa.
[/netxpage]
Los ciberdelincuentes aprovechan la IA
Otro hallazgo preocupante del estudio es que el 74% de los encuestados cree que los ciberdelincuentes están aprovechando la IA con igual o mayor éxito que los profesionales de la confianza digital. Esto indica que, en la percepción de los expertos en tecnología, los delincuentes han adoptado la IA generativa como una herramienta efectiva para llevar a cabo actividades maliciosas. La capacidad de crear contenido falso con facilidad y sofisticación plantea un desafío significativo para la detección y la mitigación de las amenazas en línea.
[/netxpage]
Riesgos que no se traducen en acción
A pesar de estas crecientes preocupaciones, el estudio destaca una brecha significativa entre la percepción de los riesgos asociados con la IA generativa y la toma de medidas concretas. Solo el 28% de los encuestados percibe los riesgos relacionados con la IA generativa como una prioridad inmediata en sus organizaciones. Esto indica que, a pesar de la inquietud, la acción para abordar estos riesgos no ha sido generalizada.
[/netxpage]
Políticas de regulación insuficientes
Uno de los hallazgos más destacados es que solo el 10% de las organizaciones encuestadas cuenta con políticas formales y exhaustivas que regulan el uso de la tecnología de IA. Esto significa que la gran mayoría de las organizaciones carece de directrices claras y políticas específicas para gestionar el uso de la IA generativa. Aún más preocupante es que el 29% de las organizaciones no tiene ninguna política en absoluto y no tiene planes para implementarlas en el futuro cercano.
Esta falta de regulación y políticas claras puede dejar a las organizaciones vulnerables a posibles abusos de la IA generativa, ya que no tienen las directrices necesarias para mitigar los riesgos y protegerse de amenazas maliciosas.
El estudio de ISACA sobre la IA generativa pone de manifiesto la creciente preocupación de los expertos en tecnología en Europa sobre el uso malintencionado de la inteligencia artificial. A pesar de su potencial innovador, la IA generativa plantea riesgos significativos que requieren una mayor atención por parte de las organizaciones y los responsables de la toma de decisiones. La falta de regulación y políticas claras, así como la necesidad de formación en IA, son áreas que requieren una acción inmediata para abordar los riesgos.
[/netxpage]
