INTELIGENCIA ARTIFICIAL Y TECNOLOGÍAS DE PRÓXIMA GENERACIÓN – ENISA, UNION EUROPEA

 Por: Carlos A. FERREYROS SOTO

Doctor en Derecho

Universidad de Montpellier I Francia.

cferreyros@ferreyros-ferreyros.com

Resumen

La Agencia de la Unión Europea para la Ciberseguridad, ENISA desempeña un papel fundamental en la anticipación y gestión de los retos asociados a la transformación digital, en particular la IA y la computación cuántica. El objetivo estratégico de la agencia es desarrollar una metodología de previsión para identificar amenazas futuras, mapear los desafíos emergentes y priorizar los esfuerzos en tecnologías con un gran impacto en la ciberseguridad.

La IA está revolucionando muchos sectores (sanidad, finanzas, vehículos autónomos, atención al cliente, etc.) al automatizar tareas que requieren inteligencia humana. Sin embargo, su integración también genera nuevos riesgos: manipulación de resultados, ataques dirigidos y desafíos para la seguridad y confidencialidad de los datos. Paradójicamente, la IA también puede convertirse en una herramienta poderosa para fortalecer la ciberseguridad, siempre que se implementen medidas específicas que garanticen la fiabilidad y seguridad de los propios sistemas de IA.

ENISA se mantiene al día de la rápida evolución de las tecnologías digitales, incluyendo la IA y la computación cuántica, y publica regularmente informes y estudios sobre estos temas. La Ley de Inteligencia Artificial de la UE, vigente desde agosto de 2024, introduce un marco regulatorio basado en riesgos para la IA, al cual ENISA apoya en su implementación, proporcionando orientación y recomendaciones para garantizar ejecuciones de IA seguras y fiables.

Entre las tecnologías de próxima generación destaca la computación cuántica que representa un riesgo significativo para los sistemas criptográficos actuales, pudiendo vulnerar los métodos de cifrado más utilizados. También ENISA apoya activamente el desarrollo y la estandarización de algoritmos criptográficos poscuánticos para preparar el futuro de la computación cuántica.  Finalmente, ENISA trabaja con la Comisión Europea, los Estados miembros y otros organismos de la UE para promover las buenas prácticas y garantizar un enfoque coordinado ante los nuevos desafíos criptográficos.

A fin de acceder a normas similares y estándares europeos, las empresas, organizaciones públicas y privados interesados en asesorías, consultorías, capacitaciones, estudios, evaluaciones, auditorías sobre el tema, sírvanse comunicar al correo electrónico: cferreyros@ferreyros-ferreyros.com

______________________________________________________

La Agencia de la Unión Europea para la Ciberseguridad, ENISA, se mantiene al día en la rápida evolución digital, las tecnologías emergentes y los desafíos que plantean actualmente la IA y la era de la computación cuántica.

Inteligencia Artificial y tecnologías de nueva generación

Como uno de los principales objetivos estratégicos de ENISA, la prospectiva permite reflexionar sobre posibles futuros y sobre la preparación estratégica anticipándose a escenarios plausibles. ENISA desarrolló una metodología de prospectiva aplicada para identificar futuras amenazas de ciberseguridad, mapear los desafíos emergentes y priorizar los esfuerzos en nuevas tecnologías con posibles implicaciones para la ciberseguridad.

ENISA se mantiene alerta y al día con la información y las directrices más recientes sobre los avances en ciberseguridad en áreas emergentes. Un ejemplo de este enfoque específico son los informes y estudios sobre temas relacionados con la Inteligencia Artificial (IA) publicados por ENISA en los últimos años. Entre ellos se incluyen "Ciberseguros: modelos y métodos y el uso de la IA" (2024), "Investigación sobre Inteligencia Artificial y Ciberseguridad" y "¿Es posible una IA segura y confiable?". La UE lidera el camino, la atención a la brecha en la estandarización de la ciberseguridad para la inteligencia artificial y una serie de informes sobre ciberseguridad y privacidad en la IA, entre otros, todos publicados en 2023.

La inteligencia artificial es un campo de la informática cuyo objetivo es facilitar la creación de sistemas capaces de realizar tareas que normalmente requieren inteligencia humana. Estas tareas pueden abarcar cualquier aspecto relacionado con la toma de decisiones, la resolución de problemas, el aprendizaje a partir de datos, el reconocimiento de voz y la comprensión del lenguaje natural. Las tecnologías de IA, en rápida evolución, ya están profundamente integradas en diversos sectores, desde la sanidad y las finanzas hasta los vehículos autónomos y la atención al cliente. Si bien es indudable que es beneficiosa, la IA y su aplicación a la toma de decisiones automatizada, especialmente en entornos donde la seguridad es crucial, podrían abrir nuevas vías para la manipulación y los métodos de ataque, a la vez que plantean nuevos desafíos para la seguridad y la privacidad.

Es fundamental reconocer el doble papel de la IA en la seguridad: si bien puede explotarse para manipular los resultados esperados, las técnicas de IA también pueden mejorar las operaciones de seguridad y ayudar a mitigar los ataques adversarios. Sin embargo, el uso de la IA como herramienta de ciberseguridad es esencial para desarrollar medidas específicas que garanticen la fiabilidad y la seguridad de los propios sistemas o herramientas de IA. En este sentido, la Unión Europea introdujo la Ley Europea de Inteligencia Artificial (Ley de IA), el primer reglamento integral sobre inteligencia artificial. El Reglamento (UE) 2024/1689 entró en vigor el 1 de agosto de 2024 y tiene como objetivo apoyar el desarrollo y la aplicación responsables de la IA en la UE. Al adoptar un enfoque de seguridad de los productos basado en los niveles de riesgo, el reglamento establece un conjunto uniforme de requisitos y obligaciones para el uso de la IA.

ENISA continúa supervisando y evaluando los riesgos específicos asociados a las tecnologías emergentes a través de su pertenencia al Grupo de Cooperación NIS. Este último también trabaja para garantizar la seguridad de las infraestructuras críticas en Europa. Además, ENISA ha establecido un Grupo de Trabajo ad hoc sobre Prospectiva para los Desafíos Emergentes y Futuros de la Ciberseguridad para realizar sistemáticamente ejercicios de prospectiva. Por último, pero no menos importante, la Agencia continúa trabajando en el análisis del ecosistema de ciberseguridad de la IA y en la elaboración de recomendaciones de seguridad para los desafíos previstos.

Criptografía Postcuántica

La criptografía es un componente vital de la ciberseguridad, ya que propiedades de seguridad como la confidencialidad, la integridad, la autenticación y el no repudio dependen en gran medida de los mecanismos criptográficos. La introducción de la tecnología cuántica promete impulsar avances significativos en múltiples industrias, ya que tiene el potencial de resolver problemas aún no resueltos por las tecnologías actuales. Sin embargo, también presenta desafíos significativos para la infraestructura de seguridad, especialmente en el ámbito de la criptografía.

El auge de la computación cuántica plantea inquietudes sobre la integridad y la seguridad de las soluciones criptográficas actuales, lo que lleva al desarrollo del campo de la criptografía postcuántica. El objetivo de estos desarrollos es crear soluciones criptográficas diseñadas para ser seguras contra las posibles amenazas que plantean las computadoras cuánticas. Si bien las computadoras cuánticas tienen el potencial de descifrar muchos de los sistemas criptográficos actualmente en uso, la criptografía postcuántica busca proporcionar soluciones alternativas que se mantengan seguras incluso en un mundo con computación cuántica.

ENISA lleva varios años trabajando en criptografía poscuántica y ha elaborado informes sobre el estado actual del arte y las técnicas de mitigación para desafíos relevantes. El trabajo de ENISA ofrece una visión general concisa del progreso del proceso de estandarización de los esquemas de criptografía poscuántica e introduce un marco para analizar las soluciones existentes resistentes a la tecnología cuántica, clasificándolas en familias y analizando sus ventajas y desventajas. Además, la integración de la criptografía poscuántica con las soluciones criptográficas y los protocolos de comunicación existentes es una de las principales prioridades de ENISA.

En colaboración con la Comisión Europea, los Estados miembros y otros organismos de la UE, ENISA colabora con grupos de expertos para abordar los desafíos emergentes y promover las buenas prácticas, especialmente en el contexto de la criptografía poscuántica.