Por: Carlos A. FERREYROS SOTO
Doctor en Derecho
Universidad de
Montpellier I Francia.
cferreyros@ferreyros-ferreyros.com
Resumen
PANAME es un proyecto colaborativo que reúne laboratorios de investigación, empresas especializadas en ciberseguridad
e IA, así como instituciones públicas comprometidas con la protección de datos,
entre ellas, la CNIL, la ANSI, el PEReN; y el (PEPR)
Ciberseguridad.
Sus objetivos principales son:
Auditar la
confidencialidad de los modelos de IA para identificar posibles
vulnerabilidades; Proponer soluciones innovadoras para proteger los datos
personales y sensibles utilizados en el entrenamiento de modelos; Formar conciencia
y capacitar a los actores sobre la confidencialidad en IA.
Su
metodología se basa en el: Análisis de riesgos (Evaluación de técnicas
de ataque para extraer información confidencial de los modelos de IA); Desarrollo
de herramientas de auditoría (Creación de métodos y software para evaluar la
robustez de los modelos frente a estos ataques); y Evaluación comparativa y
recomendaciones (Comparación del rendimiento de los modelos y formulación de
recomendaciones para mejorar su confidencialidad).
El presente artículo fue traducido del francés al castellano por el suscrito con la ayuda del aplicativo Google Translator, el texto original se encuentra en el siguiente enlace: https://www.cnil.fr/fr/paname-un-partenariat-pour-laudit-de-la-confidentialite-des-modeles-dia
A fin de acceder a normas similares y estándares europeos, las empresas, organizaciones públicas y privados interesados en asesorías, consultorías, capacitaciones, estudios, evaluaciones, auditorías sobre el tema, sírvanse comunicar al correo electrónico: cferreyros@ferreyros-ferreyros.com
____________________________________
PANAME: una alianza para
auditar la confidencialidad de los modelos de IA
26 de junio de 2025
La Comisión Nacional de Informática y Libertades, CNIL; la Agencia Nacional de Seguridad de los Sistemas de
Información, ANSSI; el Centro de
Expertos en Regulación Digital, PEReN; y el proyecto de Programa y equipos prioritarios de
investigación (PEPR) Ciberseguridad,
Protección de datos Personales, IPoP; lanzan PANAME, un proyecto destinado a
desarrollar una herramienta para auditar la confidencialidad de los modelos de
IA.
Auditar los modelos para evaluar su conformidad
El dictamen adoptado por el Comité Europeo de Protección de Datos (CEPD) en diciembre de 2024 recuerda que el RGPD se aplica, en muchos casos, a los modelos de IA entrenados con datos personales, debido a sus capacidades de memorización (véase el artículo de LINC Pequeña taxonomía de ataques a sistemas de IA ).
También precisa que muy a menudo es necesario demostrar en un análisis que un modelo resiste a los ataques sobre la confidencialidad de los datos para concluir que tiene carácter anónimo, condición que permite retirarlo del ámbito de aplicación del RGPD.
La CNIL publicará próximamente recomendaciones para ayudar a las partes interesadas a realizar y documentar este análisis.
Recursos aún escasos
Desde los últimos diez años, los investigadores han realizado numerosos estudios sobre ataques a la confidencialidad. Sin embargo, su implementación suele ser experimental, en publicaciones científicas. Se han identificado varios obstáculos para su adopción por parte de la industria:
· Casos de uso que no siempre se adaptan a un contexto industrial : incluso cuando están disponibles en código abierto.
Un consorcio con habilidades complementarias para crear una nueva herramienta
Para responder a los problemas de cumplimiento y eliminar los obstáculos identificados, la CNIL y sus socios están lanzando el proyecto PANAME (Auditoría de Privacidad de Modelos de IA).
Durante 18 meses, PEReN, ANSSI, el proyecto IPoP de Ciberseguridad de los PEPR (programas y equipos de investigación prioritarios) y la CNIL trabajarán juntos para desarrollar una biblioteca de programas informáticos disponible total o parcialmente en código abierto, destinada a unificar la forma en que se prueba la confidencialidad de los modelos.
Cada asociado contribuirá según su área de especialización:
· El PEReN será el principal responsable del desarrollo de la biblioteca;
· La ANSSI aportará su experiencia en materia cibernética, en particular en el contexto de ataques a los sistemas informáticos;
· El Proyecto IPoP asegurará el liderazgo científico para el proyecto;
· La CNIL supervisará el proyecto y proporcionará el marco jurídico.
El objetivo de la herramienta es facilitar la implementación eficiente y rentable de ciertas pruebas técnicas de evaluación de la privacidad que los actores del ecosistema de IA pueden realizar para evaluar el cumplimiento del RGPD de un modelo de IA. Se prevén fases de prueba con organismos gubernamentales y fabricantes para garantizar que el desarrollo de la herramienta sea coherente con su contexto de uso.
Texto de referencia
Texto de referencia
· El Reglamento General de Protección de Datos (RGPD)
· #Inteligencia Artificial (IA)
No hay comentarios:
Publicar un comentario