Por: Carlos A. FERREYROS SOTO
Doctor en Derecho
Universidad de Montpellier I Francia.
cferreyros@ferreyros-ferreyros.com
CURRÍCULUM
El proyecto PANAME tiene como objetivo desarrollar una herramienta para auditar la privacidad de los modelos de IA y así evaluar su cumplimiento con el RGPD. Consiste en una biblioteca de software , parcialmente de código abierto, diseñada para estandarizar las pruebas técnicas de extracción o reidentificación de datos.
El proyecto está liderado por la CNIL (Comisión Nacional de Informática y Libertades de Francia), la ANSSI (Agencia Nacional Francesa de Ciberseguridad), el PEReN (Programa Nacional Francés de Investigación para la Economía Digital) y el proyecto IPoP de Inria, y tendrá una duración de 18 meses. Actualmente, se está llevando a cabo una fase de pruebas con organismos gubernamentales y empresas para verificar que la herramienta cumpla con los requisitos de uso reales.
La convocatoria para la presentación de manifestaciones de interés estuvo abierta del 26 de febrero al 28 de marzo de 2026 para entidades públicas y privadas establecidas en la Unión Europea. Las respuestas debían enviarse electrónicamente a través del formulario proporcionado.
En resumen, PANAME busca simplificar, hacer más reproducibles y reducir los costes de las auditorías del RGPD de los modelos de IA.
No obstante, muchas de las propuestas de aplicaciones de IA en América Latina se debaten en sí éstas reemplazarán a los juristas o la usarán a su favor, o producirán cambios en el mercado jurídico/legal sin deterse a pensar antes sí la IA infringe las regulaciones sobre la privacidad/intimidad?
A fin de acceder a normas similares y estándares europeos, las empresas, organizaciones públicas y privadas positivas en asesorías, consultorías, capacitaciones, estudios, evaluaciones, auditorías sobre el tema, sírvanse comunicar al correo electrónico: cferreyros@ferreyros-ferreyros.com
________________________________________________________
Proyecto PANAME: Participa en las pruebas de una herramienta de auditoría del RGPD para los modelos de IA.
26 de febrero de 2026
La CNIL, la ANSSI, la PEReN e Inria han abierto una convocatoria para la presentación de manifestaciones de interés para probar una herramienta de auditoría llamada PANAME, que permite evaluar la confidencialidad de los modelos de IA y su cumplimiento con el RGPD.
La CNIL, la ANSSI, el PEReN y el proyecto IPoP del PEPR (programas y equipos de investigación prioritarios) de ciberseguridad, liderado por Inria, pusieron en marcha el proyecto PANAME ( Auditoría de privacidad de modelos de IA ) en junio de 2025.
Este proyecto tiene como objetivo desarrollar una herramienta para auditar la privacidad de los modelos de IA. Consistirá en una biblioteca que permitirá la extracción de datos y/o pruebas de reidentificación en modelos de IA.
En este contexto, se lanza una convocatoria para que las partes interesadas del ecosistema presenten manifestaciones de interés para participar en la fase de pruebas de esta biblioteca. La retroalimentación y la implementación de estas pruebas permitirán mejorar las funcionalidades y, en particular, garantizar que la herramienta posibilite una evaluación eficaz de conformidad al RGPD.
Modelos de IA y la protección de datos personales
Desde hace más de diez años, las investigaciones han demostrado que es posible extraer datos, incluidos datos personales, de un modelo de IA que figuraban el conjunto de datos de entrenamiento.
Esta extracción se puede realizar:
- mediante técnicas estadísticas a nivel del modelo a través del acceso total o parcial al mismo (función de coste, , activaciones…) ;
- o, en el caso de la IA generativa, consultando directamente al modelo mediante instrucciones ( prompt ).
Si bien estos métodos existen desde hace mucho tiempo, el auge de la IA generativa y su uso masivo han hecho que este riesgo sea más visible para el público en general.
Cuando los datos de entrenamiento están sujetos a regulaciones específicas, como datos personales, datos protegidos por derechos de autor o por secreto profesional, surge la pregunta de cómo aplicar dichas regulaciones al modelo de entrenamiento.
En particular, la opinión adoptada por el Comité Europeo de Protección de Datos (CEPD) en diciembre de 2024 recuerda que el RGPD se aplica, en muchos casos, a los modelos de IA entrenados con datos personales, debido a sus capacidades para También especifica que, con mucha frecuencia, es necesario demostrar en un análisis que un modelo entrenado con datos personales resiste las pruebas de extracción de información sobre los datos de entrenamiento para poder concluir que es anónimo, condición que permite excluir su uso del ámbito de aplicación del RGPD.
Recursos aún poco disponibles
Los investigadores llevan varios años trabajando en métodos de extracción. Sin embargo, su implementación suele limitarse a fases experimentales, para publicaciones científicas. Se han identificado, por tanto, varios obstáculos para su adopción por parte de la industria:
- una bibliografía académica dispersa y abundante: orientarse entre los recursos sobre el tema puede requerir tiempo y altas habilidades técnicas, especialmente para los actores más pequeños;
- Implementaciones que no siempre son adecuadas para un contexto industrial: incluso cuando están disponibles en código abierto , estas técnicas requieren un trabajo significativo de desarrollo e integración para poder utilizarse en producción;
- Falta de estandarización: actualmente no existe un marco unificado para formalizar la codificación de las pruebas de confidencialidad.
El proyecto PANAME
Para responder a estos desafíos y facilitar la evaluación del cumplimiento del RGPD, el proyecto PANAME (Privacy Auditing of AI Models) se puso en marcha en junio de 2025 .
Con una duración de 18 meses, prevé el desarrollo de una biblioteca de software disponible total o parcialmente como código abierto, con el fin de unificar la forma en que se evalúa la confidencialidad de los modelos.
El objetivo de la herramienta es permitir la implementación eficiente y rentable de ciertas pruebas técnicas para extraer información de los datos de entrenamiento que los agentes del ecosistema de IA puedan necesitar realizar para evaluar el estado de un modelo de IA con respecto al RGPD.
Tras una fase inicial de especificaciones técnicas y desarrollo en la librería, la CNIL, PEReN, ANSSI e Inria desean iniciar una fase de pruebas con administraciones e industrias para garantizar que el desarrollo de la herramienta sea coherente con su contexto de uso.
Esta convocatoria para la presentación de manifestaciones de interés tiene como objetivo identificar a los colaboradores para esta fase de pruebas.
Responder a la convocatoria de manifestaciones de interés (AMI)
Esta convocatoria para la presentación de manifestaciones de interés debería permitir identificar a los agentes (institucionales e industriales) que deseen probar la librería PANAME.
Está dirigida a todas las entidades públicas y privadas establecidas en los Estados miembros de la Unión Europea. Los socios se reservan el derecho de rechazar determinadas solicitudes que superen un umbral determinado (en este caso, también se publicará un aviso en redes sociales indicando el fin del plazo de solicitud) o si se consideran incompletas o irrelevantes.
La convocatoria para la presentación de manifestaciones de interés (AMI) estará abierta del 26 de febrero al 28 de marzo de 2026. Las respuestas podrán presentarse a partir de la fecha de publicación. Las solicitudes deberán enviarse exclusivamente por vía electrónica a la dirección de correo electrónico: paname-test@inria.fr y deberán ajustarse al formato del formulario de respuesta AMI disponible a continuación.
Descargue el AMI y el formulario de respuesta.
El formulario se encuentra en el Apéndice 1.
