Por: Carlos A. FERREYROS SOTO
Doctor en Derecho
Universidad de Montpellier I Francia.
La Comisión Nacional
de Informática y Libertades, CNIL, autoridad francesa de protección de datos personales
al someter a consulta pública nuevas fichas prácticas relacionadas con el desarrollo
de sistemas de inteligencia artificial, muestra cómo el Reglamento General de Protección
de Datos Personales, RGPD de la Unión Europea sensibiliza y promueve una Inteligencia
Artificial innovadora y responsable.
El presente artículo ha sido traducido del
francés al castellano por el suscrito con la ayuda del aplicativo Google Traductor,
el texto íntegro, y original se encuentran el siguiente enlace: https://www.cnil.fr/fr/intelligence-artificielle-la-cnil-poursuit-ses-travaux
A fin de acceder a normas similares y estándares
europeos, las empresas, organizaciones públicas y privados interesados en asesorías,
consultorías, capacitaciones, estudios, evaluaciones, auditorías sobre el tema,
sírvanse comunicar al correo electrónico: cferreyros@hotmail.com
___________________________________________________________________
Inteligencia
artificial: la CNIL continúa sus trabajos por una IA innovadora que respete la
privacidad
10 de junio de 2024
Al presentar a consulta pública nuevas fichas prácticas relacionadas con el desarrollo de sistemas de inteligencia artificial , la CNIL muestra cómo el Reglamento general de protección de datos (RGPD) promueve una IA innovadora y responsable.
Respondiendo a las
preguntas que plantea el desarrollo de la IA sobre la protección de datos y la
privacidad
El año 2022 estuvo marcado por el
despliegue y uso de sistemas de IA por y para el público en general. Desde
entonces, la CNIL ha observado una aceleración del deseo de adoptar estas
tecnologías, en todos los sectores de actividad: salud, servicios públicos,
seguridad pública, etc. Es consciente de que la adopción de esta tecnología es,
para Francia, un factor importante de competitividad, innovación y soberanía
para los próximos años.
De otro lado, la legislación europea
garantiza un alto nivel de protección de los derechos fundamentales y de muchas cuestiones que quedan por resolver en relación con la supervisión de estas
tecnologías y sus efectos sobre las personas. Por lo tanto, la necesidad de
respuestas es cada vez más urgente para permitir el desarrollo de la IA en un
marco de confianza.
Construir la
conexión entre el RGPD y la regulación de la IA
Mientras el reglamento europeo sobre la IA
acaba de ser adoptado y entrará en vigor de forma escalonada en los próximos
meses, la CNIL desea
aportar seguridad jurídica a los actores del sector anticipando la conexión
entre el reglamento sobre la IA y el RGPD. En efecto, el RGPD se aplica a los
proveedores de sistemas, independientemente del reglamento de la IA, cuando estos utilizan datos personales para su desarrollo.
Es en este contexto que la CNIL
abre, por segunda vez, una consulta ante todas las partes interesadas para
elaborar sus recomendaciones:
- Las fichas propuestas a consulta abordan varias cuestiones importantes de innovación y protección: el uso del web scraping, ampliamente utilizado en particular para los modelos de legunaje, la publicación de modelos de IA en código abierto (“open source”) pero también la gestión de los derechos de las personas, que constituye la piedra angular del marco jurídico en materia de datos personales;
- La CNIL propone igualmente un cuestionario sobre la aplicación del RGPD a los modelos de IA entrenados con datos personales.
Esta implementación de la consulta sigue las recomendaciones iniciales publicadas recientemente tras una
consulta pública.
Participar en
la consulta pública
Consultar e
intercambiar para construir una IA innovadora y responsable
Empresas, laboratorios,
autoridades públicas, colegios profesionales, federaciones profesionales...
la CNIL tuvo la oportunidad de mantener numerosos debates con los agentes
implicados en el diseño y desarrollo de los sistemas de IA. Estos pusieron de relieve la
necesidad de aclarar el marco jurídico aplicable a las prácticas más extendidas en
el sector con el fin de construir IAs innovadoras y responsables.
El interés legítimo
es la base jurídica más utilizada para el desarrollo de sistemas de IA.
Si bien pueden utilizarse varias bases jurídicas para justificar el tratamiento de datos personales con el fin de desarrollar un sistema de IA, la base del “interés legítimo” de la organización que lleva a cabo el entrenamiento es lo más frecuente que parece retenerse. Esta base requiere la implementación de una evaluación de riesgos para las personas y puede requerir condiciones de implementación específicas destinadas a proteger a las personas y sus datos. La CNIL ofrece elementos concretos para los responsables del tratamiento de datos , en particular cuando se utilizan técnicas de web scraping o la publicación de IA de código abierto.
La cosecha “ web
scraping ” de datos debe ser especialmente supervisada
El desarrollo de sistemas de IA necesita, en ciertos casos, el acceso a grandes bases de datos de gran tamaño que pueden
constituirse a partir de datos recopilados en línea. Importantes garantías técnicas
y organizativas son fundamentales para garantizar el respeto de los derechos,
porque en la mayoría de los casos, las personas cuyos datos se utilizan no
están informadas de la existencia de estos tratamientos. Para mejorar la
información y facilitar el ejercicio de los derechos de las personas, la CNIL
propone centralizar un registro voluntario de estas prácticas.
La distribución de
código abierto suele ser una práctica positiva también para la
protección de datos.
El ecosistema de IA se ha
construido históricamente en torno al intercambio y la colaboración
comunitaria. Este movimiento es beneficioso porque mejora la transparencia
sobre cómo funcionan los modelos y sistemas de IA y permite la discusión, la
revisión por pares y la mejora de estos modelos. Sin embargo, puede acentuar ciertos riesgos, como los de uso malicioso o relacionados con la seguridad.
La CNIL considera que la
difusión de código abierto es beneficiosa para la protección de datos
porque proporciona, en particular, una mayor transparencia para los individuos.
Esta práctica supone, sin embargo, que la apertura sea real y que se
implementen las garantías necesarias, en particular en lo que respecta a las
posibilidades de reutilización ofrecidas, así como al seguimiento de los
modelos y su evolución en el tiempo, con el fin de permitir la información y el
ejercicio. de derechos efectivos.
La información y el
ejercicio de los derechos de las personas deben ser centrales en la reflexión de los actores.
Informar y permitir el
ejercicio efectivo de los derechos son esenciales para la conformidad de los
sistemas de IA desarrollados a partir de datos personales. La CNIL ofrece claves de lectura
sobre los medios que se deben implementar para cumplir estas obligaciones
frente a los interesados e indica en qué casos se podrían aplicar exenciones.
También ofrece algunas respuestas sobre determinados derechos que entran en
conflicto con el carácter estadístico de la IA: el derecho de rectificación y el derecho de supresión, en
particular.
Cuestionamientos a la
aplicabilidad del RGPD a los modelos de IA
El aprendizaje automático o machine learning se basa en la creación de modelos. Estas son representaciones aprendidas de los datos de entrenamiento. Desde aproximadamente 2010, ha surgido un campo de investigación en informática sobre la protección de los modelos de IA y, en particular, las posibilidades de memorizar, extraer o regurgitar la información resultante del entrenamiento. Estos pueden tener importantes repercusiones para la confidencialidad de los datos personales y la cuestión de la aplicación del RGPD a los propios modelos, cuando no se consideran anónimos.
A través de un cuestionario específico accesible en la página de consulta pública, la CNIL solicita a los
profesionales afectados por esta cuestión que le ayuden a elaborar su
posición futura.
El desarrollo de sistemas de IA
es conciliable con cuestiones de protección de la privacidad. Más aun, tener en
cuenta este imperativo permitirá el surgimiento de dispositivos, herramientas y
aplicaciones éticas respetuosas de los derechos y libertades fundamentales. Es a esta condición que los los ciudadanos confiarán en estas tecnologías.
Ver las recomendaciones de la CNIL
Texto de referencia
Para ir más profundo
· Desarrollo de sistemas de IA:
recomendaciones de la CNIL para cumplir con el RGPD
·
#InteligenciaArtificial (IA) #Algoritmos #Consulta
No hay comentarios:
Publicar un comentario