Por: Carlos A. FERREYROS SOTO
Doctor en Derecho
Universidad de Montpellier I Francia.
RESUMEN
La
nota editada en caracteres itálicos constituye el Resumen Operacional de la IA
con Agentes y Protección de Datos. Ecuación con múltiples incógnitas para
usuarios, propuesta por la CNIL y la CIAnum.
El auge de la IA con agentes marca un cambio de escala en los usos de la inteligencia artificial (IA), lo que amplifica los riesgos de ciberseguridad - tema de un informe anterior de CIANum -, así como los riesgos para los datos personales de los usuarios, objeto del presente informe. En efecto, al ir más allá del simple procesamiento de solicitudes para lograr una mayor autonomía, los sistemas con agentes ponen en entredicho la aplicación del marco legal de protección de datos y diluyen el control de los usuarios sobre el flujo de sus datos personales.
Caracterizadas
por su capacidad para realizar múltiples tareas sucesivas e interconectar varios
agentes al sistema orquestador, las IA con agentes constituyen un cambio
disruptivo en el tratamiento y el flujo de datos personales. Ellas someten asi,
a prueba, los principios fundamentales del Reglamento General de Protección de
Datos (RGPD). No obstante, estos principios esenciales siguen siendo
absolutamente cruciales para la protección de datos personales, una cuestión
crítica en la era de la inteligencia artificial para evitar mayores derivas
sociales.
Esta
nota se centra en examinar la aplicación del RGPD a la IA con agentes, mientras
que la plena implementación del Reglamento sobre IA (RAI), prevista para 2027,
no incluye normas específicas para los agentes de IA.
El
funcionamiento y la mejora continua de los agentes de IA requieren un
conocimiento fino, continuo y evolutivo del usuario. Gracias a mecanismos de
memoria persistente, la IA con agentes crea perfiles de usuario de gran
precisión que, junto con una mayor autonomía en la toma de decisiones, aumentan
el riesgo de que los usuarios pierdan el control sobre sus datos personales.
Además,
los flujos, a veces opacos y que a menudo involucran múltiples servicios, complican
la asignación de responsabilidades entre los distintos actores de la cadena de
valor. La falta de transparencia en esta arquitectura agrava los riesgos asociados
a la toma de decisiones automatizadas, especialmente en sectores sensibles o regulados
(como el financiero o el judicial).
Finalmente,
esta nota identifica posibles vías de conciliación posibles para garantizar la
eficacia del marco jurídico y el despliegue de sistemas de IA con agentes, mediante
la implementación de mecanismos técnicos de control y supervisión. Desde una
perspectiva legal, esto requerirá normas de transparencia más estrictas con
respecto a la acción de los agentes o la necesidad de validación humana para
las decisiones más críticas human in the
loop (intervención humana). En el plano técnico, será importante integrar
medidas desde la etapa de diseño del sistema, como la compartimentación de la
memoria del agente para evitar la acumulación de datos, y el despliegue de la IA
en entornos aislados (sandboxing), o incluso la instalación de un botón de
apagado de emergencia accesible para el usuario. Entornos aislados (sandboxing), o incluso la instalación de
un botón de apagado de emergencia (kill
switch button) al alcance del usuario.
El
desarrollo de sistemas de IA fáciles de usar es un desafío mayor que debe
involucrar a todo el ecosistema para maximizar los beneficios de estas nuevas
tecnologías y, al mismo tiempo, protegernos colectivamente de los numerosos
riesgos que podrían materializarse.
A fin de acceder a normas similares y estándares europeos,
las empresas, organizaciones públicas y privadas interesadas en asesorías,
consultorías, capacitaciones, estudios, evaluaciones, auditorías sobre el tema,
sírvanse comunicar al correo electrónico:cferreyros@ferreyros-ferreyros.com
________________________________________________________
