jueves, 21 de mayo de 2026

INFORME ANUAL: LOGROS Y ACCIONES DE LA CNIL EN 2025.

Por: Carlos A. FERREYROS SOTO

Doctor en Derecho

Universidad de Montpellier I Francia.

cferreyros@ferreyros-ferreyros.com

RESUMEN

 El informe anual de la CNIL de 2025 confirma que las sanciones casi se han duplicado, alcanzando un total de casi 487 millones de euros, lo que refleja una estrategia de aplicación proactiva y selectiva.

La ciberseguridad se está convirtiendo en la piedra angular de la regulación: 6.167 infracciones notificadas, un tercio de las auditorías y el 30 % de las sanciones están relacionadas con fallos de seguridad, de conformidad con el artículo 32 del RGPD.

La CNIL sigue reforzando el principio de responsabilidad exigiendo más pruebas del cumplimiento de las medidas técnicas y organizativas, especialmente entre los subcontratistas.

Las principales sanciones se refieren a las cookies, la trazabilidad de empleados, la videovigilancia y la seguridad, y se utiliza cada vez más un procedimiento simplificado para agilizar la tramitación.

En cuanto a la IA, la CNIL se está preparando para la implementación del Reglamento Europeo de IA, publicando recursos para desarrolladores y desarrollando herramientas de trazabilidad (PANAME Privacy Auditing of AI Models  con ANSSI, Inria y PEReN). El informe marca un claro replanteamiento estratégico: la seguridad y la regulación de los usos digitales sensibles se convierten en prioridades para 2026 (el 50 % de las auditorías y sanciones se dedicarán a la seguridad).

Desde el punto de vista legal, esto implica una mayor carga de la prueba para los responsables del tratamiento de datos y una mayor responsabilidad a lo largo de toda la cadena de subcontratación.

Finalmente, los profesionales deben revisar sus Evaluaciones de Impacto en la Protección de Datos (EIPD), registros y cláusulas contractuales para anticiparse a los controles y evitar sanciones.

A fin de acceder a normas similares y estándares europeos, las empresas, organizaciones públicas y privadas interesadas en asesorías, consultorías, capacitaciones, estudios, evaluaciones, auditorías sobre el tema, sírvanse comunicar al correo electrónico:cferreyros@ferreyros-ferreyros.com

________________________________________________________

Informe anual: Logros y acciones clave de la CNIL en 2025

18 de mayo de 2026


Apoyar a los profesionales, controlar sus prácticas, sensibilizar a la ciudadanía, pero también regular la IA, la ciberseguridad y la cooperación europea… la CNIL hace el balance de un intenso 2025, dedicado a la protección de los datos personales y la privacidad de todos.

Cada año, la CNIL publica su informe de actividades para hacer el balance de sus acciones en torno a sus cuatro misiones principales: informar y proteger público en general, apoyar y asesorar a profesionales y autoridades públicas, anticipar e innovar para construir el mundo digital del mañana y, por último, controlar y sancionar las infracciones a las exigencias de protección de datos, que se derivan en particular del Reglamento General de Protección de Datos (RGPD).

2025 estuvo marcado notablemente por un alza muy importante de las quejas recibidas , un monto total de multas inéditas, pero también un número récord de notificaciones de violación de datos . A pesar de los recursos limitados debido a su mayor carga de trabajo, la CNIL se está organizando y transformando, particularmente para apoyar la implementación gradual del reglamento sobre la(RIA) .

También innova en las herramientas queella propone , como las dirigidas a jóvenes y familias, incluida la aplicación FantomApp, dedicada a los adolescentes y financiada por la Comisión Europea.

Portada y páginas del informe anual de 2025

Descargue el informe anual de la CNIL de 2025.

Acompañamiento: una gama de herramientas para todos los profesionales

Para elaborar recomendaciones que reflejen fielmente las prácticas y expectativas de los profesionales, en 2025 se pusieron en marcha 7 consultas públicas sobre diversos temas: vehículos conectados, historiales médicos, otorgamiento de créditos, dispositivos de trazabilidad en Internet y vivienda social.

Apoyo proactivo: 90 revisiones de borradores de textos; 539 solicitudes de autorización procesadas en el sector sanitario; 1.351 solicitudes de asesoramiento procesadas; 6 proyectos innovadores de la economía plateada apoyados

Además, la CNIL ha publicado guías prácticas que describen las normas y las mejores prácticas para diversas situaciones, como la publicación de listas escolares o el uso de cámaras de realidad umentada, la reutilización de bases de datos y para candidatos y partidos políticos durante las elecciones. Asimismo, ha apoyado seis proyectos innovadores en la economía plateada (la economía de las personas mayores) como parte de su programa de "sandbox".

Además, la CNIL tramitó 539 solicitudes de autorización sanitaria (para investigaciones, estudios o evaluaciones que no entran dentro del ámbito de aplicación de ninguno de sus marcos de referencia), incluidos 406  expedientes de investigación sanitaria.

Finalmente, la CNIL tramitó 1.351 solicitudes de asesoramiento de profesionales y emitió 90 dictámenes sobre proyectos de ley o textos reglamentarios, principalmente a petición del gobierno.

Quejas: un aumento récord de las solicitudes

En 2025, la CNIL (Autoridad Nacional de Informática y Libertades de Francia) registró un nuevo récord de quejas, alcanzando las 20.150, lo que supone un aumento del 10 % con respecto a 2024. Los principales problemas detectados fueron las infracciones de la normativa de protección de datos y privacidad en el ámbito laboral, comercial, inmobiliario y en las redes sociales. Aproximadamente 1.900 quejas se referían directamente a violaciones de datos.

La CNIL colabora diariamente con otras autoridades europeas de protección de datos. Ella ha transmitido así más de 230 quejas transfronterizas y ha respondido a 600 solicitudes de sus homólogas .

Quejas, controles, sanciones: 20.150 quejas recibidas; 323 controles; 83 sanciones; 487 millones de euros en multas.

Controles y sanciones: una cantidad de multas sin precedentes

Como cada año, la CNIL realizó controles antes organizaciones públicas y privadas a raíz de quejas, de señalamientos, en función de la actualidad o en el marco de sus temas de control prioritarios. Los temas tratados fueron variados: respeto a los derechos fundamentales, ciberseguridad, sistemas de videovigilancia y uso de rastreadores en línea.

En total, la CNIL realizó 323 controles y emitió 259 resoluciones, incluidas 83 sanciones , por un monto total de casi 487 millones de euros (recaudados por el Tesoro francés). Si bien dos sanciones significativas explican este total sin precedentes para la institución, la CNIL también impuso numerosas multas a empresas de todos los tamaños y sectores, en particular gracias a su procedimiento simplificado implementado en 2022, que le permite actuar con mayor rapidez en ciertos casos menos complejos.

Además, la CNIL participa activamente en la regulación a nivel europeo mediante un diálogo constante con sus homólogos en el marco de la ventanilla única de contacto. Así, en 2025, se presentaron cerca de 80 decisiones de la CNIL a otras autoridades europeas, se adoptaron 4 sanciones en cooperación y, paralelamente, la CNIL examinó 9 proyectos de decisión de sus homólogos.

Sensibilización: una estrategia multicanal para conectar con todos los públicos.

Para interactuar con el público, en particular con los menores, que son más vulnerables, la CNIL se apoya en numerosas colaboraciones con: Radio France (el segmento "Vida digital, vida privada" en Radio ICI), France Télévisions (el vídeo "Piensa antes de publicar") y la revista Geek Junior.

Información y sensibilización: 35.403 llamadas atendidas; 14.654 respuestas a solicitudes de información por escrito; más de 20.000 personas contactadas sobre el terreno; 266 acciones realizadas, incluidas 73 dirigidas a menores.

Paralelamente, la CNIL está presente en numerosos eventos: la Feria de la Tercera Edad en marzo, el Festival de Juegos Digitales de Hauts-de-Seine en abril y Paris Plage durante el verano… Además, realiza numerosas presentaciones en escuelas. En total, las l266 acciones llevadas a cabo en este ámbito han sensibilizado a más de 20 000 personas sobre la protección de datos .

El año 2025 también estuvo marcado por el lanzamiento de la aplicación FantomApp , diseñada para ayudar a los adolescentes a protegerse en las redes sociales.

Finalmente, a lo largo del año, la CNIL respondió a 35.403 llamadas y 14.654 solicitudes de información por escrito .

La ciberseguridad es una de las principales preocupaciones de la CNIL.

Todas las organizaciones, tanto públicas como privadas, están preocupadas por los problemas de ciberseguridad: asociaciones y empresas, pymes y multinacionales, autoridades locales y ministerios gubernamentales.

De las 6.167 violaciones de datos notificadas a la CNIL, uno de cada dos incidentes registrados en 2025 fueron ataques informáticos, que siguen siendo el tipo de incidente más frecuente. Las violaciones de datos también pueden provenir del envío de datos personales a un destinatario no autorizado o la pérdida de material.

Ante estas amenazas, la CNIL actúa: las brechas de ciberseguridad, responsables en parte del aumento del número de quejas, representan un tercio de sus controles y casi el 30 % de sus sanciones. Asimismo, la CNIL colabora con la Agencia Nacional de Ciberseguridad de Francia (ANSSI) y la fiscalía de delitos cibernéticos de París en los procesos penales, especialmente en los casos más graves.

Ciberseguridad: 6.167 filtraciones de datos notificadas a la CNIL; +9,5% respecto a 2024; el 50% implican piratería informática.

Tres enseñanzas pueden ser exgtraidas de la violaciones de datos hechas a la CNIL en 2025 : nadie esta libre; las violacciones son cada vez más masivas; y ellas involucran a menudo a proveedores de servicios.

Marie-Laure Denis, presidenta de la CNIL

Para 2026, la CNIL dedicará el 50% de sus controles y acciones represivas a las violaciones en materia de ciberseguridad.

Los dos últimos años se han caracterizado por numerosas violaciones de datos a gran escala, que han afectado a un número considerable de personas. La CNIL (Autoridad Nacional de Informática y Libertades de Francia) abordó este problema desde las primeras alertas, extrayendo lecciones de las violaciones y formulando recomendaciones para proteger las grandes bases de datos antes de la primavera de 2025. Además, convirtió la ciberseguridad de las administraciones locales en una de sus áreas prioritarias de supervisión.

Además, cuando ello se justificaba, sancionaba a actores públicos y privados, tanto procesadores de datos como subcontratistas, cuyas prácticas de seguridad eran insuficientes.

A pesar de la fuerte implicación, la situación sigue siendo muy preocupante y exige que la CNIL refuerce sus medidas.

Por eso, en 2026, dedicará la mitad de sus controles y medidas represivas a la seguridad de los datos.

De este modo, la CNIL verificará el estricto cumplimiento de los requisitos de seguridad, al mismo tiempo que seguirá difundiendo mensajes de sensibilización y consejos a particulares y profesionales, porque la seguridad de nuestros datos es responsabilidad de todos.

Los controles pueden comprender a organizaciones involucradas en una violación de seguridad, sujetas a quejas o pertenecientes a sectores que propician el procesamiento masivo de datos, incluidos datos sensibles o altamente personales (datos de ubicación, datos bancarios, archivos estatales, etc.).

Estos controles se articularán con los demás temas prioritarios definidos para 2026 .

Recordatorio: La seguridad de los datos personales es una obligación estipulada, en particular, por el artículo 32 del RGPD (además de otros textos, como la Directiva NIS2 para determinados sectores críticos). Deben adoptarse todas las medidas adecuadas para limitar los riesgos: la CNIL ofrece una guía específica, recomendaciones oficiales y asesoramiento sobre el tema.

Numerosas acciones para una IA innovadora y responsable.

Según las regulaciones sobre la la CNIL ha sido ya designada como la autoridad de control ​​de usos prohibidos y pronto debería ser designada como la autoridad de vigilancia del mercado para ciertos sistemas de IA de alto riesgo (por ejemplo, en lo que respecta a la, migración, usos represivos, el empleo o la educación.  

Mientras se preparaba para estas nuevas responsabilidades, la CNIL ha estado apoyando el uso de la inteligencia artificial en cumplimiento del RGPD. Por ejemplo, en 2025, tras consultas públicas, publicó una serie de recursos para diseñadores y desarrolladores, que ahora han sido traducidos al inglés. También participó en la Cumbre de Acción sobre IA del 6 al 11 de febrero .

Con una visión más orientada al futuro, ha publicado una herramienta de trazabilidad de los modelos de IA de código abierto y participa, en cooperación con ANSSI, Inria y PEReN, en el proyecto PANAME: una biblioteca de software que permite verificar si un modelo de IA procesa datos personales.

Referencia del documento

Para descargar

DIGITALIZACIÓN DE LOS SISTEMAS DE PROTECCIÓN SOCIAL EN EUROPA - CONSEJO DE EUROPA.

Por: Carlos A. FERREYROS SOTO

Doctor en Derecho

Universidad de Montpellier I Francia.

cferreyros@ferreyros-ferreyros.com

RESUMEN

El presente artículo es la versión en castellano del discurso que pronunciara Michael O’Flaherty, Comisario de Derechos Humanos del Consejo de Europa en el evento “Digitalización de los sistemas de protección social en Europa: la promesa de eficiencia frente a la realidad de la exclusión”, en la Conferencia de Alto Nivel sobre Derechos Sociales, en Chisináu, República de Moldavia, 18 de marzo de 2026. 

El discurso se acompaña de algunas reflexiones sobre:  "La digitalización de los sistemas de protección social": Riesgos principales para los derechos humanos y Garantías y principios de  proteccion. El discurso  se focaliza en el equilibrio entre la libertad de expresión (art. 10 CEDH) y las posibles restricciones legítimas para proteger otros derechos y valores fundamentales, especialmente frente al discurso del odio y la discriminación.

El Consejo de Europa ha construido un Marco normativo básico, bajo el modelo de “democracia militante”: la libertad de expresión se protege, pero puede ser limitada cuando se vulneran derechos a la dignidad, igualdad y no discriminación, así como la integridad de grupos protegidos.

La Convención Europea de Derechos Humanos (art. 10) reconoce la libertad de expresión, pero permite restricciones necesarias en una sociedad democrática para proteger reputaciones, seguridad nacional, el orden público o los derechos de otros.

Para el Consejo de Europa y el Tribunal Europeo de Derechos Humanos, el discurso del odio (racismo, xenofobia, misoginia, homofobia, etc.) puede ser objeto de sanción si incita al odio, la violencia o la discriminación grave, siempre que la medida sea legal, necesaria y proporcional.

El Consejo ha adoptado recomendaciones y estándares (por ejemplo, del Comité contra la Discriminación “ECRI”) para que los Estados criminalicen y prevengan expresiones de odio, incorporando la noción de “discurso de odio” y “negacionismo” en su marco penal y de protección de víctimas.

Los Estados miembros deben establecer límites y obligaciones, prohibiendo expresamente el discurso de odio en su ordenamiento penal o de protección de víctimas, al mismo tiempo que garantizan el debido proceso y el respeto al principio de legalidad y proporcionalidad en las sanciones.

El Consejo exige también mecanismos de protección para las personas afectadas (accesibilidad para las denuncias, atención a víctimas, educación y sensibilización), articulando así una respuesta jurídica integral que combina prevención, represión y reparación.

En conclusión, jurídicamente el Consejo de Europa entiende el discurso como un derecho fundamental regulable, en el que el Estado tiene la obligación positiva de proteger a grupos vulnerables frente al odio y la discriminación, dentro de un marco constitucional y convencional de brecha mínima a la libertad de expresión.

A fin de acceder a normas similares y estándares europeos, las empresas, organizaciones públicas y privadas interesadas en asesorías, consultorías, capacitaciones, estudios, evaluaciones, auditorías sobre el tema, sírvanse comunicar al correo electrónico:cferreyros@ferreyros-ferreyros.com

_______________________________________________

Protección de los derechos humanos en la digitalización de los sistemas de bienestar social.

Chisináu, República de Moldavia 18 de marzo de 2026


Protección de los derechos humanos en la digitalización de los sistemas de bienestar social.

Discurso pronunciado con motivo del evento paralelo: «Digitalización de los sistemas de protección social en Europa: la promesa de eficiencia frente a la realidad de la exclusión», de la Conferencia de Alto Nivel sobre Derechos Sociales, Chișinău , República de Moldavia.

Esta semana, centraremos nuestra atención en la Carta de los Derechos Sociales. Nos centraremos en las cuestiones sociales como derechos humanos y, por lo tanto, como obligaciones vinculantes para los Estados.

Obviamente, esto es muy bienvenido, pero resulta vacío si no prestamos la misma atención a la aplicación efectiva de esos derechos. ¿Cómo pasamos del principio bien fundamentado en el papel al cambio en la experiencia vivida por el ser humano? Es en este contexto que celebro enormemente este debate, ya que los sistemas de bienestar social se encuentran entre los principales garantes del cumplimiento del deber formal de los derechos humanos.

¿En qué sentido? Obviamente, prestan los servicios que ofrecen. Tenemos derecho a la atención médica al más alto nivel posible. Tenemos derecho a prestaciones por desempleo. Tenemos derecho a todo tipo de derechos en el ámbito social. Los sistemas de bienestar social garantizan estos derechos, pero, igual de importante, posibilitan todo lo demás. Empoderan a quienes los poseen para que disfruten de todos sus derechos humanos. Y, por cierto, no solo de los derechos sociales, sino también de sus derechos civiles, de todos los derechos humanos.

En ese contexto, celebro la digitalización de los sistemas de bienestar social.

Ya hemos visto cómo la IA puede fortalecer la prestación de servicios. Lo observamos, al menos en algunos ámbitos, en la mejora de la atención al cliente, la automatización de la gestión administrativa y la detección de fraudes. Además, la OCDE, en un estudio muy interesante del año pasado, identificó nuevas áreas para la digitalización del bienestar social, como el análisis predictivo, la previsión de la demanda y las crisis, el análisis predictivo para mejorar la identificación de los beneficiarios, una mayor difusión de información y la reducción de la falta de acceso a los servicios sociales.

Pero, por supuesto, junto con todas las ventajas que la digitalización aporta a los sistemas de bienestar social, también es una tarea muy arriesgada. Esto nos quedó muy claro, al menos a quienes viven en la UE, por la forma en que la Ley de IA de la UE califica los algoritmos de bienestar como de "alto riesgo".

El alto riesgo de los algoritmos de asistencia social y de la digitalización de la asistencia social quedó bien ilustrado en el famoso caso de los Países Bajos sobre las ayudas para el cuidado infantil. Un escándalo tan grande que, como recordarán, provocó la caída de un gobierno.

Más recientemente, volvemos a observar en toda Europa numerosos casos de problemas derivados de la digitalización del bienestar social. Vemos, por ejemplo, denuncias relacionadas con los sistemas de asistencia social en Serbia, Francia, Dinamarca y otros países.

Aprendiendo de este tipo de situaciones y de investigaciones empíricas recientes, sugiero que los niveles de riesgo asociados a la digitalización del bienestar social pueden clasificarse, a grandes rasgos, en cinco categorías.

La primera cuestión tiene que ver con el motivo mismo de la digitalización. La investigación empírica revela que, al preguntar a los usuarios y a quienes aplican la tecnología, el principal factor determinante no es la calidad del servicio, sino su velocidad y eficiencia. Si bien la velocidad y la eficiencia no tienen nada de malo, cuando se priorizan sobre la calidad, es evidente el peligro.

En segundo lugar, y basándonos en los ejemplos que he dado, hemos visto cómo la tecnología puede generar resultados discriminatorios. Y, aún más evidente en los últimos años, cómo la aplicación de mecanismos de retroalimentación puede agravar progresivamente dichos resultados discriminatorios.

La tercera de las cinco investigaciones, bastante recientes e interesantes, realizadas en los últimos años, ha identificado el llamado "sesgo de automatización". Este se da cuando el supervisor humano de la tecnología confía en que esta realizará un mejor trabajo que él. Por lo tanto, ante un conflicto entre la evaluación humana y la de la máquina, el humano optará por la evaluación de la máquina.

En cuarto lugar, están los desafíos del acceso a los servicios digitalizados y el grado de analfabetismo digital que experimentamos en nuestra sociedad. La Agencia de los Derechos Fundamentales identificó en 2023, a través de una de sus encuestas a gran escala, que solo una de cada cuatro personas mayores de 65 años posee habilidades digitales básicas. Tan solo una cuarta parte de las personas mayores de 65 años. Esto, obviamente, es una señal de alarma en lo que respecta a la necesidad de que las personas accedan a sus servicios de bienestar social de forma digital. Y, por cierto, he dado un ejemplo de personas mayores, pero podemos pensar en muchísimas personas marginadas en los márgenes de nuestras sociedades y en hasta qué punto un servicio digitalizado se convierte en algo remoto e inaccesible. Pienso, por ejemplo, en los romaníes en asentamientos irregulares donde ni siquiera tienen electricidad, y mucho menos acceso a servicios digitales.

La quinta y última preocupación respecto a la digitalización del bienestar social es su implementación poco transparente. La mayoría de las personas desconocen hasta qué punto sus prestaciones sociales se han digitalizado, o si algún aspecto del proceso de evaluación se ha trasladado a internet. Los gobiernos no han informado adecuadamente a la población sobre el grado de automatización de estos servicios esenciales. Esto, a su vez, plantea serios problemas en cuanto al acceso a recursos legales cuando algo falla. ¿Cómo se puede acceder a un recurso legal si no se sabe con exactitud cómo ni dónde se produjo el error?

¿Qué podemos hacer para abordar estas cinco categorías y asegurarnos de tener un futuro de bienestar social digitalizado que esté realmente al servicio de nuestra gente? Una vez más, me gustaría sugerir solo algunas cosas.

La primera cuestión concierne a quienes pertenecen a la UE y, en particular, a quienes trabajan en gobiernos de la UE.

Les animo a defender la legislación europea fundamental que rige el espacio digital. Me refiero a la Ley de IA y la Ley de Servicios Digitales. No son instrumentos perfectos, pero probablemente sean los mejores modelos del mundo para la supervisión del despliegue de la inteligencia artificial y todos los aspectos relacionados con la digitalización, incluido el ámbito del bienestar social. Así pues, a quienes representen a gobiernos de la UE, les ruego que transmitan este mensaje. Existe un proceso de simplificación en curso que, de adoptarse todas sus propuestas, debilitaría estas dos leyes esenciales.

En segundo lugar, necesitamos que nuestros gobiernos adopten las medidas necesarias para firmar y ratificar el Convenio Marco del Consejo de Europa sobre Inteligencia Artificial. Este convenio ha sido descuidado. Todavía no contamos con las firmas ni las ratificaciones suficientes. Solo cuando entre en vigor dispondremos de la herramienta normativa que nos permitirá colaborar con los Estados miembros del Consejo de Europa para establecer sistemas nacionales de supervisión eficaces basados ​​en los derechos humanos, incluso en el ámbito del bienestar social.

En tercer lugar, necesitamos que nuestros estados participen y adopten las herramientas que les permitan realizar pruebas de derechos humanos y evaluar los algoritmos para la prestación de servicios de bienestar social.

Quisiera destacar la excelente herramienta del Consejo de Europa, la denominada HUDERIA (Herramienta de Evaluación de los Derechos Humanos), por su idoneidad para el uso y la colaboración. Creo que podríamos aplicarla en nuestros contextos nacionales específicos.

Otros puntos importantes a considerar son: por un lado, debemos asegurarnos de que los humanos sigan al mando y que nunca cedamos la toma de decisiones a la máquina; por otro, debemos abordar el sesgo de automatización. Es fundamental capacitar a quienes supervisan las herramientas técnicas para que reconozcan que probablemente son más inteligentes que la herramienta, que la aplicación digital, y que deben vigilarla con suma atención.

Por supuesto, resulta obvio que es necesario invertir en alfabetización digital y en la mejora del acceso efectivo al espacio digital, especialmente para las personas mayores y para quienes se encuentran en los márgenes de la sociedad.

Para concluir, me gustaría mencionar dos roles que considero imprescindibles en nuestra colaboración de cara al futuro.

Me refiero a la importancia de incorporar a un lugar central en nuestro trabajo a nuestras instituciones nacionales de derechos humanos y organizaciones de la sociedad civil.

En primer lugar, consideremos las instituciones nacionales de derechos humanos. En los últimos años, han avanzado con gran rapidez en toda Europa al asumir su responsabilidad en el contexto de la inteligencia artificial. Y lo hacen gracias a su amplia experiencia en derechos humanos. Debemos asegurarnos de que se las consulte de forma integral, integrándolas, como ya he mencionado, en el proceso.

En segundo lugar, la sociedad civil. ¿Con qué frecuencia es la sociedad civil la que nos alerta sobre los fallos tecnológicos? Y, ¿con qué frecuencia, tras alertarnos sobre dichos fallos, es la sociedad civil, y no los gobiernos, la que encuentra la solución? Necesitamos una colaboración sólida.

Y mi último punto, queridos amigos, tiene que ver con la confianza. La prestación de servicios sociales seguros y eficaces es una de las dimensiones más delicadas e importantes de la gobernanza en cualquiera de nuestros países. Solo funcionará si se confía en ella. Hemos visto con qué facilidad las cosas pueden salir mal, y de hecho salen mal. Por eso, quisiera invitarlos a reflexionar sobre cómo pueden construir, mejorar y fortalecer la confianza entre los sistemas de bienestar social y la ciudadanía mediante la colaboración con la sociedad civil y las instituciones nacionales de derechos humanos, y avanzando de la manera más transparente y consultiva posible.

Gracias por su atención.

_______________________________________________

DIGITALIZACIÓN DE LOS SISTEMAS DE PROTECCIÓN SOCIAL EN EUROPA

La protección de los derechos humanos en la digitalización de los sistemas de bienestar social se centra en garantizar que la introducción de tecnologías digitales (registros electrónicos, IA, decisiones automatizadas y sistemas biométricos, entre otros) no socave el acceso efectivo a la seguridad social ni refuerce la discriminación y la exclusión de las personas más vulnerables.

Riesgos principales para los derechos humanos

Discriminación y profundización de desigualdades: la automatización y la toma de decisiones algorítmica suelen reproducir sesgos estructurales (por raza, origen, discapacidad, género, etc.), como ha ocurrido en Serbia, Países Bajos o India, donde comunidades marginadas fueron excluidas indebidamente de prestaciones vitales.

Vulneración del derecho a la privacidad y a la protección de datos: la “datificación” de la vida de las personas (acopio masivo de datos) aumento de la vigilancia estatal, obligando muchas veces a ceder el derecho a la privacidad como condición para acceder a ayudas.

Errores algorítmicos y falta de corrección: datos erróneos, modelos defectuosos o sistemas de “puntuación de riesgo” han llevado a denegar prestaciones, declarar personas fallecidas o agravar deudas, con procesos de recursos opacos y poco accesibles.

Acceso y no discriminación digital: la obligación de usar canales digitales (apps, registros biométricos o plataformas online) puede excluir a personas sin conectividad, escasa alfabetización digital, con discapacidad o en pobreza extrema, convirtiendo la tecnología en barrera antes que en facilitador.

Garantías y principios de protección

Evaluación de impacto en derechos humanos: los Estados deben realizar evaluaciones previas, independientes y contínuas sobre cómo afectan estas tecnologías al derecho a la seguridad social, a la privacidad, a la no discriminación y al debido proceso.

Transparencia, explicación y recurso efectivo: las personas tienen derecho a saber qué datos se usan, qué criterios se aplican y cómo impugnar decisiones automatizadas; debe existir revisión humana real y acceso a recursos legales sin discriminación.

Participación y diseño inclusivo: los sistemas deben diseñarse con la participación de comunidades vulnerables y organizaciones de derechos humanos, adoptando estándares de accesibilidad y evitando la “carga de prueba” sobre quien ya está en situación de pobreza.

Neutralidad, proporcionalidad y necesidad: cualquier sistema digital debe ser legítimo, necesaria y proporcionado, y no debe ser implementado cuando supone daños irreversibles a derechos fundamentales que no puedan mitigarse.

En síntesis, la digitalización de los sistemas de bienestar social solo es compatible con los derechos humanos si se articula en un marco de transparencia, control democrático, igualdad material y rendición de cuentas, y si su objetivo central es ampliar el acceso a la protección social, no restringirlo o automatizar la exclusión.