Por: Carlos A. FERREYROS SOTO
Doctor en Derecho
Universidad de Montpellier I Francia.
RESUMEN
El objetivo del presente Dictamen de iniciativa del Comité Económico y Social Europeo, CESE, ha sido el de formular recomendaciones y propuestas específicas a los responsables políticos a escala europea y nacional con vistas a crear un entorno propicio a la implantación positiva de los sistemas y herramientas de IA en el mundo laboral. Teniendo en cuenta la petición de la Presidencia polaca entrante, se dedica un epígrafe específico a estudiar mecanismos para aprovechar el potencial y mitigar los riesgos de la IA en relación con las políticas de empleo y del mercado laboral.
Este Dictamen ha recabado aportaciones a través de dos talleres celebrados en el CESE utilizando la metodología de prospectiva del Centro Común de Investigación, con la participación de expertos europeos e internacionales.
El Dictamen se organiza en base a las 1. Conclusiones y recomendaciones 2. Observaciones Generales 3. Definición de los sistemas de IA en el contexto del presente Dictamen 4. Impacto de la IA sobre el mercado laboral y las condiciones de trabajo 5. Aplicación y adaptación de la legislación vigente de la UE.
Entre los aspectos principales del Dictamen, el CESE resalta dos: el potencial de la IA en el lugar de trabajo (productividad y eficiencia, nuevos empleos y profesiones relacionadas con IA, mejora en la toma de decisiones, automatización de tareas rutinarias, repetitivas.) y los riesgos y desafíos que presenta (desespecialización y reubicación de trabajadores, reciclaje y formación continua, privacidad y uso ético de los datos personales, aumentos de desniveles por competencias digitales, disparidad sectorial, polarización del mercado laboral, desigualdad geográfica, disparidad de género si sub-representacion de las mujeres).
El Dictamen si bien fue aprobado por 142 votos a favor, 103 en contra y 14 abstenciones, incluye en el Anexo I las Enmiendas que fueron rechazadas pero que obtuvieron al menos una cuarta parte de los votos emitidos.
A fin de acceder a normas similares y estándares
europeos, las empresas, organizaciones públicas y privados interesados en asesorías,
consultorías, capacitaciones, estudios, evaluaciones, auditorías sobre el tema,
sírvanse comunicar al correo electrónico:cferreyros@hotmail.com
________________________________________________________________
 | Diario Oficial | ES Serie C |
C/2025/1185 | 21.3.2025 |
Dictamen del Comité Económico y Social Europeo
En favor de una inteligencia artificial positiva para los trabajadores: mecanismos para aprovechar el potencial y mitigar los riesgos de la IA en relación con las políticas de empleo y del mercado laboral
(Dictamen de iniciativa)
(C/2025/1185)
Ponente:
Franca SALIS-MADINIERAsesores | Odile CHAGNY (por el ponente) Isaline OSSIEUR (por el Grupo I) ETZERODT CLEMENS ØRNSTRUP (por el Grupo I) Aïda PONCE DEL CASTILLO (por el Grupo II) Anthony BOCHON (por el Grupo III) |
Decisión de la Asamblea | 15.2.2024 |
Base jurídica | Artículo 52, apartado 2, del Reglamento interno |
Sección competente | Empleo, Asuntos Sociales y Ciudadanía |
Aprobado en sección | 17.12.2024 |
Aprobado en el pleno | 22.1.2025 |
Pleno n.o | 593 |
Resultado de la votación (a favor/en contra/abstenciones) | 142/103/14 |
1. Conclusiones y recomendaciones
1.1. El Comité Económico y Social Europeo
(CESE) secunda la declaración conjunta que los interlocutores sociales
presentaron durante la última cumbre del G7 en Italia (1),
según la cual los sistemas de inteligencia artificial (IA) y la IA generativa
(IAG) evolucionan a pasos agigantados, lo que sin duda constituye una de las
tendencias más importantes que afectan al mundo laboral y a nuestras sociedades
en general. La declaración refleja que el sentido positivo o negativo que pueda
adoptar este cambio no es una cuestión que venga cerrada de antemano, sino que
depende de las decisiones que tomen los responsables políticos al formular
políticas ambiciosas y efectivas y al establecer marcos normativos que
favorezcan el progreso social, la inclusión, la igualdad, la prosperidad
económica, la sostenibilidad, continuidad y resistencia empresariales, la
creación de empleos dignos, el respeto por las instituciones democráticas y los
derechos de los trabajadores; el diálogo social desempeña un papel fundamental
a este respecto.
1.2. El
diálogo social y la participación de los trabajadores desempeñan un papel
crucial a la hora de preservar los derechos fundamentales de los trabajadores y
de promover una «IA fiable» en el mundo laboral. En efecto, aumentar la
participación de los trabajadores y sus representantes constituye uno de los
mecanismos para minimizar los riesgos y los efectos nocivos de los sistemas de
IA.
1.3. El
CESE insiste en que las iniciativas legislativas — o de cualquier otra índole —
que tengan por objeto adaptar la legislación vigente deben abordar las
lagunas en la protección de los derechos de los trabajadores en el trabajo y
garantizar que las personas mantengan el control en todas las
interacciones entre el hombre y la máquina.
1.4. Las
actuales disposiciones jurídicas de la UE aplicables al uso de
la IA en el lugar de trabajo deben ir acompañadas de orientaciones explícitas
sobre la legislación vigente.
1.5. El
CESE apoya la rápida aplicación del artículo 4 de la Reglamento de
IA (2),
que establece que los proveedores de sistemas de IA y quienes los utilicen
adoptarán medidas para garantizar un nivel suficiente de alfabetización en
materia de IA entre su personal.
1.6. Las
autoridades públicas deben poner en marcha iniciativas de desarrollo de las
capacidades para los trabajadores a fin de garantizar que los sistemas de
inteligencia artificial potencien el rendimiento de los seres humanos en lugar
de sustituirlos.
1.7. El
CESE recomienda encarecidamente que las políticas públicas de la UE y los
Estados miembros creen módulos sobre IA destinados a la educación y la
formación y pongan a disposición de la ciudadanía materiales de sensibilización
en materia de IA. La educación formal sobre tecnologías de IA debe impartirse
en una fase temprana para que permita la adaptación de todos los ciudadanos.
1.8. Con el fin de evitar la fragmentación de
las iniciativas actuales de los Estados miembros y de garantizar unas condiciones
de competencia equitativas en el mercado único, el CESE hace un firme
llamamiento en favor de un diálogo social efectivo en torno a la utilización de
los sistemas de IA sobre la base de un instrumento jurídico ad hoc de
la UE que incluya disposiciones para lograr lo siguiente de manera más eficaz:
— permitir la aplicación del artículo 88 del Reglamento General de Protección de Datos (RGPD) (3) y ofrecer orientaciones explícitas sobre el consentimiento y el interés legítimo;
— ampliar el ámbito de aplicación de las disposiciones de la Directiva sobre Trabajo en Plataformas Digitales (4) para abordar los retos que suponen los sistemas de gestión algorítmica para todos los trabajadores;
— reforzar las normas aplicables en virtud de la Directiva 2002/14/CE (5) cuando se introduzcan sistemas de IA de alto riesgo y ofrecer orientaciones explícitas relativas a las disposiciones de la Directiva 89/391/CEE (6) sobre salud y seguridad en el trabajo;
— integrar la dimensión del proceso dinámico del diálogo social y las evaluaciones de riesgos de los sistemas de IA, tal como se definen en el Acuerdo marco autónomo de los interlocutores sociales europeos sobre digitalización de 2020 (7);
— hacer extensiva la comunicación de las evaluaciones de impacto relativas a la protección de datos a los representantes de los trabajadores, tal como se establece en la Directiva sobre Trabajo en Plataformas Digitales;
— facilitar evaluaciones de impacto ex ante en materia de derechos fundamentales, que deberán llevar a cabo los proveedores antes de que empiecen a utilizarse sistemas de alto riesgo; y
— establecer orientaciones claras sobre el modo en que pueden emplearse los espacios controlados de prueba y aprovecharse las pruebas en condiciones reales.
2. Observaciones
generales
2.1. El
objetivo del presente Dictamen de iniciativa es formular recomendaciones y
propuestas específicas a los responsables políticos a escala europea y nacional
con vistas a crear un entorno propicio a la implantación positiva de los
sistemas y herramientas de IA en el mundo laboral. Teniendo en cuenta la
petición de la Presidencia polaca entrante, se dedica un epígrafe específico
a estudiar mecanismos para aprovechar el potencial y mitigar los
riesgos de la IA en relación con las políticas de empleo y del mercado
laboral. Este Dictamen ha recabado aportaciones a través de dos talleres
celebrados en el CESE utilizando la metodología de prospectiva del Centro Común
de Investigación, con la participación de expertos europeos e internacionales.
2.2. La
IA ha sido definida como una tecnología de «utilidad general» (8),
que hace posibles aplicaciones digitales transformadoras con un alto potencial
de impacto social y económico (9).
La IA, los macrodatos y la informática de alto rendimiento están
interrelacionados. La IA generativa incluye sistemas como los sofisticados
modelos de lenguaje de gran tamaño, capaces de crear nuevos contenidos que van
desde los textos a las imágenes y de aprender «entrenándose» a partir de
grandes cantidades de datos. El presente Dictamen adopta un enfoque amplio para
examinar tanto los sistemas de gestión algorítmica como el uso más general de
tecnologías digitales en el lugar de trabajo, tales como las herramientas de
vigilancia y las plataformas digitales de recursos humanos, que tienen un
impacto significativo en los trabajadores.
2.3. Si
bien se calcula que la adopción de herramientas de IA en las empresas europeas
ha aumentado rápidamente desde la aparición de las herramientas de inteligencia
artificial generativa, parece que existe una gran discrepancia en cuanto a la
adopción de dichas herramientas entre las grandes empresas y las pymes (10).
A pesar de la falta de datos y conocimientos coherentes sobre cómo evolucionará
exactamente la IA, resulta razonable esperar que esta afecte al mundo laboral
de muchas maneras y que pueda convertirse en un factor relevante en los puestos
de trabajo de muchas personas (11).
2.4. Los
supuestos que se estudiaron en nuestros talleres sobre el futuro de la IA en el
mundo laboral (12) demuestran
que aún no es demasiado tarde para influir en el desarrollo de la IA en el
trabajo a fin de garantizar que se aplique en beneficio de todos. La hipótesis
«visionaria» definida como el «escenario ideal» ha puesto de manifiesto que la
adaptación de la legislación de la UE y el refuerzo del diálogo social en los
niveles más adecuados pueden desempeñar un importante papel, al configurar usos
fiables de la IA en el trabajo y animar a las empresas europeas a invertir en
investigación, desarrollo e innovación.
2.5. El
impacto de la IA en el mundo laboral se aborda indirectamente en la legislación
de la UE relativa a cuestiones sociales (13).
Las instituciones de la UE también han invertido importantes recursos en el
desarrollo de una agenda digital compartida y un mercado único digital.
2.6. En
consonancia con la propuesta de la presidenta de la Comisión Europea de incluir
iniciativas que examinen el modo en que la digitalización está afectando al
mundo laboral, desde la gestión de la IA hasta el teletrabajo, y en consonancia
también con la reciente declaración de los interlocutores sociales emitida en
la cumbre del G-7, el CESE afirma que cualquier iniciativa legislativa
debe abordar las lagunas en la protección de los derechos de los
trabajadores recogidos en la legislación actual que puedan verse afectados por
la IA y garantizar que el principio de «control humano» se aplique de
manera efectiva.
2.7. El
CESE pide a la Comisión Europea que vele por que las disposiciones jurídicas
existentes que puedan verse afectadas por el uso de la IA en el lugar de
trabajo estén respaldadas por orientaciones explícitas.
2.8. Los
interlocutores sociales y la ciudadanía desempeñan un papel crucial a la hora
de preservar los derechos fundamentales de los trabajadores y de promover una
«IA fiable» en el mundo laboral y en la sociedad en su conjunto (14).
3. Definición
de los sistemas de IA en el contexto del presente Dictamen
3.1. A
los efectos del presente Dictamen, el CESE recomienda tomar la definición establecida
en el Reglamento de IA (15)
3.2. De
acuerdo con el artículo 3, apartado 1, del Reglamento de IA, un «sistema
de IA» es «un sistema basado en una máquina que está diseñado para
funcionar con distintos niveles de autonomía y que puede mostrar capacidad de
adaptación tras el despliegue, y que, para objetivos explícitos o implícitos,
infiere de la información de entrada que recibe la manera de generar resultados
de salida, como predicciones, contenidos, recomendaciones o decisiones, que
pueden influir en entornos físicos o virtuales».
3.3. Esta definición es lo bastante amplia
como para abarcar las tres características esenciales de los
sistemas de IA, a saber:
— permiten automatizar la toma de decisiones;
— lo hacen con un cierto grado de autonomía; e
— interactúan con los trabajadores y les afectan.
3.4. Además, el CESE destaca las tres
principales características específicas de los sistemas de IA utilizados en el
lugar de trabajo en comparación con las tecnologías digitales anteriores:
— Los sistemas de IA pueden ser instantáneos, interactivos y opacos (16).
— Un importante grupo (17) de sistemas de IA presentan capacidad de adaptación una vez introducidos en el lugar de trabajo (18). Esto puede generar incertidumbre e imprevisibilidad sobre cómo se comportará el sistema de IA en un contexto específico.
— Los sistemas de IA brindan grandes oportunidades para mejorar la asignación y la coordinación, facilitar una toma de decisiones eficiente en las empresas y mejorar el aprendizaje organizativo (19). Como método emergente de invención, se espera que la IA fomente la innovación (20). Al aumentar su escala (tamaño de los parámetros, datos de entrenamiento, etc.), un sistema de IA puede incluso realizar «descubrimientos accidentales» y fomentar así la innovación.
4.1. Impacto
sobre el empleo
4.1.1. No
es posible determinar de antemano las repercusiones de la IA en el empleo y los
trabajadores, debido a su rápida evolución, a la incertidumbre en torno a su
integración en todos los procesos de producción y a sus efectos en las
organizaciones y los trabajadores. La medida en que la IA crea, modifica, apoya
o destruye puestos de trabajo también depende de la finalidad con que se adopta
(optimización de procesos, reducción de costes, eficiencia, innovación, etc.).
4.1.2. En
este sentido, alberga un valor potencial para: i) encontrar los posibles
candidatos que se ajusten a un perfil profesional determinado, incrementando
así la eficiencia de las políticas de empleo; ii) contratar candidatos
adecuados; iii) acelerar los procesos de incorporación; iv) gestionar
el rendimiento; v) concebir métodos de formación personalizados y eficaces
y detectar carencias en materia de capacidades digitales; vi) recopilar y
analizar macrodatos; vii) redactar actas; viii) elaborar descripciones
de puestos de trabajo; y ix) gestionar la retención y la rotación, además
de prever futuras necesidades de contratación (21).
4.1.3. Es
probable que la IA genere el mayor crecimiento económico posible a partir de la
mejora de la productividad (22).
Ello puede lograrse automatizando las tareas rutinarias y tediosas (23),
de modo que los trabajadores puedan complementar sus capacidades y tener más
tiempo para centrarse en funciones más estimulantes que aporten un mayor valor
añadido (24).
Los recientes avances tecnológicos hacen posible que los sistemas de IA
sustituyan o complementen las funciones humanas en ámbitos muchos más diversos
que las tecnologías anteriores, incluso en tareas no rutinarias y
cognitivas (25),
especialmente en los sectores de la salud y la educación.
4.1.4. Estudios
recientes ponen de relieve el potencial de «complementación» de las tecnologías
de IAG (26).
La Organización Internacional del Trabajo (OIT) calcula (27) que
el potencial de transformación es más de dos veces mayor que el potencial de
automatización en los países de renta alta (del 13,4 % y el 5,1 %).
Sin embargo, los resultados empíricos siguen sin ser concluyentes en lo que
respecta a los efectos sobre el empleo y la productividad (28).
La magnitud real de los aumentos de productividad es incierta (29) y
podría estar sobreestimada (30).
En lo que atañe a la inteligencia artificial generativa, la proporción de
profesiones respecto de las cuales existe incertidumbre sobre el potencial de
automatización y complementación es elevada (31) (un
11,6 % en los países de renta alta (32)).
La inteligencia artificial generativa puede mejorar el acceso al trabajo de las
personas con discapacidad (33),
pero también puede automatizar los puestos de trabajo que estas ocupan.
4.2. La
IA tendrá un impacto significativo en las necesidades en materia de capacidades (34) .
4.2.1. Por
un lado, la IA reproducirá algunas capacidades manuales, de psicomotricidad
fina y cognitivas, como la comprensión, la planificación y el asesoramiento.
Por otro lado, las capacidades necesarias para desarrollar y mantener los
sistemas de IA, así como para adoptar, utilizar e interactuar con las
aplicaciones de IA, irán cobrando importancia. La demanda de capacidades
digitales básicas y de ciencias de datos (35) aumentará.
Se necesitarán capacidades cognitivas y transversales que complementen la IA en
la mejor medida posible (por ejemplo, la resolución creativa de problemas o la
originalidad, y otras de carácter transferible como las capacidades sociales y
de gestión (36)).
Las capacidades y los conocimientos de los directivos y líderes empresariales
también serán importantes de cara a la adopción de la IA (37).
Ha quedado demostrado que la falta de capacidades adecuadas en materia de IA
supone un obstáculo a su utilización en el trabajo (38).
La IA también puede emplearse para mejorar los sistemas de aprendizaje de las
personas adultas.
4.3. Condiciones
de trabajo
4.3.1. Las
repercusiones de los sistemas de IA generan las mayores incógnitas en el ámbito
de las condiciones laborales (39),
debido al potencial de dichos sistemas para transformar en profundidad las
actividades y el control organizativos y de gestión (40) y
para rediseñar los procesos organizativos (41).
4.3.2. Si
se utilizan con sensatez, las herramientas basadas en IA podrían mejorar las
condiciones de salud y seguridad en el trabajo, ya que ayudarían a aligerar la
carga laboral de los trabajadores (42) y
a mejorar tanto el equilibrio entre la vida profesional y la privada (43) como
la salud mental en el trabajo (44).
Las herramientas de IA pueden ayudar a eliminar o reducir las tareas peligrosas
y a evitar trastornos musculoesqueléticos. Si se redistribuye de forma
equitativa, el tiempo que ahorran los trabajadores en sus tareas puede
contribuir a su bienestar. Cuando se emplean para sustituir tareas repetitivas
y tediosas, las herramientas de IA pueden aumentar la satisfacción
laboral (45).
El uso de aplicaciones de IA puede contribuir a una toma de decisiones y
prácticas mejor informadas, más justas y no discriminatorias (46).
4.3.3. Dichas
aplicaciones son capaces de garantizar que la información sea de mayor calidad
y se difunda de manera más completa, de aportar datos más exhaustivos y de
mejorar la calidad de las decisiones que se adopten.
4.3.4. Por
otra parte, pueden plantearse algunos riesgos si no se cumplen las condiciones
para un despliegue fiable de los sistemas de IA en el trabajo (47).
4.3.5. Los
sistemas de gestión algorítmica permiten una forma de control generalizado
mucho más potente que cualquier forma de control anterior, con efectos
potencialmente perjudiciales para los trabajadores (48).
Se han reunido datos (49) que
demuestran el impacto adverso que la gestión algorítmica puede tener en la
salud y la seguridad de los trabajadores y la falta de interés de las empresas
en utilizar estas tecnologías para mejorar la salud y la seguridad en el
trabajo.
4.3.6. Los
trabajadores pueden quedar expuestos a una vigilancia abusiva, a la
discriminación, a la pérdida de autonomía y a riesgos psicosociales (50).
Las herramientas de IA pueden causar trastornos en los grupos de empleados en
el lugar de trabajo y exacerbar la sensación de aislamiento entre los
empleados.
4.3.7. Los
sistemas de IA pueden agravar las asimetrías de información entre la dirección
y los trabajadores (51).
4.4. Luchar
contra las desigualdades
4.4.1. Estudios
recientes centrados en la inteligencia artificial generativa ponen de relieve
que estos sistemas tienen el potencial de atenuar las desigualdades,
perpetuarlas o incluso crear nuevos riesgos de desigualdad.
4.4.1.1. Las desigualdades entre los trabajadores altamente cualificados y
los menos cualificados podrían llegar a reducirse. La mayoría de los estudios
coinciden en que la adopción de la inteligencia artificial generativa planteará
unos mayores riesgos en materia de empleo para las profesiones de «cuello
blanco», que exigen mayores cualificaciones (52).
Si la implantación de la inteligencia artificial generativa tiene por objeto
aumentar la innovación empresarial, mejorar la organización laboral e impulsar
los empleos de calidad, los trabajadores con menos cualificaciones y
experiencia serán quienes más se beneficien de las herramientas de IAG, que
cuentan con modelos de IA que comparten las buenas prácticas de los empleados
experimentados con los más noveles (53).
4.4.1.2. Las mujeres y los trabajadores poco cualificados y de edad avanzada
son los grupos vulnerables más afectados por la IA (54).
Como los trabajos administrativos están más expuestos a los riesgos de la
automatización, los efectos en el empleo son distintos en función del género,
de modo que el porcentaje de mujeres que pueden verse afectadas por la
automatización es más del doble respecto de los hombres (55);
además, las mujeres se ven afectadas con mayor frecuencia en cuanto al
potencial de transformación de sus puestos.
4.4.1.3. El bajo porcentaje de mujeres entre los graduados en disciplinas de
ciencias, tecnologías, ingenierías y matemáticas (CTIM) o de informática y
tecnologías de la información plantea en algunos países importantes retos en
materia de empleo por género y de desigualdad salarial en el contexto de la
generalización de la IA (56).
La igualdad de género debe abordarse mejor en todos los niveles. El diálogo
social y unas políticas mejores que anticipen estas tendencias resultan
esenciales.
4.4.2. Nuevas
desigualdades mundiales
4.4.2.1. El desarrollo de la IA cuenta con el apoyo de los trabajadores
invisibles, los cuales se encuentran en su mayoría en países de renta baja
donde tienen condiciones laborales precarias (57).
4.5. El
diálogo social y la participación de los trabajadores son fundamentales para
aprovechar el potencial de la IA.
4.5.1. Debido
a las características específicas de los sistemas de IA y a su impacto en las
cuestiones organizativas, la aceptación, fiabilidad y confianza en el
desarrollo y la adopción de la IA son fundamentales para promover los efectos
positivos de la IA (58).
4.5.2. Está
demostrado que consultar a los representantes de los trabajadores permite
mejorar la productividad y las condiciones laborales (59).
Cuando los representantes de los trabajadores recurren al sistema de
codeterminación de la «voz colectiva», esto contribuye a proteger la
privacidad, la autonomía y la discreción de sus representados frente a las
tecnologías de gestión de personal (60).
4.5.3. A
fin de garantizar un diálogo social eficaz en todas las entidades en las que se
emplee la IA, el CESE pide que se faciliten orientaciones explícitas en
los textos jurídicos y no jurídicos pertinentes.
4.5.4. Las
personas y las partes interesadas deben elegir los usos y la finalidad de la IA
en nuestras sociedades y en el trabajo. Los interlocutores sociales y la
ciudadanía deben participar en los debates públicos, la alfabetización y la
formación.
4.6. La
preparación en materia de IA es esencial (61) .
4.6.1. Con
el fin de aprovechar la implantación de la IA en el trabajo, el CESE pide a la
Comisión Europea que promueva:
4.6.1.1. la revisión de las políticas en materia de capacidades por parte de
los responsables políticos de todos los niveles con el fin de garantizar que
los sistemas de IA emergentes complementen a los trabajadores en lugar de
sustituirlos;
4.6.1.2. las políticas públicas orientadas al desarrollo de módulos sobre la
IA desde los primeros años de la educación y en el marco de la formación y
ponga a disposición de la ciudadanía materiales de sensibilización sobre la IA.
Estas políticas deben prever una educación formal sobre las tecnologías de IA
en una fase temprana que permita a todos los ciudadanos adquirir conocimientos
básicos sobre la cuestión;
4.6.1.3. una rápida aplicación del artículo 4 del Reglamento de IA, en
virtud del cual los proveedores y operadores de sistemas de IA deben adoptar
medidas que garanticen un nivel suficiente de alfabetización en materia de IA
entre su personal.
5. Aplicación
y adaptación de la legislación vigente de la UE
5.1. El
RGPD (62) no
está diseñado específicamente para abordar las cuestiones de protección de
datos en el lugar de trabajo.
5.1.1. Las
bases jurídicas del RGPD como Reglamento independiente no bastan para mitigar
el riesgo de sistemas de IA nocivos en el trabajo, ya que no tienen en cuenta
la naturaleza específica de los sistemas de IA a la hora de tramitar datos
personales en el contexto de la relación laboral y del lugar de trabajo.
5.1.2. Existe
un consenso en el sentido de que ni el consentimiento de los empleados ni el
interés legítimo constituyen un fundamento válido para el tratamiento de datos
en el contexto de una relación de poder asimétrica en el lugar de trabajo (63).
De una encuesta reciente de 6 300 trabajadores en los países nórdicos se
desprende que se producen abusos de dicho poder asimétrico en todos los sectores
cubiertos por el estudio (64).
5.1.3. El
artículo 15, apartado 1, letra h), del RGPD, relativo a los
requisitos de transparencia, tiene un alcance limitado, ya que excluye la toma
de decisiones semiautomatizada.
5.1.4. Los
empleados pueden verse más afectados por el tratamiento de los datos recogidos
de otros empleados que por los que se hayan recopilado sobre ellos mismos (65).
Los derechos de los sindicatos o de los representantes de los trabajadores a
controlar la recogida y el tratamiento de datos son limitados. El hecho de
asumir que los daños relacionados con la privacidad afectan siempre a individuos
constituye un punto débil importante en el contexto de los sistemas de gestión
algorítmica. Además, las disposiciones sobre las evaluaciones de impacto en
materia de protección de datos son insuficientes.
5.1.5. En
el artículo 88 del RGPD se afirma que el tratamiento de datos personales
en el ámbito laboral debe abordarse mediante «normas más específicas», que los
Estados miembros han de establecer a través de disposiciones
legislativas o de convenios colectivos (66).
Desde la entrada en vigor del Reglamento, el
artículo 88 ha sido aplicado de forma deficiente y ha quedado en papel
mojado en casi todos los Estados miembros (67).
5.1.6. A
fin de dotar a los trabajadores de un mayor poder sobre sus propios datos, el
CESE pide a la Comisión Europea que adopte medidas para garantizar la
aplicación efectiva del artículo 88 del RGPD.
5.2. El
Reglamento de IA
5.2.1. El
objetivo general del Reglamento de IA es promover la adopción y difusión de la
IA en la UE mediante la creación de un marco jurídico uniforme para una «IA
fiable» que parta de la base de que abordar los riesgos asociados a sus usos
contribuirá a aumentar su adopción. En cuanto que acto legislativo de carácter
transversal, el Reglamento persigue una serie de objetivos primordiales, como
un alto nivel de protección de la salud, la seguridad y los derechos
fundamentales. Su base jurídica se fundamenta ante todo en las disposiciones
del TFUE relativas al mercado único. El Reglamento de Inteligencia Artificial
no está diseñado específicamente para abordar las cuestiones relativas al lugar
de trabajo (68).
5.2.2. El
Reglamento de IA impone limitaciones al uso de la IA en el lugar de trabajo
mediante la prohibición de determinados sistemas y estrictos requisitos
relacionados con el suministro o la implantación de sistemas de IA, en especial
los que se clasifican como de alto riesgo por su utilización en el ámbito del
empleo, la gestión de los trabajadores y el acceso al autoempleo. En este
sentido, representa un paso importante en la dirección correcta.
5.2.3. El
CESE detecta varias lagunas jurídicas en el Reglamento de Inteligencia
Artificial con respecto a los derechos fundamentales en el lugar de trabajo.
5.2.3.1. El Reglamento de IA reconoce que una definición aislada del riesgo
no es suficiente para proteger contra los daños que puedan provocar los
sistemas de IA, por lo que no puede establecerse completamente de antemano, ya
que también depende del contexto de implantación (69).
En relación con los sistemas de IA de alto riesgo, los sistemas de gestión de
riesgos deben ejecutarse durante todo el ciclo de vida de dicho sistema de IA
(artículo 9). Sin embargo, el Reglamento de IA reconoce de manera expresa
la posibilidad de que un sistema de IA de alto riesgo, a pesar de cumplir
con sus disposiciones, presente un riesgo para la salud o la seguridad de las
personas o para los derechos fundamentales. (Artículo 82) (70).
5.2.3.2. La obligación de efectuar una evaluación de impacto relativa a los
derechos fundamentales para los sistemas de IA de alto riesgo sea de aplicación
únicamente a los organismos de Derecho público, las entidades privadas que
prestan servicios públicos y las entidades bancarias y de seguros
(artículo 27).
5.2.3.3. Los representantes de los trabajadores tan solo tienen derecho de
información, pero no de consulta (artículo 26, apartado 7). Se
permiten los espacios controlados de pruebas para la IA (artículo 57) y
las pruebas de sistemas de IA de alto riesgo en condiciones reales
(artículo 60) únicamente antes de su puesta en funcionamiento.
5.2.3.4. El CESE considera que la experimentación es crucial para que las
organizaciones puedan detectar los riesgos, analizar los resultados no deseados
y perfeccionar los algoritmos en un entorno controlado antes de su implantación
a gran escala. El Reglamento de IA debe ir acompañado de unas orientaciones
explícitas que aporten claridad jurídica y garanticen que se aplique y cumpla
de manera inequívoca.
5.2.4. Para
abordar estas cuestiones, el CESE pide a la Oficina de IA que establezca una
estrecha cooperación intersectorial con los interlocutores sociales europeos a
la hora de elaborar sus primeras orientaciones, con el fin de elaborar
directrices y aclaraciones claras sobre los sistemas de IA que detectan las
emociones de las personas físicas. Deben establecerse canales de coordinación
en profundidad, sólidos y claramente estructurados entre la Oficina de IA, por
una parte, y las DG EMPL y CONNECT de la Comisión Europea, por otra.
5.2.5. El
CESE considera que corresponde a los proveedores llevar a cabo una evaluación
de impacto ex ante sobre los derechos fundamentales respecto
de los sistemas de alto riesgo antes de que estos empiecen a utilizarse en
todas las entidades.
5.2.6. El
CESE pide que se incluyan orientaciones claras sobre cómo pueden utilizarse los
espacios controlados de pruebas y las pruebas en condiciones reales en
cualquier iniciativa futura sobre la IA en el trabajo.
5.3. Directivas
relativas a la información y consulta de los trabajadores, la seguridad y la
salud de los trabajadores en el lugar trabajo y el Acuerdo marco autónomo de
los interlocutores sociales europeos sobre la digitalización.
5.3.1. La
Directiva 2002/14/CE (71) garantiza
los derechos colectivos de información y consulta de los representantes de los
trabajadores y abarca eventuales medidas preventivas que supongan un riesgo
para el empleo, así como cualquier decisión que pueda provocar «cambios
sustanciales» en cuanto a la organización del trabajo (artículo 4). De
acuerdo con la Directiva 89/391/CE (72),
los empresarios deben garantizar la seguridad y la salud de los trabajadores en
todos los aspectos relacionados con el trabajo e informar, formar y consultar a
los representantes de los trabajadores en materia de salud y seguridad. Sin
embargo, la opacidad en la introducción de las herramientas de IA, su carácter
cambiante y la complejidad a la hora de definir lo que constituye un «cambio
sustancial» exigen que estas Directivas sean reforzadas mediante orientaciones
explícitas.
5.3.2. La
dimensión de la naturaleza iterativa y dinámica de los sistemas de IA se
corresponde con el proceso de diálogo iterativo que figura en el Acuerdo marco
de los interlocutores sociales europeos sobre la digitalización (73).
5.3.3. No
obstante, el Acuerdo solo aborda las cuestiones de IA con carácter marginal;
las acciones específicas en torno a la IA por parte de los interlocutores
sociales nacionales en relación con la aplicación del Acuerdo han sido bastante
limitadas, pues la mayoría solo se ha ocupado de cuestiones relacionadas con el
teletrabajo y el derecho a la desconexión.
5.3.4. El
CESE pide a la Comisión Europea que aborde claramente el contexto de la IA en
un instrumento ad hoc a fin de tener en cuenta la dimensión
dinámica del diálogo social y las evaluaciones de riesgos para la salud y la
seguridad de los sistemas de IA en el Acuerdo autónomo.
5.4. La
Directiva relativa al trabajo en plataformas digitales (74)
5.4.1. La Directiva relativa al trabajo en
plataformas digitales contiene disposiciones que podrían regular con eficacia
los sistemas automatizados de supervisión y toma de decisiones. En concreto, su
Capítulo III (75):
— amplía el régimen de transparencia algorítmica del RGPD para abarcar las decisiones tanto totalmente automatizadas como semiautomatizadas;
— introduce los derechos colectivos a la información y consulta, al exigir a las plataformas digitales de trabajo que los sistemas de gestión algorítmica sean inteligibles para los trabajadores de plataformas, sus representantes y las autoridades laborales;
— dispone que las plataformas deben transmitir la evaluación de impacto relativa a la protección de datos a los representantes de los trabajadores;
— prohíbe el tratamiento de datos personales «que no estén intrínsecamente conectados con la ejecución de su contrato ni sean estrictamente necesarios para ese fin» y el tratamiento de cualquier dato personal «sobre el estado emocional o psicológico» de los trabajadores de plataformas en cualquier circunstancia;
— introduce el derecho a una interfaz humana (artículo 10, «Supervisión por humanos de los sistemas automatizados de seguimiento y de los sistemas automatizados de toma de decisiones», y artículo 11, «Revisión por humanos»);
— introduce, en el artículo 12 relativo a la seguridad y la salud, requisitos específicos para la evaluación de los riesgos que los sistemas automatizados de supervisión o toma de decisiones plantean para la seguridad y la salud de los trabajadores.
5.4.2. Las
disposiciones del capítulo III de la Directiva relativa al trabajo en
plataformas digitales se aplican únicamente a las personas que realicen
trabajos en plataformas. Sin embargo, las prácticas de gestión algorítmica en
los lugares de trabajo habituales ya son una realidad (76),
por ejemplo, a la hora de asignar y optimizar los turnos de trabajo, de filtrar
y evaluar a los solicitantes de empleo, de evaluar los resultados en materia de
empleo y de tratar las cuestiones relativas a los recursos humanos. El CESE
pide a la Comisión Europea que amplíe el ámbito de aplicación de las
disposiciones del capítulo III de la Directiva sobre Trabajo en
Plataformas para incluir a todos los trabajadores.
Bruselas, 22 de enero
de 2025.
El Presidente
del Comité Económico y Social Europeo
Oliver RÖPKE
(1) Shaping the advancement of artificial intelligence through social dialogue .
(2) DO L, 2024/1689, 12.7.2024, ELI: http://data.europa.eu/eli/reg/2024/1689/oj.
(3) DO L 119 de 4.5.2016, p. 1.
(4) DO L, 2024/2831, 11.11.2024, ELI: http://data.europa.eu/eli/dir/2024/2831/oj.
(5) DO L 80 de 23.3.2002, p. 29.
(6) DO L 183 de 29.6.1989, p. 1.
(7) Framework Agreement on Digitalisation | Centro de Recursos de la CES.
(8) Foro Económico Mundial, Markets of Tomorrow: Pathways to a New Economy , 2020.
(9) McKinsey, Shaping the digital transformation in Europe , 2020.
(11) Estudio STOA (prospectiva científica) sobre el uso de la inteligencia artificial en la gestión del lugar de trabajo: The use of artificial intelligence in workplace management , 2022.
(13) Véase el anexo.
(15) DO L, 2024/1689, 12.7.2024, ELI: http://data.europa.eu/eli/reg/2024/1689/oj.
(16) K. C. Kellogg et al., Algorithms at Work: The New Contested Terrain of Control , 2020.
(17) Tal es el caso de todas las herramientas de IA basadas en el aprendizaje automático adaptativo. Véase la definición actualizada de la OCDE.
(18) OECD, The impact of Artificial Intelligence on productivity, distribution and growth , 2024.
(19) Kellogg et al., 2020; Cazzaniga et al., Gen-AI: Artificial Intelligence and the Future of Work , 2024.
(20) Babina, T., et al., Firm Investments in Artificial Intelligence Technologies and Changes in Workforce Composition, 2024.
(21) EPRS, 2022, AI and digital tools in workplace management and evaluation; Tambe et al. «Artificial Intelligence in Human Resources Management: Challenges and a Path Forward», California Management Review, 2019.
(22) PwC, Sizing the prize , 2017.
(23) EPRS, 2022; Hmoud, B., y Laszlo, V. L., «Will Artificial Intelligence Take Over Human Resources Recruitment and Selection?», Network Intelligence Studies, 2019.
(24) PwC, 2017.
(25) OCDE, 2024.
(26) Comunale, M., et al., «The Economic Impacts and the Regulation of AI: A Review of the Academic Literature and Policy Actions», documento de trabajo del FMI n.o 2024/65, 2024.
(27) Gmyrek, P. et al., «Generative AI and jobs: A global analysis of potential effects on job quantity and quality», documento de trabajo de la OIT n.o 96, 2023.
(28) Cazzaniga et al., 2024.
(29) Cazzaniga et al., 2024.
(30) Acemoglu, D., «The Simple Macroeconomics of AI», Massachusetts Institute of Technology, 2024.
(31) Gmyrek P. et al. (2023).
(32) Gmyrek P. et al. (2023), p. 37.
(33) OCDE, «Who will be the workers most affected by AI?», Documento de trabajo de la OCDE sobre IA n.o 26, 2024.
(34) OCDE:Perspectivas de empleo 2023.
(35) Informe del comité de inteligencia artificial generativa de Francia, 2024.
(36) Alekseeva, L., et al., «The demand for AI skills in the labour market», Labour Economics, vol. 71, 2021.
(37) OCDE: Perspectivas de empleo 2023.
(38) OCDE, « The impact of AI on the workplace: Main findings from the OECD AI surveys of employers and workers », 2023.
(39) Böhmer & H. Schinnenburg, Critical exploration of AI-driven HRM to build up organizational capabilities , 2023.
(40) Kellogg et al., 2020; Adams-Prassl, J.; Abraha, H., et al., «Regulating algorithmic management: A blueprint», European Labour Law Journal, vol. 14, n.o 2, pp. 124-151, 2023.
(41) Nurski, L., «AI at Work, why there’s more to it than task automation», documento explicativo del Centro de Estudios Políticos Europeos, 2024.
(42) EPRS, 2022; CIPD y PA Consulting, «People and machines: from hype to reality» (Personas y máquinas: de la fantasía a la realidad), Chartered Institute of Personnel and Development, 2019.
(43) Improving working conditions using Artificial Intelligence, estudio del Parlamento Europeo, 2021.
(44) Workplace Intelligence, AI at Work, estudio de 2020.
(45) OCDE: Perspectivas de empleo 2023.
(46) Pessach, D.; Singer, G.; Avrahami, D., et al.: «Employees recruitment: A prescriptive analytics approach via machine learning and mathematical programming», Decision Support Systems, 2020.
(47) V. Mandinaud, A. Ponce del Castillo, AI systems, risks and working conditions , ETUI, 2024.
(48) Kellogg et al., 2020.
(49) EU-OSHA, Worker management through AI - From technology development to the impacts on workers and their safety and health , 2024.
(50) EU-OSHA, OSH Pulse - Occupational safety and health in post-pandemic workplaces , 2022.
(51) OCDE, 2023.
(52) Eloundou, T., et al., GPTs Are GPTs: An Early Look at the Labor Market Impact Potential of Large Language Models, 2023.
(53) Comunale et al., 2024; Brynjolfsson E. et al., «Generative IA at work», documento de trabajo n.o 3116 de la Oficina Nacional de Investigaciones Económicas, 2023.
(54) OCDE, 2024.
(55) Encuesta mundial de la OIT sobre los trabajadores de microtareas, 2017; Tubaro et al., 2020. «The trainer, the verifier, the imitator: Three ways in which human platform workers support artificial intelligence», Big Data & Society, vol. 7, n.o 1, 2020.
(56) Informe del comité de inteligencia artificial generativa de Francia, 2024.
(57) [1] A escala global, el desarrollo de la IA cuenta con el apoyo de los trabajadores invisibles, los cuales se encuentran en su mayoría en países de renta baja donde tienen condiciones laborales precarias. Tubaro et al., 2020.
(58) OCDE, 2024.
(59) OCDE, « The impact of AI on the workplace: Main findings from the OECD AI surveys of employers and workers », 2023.
(60) Fundación Europea de Estudios Progresistas, Algorithm by and for the workers , 2024.
(61) Cazzaniga et al., 2024.
(62) DO L 119 de 4.5.2016, p. 1.
(63) EPRS, 2022.
(64) Fundación Europea de Estudios Progresistas, 2024.
(65) Tisné, M., «The Data Delusion: protecting individual data isn’t enough when the harm is collective», Luminate, Centro de Política Cibernética de la Universidad de Stanford, 2020.
(66) Los Estados miembros de la UE prácticamente siguen sin aplicar el artículo 88.
(67) Abraha, H.: «Article 88 GDPR and the Interplay between EU and Member State Employee Data protection rules», The Modern Law Review, 2023.
(68) Aida Ponce Del Castillo, The EU’s AI Act: governing through uncertainties and complexity, identifying opportunities for action (La Ley de IA de la UE: gobernar a través de la incertidumbre y la complejidad, identificar oportunidades de acción), kluwerlawonline.com, 2024.
(69) Kusche, I.: «Possible harms of artificial intelligence and the EU AI act: fundamental rights and risk», Journal of Risk Research, 2024.
(70) Isabel Kusche (2024).
(71) DO L 80 de 23.3.2002, p. 29.
(72) DO L 183 de 29.6.1989, p. 1.
(73) https://resourcecentre.etuc.org/agreement/framework-agreement-digitalisation.
(74) DO L, 2024/2831, 11.11.2024, ELI: http://data.europa.eu/eli/dir/2024/2831/oj.
(75) Adams-Prassl, J.; Abraha, H., et al., (2023).
(76) Plataforma Científica del JRC, Algorithmic management practices in regular workplaces are already a reality, 2024.
ANEXO I
Las enmiendas siguientes, que obtuvieron al menos una cuarta parte de los votos emitidos, fueron rechazadas en el transcurso del debate (artículo 14, apartado 3, del Reglamento interno):
ENMIENDA 1
SOC/803
Inteligencia artificial positiva para los trabajadores
Sustitúyase todo el Dictamen presentado por la Sección INT por el texto siguiente (la exposición de motivos figura al final del documento):
Enmienda del CDR | ||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||
1. Conclusiones y recomendaciones
2. Oportunidades y retos de la IA para la economía de la UE
2.7. Oportunidades y retos de la IA en el mundo laboral
3. El marco europeo para el uso de la IA en el trabajo 3.1. Marco legislativo actual de la Unión
3.2. El papel del diálogo social
3.3. Valoración de la situación actual
|
Exposición de motivos
El presente texto contiene una enmienda cuyo objeto es expresar una posición globalmente divergente respecto del Dictamen presentado por la Sección y deberá considerarse como una enmienda a la totalidad. En él se exponen las razones por las que el CESE considera que no se necesita legislación adicional sobre la IA en el mundo laboral y por las que la Comisión debería dejar un margen que permita a las empresas desarrollar enfoques responsables y éticos para trabajar con las tecnologías de IA en el marco jurídico actual.
Resultado de la votación
A favor: 112
En contra: 136
Abstenciones: 11
(1) Comisión Europea (2024), The future of European competitiveness part A a competitiveness strategy for Europe .
(2) Servicio de Estudios del Parlamento Europeo, AI investment: EU and global indicators .
(3) Comisión Europea (2024), The future of European competitiveness part B In-depth analysis of recommendations .
(4) https://www.ecb.europa.eu/press/economic-bulletin/focus/2024/html/ecb.ebbox202406_01~9c8418b554.en.html.
(5) https://www.ecb.europa.eu/press/economic-bulletin/focus/2024/html/ecb.ebbox202404_01~3ceb83e0e4.en.html.
(6) Véase, por ejemplo, el documento de CEPS AI World Navigate Tomorrow's Intelligence Today .
(7) OECD (2024), OECD Digital Economy Outlook 2024 (Volume 1): Embracing the Technology Frontier, OECD Publishing, París, https://doi.org/10.1787/a1689dc5-en.
(8) Véase, por ejemplo, Lane, M., M. Williams y S. Broecke (2023), «The impact of AI on the workplace: Main findings from the OECD AI surveys of employers and workers», OECD Social, Employment and Migration Working Papers, No. 288, OECD Publishing, París.
(9) EU-OSHA (2021), Impact of artificial intelligence on occupational safety and health ..
(10) Bruegel_factsheet_2024_0.pdf.
(11) Para ulteriores referencias, véase la sección 3 de la presente enmienda a la totalidad.
(12) Como se indica en la carta de mandato de Roxana Mînzatu, vicepresidenta ejecutiva.
(13) El Dictamen exploratorio solicitado por la Presidencia polaca llevaa por título «La inteligencia artificial: potencial y riesgos en el contexto de las políticas de empleo y del mercado laboral».
(14) OECD (2024), OECD Digital Economy Outlook 2024 (Volume 1): Embracing the Technology Frontier, OECD Publishing, París.
(15) Véase, por ejemplo, el documento de CEPS AI World Navigate Tomorrow's Intelligence Today .
(16) Orientaciones políticas para la próxima Comisión Europea 2024-2029.
(17) En 2023, el 8 % de las empresas de la UE utilizaron tecnologías de inteligencia artificial. En el caso de las grandes empresas de la UE, esta cifra fue del 30,4 %. Véase Eurostat, Use of artificial intelligence in enterprises - Statistics Explained .
(18) Eurostat, Use of artificial intelligence in enterprises - Statistics Explained .
(19) Comisión Europea (2024), The future of European competitiveness part A a competitiveness strategy for Europe .
(20) Comisión Europea (2024), The future of European competitiveness part B In-depth analysis of recommendations .
(21) Global AI vibrancy tool .
(22) El AI Index Report también puede encontrarse aquí.
(23) The state of AI in early 2024: Gen AI adoption spikes and starts to generate value .
(24) Boston Consulting Group (2023), Turning GenAI Magic into Business Impact .
(25) The state of AI in early 2024: Gen AI adoption spikes and starts to generate value .
(26) Esta evolución se refleja en informes y estudios sobre la evolución del empleo, como el Informe sobre el futuro del empleo de 2025 del Foro Económico Mundial ( Future of Jobs Report 2025: These are the fastest growing and declining jobs | Foro Económico Mundial).
(27) El AI Index Report también puede encontrarse aquí.
(28) Foro del Foro Económico Mundial.
(29) Véase, por ejemplo, EURES, Cómo puede mejorar la IA el proceso de adquisición de talento.
(30) FMI, Gen-AI: Artificial Intelligence and the Future of Work .
(31) FEM (enero de 2025), Future of Jobs Report 2025 .
(32) Lane, M., M. Williams y S. Broecke (2023), «The impact of AI on the workplace: Main findings from the OECD AI surveys of employers and workers», OECD Social, Employment and Migration Working Papers, n.o 288, OECD Publishing, París.
(33) CIPD and PA Consulting (2020), Workplace Intelligence, AI at Work 2020 Study ; Chartered Institute of Personnel and Development (2019), People and machines: from hype to reality .
(34) Improving working conditions using Artificial Intelligence, estudio del Parlamento Europeo, 2021.
(35) Workplace Intelligence, AI at Work , estudio de 2020.
(36) Lane, M., M. Williams y S. Broecke (2023), «The impact of AI on the workplace: Main findings from the OECD AI surveys of employers and workers», OECD Social, Employment and Migration Working Papers, n.o 288, OECD Publishing, París.
(37) Dana Pessach, Gonen Singer, Dan Avrahami, Hila Chalutz Ben-Gal, Erez Shmueli, Irad Ben-Gal, Employees recruitment: A prescriptive analytics approach via machine learning and mathematical programming, Decision Support Systems , Volume 134, 2020.
(38) Véase el informe Artificial intelligence for worker management: an overview .
(39) Véase Work organisation and job quality in the digital age | European Foundation for the Improvement of Living and Working Conditions .
(40) Baiocco, S., Fernández-Macías, E., Rani, U. y Pesole, A., The Algorithmic Management of work and its implications in different contexts, JRC129749, Comisión Europea, Sevilla.
(41) El Reglamento de Ciberresiliencia refuerza las obligaciones de los fabricantes de productos conectados para garantizar que las vulnerabilidades sean tratadas y corregidas, así como para aumentar la protección de los dispositivos o máquinas.
(42) Véase, por ejemplo, aquí.
(43) Véase, por ejemplo, aquí.
(44) Como se indica en la carta de mandato de Roxana Mînzatu, vicepresidenta ejecutiva.
(45) En cuanto a los riesgos, véase, por ejemplo, Baiocco, S., Fernández-Macías, E., Rani, U. y Pesole, A. (2022), The Algorithmic Management of work and its implications in different contexts, JRC129749, Comisión Europea, Sevilla.
ELI: http://data.europa.eu/eli/C/2025/1185/oj
ISSN 1977-0928 (electronic edition)
No hay comentarios:
Publicar un comentario