Por: Carlos FERREYROS SOTO
Doctor en Derecho
Université de Montpellier I Francia.
M. Sc. Institut Agronomique Méditerranéen
cferreyros@hotmail.com
SINTESIS
El Comité Económico y Social
Europeo (CESE) celebra esta revisión del plan coordinado sobre la inteligencia
artificial (IA), fruto del trabajo conjunto de la Comisión Europea y los
Estados miembros, y pide que se acelere su aplicación movilizando a todos los
agentes pertinentes.
El CESE apoya el enfoque integral de la
Comisión con respecto a su estrategia para una IA integradora y sostenible,
basada en la creación de un ecosistema de excelencia y confianza. Las
propuestas de un plan y de un Reglamento, cada una de las cuales es objeto de
un Dictamen específico, son los dos pilares que consolidan a Europa como actor
mundial en materia de IA.
El CESE señala que la confianza
depende del derecho de todo trabajador, consumidor o ciudadano, hombres y mujeres,
a entender los procesos algorítmicos en la medida en que repercutan en sus
vidas y su entorno. El nuevo plan coordinado debe ajustarse a este requisito de
transparencia y explicabilidad, inseparable del derecho de toda la ciudadanía a
impugnar decisiones tomadas únicamente por un algoritmo.
El CESE considera que la UE puede convertirse
en un líder mundial creíble en materia de IA siempre que exista una
coordinación plena entre las instituciones de la UE, los Estados miembros y la
sociedad civil organizada - interlocutores sociales, consumidores y ciudadanía - y se definan claramente las responsabilidades individuales. Esta coordinación maximizará
el impacto global, garantizando al mismo tiempo una ejecución rápida y
coherente de las políticas y los programas de inversión.
El CESE celebra que el plan coordinado solo cobra pleno sentido si
se articula estrechamente con la Estrategia Europea de Datos - creación de un
espacio común europeo de datos y protección de los mismos - y de ciberseguridad.
Dictamen del Comité Económico y Social Europeo sobre la «Comunicación de la Comisión al Parlamento Europeo, al Consejo, al Comité Económico y Social Europeo y al Comité de las Regiones — Fomentar un planteamiento europeo en materia de inteligencia artificial»
[COM(2021) 205 final]
(2021/C 517/08)
Ponente: | Marie-Françoise GONDARD-ARGENTI |
Consultas | Comisión Europea, 1.7.2021 |
Fundamento jurídico | Artículo 304 del Tratado de Funcionamiento de la Unión Europea |
Aprobado en sección | 2.9.2021 |
Aprobado en el pleno | 22.9.2021 |
Pleno n.o | 563 |
Resultado de la votación (a favor/en contra/abstenciones) | 235/0/7 |
1. Conclusiones y recomendaciones
1.1.
El Comité Económico y Social Europeo (CESE) celebra esta revisión del plan
coordinado sobre la inteligencia artificial (IA), fruto del trabajo conjunto de
la Comisión Europea y los Estados miembros, y pide que se acelere su aplicación
movilizando a todos los agentes pertinentes.
1.2. El CESE apoya el enfoque integral de la
Comisión con respecto a su estrategia para una IA integradora y sostenible,
basada en la creación de un ecosistema de excelencia y confianza. Las
propuestas de un plan y de un Reglamento, cada una de las cuales es objeto de
un Dictamen específico, son los dos pilares que consolidan a Europa como actor
mundial en materia de IA.
1.3. Con el fin de lograr los beneficios
económicos, sociales, medioambientales y de salud pública previstos para toda
la ciudadanía europea sin discriminación, el plan debe dar un nuevo impulso a
la educación integrando las cuestiones éticas y medioambientales, el
aprendizaje permanente, el desarrollo de competencias a lo largo de toda la
vida, los retos en materia de innovación y el apoyo a los trabajadores, hombres
y mujeres, y las empresas, incluidas las de menor tamaño.
1.4. En el mundo laboral, la confianza es la
clave del éxito y la IA no es una excepción a esta norma. El CESE considera que
este nuevo plan deberá otorgar al diálogo social y a los interlocutores
sociales un papel clave a lo largo de todo el proceso. Si bien la cuestión de
las competencias es esencial, la reflexión debe englobar todas las cuestiones
relacionadas con la automatización del mundo laboral.
1.5. El CESE recomienda que la Comisión, en el
marco político que pretende establecer, anime encarecidamente a los Estados
miembros a reforzar el diálogo social y cívico sobre las cuestiones y los
instrumentos relativos a la IA.
1.6. El CESE señala que la confianza depende
del derecho de todo trabajador, consumidor o ciudadano, hombres y mujeres, a
entender los procesos algorítmicos en la medida en que repercutan en sus vidas
y su entorno. El nuevo plan coordinado debe ajustarse a este requisito de transparencia
y explicabilidad, inseparable del derecho de toda la ciudadanía a impugnar
decisiones tomadas únicamente por un algoritmo.
1.7. El CESE considera que la UE puede
convertirse en un líder mundial creíble en materia de IA siempre que exista una
coordinación plena entre las instituciones de la UE, los Estados miembros y la
sociedad civil organizada —interlocutores sociales, consumidores y
ciudadanía— y se definan claramente las responsabilidades individuales. Esta
coordinación, que tiene lugar entre las instituciones europeas, entre estas y
los Estados miembros y entre los propios Estados miembros, maximizará el
impacto global, garantizando al mismo tiempo una ejecución rápida y coherente
de las políticas y los programas de inversión.
1.8. Intrínsecamente global, la IA es
sensible, no obstante, a la escala de su implantación, y lo es casi en relación
directa. Al erigir a los Estados miembros como agentes clave del concierto
mundial de la IA, el plan coordinado adquiere valor de piedra angular para la
estrategia europea de la IA.
1.9. El CESE celebra que el plan coordinado
revisado proponga acciones concretas para estimular la ejecución de las
estrategias nacionales y multiplicar las sinergias. Sin embargo, solo cobra
pleno sentido si se articula estrechamente con la Estrategia Europea de
Datos —creación de un espacio común europeo de datos y protección de los
mismos— y de ciberseguridad.
1.10. Para compensar la falta de coordinación
de carácter vinculante, el CESE recomienda que se cree un dispositivo de
seguimiento permanente de los avances mediante indicadores de rendimiento
desarrollados por todas las partes interesadas.
1.11. El CESE anima a los Estados miembros a
que recurran al Mecanismo de Recuperación y Resiliencia —y a otros
instrumentos financieros, como «Horizonte Europa», el programa Europa Digital e
InvestEU— para apoyar el desarrollo y la adopción de la IA, especialmente entre
las pequeñas empresas. Un informe reciente del BEI señala el camino que hay que
seguir (1).
2. Observaciones generales
2.1. La Comisión pretende convertir a la UE en
el motor mundial de una IA orientada al ser humano, inclusiva, segura,
sostenible y merecedora de confianza. Tras extraer las lecciones de la crisis
sanitaria, desea acelerar la inversión, reforzar las medidas actuales y
armonizarlas de forma rigurosa para impulsar las sinergias y la agilidad (2). El CESE respalda la aplicación
urgente y decisiva de este enfoque con el fin de reforzar la excelencia interna
e internacional de la UE.
2.2. El CESE toma nota de los avances logrados
desde el primer plan coordinado de 2018. El plan actualizado señala claramente
las prioridades, a saber: invertir en infraestructuras y en el uso compartido
de datos, impulsar la excelencia movilizando la innovación y las competencias y
garantizar la fiabilidad y la transparencia en toda la cadena de valor. La
inversión de 7 000 millones de euros en 2019 (un 30 % adicional)
se considera alentadora.
2.3. El plan coordinado se enmarca en el
respeto de los derechos fundamentales y sociales y en la no discriminación por
parte de los algoritmos. Este Dictamen es indisociable del Dictamen sobre la
propuesta conjunta de Reglamento, que trata los aspectos éticos y establece
normas armonizadas (3).
2.4. El CESE considera que un marco ético y
unas normas reconocidas y compartidas, acompañados de un plan coordinado, son
los catalizadores clave y estructuradores que darán a la ciudadanía europea la
confianza necesaria para adoptar la IA y, al mismo tiempo, garantizarán una
ventaja competitiva y global.
2.5. Esta confianza de la ciudadanía está
inextricablemente ligada al derecho a la explicabilidad de los algoritmos y a
la posibilidad de impugnar cualquier decisión que afecte a sus vidas. Quienes
desarrollan y utilizan la IA han de permanecer vigilantes, lo que debe
traducirse en auditorías y pruebas periódicas. Las personas deben mantener el
control sobre las decisiones.
2.6. El CESE expresa su preocupación por el
riesgo de fragmentación vinculado a las diferentes estrategias nacionales y
pide a los Estados miembros que, en interés de la UE, intensifiquen su
cooperación, en particular en materia de ciberseguridad, una prerrogativa
estatal que, no obstante, constituye la columna vertebral del plan.
2.7. El CESE pide que la IA sea sostenible en
sus objetivos económicos, sociales y medioambientales y respete las
responsabilidades económicas, sociales y medioambientales.
3. Observaciones específicas
3.1. Las ambiciones de la Comisión están
plenamente justificadas y la llevan a colaborar con los Estados miembros, el
sector privado y la sociedad civil organizada para:
— acelerar la inversión en IA con
miras a una recuperación económica y social rápida y resiliente, basada en
soluciones digitales avanzadas;
— implantar a tiempo las
estructuras y los programas previstos que permitan recoger las recompensas
reservadas a los pioneros en la producción o la adopción de tecnologías;
— optimizar la cohesión de las
políticas para evitar la dispersión y afrontar juntos este reto mundial.
3.2. El CESE respalda la voluntad de la Comisión de utilizar el programa Europa Digital y «Horizonte Europa», con una asignación mínima de 1 000 millones de euros al año entre 2021 y 2027: el efecto palanca previsto impulsará la inversión pública y privada en IA hasta los 20 000 millones de euros anuales durante ese mismo período. El Mecanismo de Recuperación y Resiliencia (MRR) reforzará este efecto palanca.
3.3. Crear las condiciones favorables:
datos e infraestructura
3.3.1. El CESE reclama a la Comisión y a los
Estados miembros que intensifiquen la cooperación y la coordinación en materia
de gobernanza de la IA: la ejecución de estrategias nacionales, el intercambio
de conocimientos, experiencia y buenas prácticas para acelerar el desarrollo y
la adopción de la IA y para hacer frente a los retos mundiales que esta
plantea.
3.3.2. La disponibilidad, la accesibilidad y
la libre circulación de datos son requisitos previos para el desarrollo de la
IA, que se completan con la estrategia de datos, la protección de los mismos y
la ciberseguridad. El CESE recuerda que el intercambio fluido de datos
personales depende de una estrecha coordinación y del más estricto cumplimiento
del RGPD. Al igual que la seguridad y la transparencia de los datos, la norma
puede suponer una ventaja competitiva en la competencia mundial (4). El CESE respalda el desarrollo
del espacio común europeo de datos y de espacios sectoriales específicos.
3.3.3. Aparte de algunos sistemas de
inteligencia artificial que no dependen de datos, el rendimiento de la IA
depende directamente del volumen, la pertinencia y la calidad de los datos
disponibles. Por ello, el CESE considera esencial contar con un potencial optimizado
que facilite los intercambios de datos flexibles, interoperables y seguros. El
CESE aprueba que se determinen los sectores clave, como la producción
industrial, el Pacto Verde, la movilidad, la salud, las finanzas y la energía,
con el fin de seguir su evolución al detalle y evaluar los avances conseguidos.
3.3.4. El CESE apoya:
— el objetivo de aumentar de
manera considerable la potencia de cálculo disponible en Europa para explotar y
aprovechar los datos en tiempo real y el objetivo de crear y producir en la UE
los procesadores indispensables, complementados con un programa de desarrollo
sostenible;
— el concepto de «datos de
interés general», entendido como la apertura de los datos por parte de las
autoridades públicas para ayudarlas o impulsar el uso compartido de datos
considerados esenciales (5), incluidos los datos de los
agentes que operan en el territorio europeo pero que no participan en su
política industrial.
3.3.5. El CESE aspira a que los Estados
miembros refuercen su compromiso con la investigación y la innovación
destinadas a desarrollar las estructuras, infraestructuras e instrumentos
necesarios para el bien común y contribuir a la soberanía de la UE en el campo de
la IA.
3.4. Impulsar la excelencia del
laboratorio al mercado: innovación y asociaciones
3.4.1. El CESE respalda el enfoque holístico
que pretende convertir a la UE en un espacio de excelencia, desde la
investigación básica y la innovación hasta la introducción en el mercado. El
CESE considera esencial que la UE y los Estados miembros aceleren su
cooperación para crear las condiciones propicias para la innovación, las
perspectivas comerciales de la IA y el desarrollo de talentos y competencias en
sintonía con la visión europea centrada en las personas y la confianza. El CESE
celebra comprobar que las estructuras de cooperación horizontales respaldan
estas ambiciones.
3.4.2. El CESE acoge con satisfacción el deseo
de la Comisión de impulsar la experimentación, poner de relieve los centros de
innovación digitales regionales en cooperación con iniciativas nacionales y
regionales, y compartir experiencias. Estos centros de innovación y las
plataformas a la carta facilitan la adopción de la IA por parte de las
microempresas y las pymes, como complemento de una ayuda financiera específica.
El CESE considera importante apoyar a las empresas emergentes, a las empresas
emergentes en expansión y a las pymes tradicionales en el desarrollo de la IA.
3.4.3. No obstante, el CESE subraya que esta
política de centros de excelencia no debe perjudicar la financiación normal y a
largo plazo de los laboratorios de investigación «convencionales» para no
retrasar la aparición de tecnologías revolucionarias.
3.4.4. El CESE desea impulsar los programas de
aculturación de las organizaciones, las microempresas y las pymes a través del
desarrollo de redes de apoyo específicas. Sería deseable que las iniciativas
emprendidas para respaldar el acceso de las microempresas y las pymes a la IA (Testing
and experimentation facilities, Digital Innovation Hubs y AI-on
demand platforms) se reforzasen y evaluasen para determinar sus
repercusiones prácticas en estas empresas con el propósito de mejorarlas.
3.4.5. Un estudio reciente encargado por el
CESE muestra hasta qué punto la expansión de las empresas emergentes es una
etapa obligada, ya sea por el acceso a las competencias necesarias, a los
contenedores de datos para los algoritmos o a la financiación esencial, o por dirigirse
a un mercado suficientemente grande para garantizar una amortización rápida de
infraestructuras costosas. Por lo tanto, los responsables políticos deben
conceder prioridad a las microempresas y las pymes y proponer políticas
adecuadas. Habida cuenta de los perjuicios económicos provocados por la
pandemia, el apoyo a las empresas emergentes, a las empresas emergentes en
expansión y a las pymes tradicionales en el desarrollo de la IA se ha
convertido en una obligación apremiante.
3.4.6. El CESE respalda el desarrollo de
«entornos de pruebas» para experimentar nuevas ideas en condiciones similares a
la realidad e impulsar la agilidad. El CESE recomienda que se haga un uso
compartido más eficiente de los resultados y que estos se reconozcan mutuamente
sin tener en cuenta las fronteras.
3.4.7. La excelencia de la investigación
refleja el talento y las competencias de las personas que trabajan en los
laboratorios, pero también la confianza de los usuarios con respecto a la IA.
Por ello, el CESE desea que los programas de enseñanza superior generen talento
de categoría mundial en el ámbito de la innovación y el desarrollo empresarial.
Solicita a la UE que proporcione las condiciones necesarias para retener el
talento y atraer competencias del extranjero. El CESE expresa su deseo de que
haya un entorno comercial global estable y de confianza, que permita a las
empresas y a los trabajadores, hombres y mujeres, incorporar mejor la IA en
beneficio de la investigación y la innovación.
3.4.8. Las organizaciones de la sociedad civil
merecen recibir apoyo para la implantación de soluciones de IA y estar entre
las beneficiarias de los fondos y recursos dedicados a la IA. Esto cobra
especial relevancia en el caso de los servicios sociales, respetando plenamente
el derecho a la privacidad y las normas sobre el tratamiento y almacenamiento
de datos, incluidos los biométricos.
3.5. Hacer que la IA funcione para la
ciudadanía: competencias y confianza
3.5.1. El CESE respalda la estrategia de la
Comisión basada en la creación de un ecosistema de excelencia y un ecosistema
de confianza. Este enfoque se recoge en el Libro Blanco adoptado en 2019 (6). Puesto que la enseñanza y la
formación constituyen las claves que permitirán impulsar la excelencia y
aumentar la confianza en la IA, es labor de los sistemas educativos y de
formación satisfacer un extenso conjunto de necesidades, desde los conocimientos
básicos y la comprensión general hasta la adquisición de habilidades
especializadas y competencias de alto nivel (7).
3.5.2. El CESE acoge con satisfacción que se
haya incorporado el nuevo Plan de Acción de Educación Digital adoptado por la
Comisión para el período 2020-2027. Esto permitirá comprender mejor la
naturaleza y el funcionamiento de la IA desde la escuela primaria hasta la
universidad, así como la renovación de las competencias.
3.5.3. El CESE confía en que los Estados
miembros desarrollen una oferta educativa en torno a la IA que incorpore
también las cuestiones éticas y medioambientales relacionadas, y que fomenten
el intercambio de buenas prácticas con el fin de promover la diversidad en el
acceso a la formación, el desarrollo y el uso de la IA. El auge de la IA y su
uso en beneficio de todos requiere un enfoque multidisciplinar y el
establecimiento de puentes.
3.5.4. El CESE considera que los
interlocutores sociales son agentes esenciales para prever la evolución de las
competencias y la transformación de los puestos de trabajo. El diálogo social
resulta fundamental para ayudar a la mano de obra afectada por la automatización
de sus tareas.
3.5.5. El CESE subraya la importancia de la
cooperación entre los gobiernos, los centros educativos, los interlocutores
sociales y las organizaciones de la sociedad civil implicadas a la hora de
concebir y aplicar nuevos programas de enseñanza y formación continua,
dirigidos de forma prioritaria a las personas desempleadas. Se necesitan
formaciones adecuadas para las microempresas y las pymes, tanto para los
empresarios como para las plantillas.
3.5.6. El CESE lamenta que el plan omita una
posible reflexión conjunta sobre el mundo y el futuro del trabajo frente a la
automatización. Para fomentar la confianza de los trabajadores en las
aplicaciones de la IA es necesario mejorar el diálogo social, que es esencial
para introducir sistemas de IA que tengan un impacto en la mano de obra,
especialmente en el ámbito de la gestión o los recursos humanos. Ante la
posible pérdida de puestos de trabajo, el aumento de las desigualdades y la
recomposición de los sectores productivos, parece necesario garantizar la plena
coordinación entre los Estados miembros, en estrecha cooperación con las
empresas, las regiones, los interlocutores sociales y los organismos
intermediarios, con vistas a:
— desarrollar capacidades
prospectivas, permanentes e institucionalizadas en el ámbito de la
automatización;
— desarrollar mecanismos
innovadores y proactivos para la transición de las profesiones y las
competencias;
— reflexionar sobre la complementariedad no solo para «desarrollar la IA» en las distintas profesiones sino también para detectar el cambio en lo que respecta a la cultura y la práctica y establecer normas de «buena complementariedad» que favorezcan la emancipación individual.
3.5.7. La confianza es la piedra angular de
una sociedad digitalizada; por ello, el CESE valora especialmente el enfoque de
la Comisión en todos los ámbitos encargados de garantizar el interés general y,
en particular, el interés de la ciudadanía, los consumidores, así como de los
trabajadores, hombres y mujeres, y las empresas, incluidas las del sector de la
economía social, para aumentar el nivel general de confianza en la IA: la
protección de los derechos fundamentales, la ciberseguridad, la protección de
los datos, la propiedad intelectual y el aprovechamiento sostenible y eficaz de
los recursos, sin dejar de lado las cuestiones reglamentarias relacionadas con
la innovación. Parece importante precisar con exactitud los posibles peligros
derivados del abuso de la IA y proponer remedios adecuados. El CESE respalda
las medidas que contempla la Comisión para reforzar la seguridad en todos los
ámbitos y adaptar el marco reglamentario a los retos que plantea la IA. A este
respecto, recuerda el papel pionero de la sociedad civil organizada, por
ejemplo en la evaluación de los riesgos inherentes al reconocimiento facial.
3.5.8. El CESE apoya plenamente el deseo de
promover la visión europea de una IA sostenible y fiable en todo el mundo,
fomentando la definición de normas de ámbito mundial sobre la inteligencia
artificial y desarrollando asociaciones e iniciativas conjuntas con terceros
países.
3.6. Desarrollar un liderazgo
estratégico en sectores de gran impacto
3.6.1. El CESE valora positivamente el enfoque
realista de la Comisión, que consiste en concentrar sus acciones en sectores
donde el liderazgo en IA resulta indispensable: clima y medio ambiente, salud,
robótica y automatización, servicios públicos, seguridad pública, incluidas las
políticas antiterroristas y de migración, movilidad inteligente, agricultura y
sectores afines.
3.6.2. El CESE considera que la transición
digital constituye un instrumento clave para la descarbonización y la gestión
del medio ambiente, al tiempo que vela por limitar el posible impacto negativo
de las soluciones basadas en la IA sobre el clima, el medio ambiente y el
consumo de energía. La utilización de la IA en la gestión de los sistemas de
energía y transporte, así como en los procesos industriales y la agricultura,
impulsa la eficiencia energética, la economía circular y la gestión sostenible
de los recursos naturales; es un factor que promueve la productividad y la
eficiencia económica. La IA proporciona, además, los medios necesarios para
comprender mejor y controlar los fenómenos climáticos y medioambientales.
3.6.3. El CESE solicita que se aprovechen las oportunidades que ofrece la IA en cuanto a la investigación del origen de las enfermedades, el desarrollo de nuevas moléculas, equipos médicos y terapias avanzadas, o en los ámbitos de la investigación, el diagnóstico y el tratamiento, por ejemplo en la lucha contra el cáncer. El espacio europeo de datos sanitarios, ideado en el respeto absoluto de la privacidad y los datos personales, es un paso importante hacia el pleno aprovechamiento del potencial de la IA. La atención diaria a pacientes, personas mayores o personas con discapacidad por parte de robots ilustra los beneficios de una excelencia robótica, que no se ocupa tanto de los logros tecnológicos como de asegurar la comunicación entre seres humanos y robots.
Bruselas,
22 de septiembre de 2021.
La Presidenta del Comité
Económico y Social Europeo
Christa SCHWENG
(1) Artificial intelligence,
blockchain and the future of Europe.
(2) DO
C 240 de 16.7.2019, p. 51.
(3) Dictamen del CESE acerca del Reglamento sobre IA (véase la
página 61 del presente Diario Oficial).
(4) La norme sans la force: l’énigme
de la puissance européenne, Zaki Laïdi,
2005.
(5) Reglamento relativo a la gobernanza europea de datos.
(6) DO
C 364 de 28.10.2020, p. 87.
(7) DO
C 14 de 15.1.2020, p. 46.
