Por: Carlos A. FERREYROS SOTO
Université de Montpellier I Francia.
M. Sc. Institut Agronomique Méditerranéen
cferreyros@hotmail.com
RESUMEN
La inteligencia artificial (IA) es un conjunto de
tecnologías de rápida evolución que puede generar un amplio abanico de beneficios
económicos y sociales en todos los sectores y actividades sociales. Al mismo tiempo,
dependiendo de las circunstancias de su aplicación y utilización concretas, la inteligencia
artificial puede presentar riesgos y menoscabar los intereses públicos y los derechos
fundamentales que protege el Derecho de la Unión.
La complejidad y la adopción cada vez más
extendida de la IA, especialmente cuando se basa en los modelos más punteros, y
la necesidad de acelerar los avances hacia los objetivos y metas previstos en el
programa estratégico de la Década Digital establecido por la Decisión (UE) 2022/2481
del Parlamento Europeo y del Consejo demuestran la necesidad de adoptar medidas
adicionales para mejorar la comprensión de las capacidades, las tendencias y los
riesgos potenciales y para lograr que las tecnologías de IA se desarrollen y se
utilicen de forma segura en la Unión.
Es necesario desarrollar conocimientos especializados y capacidades a escala de la Unión con vistas a fomentar dicha comprensión, contribuir a la aplicación y la ejecución del próximo Reglamento por el que se establecen normas armonizadas en materia de inteligencia artificial, y contribuir a la aplicación de las normas y principios internacionales en materia de IA, como el Código de Conducta del G7 y los Principios Rectores para los desarrolladores de sistemas avanzados de IA.
En este contexto, deben sentarse las bases de un sistema
único de gobernanza de la IA en la Unión mediante el establecimiento de una estructura
que supervise los avances en los modelos de inteligencia artificial, en particular
en lo que respecta a los modelos de IA de uso general, la interacción con la comunidad
científica - con un papel clave en las investigaciones y las pruebas - y la ejecución
de las normas; dicha estructura debe tener una vocación mundial.
La presente Decisión entrará
en vigor el 21 de febrero de 2024.
A fin de acceder a normas similares y estándares europeos, las empresas, organizaciones públicas y privados ayudados en asesorías, consultorías, capacitaciones, estudios, evaluaciones, auditorías sobre el tema, sírvanse comunicar al correo electrónico : cferreyros@hotmail.com
__________________________________________________________
 | Diario Oficial | ES Serie C |
C/2024/1459 | 14.2.2024 |
DECISIÓN DE LA COMISIÓN
de 24 de enero de 2024
por la que se crea la Oficina Europea de Inteligencia Artificial
(C/2024/1459)
LA COMISIÓN EUROPEA,
Visto el Tratado de Funcionamiento de la Unión Europea,
Considerando lo siguiente:
(1) | La inteligencia artificial (IA) es un conjunto de tecnologías de rápida evolución que puede generar un amplio abanico de beneficios económicos y sociales en todos los sectores y actividades sociales. Al mismo tiempo, dependiendo de las circunstancias de su aplicación y utilización concretas, la inteligencia artificial puede presentar riesgos y menoscabar los intereses públicos y los derechos fundamentales que protege el Derecho de la Unión. |
(2) | La Comisión ha propuesto un Reglamento por el que se establecen normas armonizadas en materia de inteligencia artificial (Ley de Inteligencia Artificial) y se modifican determinados actos legislativos de la Unión (1) destinado a impulsar el desarrollo, la utilización y la adopción de la inteligencia artificial en el mercado interior y que, al mismo tiempo, ofrece un nivel elevado de protección de los intereses públicos, como la salud y la seguridad, y de los derechos fundamentales reconocidos y protegidos por el Derecho de la Unión. El Reglamento propuesto es una de las medidas de la Comisión destinadas a alcanzar el doble objetivo de promover la adopción de la IA y de abordar los riesgos relacionados con determinados usos de dicha tecnología. Otras medidas son la revisión de 2021 del Plan Coordinado sobre la Inteligencia Artificial (2), las iniciativas de políticas sectoriales que fomentan la adopción de la IA o los programas de financiación de la Unión, como los establecidos por los Reglamentos (UE) 2021/694 (3) y (UE) 2021/695 (4) del Parlamento Europeo y del Consejo. |
(3) | La complejidad y la adopción cada vez más extendida de la IA, especialmente cuando se basa en los modelos más punteros, y la necesidad de acelerar los avances hacia los objetivos y metas previstos en el programa estratégico de la Década Digital establecido por la Decisión (UE) 2022/2481 del Parlamento Europeo y del Consejo (5) demuestran la necesidad de adoptar medidas adicionales para mejorar la comprensión de las capacidades, las tendencias y los riesgos potenciales y para lograr que las tecnologías de IA se desarrollen y se utilicen de forma segura en la Unión. |
(4) | Es necesario desarrollar conocimientos especializados y capacidades a escala de la Unión con vistas a fomentar dicha comprensión, contribuir a la aplicación y la ejecución del próximo Reglamento por el que se establecen normas armonizadas en materia de inteligencia artificial, y contribuir a la aplicación de las normas y principios internacionales en materia de IA, como el Código de Conducta del G7 y los Principios Rectores para los desarrolladores de sistemas avanzados de IA. |
(5) | En este contexto, deben sentarse las bases de un sistema único de gobernanza de la IA en la Unión mediante el establecimiento de una estructura que supervise los avances en los modelos de inteligencia artificial, en particular en lo que respecta a los modelos de IA de uso general, la interacción con la comunidad científica —con un papel clave en las investigaciones y las pruebas— y la ejecución de las normas; dicha estructura debe tener una vocación mundial. |
(6) | Por consiguiente, debe crearse una Oficina Europea de Inteligencia Artificial en el seno de la Comisión como parte de la estructura administrativa de la Dirección General de Redes de Comunicación, Contenido y Tecnologías y que dependa de su plan de gestión anual. |
(7) | La Oficina Europea de Inteligencia Artificial debe funcionar de conformidad con los procesos internos de la Comisión (6) y su creación no debe afectar a las facultades ni a las competencias de las autoridades nacionales competentes ni de los órganos y organismos de la Unión en lo que respecta a la supervisión de los sistemas de IA, tal como se contempla en el próximo Reglamento por el que se establecen normas armonizadas en materia de inteligencia artificial y en otra legislación sectorial de la Unión. Todo ello se entiende sin perjuicio de las funciones de otros servicios de la Comisión en sus respectivos ámbitos de responsabilidad ni de las funciones del Servicio Europeo de Acción Exterior en el ámbito de la política exterior y de seguridad común. La Oficina Europea de Inteligencia Artificial debe desempeñar sus funciones, en particular a la hora publicar orientaciones, de manera que no duplique las actividades de los órganos y organismos pertinentes de la Unión en el marco de la legislación sectorial específica. |
(8) | A fin de que pueda iniciarse lo antes posible la preparación de la aplicación del próximo Reglamento por el que se establecen normas armonizadas en materia de inteligencia artificial, la presente Decisión debe entrar en vigor con carácter de urgencia antes de la adopción de dicho Reglamento, después de que los colegisladores alcanzaran un acuerdo político el 8 de diciembre de 2023. Una vez adoptado el Reglamento, la presente Decisión podrá ser revisada. |
DECIDE:
Artículo 1
Constitución
Se crea la Oficina Europea de Inteligencia Artificial (en lo sucesivo, «la Oficina»).
La Oficina formará parte de la estructura administrativa de la Dirección General de Redes de Comunicación, Contenido y Tecnologías (en lo sucesivo, «la Dirección General»).
Artículo 2
Misión y funciones
1. La Oficina desempeñará las funciones establecidas en el artículo 3 a efectos de la aplicación y la ejecución del próximo Reglamento por el que se establecen normas armonizadas en materia de inteligencia artificial (en lo sucesivo, «el próximo Reglamento»).
2. La Oficina desempeñará, además, las funciones siguientes:
a) | contribuir al enfoque estratégico, coherente y efectivo de la Unión respecto de las iniciativas internacionales en materia de IA con arreglo al artículo 7, en coordinación con los Estados miembros y según las posiciones y políticas de la Unión; |
b) | contribuir a la promoción de acciones y políticas en la Comisión que aprovechen los beneficios sociales y económicos de las tecnologías de IA con arreglo al artículo 5; |
c) | apoyar el desarrollo, la implantación y el uso acelerados de sistemas y aplicaciones de IA fiables que aporten beneficios sociales y económicos y contribuyan a la competitividad y el crecimiento económico de la Unión. En particular, la Oficina promoverá los ecosistemas de innovación a través de la colaboración con los agentes públicos y privados pertinentes y con la comunidad de empresas emergentes; |
d) | supervisar la evolución de los mercados y las tecnologías de IA. |
3. En el desempeño de las funciones a que se refieren los apartados 1 y 2 del presente artículo, la Oficina:
a) | colaborará con las partes interesadas, en particular con los expertos de la comunidad científica y los desarrolladores de IA, con arreglo al artículo 4; |
b) | colaborará con las Direcciones Generales y los servicios pertinentes de la Comisión con arreglo al artículo 5; |
c) | cooperará con todos los órganos y organismos pertinentes de la Unión, en particular la Empresa Común de Informática de Alto Rendimiento Europea (Empresa Común EuroHPC), de conformidad con el artículo 6; |
d) | cooperará con las autoridades y organismos de los Estados miembros en nombre de la Comisión. |
Artículo 3
Aplicación del próximo Reglamento
1. La Oficina desempeñará las siguientes funciones derivadas del próximo Reglamento:
a) | desarrollar herramientas, metodologías e índices de referencia para evaluar las capacidades de los modelos de IA de uso general, en particular los modelos muy grandes con riesgos sistémicos; |
b) | supervisar la ejecución y la aplicación de las normas relativas a los modelos y sistemas de IA de uso general, en particular cuando el modelo y el sistema sean desarrollados por el mismo proveedor; |
c) | supervisar la aparición de riesgos imprevistos derivados de modelos de IA de uso general, en particular respondiendo a las alertas del grupo de expertos científicos; |
d) | investigar posibles infracciones de las normas sobre modelos y sistemas de IA de uso general, en particular mediante la recopilación de reclamaciones y alertas, la asistencia en la preparación de las decisiones de la Comisión y la realización de evaluaciones de conformidad con el próximo Reglamento; |
e) | garantizar que, cuando un sistema de IA entre en el ámbito de aplicación de la legislación pertinente de la Unión para la que la Comisión tenga competencias de supervisión y ejecución, como el Reglamento (UE) 2022/2065 del Parlamento Europeo y del Consejo (7) o el Reglamento (UE) 2022/1925 del Parlamento Europeo y del Consejo (8), la supervisión y la ejecución de dicha legislación estén plenamente coordinadas con la supervisión y la ejecución del próximo Reglamento; |
f) | apoyar la aplicación de normas sobre prácticas de IA prohibidas y sistemas de IA de alto riesgo en coordinación con los organismos responsables en virtud de la legislación sectorial, en particular mediante la facilitación del intercambio de información y la colaboración entre las autoridades nacionales, la recopilación de notificaciones y la creación de plataformas y bases de datos de información, especialmente cuando un modelo o sistema de IA de uso general esté integrado en un sistema de IA de alto riesgo. |
2. Además, con el fin de contribuir a la aplicación efectiva del próximo Reglamento, la Oficina se encargará de:
a) | asistir a la Comisión en la preparación de las decisiones pertinentes de la Comisión y de los actos delegados y de ejecución; |
b) | facilitar la aplicación uniforme del próximo Reglamento; |
c) | asistir a la Comisión en la elaboración de orientaciones y directrices para respaldar la aplicación práctica del próximo Reglamento, así como desarrollar herramientas de apoyo, como protocolos normalizados y mejores prácticas, en consulta con los servicios de la Comisión y los órganos y organismos de la Unión pertinentes; |
d) | asistir a la Comisión en la preparación de las solicitudes de normalización, la evaluación de las normas existentes y la elaboración de especificaciones comunes para la aplicación del próximo Reglamento; |
e) | contribuir a la prestación de asistencia técnica y asesoramiento, a la facilitación de herramientas para la creación y el funcionamiento de espacios controlados de pruebas para la IA y a la coordinación, según proceda, con las autoridades nacionales competentes que establezcan dichos espacios controlados de pruebas; |
f) | llevar a cabo las evaluaciones y revisiones del próximo Reglamento y elaborar informes relacionados con él; |
g) | coordinar la creación de un sistema de gobernanza eficaz, en particular preparando la creación de órganos consultivos a escala de la Unión, así como haciendo un seguimiento del establecimiento de autoridades nacionales y de otros organismos pertinentes a escala nacional; |
h) | asumir la secretaría del Comité de Inteligencia Artificial y de sus subgrupos y prestar apoyo administrativo al foro consultivo y al grupo de expertos científicos, cuando proceda, en particular ocupándose de la configuración administrativa, la organización de reuniones y la elaboración de los documentos pertinentes; y |
i) | fomentar y facilitar la elaboración de códigos de prácticas y códigos de conducta a escala de la Unión, teniendo en cuenta los enfoques internacionales, y hacer un seguimiento de la aplicación y evaluación de los códigos de prácticas. |
Artículo 4
Cooperación con las partes interesadas
1. En el desempeño de las funciones contempladas en el artículo 3, la Oficina cooperará con las partes interesadas, de conformidad con las normas de competencia aplicables, en los siguientes aspectos:
a) | la creación de foros de cooperación para los proveedores de modelos y sistemas de IA a fin de impulsar las mejores prácticas y contribuir al desarrollo de códigos de conducta y códigos de prácticas; |
b) | la realización de consultas periódicas a las partes interesadas, en particular a los expertos de la comunidad científica y del sector educativo, los ciudadanos, la sociedad civil y los interlocutores sociales, cuando proceda, para recabar información que sirva para el desempeño de las funciones contempladas en el artículo 3, apartado 2; |
c) | la creación de un foro de cooperación con la comunidad de código abierto con vistas a detectar y perfeccionar las mejores prácticas para el desarrollo y la utilización de manera segura de modelos y sistemas de IA de código abierto. |
Artículo 5
Cooperación intersectorial en el seno de la Comisión
1. La Oficina contribuirá a fomentar acciones y políticas que aprovechen los beneficios sociales e industriales que aportan las tecnologías de IA.
2. En particular, la Oficina:
a) | colaborará con otras Direcciones Generales y servicios pertinentes de la Comisión en el desempeño de las funciones contempladas en el artículo 2, especialmente con el Centro Europeo para la Transparencia Algorítmica para evaluar y probar los modelos y sistemas de IA de uso general; |
b) | apoyará a otras Direcciones Generales y servicios pertinentes de la Comisión con vistas a facilitar el uso de modelos y sistemas de IA como herramientas transformadoras en los ámbitos pertinentes de las políticas de la Unión, y a sensibilizar sobre los riesgos emergentes. |
Artículo 6
Cooperación interinstitucional
En el desempeño de las funciones contempladas en el artículo 3, la Oficina establecerá las formas adecuadas de cooperación con los órganos y organismos de la Unión.
Artículo 7
Cooperación internacional
1. La Oficina contribuirá a la cooperación internacional en materia de IA que desarrolla la Comisión, en particular en lo que respecta a la política de innovación y excelencia, con terceros países y organizaciones internacionales, principalmente mediante:
a) | la defensa de la gestión responsable de la IA y el fomento del planteamiento de la Unión sobre una IA fiable; |
b) | la contribución a la cooperación internacional relacionada con la regulación y la gobernanza de la IA; |
c) | la contribución a la aplicación de acuerdos internacionales sobre normas en materia de IA, en particular prestando apoyo a los Estados miembros. |
Artículo 8
Financiación
1. En el caso de los funcionarios que trabajen en la Oficina, las necesidades en recursos humanos quedarán cubiertas por el personal de la Dirección General ya destinado a la gestión de las medidas o que haya sido reubicado dentro de la Dirección General, en vista de las limitaciones presupuestarias, sin perjuicio del procedimiento de asignación anual.
2. En el caso del personal estatutario externo que trabaje en la Oficina, los costes de recursos humanos se cubrirán mediante una redistribución de los créditos presupuestarios procedentes de los gastos de apoyo administrativo del Programa Europa Digital.
3. Los gastos operativos de la Oficina estarán cubiertos por los recursos financieros asignados al objetivo específico 2 «Inteligencia artificial» del Programa Europa Digital.
Artículo 9
Entrada en vigor
La presente Decisión entrará en vigor el 21 de febrero de 2024.
Hecho en Bruselas, el 24 de enero de 2024.
Por la Comisión
Thierry BRETON
Miembro de la Comisión
(1) COM(2021) 206 final.
(2) COM(2021) 205 final.
(3) Reglamento (UE) 2021/694 del Parlamento Europeo y del Consejo, de 29 de abril de 2021, por el que se establece el Programa Europa Digital y por el que se deroga la Decisión (UE) 2015/2240 (DO L 166 de 11.5.2021, p. 1, ELI: http://data.europa.eu/eli/reg/2021/694/oj).
(4) Reglamento (UE) 2021/695 del Parlamento Europeo y del Consejo, de 28 de abril de 2021, por el que se crea el Programa Marco de Investigación e Innovación «Horizonte Europa», se establecen sus normas de participación y difusión, y se derogan los Reglamentos (UE) n.o 1290/2013 y (UE) n.o 1291/2013 (DO L 170 de 12.5.2021, p. 1, ELI: http://data.europa.eu/eli/reg/2021/695/oj).
(5) Decisión (UE) 2022/2481 del Parlamento Europeo y del Consejo, de 14 de diciembre de 2022, por la que se establece el programa estratégico de la Década Digital para 2030 (DO L 323 de 19.12.2022, p. 4, ELI: http://data.europa.eu/eli/dec/2022/2481/oj).
(6) No es una oficina europea en el sentido del artículo 2, punto 26, Reglamento (UE, Euratom) 2018/1046 del Parlamento Europeo y del Consejo, de 18 de julio de 2018 (Reglamento Financiero).
(7) Reglamento (UE) 2022/2065 del Parlamento Europeo y del Consejo, de 19 de octubre de 2022, relativo a un mercado único de servicios digitales y por el que se modifica la Directiva 2000/31/CE (Reglamento de Servicios Digitales) (DO L 277 de 27.10.2022, p. 1, ELI: http://data.europa.eu/eli/reg/2022/2065/oj).
(8) Reglamento (UE) 2022/1925 del Parlamento Europeo y del Consejo, de 14 de septiembre de 2022, sobre mercados disputables y equitativos en el sector digital y por el que se modifican las Directivas (UE) 2019/1937 y (UE) 2020/1828 (Reglamento de Mercados Digitales) (DO L 265 de 12.10.2022, p. 1, ELI: http://data.europa.eu/eli/reg/2022/1925/oj).
ELI: http://data.europa.eu/eli/C/2024/1459/oj
ISSN 1977-0928 (electronic edition)
No hay comentarios:
Publicar un comentario