APROBACION DEL CONVENIO MARCO DEL CONSEJO DE EUROPA SOBRE INTELIGENCIA ARTIFICIAL, DERECHOS HUMANOS, DEMOCRACIA Y ESTADO DE DERECHO.

 Por: Carlos A. FERREYROS SOTO

Doctor en Derecho

Universidad de Montpellier I Francia.

cferreyros@ferreyros-ferreyros.com

RESUMEN

El presente documento C/2026/4028 es la Resolución legislativa del Parlamento Europeo, adoptada el 11 de marzo de 2026, por la que el Parlamento aprueba el proyecto de Decisión del Consejo relativa a la celebración, en nombre de la Unión Europea, UE del Convenio Marco del Consejo de Europa sobre Inteligencia Artificial, IA, Derechos Humanos, Democracia y Estado de Derecho.

El alcance y las implicaciones de la aprobación repercuten sobre:

• Alineación con la Ley sobre la IA. El Convenio se aplicará en la UE exclusivamente a través del Reglamento (UE) 2024/1689 (AI Act) y otras disposiciones del acervo de la Unión. La UE goza de competencia externa exclusiva para firmarlo.
• Exclusión de las actividades de IA relacionadas con la protección de intereses de seguridad nacional, éstas quedan fuera del ámbito del Convenio, en línea con el artículo 4.2 del TUE.
• Compromiso de la Union Europea para la aplicación de los principios del Convenio a las actividades de agentes privados en el mercado interior a través de la  Ley sobre la IA.
• Obligación de la UE para la obtención de 27 votos (uno por cada Estado miembro) de la UE en la Conferencia de las Partes del Convenio, con representación de la Comisión y acompañamiento de los Estados miembros.
• El Convenio se aplicará en los territorios en los que se aplican los Tratados de la UE.

En síntesis, se trata del visto bueno definitivo del Parlamento Europeo para que la UE se convierta en Parte del primer tratado internacional vinculante sobre inteligencia artificial centrado en derechos humanos, democracia y Estado de Derecho, operando en paralelo y de forma coherente con el marco regulatorio de la Ley sobre la IA.

Se incluye el texto integral de la Propuesta del Convenio.

A fin de acceder a normas similares y estándares europeos, las empresas, organizaciones públicas y privadas interesadas en asesorías, consultorías, capacitaciones, estudios, evaluaciones, auditorías sobre el tema, sírvanse comunicar al correo electrónico:cferreyros@ferreyros-ferreyros.com

________________________________________________________

Diario Oficial de la Unión Europea

ES Serie C

---

C/2026/4028

26.8.2026

P10_TA(2026)0071

Convenio Marco del Consejo de Europa sobre Inteligencia Artificial, Derechos Humanos, Democracia y Estado de Derecho

Resolución legislativa del Parlamento Europeo, de 11 de marzo de 2026, sobre el proyecto de Decisión del Consejo relativa a la celebración, en nombre de la Unión Europea, del Convenio Marco del Consejo de Europa sobre Inteligencia Artificial, Derechos Humanos, Democracia y Estado de Derecho (11361/2025– C10-0183/2025 – 2025/0136(NLE))

(Aprobación)

(C/2026/4028)

El Parlamento Europeo ,

—	Visto el proyecto de Decisión del Consejo (11361/2025),

—	Visto el Convenio Marco del Consejo de Europa sobre Inteligencia Artificial, Derechos Humanos, Democracia y Estado de Derecho (STCE 225),

—	Vista la solicitud de aprobación presentada por el Consejo de conformidad con el artículo 114 y el artículo 218, apartado 6, párrafo segundo, letra a), inciso v), del Tratado de Funcionamiento de la Unión Europea (C10-0183/2025),

—	Visto el artículo 107, apartados 1 y 4, así como el artículo 117, apartado 7, de su Reglamento interno,

—	Vista la carta de la Comisión de Cultura y Educación,

—	Vista la Recomendación de la Comisión de Mercado Interior y Protección del Consumidor y de la Comisión de Libertades Civiles, Justicia y Asuntos de Interior (A10-0007/2026),

1	Conceder su aprobación a la celebración del Convenio;

2	Encarga a su presidenta que transmita su Posición al Consejo ya la Comisión, así como a los Gobiernos y Parlamentos de los Estados miembros y al secretario general del Consejo de Europa.

---

ELI: http://data.europa.eu/eli/C/2026/4028/oj

ISSN 1977-0928 (edición electrónica)

COMISIÓN EUROPEA

Bruselas, 26.6.2024

COM(2024) 264 final

2024/0150(NLE)

Propuesta de

DECISIÓN DEL CONSEJO

relativa a la firma, en nombre de la Unión Europea, del Convenio Marco del Consejo de Europa sobre inteligencia artificial, derechos humanos, democracia y Estado de Derecho

EXPOSICIÓN DE MOTIVOS

1.CONTEXTO DE LA PROPUESTA

•Razones y objetivos de la propuesta

La inteligencia artificial (IA) ofrece grandes oportunidades, pero determinadas aplicaciones y usos también pueden causar daños y riesgos para los derechos fundamentales de las personas y otros intereses públicos.

Con el Reglamento (UE) 2024/[...] del Parlamento Europeo y del Consejo, por el que se establecen normas armonizadas en materia de inteligencia artificial (en lo sucesivo, «Reglamento de Inteligencia Artificial»), la Unión ha adoptado el primer Reglamento exhaustivo sobre la IA, que establece una norma de alcance mundial. El Reglamento de Inteligencia Artificial se adoptó el 12 de junio de 2024 1 y entrará en vigor en un plazo de 20 días a partir de su publicación en el Diario Oficial. El Reglamento armoniza plenamente las normas para la comercialización, la puesta en servicio y el uso de sistemas de IA en todos los Estados miembros 2 , con el objetivo de promover la innovación y la adopción de una IA fiable, protegiendo al mismo tiempo la salud, la seguridad y los derechos fundamentales, incluidos la democracia, el Estado de Derecho y el medio ambiente.

Varias organizaciones internacionales, incluido el Consejo de Europa, también han intensificado sus esfuerzos en este ámbito, reconociendo el carácter transfronterizo de la IA y la necesidad de la cooperación internacional para hacer frente a los retos comunes.

Desde junio de 2022, el Comité de Inteligencia Artificial (CAI) del Consejo de Europa 3 ha elaborado un Convenio marco jurídicamente vinculante (en lo sucesivo, «el Convenio») para abordar los posibles riesgos que plantea la IA para los derechos humanos, la democracia y el Estado de Derecho. La Unión negoció el Convenio sobre la base del artículo 216, apartado 1, cuarta disyuntiva, del TFUE, en virtud del cual la Unión puede negociar 4 y celebrar un acuerdo internacional cuando «[...] pueda afectar a normas comunes o alterar el alcance de las mismas». La Comisión Europea representó a la Unión en las negociaciones del Convenio, de conformidad con el artículo 218, apartado 3, del Tratado de Funcionamiento de la Unión Europea (TFUE) y sobre la base de una Decisión del Consejo por la que se autorizó la apertura de negociaciones en nombre de la Unión Europea 5 .

La Unión ha participado activamente en las negociaciones y ha perseguido el objetivo de garantizar la compatibilidad del Convenio con el Derecho de la Unión, la coherencia con el Reglamento de Inteligencia Artificial, así como la calidad y el valor añadido del Convenio como primer tratado internacional sobre IA. En este contexto, el alcance internacional del Convenio también ha sido un objetivo de la Unión.

Tras múltiples rondas de negociaciones, el CAI aprobó el texto del Convenio en su décima sesión plenaria, celebrada del 11 al 14 de marzo de 2024. El 17 de mayo de 2024, el Comité de Ministros del Consejo de Europa adoptó el Convenio, acordó abrirlo a la firma en Vilna (Lituania) el 5 de septiembre de 2024, con ocasión de una Reunión Informal de Ministros de Justicia e invitó a los miembros del Consejo de Europa, otros terceros países que habían participado en su elaboración y a la UE a considerar su firma en esa ocasión, recordando al mismo tiempo que el Convenio también está abierto a la adhesión de otros Estados no miembros 6 .

En este contexto, el objetivo de la presente propuesta es iniciar el proceso de firma por la Unión del Convenio con la intención de ratificarlo posteriormente, proponiendo al Consejo que adopte una decisión por la que se autorice a la Unión a firmar el Convenio de conformidad con el artículo 218, apartado 5, del TFUE. El Convenio es plenamente compatible con el Derecho de la Unión en general, y con el Reglamento de Inteligencia Artificial en particular, y promoverá conceptos clave desde el enfoque de la Unión de la regulación de la IA a escala mundial, entre otros miembros del Consejo de Europa y con socios internacionales clave que pueden adherirse al Convenio.

Contenido del Convenio

El objetivo del Convenio es garantizar que las actividades durante el ciclo de vida de los sistemas de IA sean plenamente coherentes con los derechos humanos, la democracia y el Estado de Derecho.

Las Partes en el Convenio tendrán que aplicarlo mediante las medidas legislativas, administrativas o de otro tipo adecuadas para dar efecto a sus disposiciones, siguiendo un enfoque gradual y diferenciado, en función de la gravedad y la probabilidad de efectos adversos. El Convenio debe aplicarse exclusivamente en la Unión a través del Reglamento de Inteligencia Artificial, que armoniza plenamente las normas para la comercialización, la puesta en servicio y la utilización de sistemas de IA, así como el acervo vigente de la Unión, cuando proceda. 

El ámbito de aplicación del Convenio abarca los sistemas de IA que pueden interferir en los derechos humanos, la democracia y el Estado de Derecho, siguiendo un enfoque diferenciado. Los principios y las obligaciones previstos en el Convenio se aplicarán a las actividades dentro del ciclo de vida de los sistemas de IA realizadas por autoridades públicas o agentes privados que actúen en su nombre. En cuanto al sector privado, las Partes están obligadas a abordar los riesgos e impactos derivados de las actividades realizadas por agentes privados durante el ciclo de vida de los sistemas de IA de manera acorde con el objeto y la finalidad del Convenio, pero tienen la opción de aplicar las obligaciones del Convenio o de adoptar otras medidas adecuadas. Las Partes deberán hacer una declaración sobre la elección que hagan a este respecto en el momento de la firma del Convenio o de su adhesión al mismo. Al celebrar el Convenio, la Unión debe emitir una declaración en la que certifique que la Unión, a través del Reglamento de Inteligencia Artificial y de otro acervo pertinente de la Unión, aplicará los principios y obligaciones establecidos en los capítulos II a VI del Convenio a las actividades de los agentes privados que comercialicen, pongan en servicio y utilicen sistemas de IA en la Unión.

Las actividades de IA relacionadas con la seguridad nacional están excluidas del ámbito de aplicación del Convenio, entendiéndose que, en cualquier caso, deben realizarse de forma coherente con el Derecho internacional aplicable en materia de derechos humanos y con el respeto de las instituciones y los procesos democráticos. El Convenio también excluye las actividades de investigación y desarrollo relativas a sistemas de IA que aún no se hayan puesto a disposición para su uso, a menos que las actividades de prueba o similares puedan interferir con los derechos humanos, la democracia y el Estado de Derecho. De conformidad con el Estatuto del Consejo de Europa, las cuestiones relativas a la defensa nacional no entran en el ámbito de aplicación del Convenio.

Por otro lado, el Convenio establece un conjunto de obligaciones generales y principios fundamentales, incluida la protección de la dignidad humana y la autonomía individual, así como la promoción de la igualdad y la no discriminación. Además, exige el respeto de la privacidad y la protección de los datos personales, junto con la transparencia y la supervisión, para garantizar la rendición de cuentas y la responsabilidad. Un principio también se dedica a la innovación segura y a la experimentación en entornos controlados.

Un capítulo específico sobre las vías de recurso también prevé un conjunto de medidas destinadas a garantizar la disponibilidad de vías de recurso accesibles y eficaces para las violaciones de los derechos humanos derivadas de las actividades durante el ciclo de vida de los sistemas de IA. También incluye garantías procesales y salvaguardias efectivas para las personas cuyos derechos se hayan visto significativamente afectados por el uso de dichos sistemas. Además, debe informarse a las personas de que están interactuando con un sistema de IA y no con un ser humano.

El Convenio también incluye un capítulo sobre medidas para la evaluación y mitigación de los riesgos y efectos adversos, que deben aplicarse con continuidad, a fin de identificar los efectos reales y potenciales sobre los derechos humanos, la democracia y el Estado de Derecho y adoptar las medidas adecuadas de prevención y mitigación.

Además, el Convenio establece que las Partes deben evaluar la necesidad de prohibiciones o moratorias para determinadas aplicaciones de sistemas de IA considerados incompatibles con el respeto de los derechos humanos, el funcionamiento de la democracia o el Estado de Derecho.

El Convenio establece un mecanismo de seguimiento en el seno de una Conferencia de las Partes, compuesta por representantes de las Partes, que se consultarán periódicamente con el fin de facilitar el uso y la aplicación efectivos del Convenio. También prevé un mecanismo de cooperación internacional tanto entre las Partes como en las relaciones con terceros países y las partes interesadas pertinentes, a fin de alcanzar el objetivo del Convenio.

Además, cada Parte debe establecer o designar a nivel nacional uno o varios mecanismos eficaces para supervisar el cumplimiento de las obligaciones establecidas en el Convenio, tal como hayan sido aplicadas por las Partes.

•Coherencia con las disposiciones existentes en la misma política sectorial

El Convenio establece principios y obligaciones generales para la protección de los derechos humanos, la democracia y el Estado de Derecho que son plenamente coherentes y están en consonancia con los objetivos del Reglamento de Inteligencia Artificial y los requisitos detallados para los sistemas de IA y las obligaciones impuestas a los proveedores y los responsables del despliegue de dichos sistemas.

La definición de sistema de IA del Convenio se ajusta plenamente a la definición del Reglamento, ya que ambos se basan en la definición de dichos sistemas empleada en los principios de IA de la Organización de Cooperación y Desarrollo Económicos 7 , garantizando así una interpretación común de las tecnologías digitales que constituyen la IA.

Tanto el Convenio como el Reglamento de Inteligencia Artificial siguen asimismo un enfoque basado en el riesgo para la regulación de los sistemas de IA e incluyen disposiciones específicas para las evaluaciones de riesgos y de impacto y las medidas de mitigación de riesgos. El Reglamento de Inteligencia Artificial incluye, en particular, una serie de prohibiciones pertinentes y casos de uso de alto riesgo para los sistemas de IA en todos los sectores públicos y privados, también en el ámbito de la democracia y la justicia. Las normas y procedimientos detallados del Reglamento de Inteligencia Artificial para el desarrollo, la comercialización y el despliegue de sistemas de IA en esos ámbitos garantizarán así el respeto de los derechos fundamentales, la democracia y el Estado de Derecho a lo largo de todo el ciclo de vida de la IA.

El Convenio incluye principios y obligaciones ya cubiertos por el Reglamento de Inteligencia Artificial, como medidas para proteger los derechos humanos, la seguridad y la fiabilidad, la rendición de cuentas y la responsabilidad, la gobernanza y la protección de datos, la transparencia y la supervisión, la igualdad y la no discriminación, las capacidades y la alfabetización digitales.

La transparencia es otro elemento común de ambos instrumentos jurídicos, incluidas las medidas relativas a la identificación de contenidos generados por IA y la notificación de las personas que interactúan con sistemas de IA. Ambos instrumentos jurídicos también incluyen disposiciones pertinentes sobre las evaluaciones de riesgos e impacto y la gestión de riesgos, el mantenimiento de registros, la divulgación (a los organismos y autoridades autorizados y, en su caso, a las personas afectadas), la trazabilidad y legibilidad, la innovación segura y la experimentación en entornos controlados, así como un conjunto de medidas para permitir vías de recurso eficaces, incluido el derecho a solicitar y obtener información y reclamación ante una autoridad competente, y garantías procesales.

El sistema de supervisión previsto en el Convenio también es plenamente coherente con el sistema general de gobernanza y ejecución del Reglamento de Inteligencia Artificial, que consiste en la ejecución a escala nacional y de la Unión, con procedimientos para la aplicación coherente de las normas de la Unión en todos los Estados miembros. En particular, el Convenio prevé uno o varios mecanismos de supervisión eficaces a nivel nacional que deben ejercer sus funciones de manera independiente e imparcial y contar con las competencias, los conocimientos especializados y los recursos necesarios para cumplir eficazmente las tareas de supervisión del cumplimiento de las obligaciones establecidas en el Convenio, tal como hayan dado efecto las Partes.

Si bien el Reglamento de Inteligencia Artificial se aplicará a los sistemas de IA comercializados, puestos en servicio o utilizados en la Unión, el Convenio tiene un alcance geográfico más amplio que abarca a los miembros del Consejo de Europa y a terceros Estados de todo el mundo que pueden adherirse al Convenio. Así pues, el Convenio representa una oportunidad única para fomentar una IA fiable fuera de la Unión en un primer tratado internacional jurídicamente vinculante basado en un sólido enfoque de la regulación de la IA en materia de derechos humanos.

Tanto el Convenio como el Reglamento de Inteligencia Artificial son componentes integrales de un enfoque regulador de la IA, con compromisos coherentes y que se refuerzan mutuamente a múltiples niveles internacionales, y comparten el objetivo común de garantizar una IA fiable.

•Coherencia con otras políticas de la Unión

El Convenio también comparte objetivos comunes con otras políticas y legislación de la Unión destinadas a aplicar los derechos fundamentales consagrados en la Carta de los Derechos Fundamentales de la Unión 8 .

En particular, el principio de igualdad y no discriminación consagrado en el Convenio es plenamente coherente con la legislación de la Unión en materia de no discriminación y promoverá la integración de las consideraciones de igualdad en el diseño, el desarrollo y el uso de los sistemas de IA y la aplicación efectiva de la prohibición de la discriminación, tal como se establece en el Derecho internacional y nacional aplicable de las Partes.

Además, el Convenio es coherente con el acervo de la Unión en materia de protección de datos, incluido el Reglamento general de protección de datos 9 en relación con los derechos fundamentales a la intimidad y a la protección de datos personales, con garantías y salvaguardias efectivas para las personas, en consonancia con las obligaciones jurídicas nacionales e internacionales aplicables de las Partes.

Las medidas previstas en el Convenio destinadas a proteger los procesos democráticos de las Partes en el contexto de las actividades durante el ciclo de vida del sistema de IA son plenamente coherentes con los objetivos y las normas detalladas de la Ley de Servicios Digitales 10 , que regula la prestación de servicios intermediarios en la Unión con el fin de garantizar un entorno en línea seguro, predecible y fiable en el que se respeten los derechos fundamentales, incluido el derecho a la libertad de expresión y el derecho a recibir y comunicar información. También son coherentes con el Reglamento sobre la transparencia y la segmentación de la publicidad política 11 , el Código de Buenas Prácticas en materia de Desinformación 12 y las políticas de la Unión en el ámbito de la democracia y de unas elecciones libres, justas y resilientes 13 , incluido el Plan de Acción para la Democracia Europea de 2020 14 , el paquete sobre elecciones e integridad 15 y, recientemente, el paquete de defensa de la democracia de 2023 16 .

La propuesta también es coherente con la estrategia digital general de la Comisión en su contribución para promover una tecnología al servicio de las personas, uno de los tres pilares principales de las orientaciones políticas y los objetivos anunciados en la Comunicación titulada «Configurar el futuro digital de Europa» 17 . Su objetivo es garantizar que la IA se desarrolle respetando los derechos humanos y ganando la confianza de las personas, logrando una Europa adaptada a la era digital y convirtiendo los próximos diez años en el Decenio Digital 18 .

Además, la Declaración Europea sobre los Derechos y Principios Digitales para la Década Digital 19 contiene varios derechos y principios digitales que están en consonancia con los objetivos y principios del Convenio, pues ambos instrumentos promueven un enfoque sólido de la tecnología basado en los derechos humanos.

El Convenio también es coherente con la Estrategia de la UE sobre los Derechos del Niño 20 y la Estrategia Europea para una Internet Mejor para los Niños (BIK +) 21 , cuyo objetivo es garantizar que los niños sean protegidos, respetados y capacitados en línea para hacer frente a los retos de los nuevos mundos virtuales y de la IA.

2.BASE JURÍDICA, SUBSIDIARIEDAD Y PROPORCIONALIDAD

•Base jurídica

La propuesta de Decisión por la que se autoriza la firma del Convenio en nombre de la Unión se presenta al Consejo de conformidad con el artículo 218, apartado 5, del TFUE.

La base jurídica sustantiva de una decisión con arreglo al artículo 218, apartado 5, del TFUE depende en primera instancia del objetivo y el contenido del acuerdo. Con arreglo a la jurisprudencia, si el examen de una medida de la UE indica que esta persigue un doble objetivo o que tiene un componente doble, y si uno de dichos objetivos o componentes puede calificarse de principal o preponderante mientras que el otro solo es accesorio, la medida debe fundarse en una sola base jurídica, a saber, aquella que exija el objetivo o componente principal o preponderante.

Por lo que se refiere a la base jurídica sustantiva, el ámbito de aplicación material del Convenio coincide con el del Reglamento de Inteligencia Artificial 22 , también en relación con la exención del ámbito de aplicación a efectos de la investigación y el desarrollo, la seguridad nacional y las actividades de defensa. Los principios y obligaciones del Convenio coinciden con los requisitos más detallados aplicables a los sistemas de IA y las obligaciones específicas de los proveedores y responsables del despliegue de dichos sistemas en virtud del Reglamento de Inteligencia Artificial y de otra legislación pertinente de la Unión. Si el Consejo adopta la decisión propuesta y la Unión firma el Convenio, el Reglamento de Inteligencia Artificial constituirá la legislación primaria de la Unión para aplicar el Convenio en el ordenamiento jurídico de la Unión con normas plenamente armonizadas sobre la introducción en el mercado, la puesta en servicio y la utilización de sistemas de IA en la Unión que sean directamente aplicables en todos los Estados miembros, a menos que el Reglamento disponga expresamente otra cosa 23 .

Teniendo en cuenta que el ámbito de aplicación y los objetivos del Convenio están en consonancia y son plenamente coherentes con los del Reglamento, y que el ámbito de aplicación personal y material de ambos instrumentos jurídicos coincide, la base jurídica sustantiva para la celebración del Convenio es el artículo 114 del TFUE, que es la base jurídica principal del Reglamento de Inteligencia Artificial.

La naturaleza de los acuerdos internacionales («exclusivamente de la UE» o «mixtos») está supeditada a la compatibilidad del objeto específico con las competencias de la Unión.

El artículo 3, apartado 2, del TFUE establece que la Unión dispone de competencia exclusiva «para la celebración de un acuerdo internacional [...] en la medida en que pueda afectar a normas comunes o alterar su alcance». Un acuerdo internacional puede afectar a normas comunes o alterar su alcance cuando el ámbito cubierto por el acuerdo esté cubierto en gran medida por el Derecho de la Unión 24 .

El ámbito de aplicación personal del Convenio se ajusta plenamente al Reglamento de Inteligencia Artificial, ya que ambos instrumentos jurídicos abarcan, en principio, tanto a los agentes públicos como a los privados (con la aplicación facultativa de los principios y las obligaciones del Convenio a agentes privados distintos de los que actúan en nombre de las autoridades públicas), mientras que el ámbito de aplicación material de ambos instrumentos jurídicos excluye de las normas aplicables las actividades de IA relacionadas con la seguridad nacional, la defensa y la investigación.

Teniendo en cuenta que el ámbito de aplicación personal y material del Convenio coincide con el del Reglamento de Inteligencia Artificial, la celebración del Convenio puede afectar a normas comunes de la Unión o alterar su ámbito de aplicación en el sentido del artículo 3, apartado 2, del TFUE. Por consiguiente, debe considerarse que la Unión goza de competencia externa exclusiva para celebrar el Convenio y el Convenio debe firmarse en nombre de la Unión como acuerdo «exclusivamente de la UE», a reserva de su celebración en una fecha posterior.

•Proporcionalidad

El Convenio no va más allá de lo necesario para alcanzar los objetivos políticos, desarrollando un enfoque coherente de la regulación de la IA a escala internacional.

El Convenio establece un marco jurídico de alto nivel para la IA que permite flexibilidad, permitiendo a las Partes diseñar concretamente los marcos de aplicación. El enfoque basado en el riesgo también garantiza la proporcionalidad de las normas y permite diferenciar las medidas de aplicación proporcionalmente a los riesgos, de manera similar al Reglamento de Inteligencia Artificial.

•Elección del instrumento

El instrumento elegido es una propuesta de Decisión del Consejo con arreglo al artículo 218, apartado 5, del TFUE.

3.RESULTADOS DE LAS EVALUACIONES A POSTERIORI, LAS CONSULTAS CON LAS PARTES INTERESADAS Y LAS EVALUACIONES DE IMPACTO

•Evaluaciones a posteriori y controles de la adecuación de la legislación existente

No procede.

•Consultas con las partes interesadas

La Comisión no ha llevado a cabo una consulta específica de las partes interesadas sobre esta propuesta.

La elaboración del Convenio fue un esfuerzo colaborativo del Comité de Inteligencia Artificial del Consejo de Europa, en el que participaron los 46 Estados miembros del Consejo de Europa, así como Estados observadores, entre ellos Canadá, Japón, México, el Vaticano, Estados Unidos y la Unión Europea. Además, participaron otros Estados no miembros, entre ellos Australia, Argentina, Costa Rica, Israel, Perú y Uruguay.

De conformidad con el compromiso del Consejo de Europa de colaborar con diversas partes interesadas, el desarrollo del Convenio también contó con aportaciones de 68 representantes internacionales de la sociedad civil, el mundo académico, la industria y otras organizaciones internacionales, garantizando un enfoque general e inclusivo. El desarrollo del Convenio también implicó la colaboración con otras organizaciones internacionales, entre ellas la Organización para la Seguridad y la Cooperación en Europa (OSCE), la Organización de Cooperación y Desarrollo Económicos (OCDE) y la Organización de las Naciones Unidas para la Educación, la Ciencia y la Cultura (UNESCO). Además, los órganos y comités pertinentes del Consejo de Europa contribuyeron al proceso. La participación de la Unión fue liderada por la Comisión Europea. También estuvieron presentes en calidad de observadores representantes de la Agencia de los Derechos Fundamentales de la Unión Europea y del Supervisor Europeo de Protección de Datos.

•Obtención y uso de asesoramiento especializado

Las posiciones de negociación de la Unión para el Convenio se han elaborado en consulta con un comité especial designado por el Consejo (el Grupo «Telecomunicaciones y Sociedad de la Información» del Consejo).

•Evaluación de impacto

No procede.

•Adecuación regulatoria y simplificación

No procede.

•Derechos fundamentales

El Convenio tiene por objeto abordar los posibles riesgos y perjuicios para los derechos humanos garantizando que las actividades durante el ciclo de vida de los sistemas de IA se ajusten a los principios de respeto de los derechos humanos, la democracia y el Estado de Derecho, reconociendo al mismo tiempo el potencial de la IA para proteger y facilitar el ejercicio de esos derechos en el entorno digital y mejorar el bienestar social y medioambiental y el progreso tecnológico.

Los principios y obligaciones concretos previstos en el Convenio tienen por objeto proteger y respetar los derechos humanos, consagrados en múltiples instrumentos internacionales y regionales 25 , aplicables a las Partes, incluida la Carta de los Derechos Fundamentales de la Unión y los instrumentos internacionales sobre derechos humanos que la Unión ha celebrado.

Así pues, el Convenio establece un nivel mínimo común para la protección de los derechos humanos en el contexto de la IA, salvaguardando al mismo tiempo la protección existente de los derechos humanos y permitiendo a las Partes ofrecer una protección más amplia con salvaguardias más estrictas.

4.REPERCUSIONES PRESUPUESTARIAS

El Convenio prevé contribuciones financieras de Estados no miembros a las actividades de la Conferencia de las Partes. Si bien todos los miembros del Consejo de Europa contribuirán a través del presupuesto ordinario de dicho Consejo de conformidad con el Estatuto del Consejo de Europa, las Partes que no sean miembros realizarán contribuciones extrapresupuestarias. La contribución de un no miembro del Consejo de Europa será establecida conjuntamente por el Comité de Ministros y el no miembro.

El Convenio no interfiere con las leyes y reglamentos internos de las Partes que regulan las competencias presupuestarias y los procedimientos para los créditos presupuestarios. También permite a los Estados no miembros realizar sus contribuciones dentro de los límites presupuestarios aprobados fijados por su rama legislativa, sin perjuicio de los acuerdos previos.

5.OTROS ELEMENTOS

•Planes de ejecución y modalidades de seguimiento, evaluación e información

La Conferencia de las Partes, compuesta por representantes de las Partes, supervisará el cumplimiento efectivo de los objetivos del Convenio y su aplicación por las Partes.

Cada Parte deberá presentar un informe a la Conferencia de las Partes prevista en los dos primeros años siguientes a la adhesión y posteriormente a intervalos regulares, en el que se detallen las medidas adoptadas para aplicar el Convenio.

Se anima además a las Partes a cooperar en el cumplimiento de los objetivos del Convenio. Esta cooperación internacional puede incluir el intercambio de información pertinente sobre la IA y su potencial para afectar negativamente o positivamente a los derechos humanos, la democracia y el Estado de Derecho.

Para garantizar un seguimiento y una aplicación eficaces, cada Parte deberá designar uno o varios mecanismos de supervisión eficaces a nivel nacional.

2024/0150 (NLE)

Propuesta de

DECISIÓN DEL CONSEJO

relativa a la firma, en nombre de la Unión Europea, del Convenio Marco del Consejo de Europa sobre inteligencia artificial, derechos humanos, democracia y Estado de Derecho

EL CONSEJO DE LA UNIÓN EUROPEA,

Visto el Tratado de Funcionamiento de la Unión Europea, y en particular su artículo 114, en relación con su artículo 218, apartado 5,

Vista la propuesta de la Comisión Europea,

Considerando lo siguiente:

(1)El 21 de noviembre de 2022, el Consejo autorizó a la Comisión a entablar negociaciones en nombre de la Unión para un Convenio del Consejo de Europa sobre inteligencia artificial, derechos humanos, democracia y Estado de Derecho (en lo sucesivo, «Convenio»). La Comisión Europea negoció el Convenio en nombre de la Unión. El 17 de mayo de 2024, las negociaciones concluyeron con éxito con la rúbrica del Convenio y su adopción por el Comité de Ministros del Consejo de Europa 26 .

(2)El Convenio establece los principios generales y las obligaciones que las Partes en el Convenio deben cumplir para garantizar la protección de los derechos humanos, la democracia y el Estado de Derecho en relación con las actividades dentro del ciclo de vida de los sistemas de inteligencia artificial (IA).

(3)El 12 de junio de 2024, la Unión adoptó el Reglamento (UE) 2024/... (en lo sucesivo, «Reglamento de Inteligencia Artificial») 27 , principalmente sobre la base del artículo 114 del TFUE, que establece normas plenamente armonizadas que regulan la comercialización, la puesta en servicio y la utilización de sistemas de IA en la Unión que sean directamente aplicables en los Estados miembros, a menos que el Reglamento disponga expresamente otra cosa. El Convenio debe aplicarse en la Unión exclusivamente a través del Reglamento sobre IA y de otro acervo pertinente de la Unión, cuando proceda.

(4)Teniendo en cuenta que el ámbito de aplicación personal y material del Convenio coincide con el del Reglamento de Inteligencia Artificial, la celebración del Convenio puede afectar a normas comunes de la Unión o alterar su ámbito de aplicación en el sentido del artículo 3, apartado 2, del TFUE. Por consiguiente, la Unión goza de competencia externa exclusiva para firmar el Convenio y, por ello, solo la Unión debe convertirse en Parte en el Convenio, a reserva de su celebración en una fecha posterior.

(5)De conformidad con los Tratados, corresponde a la Comisión Europea garantizar la firma del Convenio, a reserva de su celebración en una fecha posterior.

HA ADOPTADO LA PRESENTE DECISIÓN:

Artículo 1

Se aprueba, en nombre de la Unión, la firma del Convenio Marco del Consejo de Europa sobre inteligencia artificial, derechos humanos, democracia y Estado de Derecho (en lo sucesivo, «el Convenio»), a reserva de la celebración de dicho Convenio.

El texto del Convenio que debe firmarse se adjunta a la presente Decisión.

Artículo 2

La presente Decisión entrará en vigor el .

Hecho en Bruselas, el

   Por el Consejo

   El Presidente

(1)    Reglamento (UE) 2024/... DEL PARLAMENTO EUROPEO Y DEL CONSEJO por el que se establecen normas armonizadas en materia de inteligencia artificial y se modifican los Reglamentos (CE) n.º 300/2008, (UE) n.º 167/2013, (UE) n.º 168/2013, (UE) 2018/858, (UE) 2018/1139 y (UE) 2019/2144 y las Directivas 2014/90/UE, (UE) 2016/797 y (UE) 2020/1828 (Reglamento de Inteligencia Artificial), DO 2024, L...

(2)   Reglamento de Inteligencia Artificial, considerandos 1 y 8.

(3)    Decisión relativa a los trabajos del CAI en el 132.º período de sesiones del Comité de Ministros - Seguimiento, CM/Inf (2022) 20, DD (2022) 245 .

(4)   Sentencia del Tribunal de Justicia de 20 de noviembre de 2018, asuntos acumulados C-626/15 y C-659/16, Comisión/Consejo (ZMP en la Antártida), ECLI:EU:C:2018:925, apartado 112.

(5)    Decisión (UE) 2022/2349 del Consejo de 21 de noviembre de 2022 por la que se autoriza la apertura de negociaciones en nombre de la Unión Europea con vistas a un convenio del Consejo de Europa sobre inteligencia artificial, derechos humanos, democracia y Estado de Derecho , DO L 311 de 2.12.2022, p.   138.

(6)   CM/Del/Dec(2024)133/4.

(7)   La definición de «sistema de IA» de la OCDE se actualizó el 8 de noviembre de 2023 [C(2023) 151 y C/M (2023) 14, punto 218] con el fin de garantizar que siga siendo técnicamente precisa y refleje los avances tecnológicos, también con respecto a la IA generativa.

(8)

   Carta de los Derechos Fundamentales de la Unión Europea, DO C 326 de 26.10.2012, p. 391.

(9)   Reglamento (UE) 2016/679 del Parlamento Europeo y del Consejo, de 27 de abril de 2016, relativo a la protección de las personas físicas en lo que respecta al tratamiento de datos personales y a la libre circulación de estos datos y por el que se deroga la Directiva 95/46/CE (Reglamento general de protección de datos), DO L 119 de 4.5.2016, p. 1.

(10)   Reglamento (UE) 2022/2065 del Parlamento Europeo y del Consejo, de 19 de octubre de 2022, relativo a un mercado único de servicios digitales y por el que se modifica la Directiva 2000/31/CE (Reglamento de Servicios Digitales), DO L 277 de 27.10.2022, p. 1.

(11)   Reglamento (UE) 2024/900 del Parlamento Europeo y del Consejo, de 13 de marzo de 2024, sobre transparencia y segmentación en la publicidad política, PE/90/2023/REV/1, DO L, 2024/900, 20.3.2024.

(12)    https://disinfocode.es/introduccion-al-codigo/

(13)    Protección de la democracia - Comisión Europea (europa.eu).

(14)    https://commission.europa.eu/strategy-and-policy/priorities-2019-2024/new-push-european-democracy/protecting-democracy_es

(15)    https://commission.europa.eu/publications/reinforcing-democracy-and-integrity-elections-all-documents_en

(16)   Comunicación de la Comisión sobre la Defensa de la Democracia, COM/2023/630 final.

(17)   Comunicación de la Comisión: Configurar el futuro digital de Europa, COM/2020/67 final.

(18)   Comunicación de la Comisión, Brújula Digital 2030: el enfoque de Europa para el Decenio Digital, COM/2021/118 final.

(19)    Declaración Europea sobre los Derechos y Principios Digitales para la Década Digital, COM(2022) 28 final.

(20)   Comunicación de la Comisión: Estrategia de la UE sobre los Derechos del Niño, COM/2021/142 final.

(21)   Comunicación de la Comisión titulada: Una década digital para los niños y los jóvenes: la nueva estrategia europea para una internet mejor para los niños (BIK+), COM/2022/212 final.

(22)   Adoptado por el Consejo el 21 de mayo de 2024 y cuya publicación está prevista en el Diario Oficial en julio de 2024.

(23)   Véanse el artículo 1 y el considerando 1 del Reglamento de Inteligencia Artificial.

(24)   Por ejemplo, asunto C‑114/12, Comisión/Consejo (Derechos de los organismos de radiodifusión afines a los derechos de autor), ECLI:EU:C:2014:2151, apartados 68 y 69; dictamen 1/13 Adhesión de Estados terceros al Convenio de La Haya, EU:C:2014:2303, apartados 71-74; asunto C‑66/13, Green Network, ECLI:EU:C:2014:2399, apartados 27-33; dictamen 3/15, Tratado de Marrakech para facilitar el acceso a las obras publicadas a las personas ciegas, con discapacidad visual o con otras dificultades para acceder al texto impreso, ECLI:EU:C:2017:114, apartados 105-108.

(25)   Como la Declaración Universal de Derechos Humanos de 1948; el Convenio para la Protección de los Derechos Humanos y de las Libertades Fundamentales de 1950 (ETS n.º 5); el Pacto Internacional de Derechos Civiles y Políticos de 1966; el Pacto Internacional de Derechos Económicos, Sociales y Culturales de 1961; la Carta Social Europea de 1966 (ETS n.º 35), así como sus respectivos protocolos; y la Carta Social Europea de 1996 (revisada) (ETS n.º 163), la Convención de las Naciones Unidas sobre los Derechos del Niño de 1989 y la Convención de las Naciones Unidas sobre los Derechos de las Personas con Discapacidad de 2006.

(26)   Decisión (UE) 2022/2349 del Consejo de 21 de noviembre de 2022 por la que se autoriza la apertura de negociaciones en nombre de la Unión Europea con vistas a un convenio del Consejo de Europa sobre inteligencia artificial, derechos humanos, democracia y Estado de Derecho , DO L 311 de 2.12.2022, p.   138.

(27)   Reglamento (UE) 2024/... del Parlamento Europeo y del Consejo por el que se establecen normas armonizadas en materia de inteligencia artificial y se modifican los Reglamentos (CE) n.º 300/2008, (UE) n.º 167/2013, (UE) n.º 168/2013, (UE) 2018/858, (UE) 2018/1139 y (UE) 2019/2144 y las Directivas 2014/90/UE, (UE) 2016/797 y (UE) 2020/1828 (Reglamento de Inteligencia Artificial), DO 2024, L...

Arriba

COMISIÓN EUROPEA

Bruselas, 26.6.2024

COM(2024) 264 final

ANEXO

de la

Propuesta de DECISIÓN DEL CONSEJO

relativa a la firma, en nombre de la Unión Europea, del Convenio Marco del Consejo de Europa sobre inteligencia artificial, derechos humanos, democracia y Estado de Derecho

Texto del Convenio Marco del Consejo de Europa sobre inteligencia artificial, derechos humanos, democracia y Estado de Derecho

Preámbulo

Los Estados miembros del Consejo de Europa y los demás signatarios del presente Convenio,

Considerando que el objetivo del Consejo de Europa es lograr una mayor unidad entre sus miembros, basada en particular en el respeto de los derechos humanos, la democracia y el Estado de Derecho;

Reconociendo el valor de fomentar la cooperación entre las Partes en el presente Convenio y de extender dicha cooperación a otros Estados que comparten los mismos valores;

Conscientes de la aceleración de la evolución de la ciencia y la tecnología y de los profundos cambios provocados por las actividades en el ciclo de vida de los sistemas de inteligencia artificial, que tienen potencial para promover la prosperidad humana, así como el bienestar individual y social, el desarrollo sostenible, la igualdad de género y el empoderamiento de todas las mujeres y niñas, así como otros objetivos e intereses importantes, mejorando el progreso y la innovación;

Reconociendo que las actividades dentro del ciclo de vida de los sistemas de inteligencia artificial pueden ofrecer oportunidades sin precedentes para proteger y promover los derechos humanos, la democracia y el Estado de Derecho;

Preocupados debido a que determinadas actividades dentro del ciclo de vida de los sistemas de inteligencia artificial pueden minar la dignidad humana y la autonomía individual, los derechos humanos, la democracia y el Estado de Derecho;

Preocupados por los riesgos de discriminación en contextos digitales, en particular los que implican sistemas de inteligencia artificial, y su posible efecto de crear o agravar desigualdades, incluidas las que sufren las mujeres y las personas en situaciones vulnerables, en relación con el disfrute de sus derechos humanos y su participación plena, equitativa y efectiva en los asuntos económicos, sociales, culturales y políticos;

Preocupados por el uso indebido de los sistemas de inteligencia artificial y la oposición al uso de dichos sistemas con fines represivos en violación del Derecho internacional en materia de derechos humanos, en particular mediante prácticas arbitrarias o ilegales de vigilancia y censura que erosionan la privacidad y la autonomía individual;

Conscientes de que los derechos humanos, la democracia y el Estado de Derecho están intrínsecamente entrelazados;

Convencidos de la necesidad de establecer, con carácter prioritario, un marco jurídico aplicable a escala mundial que establezca principios generales y normas comunes que rijan las actividades dentro del ciclo de vida de los sistemas de inteligencia artificial que preserve eficazmente los valores compartidos y aproveche los beneficios de la inteligencia artificial para la promoción de estos valores de forma que ello que conduzca a una innovación responsable;

Reconociendo la necesidad de promover la alfabetización digital, el conocimiento y la confianza en el diseño, el desarrollo, el uso y el desmantelamiento de los sistemas de inteligencia artificial;

Reconociendo el carácter de marco del presente Convenio, que podrá complementarse con otros instrumentos para abordar cuestiones específicas relacionadas con las actividades dentro del ciclo de vida de los sistemas de inteligencia artificial;

Subrayando que el presente Convenio tiene por objeto abordar los retos específicos que surgen a lo largo del ciclo de vida de los sistemas de inteligencia artificial y fomentar la consideración de los riesgos y efectos más amplios relacionados con estas tecnologías, incluidos, entre otros, la salud humana y el medio ambiente, así como los aspectos socioeconómicos, como el empleo y el trabajo;

Tomando nota de los esfuerzos pertinentes para promover el entendimiento y la cooperación internacionales en materia de inteligencia artificial por parte de otras organizaciones y foros internacionales y supranacionales;

Conscientes de los instrumentos internacionales aplicables en materia de derechos humanos, como la Declaración Universal de Derechos Humanos de 1948; el Convenio para la Protección de los Derechos Humanos y de las Libertades Fundamentales de 1950 (ETS n.º 5); el Pacto Internacional de Derechos Civiles y Políticos de 1966; el Pacto Internacional de Derechos Económicos, Sociales y Culturales de 1961; la Carta Social Europea de 1966 (ETS n.º 35), así como sus respectivos protocolos; y la Carta Social Europea de 1996 (revisada) (ETS n.º 163);

Conscientes asimismo de la Convención de las Naciones Unidas sobre los Derechos del Niño de 1989 y la Convención de las Naciones Unidas sobre los Derechos de las Personas con Discapacidad de 2006;

Teniendo también en cuenta, en su caso, los derechos a la intimidad de las personas y la protección de los datos personales otorgados, por ejemplo, por el Convenio de 1981 para la protección de las personas con respecto al tratamiento automatizado de datos de carácter personal (ETS n.º 108) y sus protocolos;

Afirmando el compromiso de las Partes con la protección de los derechos humanos, la democracia y el Estado de Derecho, y fomentando la fiabilidad de los sistemas de inteligencia artificial a través del presente Convenio,

Han acordado lo siguiente:

Capítulo I – Disposiciones generales

Artículo 1 - Objeto y finalidad

1)El objetivo de las disposiciones del presente Convenio es garantizar que las actividades durante el ciclo de vida de los sistemas de inteligencia artificial sean plenamente coherentes con los derechos humanos, la democracia y el Estado de Derecho.

2)Cada Parte adoptará o mantendrá medidas legislativas, administrativas o de otro tipo adecuadas para dar efecto a las disposiciones establecidas en el presente Convenio. Estas medidas se graduarán y diferenciarán según sea necesario en vista de la gravedad y la probabilidad de que se produzcan efectos adversos en los derechos humanos, la democracia y el Estado de Derecho a lo largo de todo el ciclo de vida de los sistemas de inteligencia artificial. Esto puede incluir medidas específicas u horizontales que se apliquen independientemente del tipo de tecnología utilizada.

3)Con el fin de garantizar la aplicación efectiva de sus disposiciones por las Partes, el presente Convenio establece un mecanismo de seguimiento y prevé la cooperación internacional.

Artículo 2 - Definición de sistemas de inteligencia artificial

A efectos del presente Convenio, se entenderá por «sistema de inteligencia artificial» un sistema basado en máquinas que, para objetivos explícitos o implícitos, deduce, de la información que recibe, cómo generar resultados, como predicciones, contenidos, recomendaciones o decisiones que puedan influir en entornos físicos o virtuales. Los distintos sistemas de inteligencia artificial varían en sus niveles de autonomía y capacidad de adaptación tras su despliegue.

Artículo 3 - Ámbito de aplicación

1)El objetivo del presente Convenio es garantizar que las actividades durante el ciclo de vida de los sistemas de inteligencia artificial sean plenamente coherentes con los derechos humanos, la democracia y el Estado de Derecho. Para ello:

a)Cada Parte aplicará el presente Convenio a las actividades dentro del ciclo de vida de los sistemas de inteligencia artificial llevadas a cabo por autoridades públicas o agentes privados que actúen en su nombre.

b)Cada Parte abordará los riesgos e impactos derivados de las actividades realizadas por agentes privados dentro del ciclo de vida de los sistemas de inteligencia artificial en la medida en que no estén contemplados en la letra a) de manera conforme con el objeto y la finalidad del presente Convenio.

Cada Parte especificará en una declaración presentada al Secretario General del Consejo de Europa, en el momento de la firma o al depositar su instrumento de ratificación, aceptación, aprobación o adhesión, cómo pretende aplicar esta obligación, ya sea aplicando los principios y obligaciones establecidos en los capítulos II a VI del presente Convenio a las actividades de los agentes privados o adoptando otras medidas apropiadas para cumplir la obligación establecida en el presente párrafo. Las Partes podrán modificar sus declaraciones en cualquier momento y de la misma manera.

Al aplicar la obligación prevista en el presente párrafo, una Parte no podrá establecer excepciones ni limitar la aplicación de sus obligaciones internacionales contraídas para proteger los derechos humanos, la democracia y el Estado de Derecho.

2)Las Partes no estarán obligadas a aplicar el presente Convenio a las actividades dentro del ciclo de vida de los sistemas de inteligencia artificial relacionadas con la protección de sus intereses de seguridad nacional, entendiéndose que dichas actividades se llevan a cabo de conformidad con el Derecho internacional aplicable, incluidas las obligaciones del Derecho internacional en materia de derechos humanos, y respetando sus instituciones y procesos democráticos.

3)Sin perjuicio de lo dispuesto en el artículo 13 y en el apartado 2 del artículo 25, el presente Convenio no se aplicará a las actividades de investigación y desarrollo relativas a sistemas de inteligencia artificial que aún no se hayan puesto a disposición para su uso, a menos que las pruebas o actividades similares se lleven a cabo de manera que puedan interferir en los derechos humanos, la democracia y el Estado de Derecho.

4)Las materias relativas a la defensa nacional no pertenecen al ámbito de aplicación del presente Convenio.

Capítulo II - Obligaciones generales

Artículo 4 - Protección de los derechos humanos

Cada Parte adoptará o mantendrá medidas para garantizar que las actividades durante el ciclo de vida de los sistemas de inteligencia artificial sean coherentes con las obligaciones de protección de los derechos humanos consagradas en el Derecho internacional aplicable y en su Derecho interno.

Artículo 5 - Integridad de los procesos democráticos y respeto del Estado de Derecho

1)Cada Parte adoptará o mantendrá medidas destinadas a garantizar que los sistemas de inteligencia artificial no se utilicen para socavar la integridad, la independencia y la eficacia de las instituciones y los procesos democráticos, incluido el principio de separación de poderes, el respeto de la independencia judicial y el acceso a la justicia.

2)Cada Parte adoptará o mantendrá medidas destinadas a proteger sus procesos democráticos en el contexto de las actividades dentro del ciclo de vida de los sistemas de inteligencia artificial, incluido el acceso justo de las personas al debate público y su participación en el mismo, así como su capacidad para formar libremente sus opiniones.

Capítulo III - Principios relacionados con las actividades dentro del ciclo de vida de los sistemas de inteligencia artificial

Artículo 6 - Orientación general

El presente capítulo establece los principios generales comunes que cada Parte aplicará en relación con los sistemas de inteligencia artificial de manera adecuada a su ordenamiento jurídico interno y a las demás obligaciones del presente Convenio.

Artículo 7 - Dignidad humana y autonomía individual

Cada Parte adoptará o mantendrá medidas para respetar la dignidad humana y la autonomía individual en relación con las actividades dentro del ciclo de vida de los sistemas de inteligencia artificial.

Artículo 8 - Transparencia y supervisión

Cada Parte adoptará o mantendrá medidas para garantizar que existan requisitos adecuados de transparencia y supervisión adaptados a los contextos y riesgos específicos en relación con las actividades dentro del ciclo de vida de los sistemas de inteligencia artificial, también en lo que respecta a la identificación de contenidos generados por los sistemas de inteligencia artificial.

Artículo 9 - Rendición de cuentas y responsabilidad

Cada Parte adoptará o mantendrá medidas para garantizar la rendición de cuentas y la responsabilidad por los efectos adversos sobre los derechos humanos, la democracia y el Estado de Derecho resultantes de las actividades durante el ciclo de vida de los sistemas de inteligencia artificial.

Artículo 10 - Igualdad y no discriminación

1)Cada Parte adoptará o mantendrá medidas con vistas a garantizar que las actividades durante el ciclo de vida de los sistemas de inteligencia artificial respeten la igualdad, incluida la igualdad de género, y la prohibición de la discriminación, con arreglo a lo dispuesto en el Derecho internacional y nacional aplicable.

2)Cada Parte se compromete a adoptar o mantener medidas destinadas a superar las desigualdades para lograr resultados justos y equitativos, en consonancia con sus obligaciones nacionales e internacionales aplicables en materia de derechos humanos, en relación con las actividades dentro del ciclo de vida de los sistemas de inteligencia artificial.

Artículo 11 - Privacidad y protección de los datos personales

Cada Parte adoptará o mantendrá medidas para garantizar que, con respecto a las actividades dentro del ciclo de vida de los sistemas de inteligencia artificial:

a)se protegen los derechos a la intimidad de las personas y sus datos personales, en particular a través de las leyes, normas y marcos nacionales e internacionales aplicables; y

b)se han establecido garantías y salvaguardias efectivas para las personas, de conformidad con las obligaciones jurídicas nacionales e internacionales aplicables.

Artículo 12 - Fiabilidad

Cada Parte adoptará, según proceda, medidas para promover la fiabilidad de los sistemas de inteligencia artificial y la confianza en sus resultados, que podrían incluir requisitos relacionados con la calidad y la seguridad adecuadas a lo largo de todo el ciclo de vida de los sistemas de inteligencia artificial.

Artículo 13 - Innovación segura

Con el fin de fomentar la innovación, evitando al mismo tiempo los efectos adversos sobre los derechos humanos, la democracia y el Estado de Derecho, se pide a cada Parte que permita, según proceda, el establecimiento de entornos controlados para desarrollar, experimentar y probar sistemas de inteligencia artificial bajo la supervisión de sus autoridades competentes.

Capítulo IV - Recursos

Artículo 14 - Recursos

1)Cada Parte, en la medida en que lo exijan sus obligaciones internacionales y sea coherente con su ordenamiento jurídico interno, adoptará o mantendrá medidas para garantizar la disponibilidad de vías de recurso accesibles y efectivas para las violaciones de los derechos humanos derivadas de las actividades durante el ciclo de vida de los sistemas de inteligencia artificial.

2)Con el fin de apoyar el apartado 1, cada Parte adoptará o mantendrá medidas que incluyan:

a)medidas para garantizar que la información pertinente relativa a los sistemas de inteligencia artificial que pueda afectar de forma significativa a los derechos humanos y a su uso pertinente esté documentada, se facilite a los organismos autorizados a acceder a dicha información y, cuando proceda y sea aplicable, se ponga a disposición o se comunique a las personas afectadas;

b)medidas para garantizar que la información a que se refiere la letra a) sea suficiente para que las personas afectadas impugnen la decisión o decisiones adoptadas mediante el uso del sistema o basadas en gran parte en tal uso y, cuando sea relevante y proceda, el uso mismo del sistema; y

c)la posibilidad efectiva de que las personas afectadas presenten una denuncia ante las autoridades competentes.

Artículo 15 - Garantías procesales

1)Cada Parte garantizará que, cuando un sistema de inteligencia artificial incida significativamente en el disfrute de los derechos humanos, las personas afectadas dispongan de garantías procesales, salvaguardias y derechos efectivos, de conformidad con el Derecho internacional y nacional aplicable.

2)Cada Parte procurará garantizar que, según proceda en función del contexto, se notifique a las personas que interactúan con los sistemas de inteligencia artificial que están interactuando con dichos sistemas en lugar de con un ser humano.

Capítulo V - Evaluación y mitigación de riesgos e impactos adversos

Artículo 16 - Marco de gestión de riesgos e impactos

1)Cada Parte, teniendo en cuenta los principios establecidos en el capítulo III, adoptará o mantendrá medidas para la identificación, evaluación, prevención y mitigación de los riesgos que plantean los sistemas de inteligencia artificial, teniendo en cuenta las repercusiones reales y potenciales para los derechos humanos, la democracia y el Estado de Derecho.

2)Dichas medidas se graduarán y diferenciarán, según proceda, y:

a)tendrán debidamente en cuenta el contexto y el uso previsto de los sistemas de inteligencia artificial, en particular en lo que respecta a los riesgos para los derechos humanos, la democracia y el Estado de Derecho;

b)tendrán debidamente en cuenta la gravedad y la probabilidad de los posibles impactos;

c)considerarán, cuando proceda, las perspectivas de las partes interesadas pertinentes, en particular de las personas cuyos derechos puedan verse afectados;

d)se aplicarán de forma continuada en las actividades dentro del ciclo de vida del sistema de inteligencia artificial;

e)incluirán el seguimiento de los riesgos y los efectos adversos para los derechos humanos, la democracia y el Estado de Derecho;

f)incluirán documentación sobre los riesgos, las repercusiones reales y potenciales y el enfoque de gestión de riesgos; y

g)exigirán, cuando proceda, someter a pruebas a los sistemas de inteligencia artificial antes de ponerlos a disposición para su primera utilización y cuando se modifiquen significativamente.

3)Cada Parte adoptará o mantendrá medidas destinadas a garantizar que se aborden adecuadamente los efectos adversos de los sistemas de inteligencia artificial en los derechos humanos, la democracia y el Estado de Derecho. Dichos efectos adversos y las medidas para abordarlos deben documentarse e informar sobre las medidas de gestión de riesgos pertinentes descritas en el apartado 2.

4)Cada Parte evaluará la necesidad de una moratoria o prohibición u otras medidas adecuadas con respecto a determinados usos de los sistemas de inteligencia artificial cuando considere que tales usos son incompatibles con el respeto de los derechos humanos, el funcionamiento de la democracia o el Estado de Derecho.

Capítulo VI - Aplicación del Convenio

Artículo 17 - No discriminación

La aplicación de las disposiciones del presente Convenio por las Partes se garantizará sin discriminación por ningún motivo, de conformidad con sus obligaciones internacionales en materia de derechos humanos.

Artículo 18 - Derechos de las personas con discapacidad y de los niños

Cada Parte, de conformidad con su Derecho interno y sus obligaciones internacionales aplicables, tendrá debidamente en cuenta las necesidades y vulnerabilidades específicas en relación con el respeto de los derechos de las personas con discapacidad y de los niños.

Artículo 19 - Consulta pública

Cada Parte procurará garantizar que las cuestiones importantes planteadas en relación con los sistemas de inteligencia artificial se tengan debidamente en cuenta, según proceda, mediante debate público y consultas con múltiples partes interesadas a la luz de las implicaciones sociales, económicas, jurídicas, éticas, medioambientales y de otro tipo pertinentes.

Artículo 20 - Alfabetización y capacidades digitales

Cada Parte fomentará y promoverá la alfabetización digital y las capacidades digitales adecuadas para todos los segmentos de la población, incluidas las capacidades especializadas específicas para los responsables de la identificación, evaluación, prevención y mitigación de los riesgos que plantean los sistemas de inteligencia artificial.

Artículo 21 - Protección de los derechos humanos reconocidos

Ninguna disposición del presente Convenio se interpretará en el sentido de limitar, establecer excepciones o afectar de otro modo a los derechos humanos u otros derechos y obligaciones jurídicos conexos que puedan estar garantizados en virtud de la legislación pertinente de una Parte o de cualquier otro acuerdo internacional pertinente en el que sea parte.

Artículo 22 - Protección más amplia

Ninguna de las disposiciones del presente Convenio se interpretará en el sentido de que limita o afecta de otro modo a la posibilidad de que una Parte decida una medida de protección más amplia que la estipulada en el presente Convenio.

Capítulo VII - Mecanismo de seguimiento y cooperación

Artículo 23 - Conferencia de las Partes

1)La Conferencia de las Partes estará compuesta por representantes de las Partes en el presente Convenio.

2)Las Partes se consultarán periódicamente con el fin de:

a. facilitar la aplicación y ejecución efectivas del presente Convenio, incluida la identificación de cualquier problema y los efectos de cualquier reserva formulada de conformidad con el artículo 34, apartado 1, o de cualquier declaración realizada en virtud del presente Convenio;

b. estudiar la posibilidad de completar o modificar el presente Convenio;

c. estudiar cuestiones y formular recomendaciones específicas relativas a la interpretación y aplicación del presente Convenio;

d. facilitar el intercambio de información sobre avances jurídicos, políticos o tecnológicos importantes, incluso para la consecución de los objetivos definidos en el artículo 25, para la aplicación del presente Convenio;

e. facilitar, en caso necesario, la solución amistosa de los litigios relacionados con la aplicación del presente Convenio; y

f. facilitar la cooperación con las partes interesadas pertinentes en relación con los aspectos pertinentes de la aplicación del presente Convenio, incluso mediante audiencias públicas cuando proceda.

3)La Conferencia de las Partes será convocada por el Secretario General del Consejo de Europa siempre que sea necesario y, en cualquier caso, cuando la mayoría de las Partes o el Comité de Ministros lo soliciten.

4)La Conferencia de las Partes adoptará su propio reglamento interno por consenso en un plazo de 12 meses a partir de la entrada en vigor del presente Convenio.

5)Las Partes estarán asistidas por el Secretario General del Consejo de Europa en el ejercicio de sus funciones derivadas del presente artículo.

6)La Conferencia de las Partes podrá proponer al Comité de Ministros formas adecuadas de recurrir a los conocimientos especializados pertinentes en apoyo de la aplicación efectiva del presente Convenio.

7)Toda Parte que no sea miembro del Consejo de Europa contribuirá a la financiación de las actividades de la Conferencia de las Partes. La contribución de un no miembro del Consejo de Europa será establecida conjuntamente por el Comité de Ministros y el no miembro.

8)La Conferencia de las Partes podrá decidir restringir la participación en sus trabajos de una Parte que haya dejado de ser miembro del Consejo de Europa en virtud del artículo 8 del Estatuto del Consejo de Europa (ETS n.º 1) por una violación grave del artículo 3 de dicho Estatuto. Del mismo modo, podrán adoptarse medidas con respecto a cualquier Parte que no sea un Estado miembro del Consejo de Europa mediante una decisión del Comité de Ministros de poner fin a sus relaciones con dicho Estado por motivos similares a los mencionados en el artículo 3 del Estatuto.

Artículo 24 - Obligación de información

1)Cada Parte presentará un informe a la Conferencia de las Partes en los dos primeros años siguientes a su adhesión, y posteriormente periódicamente, con información detallada sobre las actividades emprendidas para dar efecto al artículo 3, apartado 1, letras a) y b).

2)La Conferencia de las Partes determinará el formato y el proceso del informe de conformidad con su reglamento interno.

Artículo 25 - Cooperación internacional

1)Las Partes cooperarán en la consecución del objetivo del presente Convenio. Se anima además a las Partes, según proceda, a que ayuden a los Estados que no sean Partes en el presente Convenio a actuar de manera coherente con los términos del presente Convenio y a convertirse en Parte en el mismo.

2)Las Partes intercambiarán entre sí, según proceda, información pertinente y útil sobre aspectos relacionados con la inteligencia artificial que puedan tener efectos positivos o negativos significativos en el disfrute de los derechos humanos, el funcionamiento de la democracia y el respeto del Estado de Derecho, incluidos los riesgos y efectos que hayan surgido en contextos de investigación y en relación con el sector privado. Se anima a las Partes a implicar, según proceda, a las partes interesadas pertinentes y a los Estados que no sean Partes en el presente Convenio en dichos intercambios de información.

3)Se anima a las Partes a reforzar la cooperación, también con las partes interesadas pertinentes cuando proceda, para prevenir y mitigar los riesgos y los efectos adversos sobre los derechos humanos, la democracia y el Estado de Derecho en el contexto de las actividades dentro del ciclo de vida de los sistemas de inteligencia artificial.

Artículo 26 - Mecanismos de supervisión eficaces

1)Cada Parte establecerá o designará uno o varios mecanismos eficaces para supervisar el cumplimiento de las obligaciones del presente Convenio.

2)Cada Parte velará por que dichos mecanismos ejerzan sus funciones de manera independiente e imparcial y por que dispongan de las competencias, los conocimientos especializados y los recursos necesarios para desempeñar eficazmente sus tareas de supervisión del cumplimiento de las obligaciones establecidas en el presente Convenio, tal como hayan dado efecto las Partes.

3)En caso de que una Parte haya previsto más de un mecanismo de este tipo, adoptará medidas, cuando sea posible, para facilitar una cooperación eficaz entre ellas.

4)En caso de que una Parte haya previsto mecanismos distintos de las estructuras existentes de derechos humanos, adoptará medidas, cuando sea posible, para promover una cooperación eficaz entre los mecanismos mencionados en el apartado 1 y las estructuras nacionales existentes en materia de derechos humanos.

Capítulo VIII - Cláusulas finales

Artículo 27 - Efectos del Convenio

1)Si dos o más Partes ya han celebrado un acuerdo o tratado sobre las materias tratadas en el presente Convenio o han establecido de otro modo relaciones sobre dichas materias, también tendrán derecho a aplicar dicho acuerdo o tratado o a regular dichas relaciones en consecuencia, siempre que lo hagan de manera que no sean incompatibles con el objeto y la finalidad del presente Convenio.

2)Las Partes que sean miembros de la Unión Europea aplicarán, en sus relaciones mutuas, las normas de la Unión Europea que regulen las materias incluidas en el ámbito de aplicación del presente Convenio, sin perjuicio del objeto y la finalidad del presente Convenio y sin perjuicio de su plena aplicación con otras Partes. Lo mismo se aplica a las demás Partes en la medida en que estén vinculadas por dichas normas.

Artículo 28 - Modificaciones

1)Cualquiera de las Partes, el Comité de Ministros del Consejo de Europa o la Conferencia de las Partes podrán proponer enmiendas al presente Convenio.

2)Toda propuesta de enmienda será comunicada a las Partes por el Secretario General del Consejo de Europa.

3)Toda enmienda propuesta por una Parte o por el Comité de Ministros se comunicará a la Conferencia de las Partes, que presentará al Comité de Ministros su dictamen sobre la enmienda propuesta.

4)El Comité de Ministros examinará la enmienda propuesta y el dictamen presentado por la Conferencia de las Partes y podrá aprobarla.

5)El texto de toda enmienda aprobada por el Comité de Ministros conforme al apartado 4 será transmitido a las Partes para obtener su aceptación.

6)Toda enmienda aprobada en virtud del apartado 4 entrará en vigor el trigésimo día siguiente a la fecha en que todas las Partes hayan comunicado su aceptación al Secretario General.

Artículo 29 - Solución de controversias

En caso de controversia entre las Partes en cuanto a la interpretación o aplicación del presente Convenio, dichas Partes buscarán una solución de la diferencia a través de la negociación o por cualquier otro medio pacífico de su elección, incluso a través de la Conferencia de las Partes, tal como se establece en el artículo 23, apartado 2, letra e).

Artículo 30 - Firma y entrada en vigor

1)El presente Convenio estará abierto a la firma de los Estados miembros del Consejo de Europa, de los Estados no miembros que hayan participado en su elaboración y de la Unión Europea.

2)El presente Convenio estará sujeto a ratificación, aceptación o aprobación. Los instrumentos de ratificación, aceptación o aprobación se depositarán ante el Secretario General del Consejo de Europa.

3)El presente Convenio entrará en vigor el primer día del mes siguiente a la expiración de un período de tres meses a partir de la fecha en que cinco signatarios, incluidos al menos tres Estados miembros del Consejo de Europa, hayan manifestado su consentimiento a quedar vinculados por el presente Convenio de conformidad con el apartado 2.

4)Con respecto a cualquier signatario que posteriormente manifieste su consentimiento en obligarse por él, el presente Convenio entrará en vigor el primer día del mes siguiente a la expiración de un período de tres meses a partir de la fecha de depósito de su instrumento de ratificación, aceptación o aprobación.

Artículo 31 - Adhesión

1)Tras la entrada en vigor del presente Convenio, el Comité de Ministros del Consejo de Europa podrá, previa consulta a las Partes en el presente Convenio y obtener su consentimiento unánime, invitar a cualquier Estado no miembro del Consejo de Europa que no haya participado en la elaboración del presente Convenio a adherirse al mismo mediante una decisión adoptada por la mayoría prevista en el artículo 20, letra d), del Estatuto del Consejo de Europa, y por unanimidad de los representantes de las Partes con derecho a formar parte del Comité de Ministros.

2)Para cualquier Estado adherente, el presente Convenio entrará en vigor el primer día del mes siguiente a la expiración de un período de tres meses a partir de la fecha de depósito del instrumento de adhesión ante el Secretario General del Consejo de Europa.

Artículo 32 - Aplicación territorial

1)Cualquier Estado, o la Unión Europea, podrá designar, en el momento de la firma o del depósito de su instrumento de ratificación, aceptación, aprobación o adhesión, el territorio o territorios a los que se aplicará el presente Convenio.

2)Cualquier Parte podrá, en una fecha posterior, mediante una declaración dirigida al Secretario General del Consejo de Europa, ampliar la aplicación del presente Convenio a cualquier otro territorio especificado en la declaración. Con respecto a dicho territorio, el presente Convenio entrará en vigor el primer día del mes siguiente a la expiración de un período de tres meses a partir de la fecha de recepción de la declaración por el Secretario General.

3)Toda declaración efectuada en virtud de los dos apartados anteriores podrá retirarse, en relación con cualquier territorio especificado en dicha declaración, mediante notificación dirigida al Secretario General del Consejo de Europa. La retirada surtirá efecto el primer día del mes siguiente a la expiración de un período de tres meses después de la fecha de recepción de la notificación por el Secretario General.

Artículo 33 - Cláusula federal

1)Un Estado federal podrá reservarse el derecho de asumir obligaciones en virtud del presente Convenio en consonancia con los principios fundamentales que rigen la relación entre su Gobierno central y sus Estados constituyentes u otras entidades territoriales similares, siempre que el presente Convenio se aplique al Gobierno central del Estado federal.

2)Por lo que se refiere a las disposiciones del presente Convenio cuya aplicación sea competencia de los Estados constituyentes u otras entidades territoriales similares que no estén obligadas por el sistema constitucional de la federación a adoptar medidas legislativas, el Gobierno federal informará con su dictamen favorable a las autoridades competentes de dichos Estados de dichas disposiciones y les alentará a adoptar las medidas adecuadas para su aplicación.

Artículo 34 - Reservas

1)Mediante notificación escrita dirigida al Secretario General del Consejo de Europa, cualquier Estado podrá, en el momento de la firma o al depositar su instrumento de ratificación, aceptación, aprobación o adhesión, declarar que se acoge a la reserva prevista en el artículo 33, apartado 1.

2)No podrá formularse ninguna otra reserva con respecto al presente Convenio.

Artículo 35 - Denuncia

1)Toda Parte podrá, en cualquier momento, denunciar el presente Convenio mediante una notificación dirigida al Secretario General del Consejo de Europa.

2)La denuncia surtirá efecto el primer día del mes siguiente a la expiración de un período de tres meses después de la fecha de recepción de la notificación por el Secretario General.

Artículo 36 - Notificación

El Secretario General del Consejo de Europa notificará a los Estados miembros del Consejo de Europa, a los Estados no miembros que hayan participado en la redacción del presente Convenio, a la Unión Europea, a cualquier signatario, a cualquier Estado contratante, a cualquier Parte y a cualquier otro Estado que haya sido invitado a adherirse al presente Convenio:

a)cualquier firma;

b)el depósito de cualquier instrumento de ratificación, aceptación, aprobación o adhesión;

c)cualquier fecha de entrada en vigor del presente Convenio, de conformidad con el artículo 30, apartados 3 y 4, y del artículo 31, apartado 2;

d)toda enmienda adoptada de conformidad con el artículo 28, así como la fecha de entrada en vigor de dicha enmienda;

e)toda declaración efectuada de conformidad con el artículo 3, apartado 1, letra b);

f)toda reserva o retirada de una reserva realizada de conformidad con el artículo 34;

g)toda denuncia realizada de conformidad con el artículo 35;

h)cualquier otro acto, declaración, notificación o comunicación relacionado con el presente Convenio.

En fe de lo cual los abajo firmantes, debidamente autorizados, firman el presente Convenio.

Hecho en [lugar], el... de .... 2024, en francés e inglés, siendo ambos textos igualmente auténticos, en un único ejemplar que se depositará en los archivos del Consejo de Europa. El Secretario General del Consejo de Europa transmitirá copias certificadas a cada Estado miembro del Consejo de Europa, a los Estados no miembros que hayan participado en la redacción del presente Convenio, a la Unión Europea y a cualquier Estado invitado a adherirse al mismo.