Por: Carlos A. FERREYROS SOTO
Doctor en Derecho
Universidad de Montpellier I Francia.
Resumen
El 18 de agosto de 2022, la Comisión Europea publicó una Recomendación de Decisión del Consejo por la que se autoriza la apertura de negociaciones en nombre de la Unión Europea con vistas a un Convenio del Consejo de Europa sobre inteligencia artificial (IA), derechos humanos, democracia y Estado de Derecho, de conformidad con el artículo 218 del TFUE.
El SEPD formula cuatro recomendaciones principales sobre las directrices de negociación:
— los objetivos generales de la negociación del Convenio deberán atribuir más importancia a las garantías y los derechos que han de ofrecerse a las personas - y a los grupos de personas - sujetas a los sistemas de IA, en consonancia con el enfoque principal y los objetivos del Consejo de Europa;
— deberá mencionarse explícitamente que el Convenio es conforme con el marco jurídico vigente de la UE en materia de protección de datos;
— en consonancia con el enfoque basado en el riesgo, deberá incluirse el objetivo de prohibir los sistemas de IA que planteen riesgos inaceptables;
— el Convenio deberá promover la adopción de un enfoque de protección de datos desde el
diseño y por defecto en cada fase del ciclo de vida de los sistemas de IA.
A fin de acceder a normas similares y estándares europeos, las empresas, organizaciones públicas y privados ayudados en asesorías, consultorías, capacitaciones, estudios, evaluaciones, auditorías sobre el tema, sírvanse comunicar al correo electrónico : cferreyros@hotmail.com
___________________________________________________________
Resumen del Dictamen
del Supervisor Europeo
de Protección de Datos sobre la Recomendación de Decisión del Consejo por la que se autoriza la
apertura de negociaciones en nombre de la Unión Europea con vistas a un Convenio del Consejo de Europa sobre inteligencia
artificial, derechos humanos, democracia y Estado de Derecho
(2022/C 458/04)
[El texto completo
del presente
Dictamen está disponible en inglés,
francés y alemán en el
sitio web
del SEPD:
https:// edps.europa.eu]
Habida cuenta del carácter transfronterizo de la inteligencia artificial, el SEPD acoge con satisfacción el objetivo general, perseguido por el Consejo de Europa, de elaborar el primer instrumento internacional jurídicamente vinculante sobre inteligencia artificial, basado en las normas del Consejo de Europa en materia de derechos humanos, democracia y Estado de Derecho. En consecuencia, el SEPD apoya la apertura de negociaciones para el Convenio en nombre de la Unión, y acoge con satisfacción el papel de la Unión en la promoción de una IA fiable que sea coherente con los valores de la Unión.
El SEPD toma nota de que el objeto del Convenio estaría regulado en la UE por la Ley de IA propuesta, y reconoce el objetivo de la Comisión de garantizar que el Convenio sea compatible con dicha Ley, teniendo en cuenta la evolución futura del proceso legislativo. No obstante, el SEPD considera que el Convenio representa una importante oportunidad para complementar la Ley de IA propuesta reforzando la protección de los derechos fundamentales de todas las personas afectadas por los sistemas de IA y, por lo tanto, aboga por que el Convenio establezca garantías claras y sólidas para estas personas.
—
los objetivos generales de la
negociación del Convenio deberán atribuir más importancia a las garantías y los
derechos que han de ofrecerse
a las personas —y a los grupos de personas—
sujetas a los sistemas de IA, en consonancia con el enfoque principal y los objetivos del Consejo de
Europa;
— deberá mencionarse explícitamente, en una directriz
específica, que el Convenio es conforme con el marco jurídico vigente de la UE en materia de protección de datos;
— en consonancia con el enfoque basado en el riesgo, deberá
incluirse el objetivo de prohibir los sistemas de IA que planteen riesgos inaceptables;
— el Convenio deberá
promover la adopción
de un enfoque de protección de datos desde el diseño
y por defecto en cada fase del ciclo de vida de los sistemas
de IA.
Además, el Dictamen ofrece recomendaciones adicionales sobre la inclusión en el Convenio de unas garantías procedimentales mínimas, así como de unos requisitos mínimos en materia de transparencia, explicabilidad y auditabilidad, cumplimiento y mecanismos de control, en el marco de la cooperación transfronteriza entre las autoridades competentes designadas por las partes del Convenio para la supervisión de las garantías y derechos que deben establecerse de conformidad con el Convenio.
1. INTRODUCCIÓN
1.
El 18 de agosto de 2022, la Comisión
Europea publicó una Recomendación de Decisión del Consejo por la que se autoriza la apertura
de negociaciones en nombre de la Unión Europea con vistas a un Convenio
del Consejo de Europa sobre inteligencia artificial (IA), derechos
humanos, democracia y Estado de Derecho (1), de conformidad con el artículo 218 del TFUE («la Recomendación»).
2.
El objetivo de la Recomendación es
autorizar la apertura de negociaciones en nombre de la Unión para un futuro Convenio del Consejo de
Europa sobre IA, derechos humanos, democracia y Estado de Derecho («el
Convenio»), y serviría para adoptar directrices de negociación y designar a la Comisión
como negociadora de la Unión (2).
3.
En la exposición de motivos (3), la Comisión subraya
que las negociaciones del Convenio
están relacionadas con materias
de competencia exclusiva de la Unión, debido también al solapamiento
significativo entre el «borrador preliminar» del Convenio
distribuido por el Comité sobre Inteligencia Artificial (CAI) del Consejo
de Europa, por una
parte, y la propuesta de
la Comisión
de un
reglamento sobre de la IA
(«la Ley
de IA
propuesta») (4), por otra, en
cuanto
a su ámbito de aplicación y contenido (5).
4.
La exposición de motivos (6) de la Recomendación destaca
que el «borrador preliminar» se propone incluir
las siguientes disposiciones:
— el
objeto y
el ámbito de aplicación
del Convenio (marco);
— definiciones
de sistema de IA, ciclo
de vida, proveedor,
usuario y «sujeto de IA»;
—
determinados principios
fundamentales, incluidas las garantías procedimentales y los derechos de los
sujetos de IA que se aplicarían a todos los sistemas de IA, independientemente de su nivel de riesgo;
—
medidas adicionales
para el sector
público, así
como los sistemas
de IA que
planteen niveles
de riesgo
«inaceptables» y «significativos», determinados sobre la base de una metodología de evaluación de riesgos e impacto (que se establecerá más adelante en un anexo del Convenio);
— un
mecanismo de seguimiento y
cooperación entre las
partes;
—
disposiciones finales, que incluyan
la posibilidad de que los Estados miembros
de la UE apliquen el Derecho de la UE en sus relaciones mutuas en las materias cubiertas
por el Convenio y la posibilidad de que la Unión se adhiera
al Convenio.
5.
La Recomendación, en los considerandos 6 y 7, destaca que la
celebración del Convenio puede afectar
a las
normas de la Unión vigentes y futuras. A fin de proteger la
integridad del Derecho de la Unión y garantizar la coherencia entre las
normas del Derecho internacional y el Derecho
de la Unión, es necesario
autorizar a la Comisión a negociar el Convenio en nombre de la Unión.
6.
El presente Dictamen del SEPD se
emite en respuesta a una consulta realizada por la Comisión el 18 de agosto de
2022 en virtud
de lo dispuesto en el artículo 42, apartado 1, del RPDUE (7). EL SEPD acoge con agrado la referencia a esta consulta en el considerando 8 de la Recomendación.
8. CONCLUSIONES
(1) atribuir más importancia al objetivo de «asegurar un elevado nivel de protección
de los derechos humanos y la preservación de
los valores europeos», en consonancia con la
naturaleza y el mandato del Consejo de Europa.
________________________________________________________________
(2)
COM(2022) 414
final, p. 3.
(3)
COM(2022) 414
final, p. 5.
(4)
Propuesta de Reglamento del Parlamento Europeo y del Consejo por el que se establecen normas armonizadas en materia de inteligencia artificial (Ley de Inteligencia Artificial) y se modifican
determinados actos legislativos de la Unión, COM(2021)206 final.
(5)
Véase también el considerando 5 de la Recomendación.
(6)
COM(2022) 414 final, pp. 2
y 3.
(7)
Reglamento (UE) 2018/1725 del
Parlamento Europeo y del Consejo, de 23 de octubre de 2018, relativo a la
protección de las personas físicas en lo que respecta al tratamiento de datos
personales por las instituciones, órganos y organismos de la Unión, y a la
libre circulación
de esos datos, y por el que se derogan el Reglamento (CE) n.o 45/2001 y la
Decisión n.o 1247/2002/CE (DO L 295 de 21.11.2018,
p. 39).
(2)
suprimir la palabra
«incluidos» después de «el Derecho
del mercado único
de la UE y otros ámbitos del Derecho» en las directrices
5 y 11, a fin de reflejar mejor la interacción entre los principios generales y
los derechos fundamentales, por una parte,
y el Derecho derivado (Derecho del mercado único de la UE y otros ámbitos del
Derecho), por otra.
(3)
añadir una directriz específica que
recuerde la necesidad de lograr
el equilibrio
adecuado entre el interés público
y los
intereses de las personas sujetas
a los sistemas de IA, a fin de garantizar el pleno respeto
de los derechos a la intimidad y a la protección
de los datos personales, así como de otros derechos
fundamentales en juego,
en particular el derecho a la presunción de inocencia y a un
juicio justo, el derecho a una buena administración y el principio de no
discriminación.
(4)
especificar en una directriz que el Convenio debe
establecer determinadas garantías procedimentales y derechos mínimos para las personas afectadas
por el uso de los sistemas de IA.
(5)
especificar en una directriz que el Convenio debe establecer requisitos mínimos en
materia de transparencia, explicabilidad
y auditabilidad de los sistemas de IA.
(6)
especificar en la directriz 14 que los riesgos sociales o
de grupo que plantean los sistemas de IA también deben evaluarse y mitigarse.
(7)
especificar en las directrices de negociación que deben prohibirse aquellos sistemas de IA
que planteen riesgos inaceptables, y proporcionar una lista indicativa de dichos sistemas
de IA.
(8)
incluir una directriz de negociación con arreglo
a la cual el Convenio
debe promover la adopción de un enfoque
de protección de datos desde el diseño y por defecto en cada fase del ciclo de vida de los
sistemas de IA.
(9)
precisar el contenido de la directriz 17 del siguiente
modo:
— debe llevarse a cabo una evaluación de la conformidad
ex ante
por parte de terceros para los sistemas de IA de
alto riesgo;
—
los sistemas de IA de
alto riesgo
deben volver a someterse a un procedimiento de evaluación de la conformidad siempre que se produzca
un cambio significativo;
— especificar el
objeto y
los efectos
jurídicos de las certificaciones;
—
especificar que las normas técnicas, por una
parte, pueden tener un impacto positivo
en la armonización de productos y servicios;.
y por otra, que su función es proporcionar especificaciones técnicas de las
normas ya establecidas por la ley.
(10)
incluir una directriz en virtud de la cual el Convenio
establezca que deben otorgarse a las autoridades de control competentes las facultades de
investigación y ejecución adecuadas.
(11)
añadir una directriz de negociación destinada a garantizar que el Convenio facilite y fomente la
cooperación transfronteriza entre las autoridades competentes.
Bruselas, 13 el octubre de 2022.
