Por: Carlos A. FERREYROS SOTO
Doctor en Derecho
Universidad de Montpellier I Francia.
RESUMEN
El
equipo editorial de la plataforma Vie Publique, publicó en francés un artículo
sobre “Inteligencia artificial: el marco jurídico europeo para la IA en 5
preguntas”, cuya última modificación data del día de hoy, 11 de diciembre de 2023.
El
íntegro del artículo original en francés se encuentra en el siguiente enlace: https://www.vie-publique.fr/questions-reponses/292157-intelligence-artificielle-le-cadre-juridique-europeen-de-lia,
y fue traducido al castellano por el suscrito con la ayuda del aplicativo
Google Translate.
Las
cinco preguntas absueltas son las siguientes:
1
¿Existe
legislación europea sobre IA?
2 ¿Cuál es la
definición de inteligencia artificial que ofrece la propuesta de reglamento
sobre IA
3
¿Qué prácticas
de IA están prohibidas por el reglamento propuesto?
4
¿Cómo apoyará la innovación el Reglamento sobre IA propuesto?
5
¿Cómo tiene en cuenta la UE la cuestión y los desafíos de la inteligencia
artificial?
A fin de acceder a normas similares y estándares europeos, las empresas, organizaciones públicas y privados interesados en asesorías, consultorías, capacitaciones, estudios, evaluaciones, auditorías sobre el tema, sírvanse comunicar al correo electrónico : cferreyros@hotmail.com
____________________________________________________
“INTELIGENCIA ARTIFICIAL: EL MARCO
JURÍDICO EUROPEO PARA LA IA EN 5 PREGUNTAS”
Con
el despliegue de ChatGPT y, más recientemente, de Gemini, la Unión Europea (UE)
pondrá en marcha un reglamento sobre inteligencia artificial (IA) para regular
su desarrollo, entre la necesidad de prevenir los peligros vinculados a esta
tecnología y el deseo de no quedarse atrás. El punto en cinco preguntas con la plataforma
Vie-publique.
1 ¿Existe
legislación europea sobre IA?
Actualmente
no hay ningún Reglamento promulgado
que aborde específicamente la cuestión
de la IA en la UE.
En
este contexto político, en 2021 la Comisión presentó una propuesta de reglamento del Parlamento Europeo y del Consejo por el que
se establecen normas armonizadas en materia de inteligencia artificial. El
8 de diciembre de 2023, el Parlamento Europeo y el Consejo de la Unión Europea
alcanzaron un acuerdo sobre este texto que será
la primera ley sobre inteligencia artificial del mundo. Esta propuesta de
marco regulatorio persigue los siguientes objetivos:
- Velar porque los sistemas de IA
comercializados sean seguros y
respeten la legislación vigente
sobre derechos fundamentales, valores de la UE, el Estado de Derecho, pero también sostenibilidad medioambiental;
- garantizar la seguridad jurídica para facilitar las inversiones y la
innovación en el ámbito de la IA;
- fortalecer la gobernanza y la aplicación efectiva de la legislación
existente en materia de requisitos
de seguridad aplicables a los sistemas de IA y de derechos fundamentales;
- facilitar el desarrollo de un mercado único para aplicaciones de IA legales y seguras y evitar la
fragmentación del mercado.
Más
específicamente, la propuesta de reglamento establece:
- la prohibición de ciertas
prácticas;
- requisitos específicos aplicables
a sistemas de IA de alto riesgo;
- reglas armonizadas en materia de
transparencia aplicables a:
- los sistemas de IA destinados a
interactuar con personas;
- los sistemas de reconocimiento
de emociones y de categorización biométrica;
- los sistemas de IA generativa
utilizados para generar o manipular imágenes o contenido de audio o
vídeo.
Este
enfoque debe tener en cuenta los resultados benéficos sobre los planes sociales
y ambientales que la IA puede aportar, pero también los nuevos riesgos o
consecuencias negativas que esta tecnología puede generar.
Se
garantiza la coherencia con la Carta de Derechos Fundamentales de la UE,
pero también con el derecho derivado de la UE en materia de protección de datos, de protección del consumidor, de no discriminación e igualdad entre mujeres y hombres. La
propuesta complementa la ley de no discriminación existente al proporcionar
requisitos que apuntan a minimizar el riesgo de discriminación algorítmica,
acompañados de obligaciones en materia de ensayos,
gestión de riesgos, la documentación y el control humano durante todo el ciclo de vida de los sistemas de IA.
El
texto aprobado por el Parlamento y los Estados miembros ahora tendrá que ser
adoptado formalmente por el Parlamento y el Consejo para ser integrado a la legislación de la UE. La
Comisión de Mercado Interior y Libertades Civiles del Parlamento votará sobre
el acuerdo en una sesión futura.
2 ¿Cuál
es la definición de inteligencia artificial que ofrece la propuesta de
reglamento sobre IA?
Un
sistema de inteligencia artificial es un programa informático (software) que se
desarrolla utilizando una o más de las siguientes técnicas:
- enfoques de aprendizaje automático, incluido el aprendizaje supervisado, el aprendizaje no supervisado y el aprendizaje por refuerzo, utilizando una amplia variedad de
métodos, incluido el aprendizaje
profundo;
- enfoques basados en la lógica y los conocimientos, incluida la representación de conocimientos, la programación inductiva (lógica), las bases de conocimiento, los motores de inferencia y de deducción, el razonamiento
(simbólico) y los sistemas expertos;
- enfoques
estadísticos,
estimación bayesiana, métodos de búsqueda y optimización.
Un
sistema de IA de este tipo puede, para un conjunto determinado de objetivos
definidos por el hombre, generar resultados tales como contenidos,
predicciones, recomendaciones o decisiones que influyan en los entornos con los
que interactúa.
La
propuesta de reglamento sobre IA también define:
- un sistema de identificación biométrica remota como "un sistema de IA destinado a
identificar a personas físicas de forma remota comparando los datos
biométricos de una persona con los contenidos en una base de datos de referencia,
y sin que el usuario del sistema de IA no sepa de antemano si la persona
será presente y podrá ser identificada.
- un sistema de identificación biométrica remota en tiempo real
como "un sistema de
identificación biométrica remota en el que la adquisición de datos
biométricos, su comparación y su identificación se realizan sin retrasos
significativos. Esto incluye no sólo la identificación instantánea, sino
también con un ligero retraso para evitar cualquier elusión de las normas.
3 ¿Qué
prácticas de IA están prohibidas por el reglamento propuesto?
La
propuesta de Reglamento sobre la IA prohíbe las prácticas siguientes de inteligencia artificial:
- sistema de inteligencia
artificial que utiliza técnicas
subliminales por debajo del umbral de conciencia de una persona para alterar sustancialmente su
comportamiento y de manera a causar un daño físico o psicológico (manipulación del comportamiento humano
para eludir el libre albedrío);
- sistema de IA que aproveche las eventuales vulnerabilidades debidas a
la edad o discapacidad para alterar sustancialmente su comportamiento
y de tal manera que cause daño físico o psicológico;
- sistemas de inteligencia
artificial destinados a evaluar o establecer
una clasificación de la confiabilidad de las personas en función de su
comportamiento social o características personales y que pueden
resultar un trato dañino injustificado o desproporcionado de las personas
en ciertos contextos. El acuerdo alcanzado entre el Parlamento y los
Estados miembros especifica la prohibición
de los sistemas de categorización biométrica que utilicen características sensibles
(opiniones políticas, religiosas, filosóficas, orientación sexual, etc.) y
de clasificación social basada en
el comportamiento social o características personales;
- reconocimiento
de emociones en la sede laboral
y en las instituciones educativas;
- sistemas
de identificación biométrica remota "en tiempo real" en espacios de acceso público
para fines represivos, salvo en los siguientes casos:
- búsqueda específica de víctimas potenciales específicas de
delitos (niños desaparecidos, trata, explotación sexual);
- prevención de una amenaza específica, sustancial e
inminente a la vida o la seguridad de las personas o prevención de un ataque terrorista;
- identificación, localización o
enjuiciamiento de los autores o sospechosos de determinadas infracciones penales punibles con una
pena máxima de al menos tres años.
El
uso de sistemas de identificación biométrica debe:
- tener en cuenta la situación que
dio lugar al uso del sistema y la gravedad
o la amplitud del daño en caso de no uso;
- tener en cuenta las consecuencias para los derechos y
libertades de todas las personas afectadas (gravedad, probabilidad,
magnitud);
- estar sujeto a una autorización previa otorgada por una
autoridad judicial o administrativa competente.
El
anexo III del reglamento propuesto ofrece una lista de sistemas de IA de alto riesgo. Los eurodiputados incluyeron en el
reglamento una evaluación de impacto
obligatoria sobre los derechos fundamentales, aplicable también al sector
bancario y de seguros. Los sistemas de inteligencia artificial utilizados para
influir en el resultado de las elecciones y el comportamiento de los votantes
se clasifican como de alto riesgo.
Los
ciudadanos tendrán derecho a:
- presentar quejas sobre sistemas de IA;
- recibir explicaciones sobre decisiones basadas en sistemas de IA de alto
riesgo que tengan una incidencia sobre sus derechos.
El
incumplimiento de las normas puede dar lugar a multas que oscilan, según el tamaño de la empresa y la infracción,
entre 7,5 millones de euros o el 1,5% de
la facturación (CA) y 35 millones de euros o el 7% de la facturación global.
4 ¿Cómo
apoyará la innovación el Reglamento sobre IA propuesto?
Los
sistemas de inteligencia artificial están experimentando una rápida evolución que requiere el establecimiento de nuevas
formas de control regulatorio y un espacio seguro para la experimentación.
La propuesta de reglamento debe
garantizar la innovación responsable
y la integración de garantías y de
medidas de mitigación de riesgos apropiados. Para garantizar un marco jurídico
propicio a la innovación, los Estados miembros deberían establecer "zonas de pruebas reglamentarias"
de IA para facilitar la innovación bajo un estricto control regulatorio antes
de comercializarlas o ponerlas en servicio.
El
objetivo es:
- favorecer la innovación mediante
la creación de un entorno controlado para la experimentación en la fase de
desarrollo con el fin de garantizar la conformidad de los sistemas de IA
innovadores con la propuesta de reglamento;
- reforzar la seguridad jurídica
para los innovadores, así como el control y la comprensión de las posibilidades,
los riesgos emergentes y las consecuencias del uso de la IA;
- acelerar el acceso al mercado
eliminando barreras para las pequeñas y medianas empresas (PYME) y las jóvenes
empresas.
5 ¿Cómo
tiene en cuenta la UE la cuestión y los desafíos de la inteligencia artificial?
La
UE no esperó a que la propuesta de reglamento sobre IA se interesara por esta
cuestión y sus desafíos.
En
2017, el Consejo Europeo subrayó la
necesidad de expresar un sentido de
urgencia frente a las tendencias emergentes, incluida la IA [Reunión del
Consejo Europeo (19 de octubre de 2017) – Conclusiones].
En
2018, la Comisión presenta un primer plan
coordinado sobre inteligencia artificial (Comunicación de la Comisión). Se
trata de un compromiso común destinado a reforzar el potencial europeo para ser
competitivo a escala mundial, en particular a través de estrategias nacionales
de los Estados miembros.
En
sus conclusiones de 2019 sobre el Plan Coordinado, el Consejo de la UE subraya
la necesidad de garantizar el pleno respeto
de los derechos de los ciudadanos europeos. El Consejo demanda que la legislación
vigente sea objeto de una revisión [Inteligencia artificial b) Conclusiones
sobre el plan coordinado en el ámbito de la inteligencia artificial -
Adopción].
El
Parlamento Europeo ha trabajado en varias resoluciones relacionadas con la IA
en diversas áreas:
- aspectos
éticos
[2020/2012(INL)];
- régimen
de responsabilidad civil
(resolución del Parlamento Europeo de 20 de octubre de 2020);
- derechos
de propiedad intelectual
(resolución del Parlamento Europeo del 20 de octubre de 2020);
- derecho
penal y su utilización por las autoridades
policiales y judiciales en casos
penales [2020/2016(INI)];
- educación, cultura y audiovisual
[2020/2017(INI)].
Estos
textos contienen recomendaciones para la Comisión, pero también propuestas legislativas sobre los
diferentes temas tratados.
El
19 de febrero de 2020, la Comisión publicó un Libro Blanco sobre la
Inteligencia Artificial que reafirma el doble
objetivo europeo de promover la
adopción de la IA y tener en cuenta los riesgos asociados a determinados usos de esta tecnología.
En
2020, el Consejo Europeo pide a la Comisión de "presentar una definición clara y objetiva de los
sistemas de inteligencia artificial de alto riesgo" [Reunión
extraordinaria del Consejo Europeo (1-2 de octubre de 2020) - Conclusiones].
En unas conclusiones publicadas en octubre de 2020, el Consejo de la UE recuerda que "si bien las tecnologías digitales, incluida la IA, presentan oportunidades y beneficios cada vez mayores, su diseño, desarrollo, implementación y uso abusivo también podrían plantear riesgos para los derechos fundamentales, la democracia y el Estado de derecho” [Conclusiones de la Presidencia – La Carta de los Derechos Fundamentales en el contexto de la inteligencia artificial y el cambio digital].
En
abril de 2021, la Comisión presentó medidas sobre IA:
- una comunicación sobre la
promoción de un enfoque europeo;
- una revisión del plan coordinado en
materia de inteligencia artificial;
una propuesta de marco regulatorio sobre IA y un análisis
No hay comentarios:
Publicar un comentario