Por: Carlos A. FERREYROS SOTO
Doctor en Derecho
Universidad de Montpellier I Francia.
El sitio web "Vie Publique" animado por
la Dirección de Información Jurídica y Administrativa (DILA), adscrito a los servicios
del Primer Ministro de Francia, publica contenidos cuyo objeto
es dirigirse a todos los ciudadanos para analizar las noticias políticas, económicas
y sociales, en Francia y en la Unión Europea.
El
presente artículo publicado en junio de 2024 sobre: "Inteligencia artificial: el marco
jurídico europeo para la IA en 6 preguntas", traducido del francés al castellano por
el suscrito con la ayuda del aplicativo Google Translator, plantea seis interrogantes:
sobre la existencia de legislación europea en IA, el Reglamento Europeo,
las prácticas prohibidas de IA, el reconocimiento facial, su impacto sobre la innovación,
las cuestiones médicas, tecnológicas y legales.
De manera más general este artículo suscita algunas reflexiones sobre sí las normas legales tradicionales pueden abordar una variedad de cuestiones relacionadas con las tecnologías de IA, que respondan a los nuevos desafíos. Por ejemplo, en términos de protección de la propiedad intelectual: si bien las normas existentes protegen el desarrollo de algoritmos integrados en el sistema de IA, los resultados producidos por la IA generativa (texto, gráficos, etc.) no pueden beneficiarse de la protección de los derechos de autor, pues en la mayoría de Códigos de Propiedad Intelectual sólo se protegen las obras creadas por seres humanos. O respecto a la suspensión de seis meses de la investigación sobre sistemas de inteligencia artificial más potentes que GPT-4, el sucesor del modelo en el que se basa ChatGPT, solicitada por Elon Musk. La inestabilidad jurídica global y el principio de precaución son a tener en cuenta.
A fin de acceder a normas similares
y estándares europeos, las empresas, organizaciones públicas y privados interesados
en asesorías, consultorías, capacitaciones, estudios, evaluaciones, auditorías sobre
el tema, sírvanse comunicar al correo electrónico:
cferreyros@hotmail.com
________________________________________________
Por : La redacción
Después de los eurodiputados, los Estados de la Unión
Europea (UE) aprobaron el 21 de mayo de 2024 el reglamento europeo sobre
inteligencia artificial (IA). Por su parte, el Consejo de Europa adoptó el 17
de mayo de 2024 un tratado marco internacional destinado a garantizar la IA.
que respete los derechos fundamentales. Una mirada retrospectiva a la IA en 6
preguntas con Vie-publique.
1¿Existe
legislación europea sobre IA?
Entre la necesidad de prevenir los peligros vinculados
a esta tecnología y el deseo de no quedarse atrás, los Estados miembros de la
UE validaron por unanimidad la propuesta
de reglamento sobre inteligencia artificial durante
una reunión de representantes
miembros permanentes de la Unión Europea (Coreper) .
Se trata de una legislación sin precedentes a nivel global para regular la inteligencia
artificial . Esta votación ratifica el acuerdo político celebrado en
diciembre de 2023 por los colegisladores al final de las negociaciones
interinstitucionales.
La Comisión presentó en 2021 una propuesta de reglamento
del Parlamento Europeo y del Consejo por el que se establecen normas
armonizadas en materia de inteligencia artificial . El 8 de diciembre de
2023, el Parlamento Europeo y el Consejo de la Unión Europea alcanzaron un acuerdo
sobre este texto, que será la primera ley sobre inteligencia
artificial en el mundo. El 13 de marzo de 2024, los diputados europeos aprobaron este
texto sobre inteligencia artificial por 523 votos a favor,
46 en contra y 49 abstenciones. El proyecto de reglamento fue adoptado
oficialmente por el Consejo el 21 de mayo de 2024. Esta propuesta de marco
regulatorio persigue los siguientes objetivos:
- velar porque los sistemas de IA comercializados sean seguros
y cumplan la legislación vigente sobre derechos fundamentales ,
valores de la UE, Estado de Derecho y sostenibilidad
medioambiental ;
- garantizar la seguridad jurídica a fin de facilitar las
inversiones y la innovación en el ámbito de la IA;
- fortalecer la gobernanza y la aplicación efectiva de la
legislación existente sobre exigencias de seguridad aplicables a
los sistemas de IA y los derechos fundamentales ;
- facilitar el desarrollo de un mercado único para aplicaciones de
IA legales y seguras , y evitar la fragmentación del mercado.
Más especificamente, la propuesta del reglamento
establece:
- la prohibición de determinadas
prácticas;
- exigencias específicas aplicables a sistemas de IA de alto riesgo;
- normas armonizadas de transparencia aplicables:
o Sistemas de IA destinados a interactuar con personas,
o Sistemas de reconocimiento de emociones y categorización biométrica,
o Sistemas de IA generativa utilizados para generar o manipular imágenes o contenido de audio o vídeo.
Este enfoque debe tener en cuenta los resultados
sociales y ambientales beneficiosos que la IA puede traer, pero también los
nuevos riesgos o consecuencias negativas que esta tecnología puede generar.
Se garantiza la coherencia con la Carta de Derechos
Fundamentales de la UE , pero también con
el derecho derivado de la UE sobre protección
de datos , protección del consumidor , no
discriminación e igualdad entre mujeres y hombres . La propuesta
complementa la ley antidiscriminación
existente al proporcionar requisitos que tienen como objetivo
minimizar el riesgo de discriminación algorítmica, con obligaciones en materia
de pruebas , gestión de riesgos , documentación y supervisión
humana durante todo el ciclo de vida de los sistemas de IA.
El Reglamento sobre IA entrará en vigor 20 días
después de su publicación en el Diario Oficial de la UE y será
plenamente aplicable 24 meses después de su entrada en vigor, con la excepción de:
- prácticas prohibidas (6 meses después de la entrada en vigor);
- códigos de práctica (9 meses);
- normas relativas a la IA de uso general, incluida la gobernanza (12
meses);
- Bonos para sistemas de alto riesgo (36 meses).
¿Qué
es un reglamento europeo?
Infografías
4 de septiembre de 2019
2¿Cuál es la
definición de inteligencia artificial dada por la propuesta de reglamento
sobre IA?
Un sistema de inteligencia artificial es un
software que se desarrolla utilizando una o más de las siguientes técnicas:
- enfoques de aprendizaje automático , incluido el aprendizaje supervisado , el aprendizaje no supervisado y el aprendizaje por refuerzo , utilizando una amplia variedad de métodos, incluido el aprendizaje profundo ;
- enfoques basados en la lógica y en los conocimientos, incluida
la representación de los conocimientos, la programación inductiva (lógica) , las bases de conocimiento , los motores de inferencia y de deducción, el razonamiento (simbólico) y los sistemas expertos ;
- Enfoques estadísticos , estimación bayesiana , métodos de búsqueda y optimización.
Un sistema de IA de este tipo puede, para un conjunto
determinado de objetivos definidos por el hombre, generar resultados como
contenido, predicciones, recomendaciones o decisiones que influyan en los
entornos con los que interactúa.
La propuesta de reglamento sobre IA define también:
- un sistema de identificación biométrica a distancia como " un
sistema de IA destinado a identificar a personas físicas a distancia comparando los datos biométricos de una persona con los contenidos en una
base de datos de referencia, y sin que el usuario del sistema de IA no
sepa de antemano si la persona estará presente y podrá ser identificada ”;
- un sistema de identificación biométrica a distancia en tiempo real como " un sistema de identificación biométrica a distancia en el que la adquisición de datos biométricos, la comparación y la identificación se realizan sin retrasos significativos de tiempo. Esto incluye no sólo la identificación instantánea, sino también con un ligero retraso para evitar cualquier elusión de las normas .
Video
23 de mayo de 2023
El Reglamento sobre IA propuesto prohíbe las
siguientes prácticas de inteligencia artificial :
- Sistema de IA que utilice técnicas subliminales por debajo del
umbral consciente de una persona para alterar sustancialmente su
comportamiento de una manera que cause daño físico o psicológico (manipulación
del comportamiento humano para eludir el libre albedrío);
- Sistema de IA que explote las eventuales vulnerabilidades debido a la
edad o discapacidad de un individuo para alterar sustancialmente su
comportamiento de una manera que cause daño físico o psicológico;
- Sistemas de inteligencia artificial destinados a evaluar o
clasificar la confiabilidad de las personas en función de su comportamiento social o características personales y que pueden entrañar un trato
dañino injustificado o desproporcionado de las personas en ciertos
contextos. El acuerdo alcanzado entre el Parlamento y los Estados miembros
especifica la prohibición de los sistemas de categorización biométrica que
utilicen características sensibles (opiniones políticas,
religiosas, filosóficas, orientación sexual, etc.) y de calificación
social basada en el comportamiento social o en características personales ;
- Reconocimiento de emociones en el lugar de trabajo y
en las instituciones educativas ;
- Sistemas de identificación biométrica a distancia "en tiempo
real" en espacios de acceso público para fines policiales, salvo
en los siguientes casos:
o búsqueda específica de víctimas potenciales específicas de delitos (niños desaparecidos, trata, explotación sexual),
o prevención de una amenaza específica, sustancial e inminente a la vida o la seguridad de las personas o la prevención de un ataque terrorista ,
o identificación, localización o enjuiciamiento de los autores o sospechosos de determinados delitos punibles con una pena máxima de al menos tres años .
El uso de sistemas de identificación biométrica debe:
- tener en cuenta la situación que dio lugar al uso del sistema y la gravedad
o extensión del daño en caso de no uso ;
- tener en cuenta las consecuencias para los derechos y libertades de
todas las personas concernidas (gravedad, probabilidad, amplitud);
- estar sujeto a autorización previa otorgada por una autoridad
judicial o administrativa competente .
El anexo III de la propuesta de reglamento enumera los
sistemas de IA de alto riesgo . Los eurodiputados incluyeron en el
reglamento una evaluación de impacto obligatoria sobre los derechos
fundamentales , aplicable también al sector bancario y de seguros. Los
sistemas de inteligencia artificial utilizados para influir en el resultado de
las elecciones y el comportamiento de los votantes se clasifican como de alto
riesgo.
Los ciudadanos tendrán derecho a:
- presentar quejas sobre sistemas de IA;
- recibir las explicaciones sobre decisiones basadas en sistemas de IA de
alto riesgo que tienen un impacto sobre sus derechos .
El incumplimiento de las normas puede acarrear multas comprendidas, en función del tamaño de la empresa y de la infracción . entre 7,5 millones de euros o el 1,5% de la facturación, (CA) y 35 millones de euros o el 7% de la facturación global .
Seis
preguntas sobre el reconocimiento facial
Preguntas respuestas
2 de noviembre de 2023
4¿Cómo la proposición del Reglamento sobre IA apoyará la innovación ?
Los sistemas de inteligencia artificial están
experimentando una rápida evolución que requiere el establecimiento de
nuevas formas de control reglamentario y un espacio seguro para la
experimentación . La propuesta de reglamento debe garantizar la innovación
responsable y la integración de garantíasa y de medidas de mitigación de
riesgos adecuadas. Para garantizar un marco legal propicio para la innovación,
los Estados miembros deberían establecer “ zonas de pruebas reglamentarias ” sobre la IA para facilitar la innovación bajo un estricto control reglamentario antes de que estos se comercialicen o se pongan en servicio.
El objetivo es:
- favorecer la innovación mediante la creación de un entorno controlado
para la experimentación en la fase de desarrollo con el fin de garantizar
la conformidad de los sistemas de IA innovadores con el reglamento
propuesto;
- reforzar la seguridad jurídica para los innovadores, así como el
control y la comprensión de las posibilidades, los riesgos emergentes y
las consecuencias del uso de la IA;
- acelerar el acceso a los mercados eliminando barreras para las
pequeñas y medianas empresas (PYME) y las empresas de nueva creación.
Datos
digitales de salud: entre desafíos médicos, tecnológicos y legales
Punto de vista
6 de junio de 2023
5¿Cómo la UE toma en cuenta la cuestión y los desafíos de la inteligencia artificial?
La UE no esperó la propuesta de reglamento sobre la IA para interesarse por esta cuestión y sus desafíos.
En 2017, el Consejo Europeo subrayó la necesidad de demostrar un sentido de urgencia con respecto a las
tendencias emergentes, incluida la IA [ reunión
del Consejo Europeo (19 de octubre de 2017) – conclusiones ].
En 2018, la Comisión presenta un primer plan
coordinado sobre inteligencia artificial (Comunicación
de la Comisión ). Se trata de un compromiso
común destinado a fortalecer el potencial europeo para ser competitivo a escala
mundial, en particular a través de estrategias nacionales de los Estados miembros.
En sus conclusiones de 2019 sobre el Plan Coordinado,
el Consejo de la UE subraya la necesidad de garantizar el pleno respeto de
los derechos de los ciudadanos europeos . El Consejo pide una revisión de
la legislación existente [ Inteligencia
artificial b) Conclusiones sobre el plan coordinado en el ámbito de la
inteligencia artificial - Adopción ].
El Parlamento
Europeo ha trabajado en varias resoluciones relacionadas con
la IA en diversas áreas:
- aspectos éticos [ 2020/2012(INL) ];
- régimen de responsabilidad civil ( resolución del Parlamento Europeo de 20 de
octubre de 2020 );
- derechos de propiedad intelectual ( resolución del Parlamento Europeo de 20 de
octubre de 2020 );
- el derecho penal y su utilización por las
autoridades policiales y judiciales en casos penales [ 2020/2016(INI) ];
- educación , cultura y audiovisual [ 2020/2017(INI) ].
Estos textos contienen recomendaciones destinadas a la
Comisión, pero también propuestas legislativas sobre los diferentes
temas tratados.
El 19 de febrero de 2020, la Comisión publicó un Libro
Blanco sobre la Inteligencia Artificial que reafirma el doble
objetivo europeo de promover la adopción de la IA y tener en cuenta
los riesgos asociados a determinados usos de esta tecnología.
En 2020, el Consejo Europeo pide a la Comisión que
"presente una definición clara y objetiva de los sistemas de
inteligencia artificial de alto riesgo " [ Reunión
extraordinaria del Consejo Europeo (1 y 2 de
octubre de 2020) - conclusiones ].
En unas conclusiones publicadas en octubre de 2020, el
Consejo de la UE recuerda que " si bien las tecnologías digitales,
incluida la IA, presentan oportunidades y beneficios cada vez mayores, su
diseño, desarrollo, implementación y uso indebido también podrían plantear
riesgos para los derechos fundamentales, la democracia y el Estado de derecho ”
[ Conclusiones
de la Presidencia – La Carta de los Derechos Fundamentales en el contexto de la
inteligencia artificial y el cambio digital ].
En abril de 2021, la Comisión presenta medidas sobre
IA:
- una comunicación sobre la
promoción de un enfoque europeo;
- una revisión del plan coordinado de inteligencia artificial ;
- una propuesta de marco reglamentario sobre IA y un análisis de impacto .
¿Qué dice el Tribunal de Cuentas Europeo?
Un informe
del Tribunal de Cuentas Europeo de mayo de 2024
analiza el ecosistema europeo de IA:
- las inversiones europeas en IA no han seguido el ritmo dictado por los líderes mundiales ;
- los proyectos de IA financiados por la UE no son objeto
de un seguimiento sistemático ;
- la coordinación entre la UE y los Estados miembros es ineficaz
debido a la falta de herramientas de gobernanza.
Según el responsable de la auditoría, " en la carrera
por la IA, una apuesta segura es que el ganador se llevará todo lo que está en
juego. Si la UE quiere ganar su apuesta, la Comisión Europea y los Estados
miembros deben unir más sus fuerzas de manera más eficaz, acelerar la cadencia y liberar
el potencial de la Unión para tener éxito en esta gran revolución tecnológica
que está en marcha.
El
desarrollo de la inteligencia artificial: ¿riesgo u oportunidad?
Punto de vista
23 de agosto de 2023
6¿Cuáles son las
diferencias entre el texto de la UE sobre IA y el convenio marco sobre IA
adoptado por el Consejo de Europa?
El 17 de mayo de 2024, el Consejo de Europa adoptó
el Convenio
Marco sobre Inteligencia Artificial y Derechos Humanos, Democracia y Estado de
Derecho . Es un tratado internacional, adoptado por los
ministros de Asuntos Exteriores de los 46 países miembros del Consejo de
Europa .
Este convenio marco es el primer texto internacional
jurídicamente vinculante en el ámbito de la IA. Sus disposiciones
deberán transponerse al derecho interno de los Estados firmantes.
El texto pretende garantizar una IA que respete los
derechos fundamentales, entre otros frente a los riesgos:
- prácticas discriminatorias;
- cuestionamiento de los procesos democráticos;
- atentados a la privacidad;
- uso de la IA por parte de determinados Estados con fines represivos.
El convenio marco establece normas relativas al
respeto de los derechos fundamentales en todas las etapas del ciclo de vida
de los sistemas de IA.
La Convención Marco es un tratado internacional que
incluye a los estados miembros de la UE, pero también a once estados no
miembros, incluidos Estados Unidos, Japón y Canadá. Este texto es compatible
con la propuesta de reglamento de la UE sobre IA que concierne más
específicamente a la Unión Europea.
El convenio marco permite así ser un texto
jurídicamente vinculante para los países no signatarios de la UE entre los
principales actores de la investigación y el desarrollo de los sistemas de IA.
Inteligencia
artificial: el Consejo de Europa adopta un tratado internacional
No hay comentarios:
Publicar un comentario