Por: Carlos A. FERREYROS SOTO
Doctor en Derecho
El presente artículo es un Proyecto de Moción de la Comisión de Mercado Interior y Protección del Consumidor de la Unión Europea su uso justo y seguro por la Unión Europea.
El enlace del articulo original en inglés, traducido al castellano por el suscrito, es el siguiente:
El Proyecto de Moción se articula en tres secciones identificadas por el traductor: Base Legal, Base Considerativa y Base Resolutiva, ésta ultima comprende los siguientes apartados:
- Elección del consumidor, confianza y bienestar
- Marco de seguridad y responsabilidad para los productos.
- Marco regulatorio para servicios
- Calidad y transparencia en la gobernanza de datos.
Este artículo debe interesar particularmente en el Perú a las instituciones públicas siguientes: INDECOPI, Secretaria de Gobierno Electrónico, Autoridad Nacional de Transparencia, Acceso a la Información Pública y Protección de Datos Personales, Ministerio de la Producción, SUNAT, Contraloría General de la República. Igualmente, interesa a la academia, universidades, centros de investigaciones, entorno empresarial y sociedad civil.
Doctrinaria y jurisprudencialmente se vincula con las normas relacionadas con el derecho y tecnología, derecho del consumidor, propiedad intelectual, bienes y servicios digitales, Gobernanza y protección de datos personales, Transparencia y Acceso a la Información Pública, Economía del Conocimiento.
----------------------------------------------------ooooooo------------------------------------------------------
Parlamento Europeo
2019-2024
Comisión de Mercado Interior y Protección del
Consumidor
2019/2915 (RSP)
21.01.2020
PROYECTO DE MOCIÓN PARA UNA RESOLUCIÓN
además
de la Pregunta para la respuesta oral B9-/2019, conforme con el artículo 136,
apartado 5, del Reglamento sobre procesos automatizados de toma de decisiones:
garantizar la protección del consumidor, y libre circulación de bienes y
servicios (2019/2915 (RSP))
Petra De Sutter
en nombre de la Comisión de Mercado Interior y
Protección del Consumidor
B9-0000 / 2019
Resolución del Parlamento Europeo sobre los procesos
automatizados de toma de decisiones: garantes de la protección del consumidor y
libre circulación de bienes y servicios (2019/2915 (RSP))
El Parlamento Europeo,
- Vista
su Resolución, de 12 de febrero de 2019, sobre una comprensiva política industrial
Europea sobre inteligencia artificial y robótica (2018/2088 (INI)),
- Vista
su Resolución de 16 de febrero de 2017 con recomendaciones a la Comisión de
Normas de Derecho Civil sobre Robótica (2015/2103 (INL)),
- Visto
un informe sobre Responsabilidad por Inteligencia Artificial y otras Tecnologías
digitales emergentes del Grupo de expertos de la Comisión sobre responsabilidad
y nuevas Tecnologías, publicado el 21 de noviembre de 2019,
- Vista
la política y las recomendaciones de inversión para la confianza en
Inteligencia artificial del Grupo de expertos de alto nivel sobre inteligencia
artificial de la Comisión, publicada el 26 de junio de 2019,
- Vistas
las Directrices de ética para confianza en la IA por parte de la Comisión de
Alto Nivel de Inteligencia Artificial, publicado el 8 de abril de 2019, tanto
como la Lista confiable de evaluación de IA,
- Vista
la Comunicación de la Comisión, de 8 de abril de 2019, sobre la Edificación de confianza
en Inteligencia artificial centrada en el ser humano (COM (2019) 0168),
- Vista
la Comunicación de la Comisión, de 7 de diciembre de 2018, sobre un Plan
Coordinado de Inteligencia Artificial (COM (2018) 0795),
- Vista
la Comunicación de la Comisión, de 25 de abril de 2018, sobre Inteligencia Artificial
para Europa (COM (2018) 0237),
- Vista
la pregunta a la Comisión sobre la toma de decisiones automatizada de procesos:
Garantizando la protección del consumidor y la libre circulación de bienes y
servicios. (O- [000/2020] - B [9-00 / 2020],
- Vistos
el artículo 136, apartado 5, y el artículo 132, apartado 2, de su Reglamento de
Procedimiento,
- Vista
la propuesta de resolución de la Comisión de Mercado Interior y protección del
consumidor;
A. Considerando
que los avances tecnológicos en los campos de la Inteligencia Artificial (IA), aprendizaje
automático, sistemas complejos basados en algoritmos y toma de decisiones
automatizada los procesos se realizan a un ritmo rápido, mientras que las
aplicaciones, las oportunidades y los desafíos que presentan estas tecnologías
son numerosos y afectan prácticamente a todos sectores del mercado interior;
B. Considerando
que se espera que el desarrollo de procesos automatizados de toma de decisiones
tenga una contribución significativa a la economía del conocimiento, y ofrezca
beneficios a la sociedad a través de, entre otras cosas, servicios públicos
mejorados, para los consumidores a través de productos y servicios innovadores
y para empresas mediante un rendimiento optimizado;
C. Considerando
que el uso y desarrollo de IA y procesos automatizados de toma de decisiones
también presenta desafíos para la confianza y el bienestar del consumidor,
especialmente en términos de empoderamiento de los consumidores para
identificar tales procesos, comprender cómo funcionan, tomar decisiones
informadas sobre su uso, y optar por no participar;
D. Considerando
que la orientación ética, como los principios adoptados por el Grupo de Expertos
de Alto Nivel de Inteligencia Artificial, proveen un punto de
partida; pero que el examen del marco legal actual de la UE, incluido el acervo
de los derechos del consumidor, la legislación sobre la protección de datos, la
seguridad del producto y la legislación de vigilancia del mercado, son necesarias
para verificar si es capaz de responder a la emergencia de la IA y a la toma de
decisiones automatizada y responder y proporcionar un alto nivel de protección
al consumidor, según lo dispuesto en el artículo 38 del Carta de los Derechos
Fundamentales de la UE;
E. Considerando
que un enfoque común de la UE para el desarrollo de los procesos de toma de
decisiones automatizada ayudarán a asegurar los beneficios de esos procesos y mitigar
los riesgos a través de la UE, evitar la fragmentación del mercado interior y
permitir que la UE promueva mejor su enfoque y sus valores en todo el mundo;
BASE RESOLUTIVA
Elección
del consumidor, confianza y bienestar
1) Acoge
con satisfacción el potencial de la toma de decisiones automatizada para
ofrecer soluciones innovadoras y servicios mejorados para los consumidores,
incluidos nuevos servicios digitales, como asistentes virtuales y chatbots; cree, sin embargo, que
cuando los consumidores interactúan con un sistema que automatiza la toma de
decisiones, deben estar debidamente informados sobre cómo funciona, acerca de
cómo llegar a un humano con poderes de toma de decisiones, y sobre cómo el
sistema de decisiones puede ser verificado y corregirse;
2) Insta
a la Comisión a supervisar de cerca la aplicación de las nuevas normas en el
marco de la Directiva de Mejor Aplicación[1] que
exige a los comerciantes que informen a los consumidores cuando los precios de los
bienes o servicios hayan sido personalizados sobre la base de la toma de
decisiones automatizada y el perfil del comportamiento del consumidor que
permite a los comerciantes de evaluar su poder adquisitivo;
3) Exhorta
a la Comisión a supervisar de cerca la implementación de la Regulación de Geo-bloqueo[2],
para garantizar que la toma de decisiones automática no se utilice para discriminar
a los consumidores en función de su nacionalidad, lugar de residencia o ubicación
temporal;
4) Alienta
a la Comisión a controlar si las obligaciones de los comerciantes permiten una
efectiva elección del consumidor y ofrecen suficiente protección al
consumidor; pide a la Comisión que examine la existencia
de lagunas regulatorias y examinar si las medidas adicionales son necesarias
para garantizar un sólido conjunto de derechos para proteger a los consumidores
en el contexto de IA y la toma de decisiones automatizada;
5) Señala
que los sistemas automatizados de toma de decisiones se están utilizando en mecanismos
de resolución de disputas alternativas en varias plataformas digitales para
resolver disputas entre consumidores y comerciantes; pide a la Comisión garantizar
que en la próxima revisión de Directiva 2013/11/UE sobre resoluciones
alternativas de conflictos entre consumidores y El Reglamento (UE) No 524/2013
sobre resolución de disputas en línea entre consumidores se debe tener en cuenta
el uso de la toma de decisiones automatizadas y garantiza que los humanos mantengan
el control;
Marco
de seguridad y responsabilidad para los productos.
6) Subraya
que el marco de seguridad de los productos de la UE obliga a las empresas a
garantizar que solo se comercialicen productos seguros y conformes; reconoce
que la aparición de productos con capacidades automatizadas de toma de
decisiones presentan nuevas desafíos, ya que dichos productos pueden
evolucionar y actuar de formas no previstas cuando se presentan por primera vez
en el mercado; insta a la Comisión a presentar propuestas para adaptar las
reglas de seguridad de la UE para productos cubiertos por la legislación
específica de la UE que establece normas armonizadas, incluida la Directiva de
Maquinaria[3],
la Directiva de Seguridad de Juguetes[4] ,
la Radio Directiva de Equipos[5] y la
Directiva de Baja Tensión[6],
y para " productos no armonizados" cubiertos por la Directiva General
de Seguridad de Productos[7],
a fin de garantizar que las nuevas reglas son adecuadas para el propósito, que
los usuarios y consumidores estén protegidos contra daños, que los fabricantes
tienen claras sus obligaciones y los usuarios tienen claridad sobre cómo se
usan los productos con capacidades automatizadas de toma de decisiones.
7) Destaca
la necesidad de un enfoque de regulación basado en el riesgo, a la luz de la
naturaleza variada y la complejidad de los desafíos creados por diferentes
tipos y aplicaciones de IA y sistemas automatizados de toma de
decisiones; pide a la Comisión que desarrolle un esquema de evaluación de riesgo
para la IA y toma de decisiones automatizadas para garantizar un coherente enfoque
para la aplicación de la legislación sobre seguridad de los productos en el
mercado interior; y destaca que los Estados miembros deben desarrollar
estrategias armonizadas de gestión de riesgos para la IA en el contexto de sus
estrategias nacionales de vigilancia del mercado;
8) Señala
que la Directiva sobre Responsabilidad del Producto[8] ha
proporcionado, durante más de 30 años, una valiosa red de seguridad para
proteger a los consumidores de daños causados por productos
defectuosos; reconoce el desafío de determinar la responsabilidad cuando
el daño al consumidor resulta de procesos autónomo en la toma de
decisiones; pide a la Comisión que revise la Directiva y considere adaptar
conceptos tales como "daño" y "defecto" del producto, así
como adaptar las reglas que rigen la carga de la prueba; insta a la
Comisión a que presente propuestas para actualizar estos conceptos y reglas si fuera
necesario;
Marco
regulatorio para servicios
9) Recuerda
que el marco reglamentario existente sobre los servicios, a saber, los Directiva
de Servicios[9],
Directiva de Calificaciones Profesionales[10],
Directiva de Prueba de Proporcionalidad[11] ,
la Directiva de e-Comercio[12] y
el Reglamento General de Protección de Datos[13]
cubren ya muchos aspectos relevantes de política para servicios que incorporan
los procesos de toma de decisiones automatizada, incluidas las normas sobre
protección del consumidor, ética y responsabilidad; señala que tales
reglas deben aplicarse tanto a los servicios tradicionales como a los servicios
que incorporan procesos automatizados de toma de decisiones;
10.
Subraya que, si bien los procesos automatizados de toma de decisiones pueden
mejorar la eficiencia y la precisión de los servicios, los humanos siempre
deben ser en última instancia responsables de, y capaces de anular, las
decisiones que se toman en el contexto de servicios profesionales como las profesiones
médicas, jurídicas y contables, y para el sector bancario; recuerda la importancia
de la supervisión o vigilancia independiente por profesionales calificados en
casos de toma de decisiones automatizadas donde están en juego intereses
públicos legítimos;
11.
Subraya la importancia, de conformidad con la Directiva de Proporcionalidad de
la Prueba, de evaluar los riesgos antes de automatizar los servicios
profesionales; insta a las autoridades competentes de los Estados miembros
de garantizar que en la formación profesional se tenga en cuenta los avances
científicos en el campo de toma de decisiones automatizada;
Calidad
y transparencia en la gobernanza de datos.
12.
Señala que los sistemas automatizados de toma de decisiones dependen de la
recopilación de grandes cantidades de datos y cree que el Reglamento sobre el
libre flujo de datos no personales[14] ayudará
a que hayan más datos disponibles en toda la UE, permitiendo de este modo una
innovación basada en servicios de datos a ser creados; reconoce el
potencial del intercambio de datos tanto públicos como de fuentes privadas
también a este respecto, al tiempo que enfatiza el imperativo de proteger datos
personales bajo el RGPD; destaca la importancia de utilizar solo productos
de alta calidad y conjuntos de datos imparciales para mejorar el rendimiento de
los sistemas algorítmicos y aumentar la confianza y aceptación del consumidor;
13.
Subraya que, a la luz del impacto significativo que los sistemas automatizados
de toma de decisiones pueden tener sobre los consumidores, especialmente
aquellos en situaciones vulnerables, es importante para esos sistemas no solo usar
conjuntos de datos imparciales y de alta calidad sino también usar algoritmos explicables
e imparciales; considera que las estructuras de revisión son necesarias
dentro de los procesos de negocios para
remediar posibles errores en decisiones automatizadas y que deberían ser posible
para que los consumidores busquen la revisión humana, y la reparación, de decisiones
automatizadas que son finales y permanentes;
14. Subraya que, para evaluar esos productos regidos
por la toma de decisiones automatizada sus capacidades son conformes con las
reglas de seguridad relevantes, es esencial para los algoritmos detrás de esas
capacidades de ser adecuadamente transparentes y explicables para las
autoridades de vigilancia del mercado; invita a la Comisión Europea a evaluar
si deben darse prerrogativas adicionales a las autoridades de vigilancia del
mercado a este respeto;
15. Pide a la Comisión que supervise de cerca la implementación
de la Plataforma para la Regulación Empresarial, especialmente las reglas sobre
la transparencia de las clasificaciones, que implican el uso de procesos
automatizados de toma de decisiones.
16. Encarga a su Presidente de transmitir la presente
resolución al Consejo, a la Comisión y a los interlocutores sociales.
[1] Directive (UE) 2019/2161.
[2] Reglamento (UE) 2018/302
[3] Directive 2006/42/EC.
[4] Directive 2009/48/EC.
[5] Directive
2014/53/EU.
[6] Directive
2014/35/EU.
[7] Directive
2001/95/EC.
[8] Council Directive
85/374/EEC.
[9] Directive 2006/123/EC.
[10] Directive 2013/55/EU.
[11] Directive (EU)
2018/958.
[12] Directive
2000/31/EC.
[13] Regulation (EU) 2016/679.
[14] Regulation (EU)
2018/1807
