Por: Carlos A. FERREYROS SOTO

Doctor en Derecho
Universidad de Montpellier I Francia.
cferreyros@hotmail.com
Resumen

El presente texto es una traducción del inglés al castellano realizada por el suscrito con la ayuda de Google Traductor sobre una nota de prensa publicada en el sitio web del Parlamento Europeo: https://www.europarl.europa.eu/news/en/press-room/20230505IPR84904/ai-act-a-step-closer-to-the-first-rules-on-artificial-intelligence. Incluye enlaces al texto de ley sobre la IA, entre otros recursos.

El 11 de mayo, el Parlamento Europeo celebró una serie de reuniones que dieron como resultado la adopción del texto de la ley sobre la IA y una resolución que describe los riesgos y las propuestas de modificación del marco de la confidencialidad de los datos entre la UE y los Estados Unidos, actualmente propuestos (" Marco").

La próxima etapa para la adopción de la ley sobre la IA es una votación en el pleno, que se espera tenga lugar a mediados de junio. De prosperar esta votación, como parece probable, la ley entrará en su fase final: los diálogos tripartitos. En la etapa final, la Comisión Europea y el Consejo se unirán en las negociaciones finales y a la confirmación del texto de la ley para su adopción.

La ley prohibiría por completo ciertas prácticas de IA (incluida la vigilancia predictiva y el raspado de imágenes faciales para su uso en bases de datos), impondría límites estrictos al tratamiento de alto riesgo y se establecería una estructura de aplicación, entre otras acciones.

La resolución marco es una formalización de los comentarios emitidos en febrero, señalando los temores que el Tribunal de Justicia de la Unión Europea lo anule si se adopta en su forma actual. La resolución reciente contiene varias propuestas de cambio y comentarios específicos sobre las deficiencias del Marco. Aunque la resolución no es vinculante para la Comisión Europea, es probable que se tenga en cuenta cuando la Comisión determine si el marco amerita una decisión de adecuación.

A fin de acceder a normas similares y estándares europeos, las empresas, organizaciones públicas y privados interesados en asesorías, consultorías, capacitaciones, estudios, evaluaciones, auditorías sobre el tema, sírvanse comunicar al correo electrónico:cferreyros@hotmail.com

_______________________________________________________________

Ley AI: un paso más cerca de las primeras reglas sobre Inteligencia Artificial

Nota de prensa

05-11-2023 - 09:34

· Una vez aprobadas, serán las primeras reglas del mundo sobre Inteligencia Artificial

· Los eurodiputados incluyen prohibiciones de vigilancia biométrica, reconocimiento de emociones, sistemas de IA de vigilancia predictiva

· Regímenes hechos a medida para IA de uso general y modelos básicos como GPT

· El derecho a presentar quejas sobre los sistemas de IA

Para garantizar un desarrollo ético y centrado en el ser humano de la Inteligencia Artificial (IA) en Europa, los eurodiputados aprobaron nuevas normas de transparencia y gestión de riesgos para los sistemas de IA.

El jueves, la Comisión de Mercado Interior y la Comisión de Libertades Civiles adoptaron un proyecto de mandato de negociación sobre las primeras normas para la inteligencia artificial con 84 votos a favor, 7 en contra y 12 abstenciones. En sus enmiendas a la propuesta de la Comisión , los eurodiputados pretenden garantizar que los sistemas de IA sean supervisados por personas, sean seguros, transparentes, rastreables, no discriminatorios y respetuosos con el medio ambiente. También quieren tener una definición uniforme de IA diseñada para ser tecnológicamente neutral, de modo que pueda aplicarse a los sistemas de IA de hoy y del mañana.

Enfoque de la IA basado en el riesgo: prácticas prohibidas de la IA

Las reglas siguen un enfoque basado en riesgos y establecen obligaciones para proveedores y usuarios dependiendo del nivel de riesgo que la IA pueda generar. Los sistemas de IA con un nivel inaceptable de riesgo para la seguridad de las personas estarían estrictamente prohibidos, incluidos los sistemas que implementan técnicas subliminales o deliberadamente manipuladoras, explotan las vulnerabilidades de las personas o se utilizan para calificar socialmente (clasificar a las personas en función de su comportamiento social, estatus socioeconómico, personal). características).

Los eurodiputados modificaron sustancialmente la lista para incluir prohibiciones de usos intrusivos y discriminatorios de los sistemas de IA, como:

· Sistemas de identificación biométrica remota “en tiempo real” en espacios de acceso público;

Sistemas de identificación biométrica a distancia “post”, con la única excepción de las fuerzas del orden para la persecución de delitos graves y sólo previa autorización judicial;
Sistemas de categorización biométrica que utilizan características sensibles (p. ej., género, raza, etnia, estado de ciudadanía, religión, orientación política);
Sistemas policiales predictivos (basados en perfiles, ubicación o conducta delictiva pasada);
Sistemas de reconocimiento de emociones en las fuerzas del orden, la gestión de fronteras, el lugar de trabajo y las instituciones educativas; y
Raspado indiscriminado de datos biométricos de las redes sociales o imágenes de CCTV para crear bases de datos de reconocimiento facial (violando los derechos humanos y el derecho a la privacidad).

IA de alto riesgo

Los eurodiputados ampliaron la clasificación de áreas de alto riesgo para incluir daños a la salud, la seguridad, los derechos fundamentales o el medio ambiente de las personas. También agregaron a la lista de alto riesgo los sistemas de IA para influir en los votantes en las campañas políticas y en los sistemas de recomendación utilizados por las plataformas de redes sociales (con más de 45 millones de usuarios bajo la Ley de Servicios Digitales ).

IA de uso general: medidas de transparencia

Los eurodiputados incluyeron obligaciones para los proveedores de modelos básicos, un desarrollo nuevo y de rápida evolución en el campo de la IA, que tendrían que garantizar una protección sólida de los derechos fundamentales, la salud y la seguridad y el medio ambiente, la democracia y el estado de derecho. Tendrían que evaluar y mitigar los riesgos, cumplir con los requisitos de diseño, información y ambientales y registrarse en la base de datos de la UE.

Los modelos básicos generativos, como GPT, tendrían que cumplir con requisitos de transparencia adicionales, como revelar que el contenido fue generado por IA, diseñar el modelo para evitar que genere contenido ilegal y publicar resúmenes de datos protegidos por derechos de autor utilizados para capacitación.

Apoyar la innovación y proteger los derechos de los ciudadanos

Para impulsar la innovación en IA, los eurodiputados agregaron exenciones a estas reglas para actividades de investigación y componentes de IA proporcionados bajo licencias de código abierto. La nueva ley promueve sandboxes regulatorios, o entornos controlados, establecidos por las autoridades públicas para probar la IA antes de su implementación.

Los eurodiputados quieren impulsar el derecho de los ciudadanos a presentar quejas sobre los sistemas de IA y recibir explicaciones de las decisiones basadas en sistemas de IA de alto riesgo que afectan significativamente sus derechos. Los eurodiputados también reformaron el papel de la Oficina de IA de la UE, que se encargaría de monitorear cómo se implementa el reglamento de IA.

Citas

Después de la votación, el coponente Brando Benifei (S&D, Italia) dijo: “Estamos a punto de implementar una legislación histórica que debe resistir el desafío del tiempo. Es fundamental fomentar la confianza de los ciudadanos en el desarrollo de la IA, establecer el camino europeo para hacer frente a los cambios extraordinarios que ya están ocurriendo, así como orientar el debate político sobre la IA a nivel mundial. Estamos seguros de que nuestro texto equilibra la protección de los derechos fundamentales con la necesidad de proporcionar seguridad jurídica a las empresas y estimular la innovación en Europa”.

El co-ponente Dragos Tudorache (Renew, Rumania) dijo: “Dado el profundo impacto transformador que la IA tendrá en nuestras sociedades y economías, la Ley de IA es muy probablemente la pieza legislativa más importante en este mandato. Es la primera legislación de este tipo en todo el mundo, lo que significa que la UE puede liderar el camino para hacer que la IA sea confiable, segura y centrada en el ser humano. Hemos trabajado para apoyar la innovación de la IA en Europa y dar a las empresas emergentes, las pymes y la industria espacio para crecer e innovar, al tiempo que protegemos los derechos fundamentales, fortalecemos la supervisión democrática y garantizamos un sistema maduro de gobernanza y aplicación de la IA".

Próximos pasos

Antes de que puedan comenzar las negociaciones con el Consejo sobre la forma final de la ley, este proyecto de mandato de negociación debe ser aprobado por todo el Parlamento, y se espera que se vote durante la sesión del 12 al 15 de junio.