ANALISIS DE LA LEY N° 31814 - LEY QUE PROMUEVE EL USO DE LA INTELIGENCIA ARTIFICIAL EN FAVOR DEL DESARROLLO ECONÓMICO Y SOCIAL DEL PAÍS. - PERU

   Por: Carlos A. FERREYROS SOTO

Doctor en Derecho
Universidad de Montpellier I Francia.

cferreyros@hotmail.com   

ANALISIS DE LA LEY N° 31814 - LEY QUE PROMUEVE EL USO DE LA INTELIGENCIA ARTIFICIAL EN FAVOR DEL DESARROLLO ECONÓMICO Y SOCIAL DEL PAÍS. -PERU

El 04 de julio de 2023, el Diario Oficial El Peruano publicó la Ley N° 31814 Ley que promueve el uso de la Inteligencia Artificial en el país. Por ser una Ley ampliamente disruptiva, el suscrito ha realizado un rápido análisis sobre su escueto y somero contenido, a pesar de la enorme importancia que esta norma representa.

INTRODUCCIÓN

La Ley de Promoción de la Inteligencia artificial, LEY Nº 31814, tiene el mérito de hacer conocer, difundir, vulgarizar una de las tecnologías más disruptivas, tanto o más que tecnologías vinculadas a los programas de modelización tridimensional, la Web 3.0, el metaverso, las realidades aumentadas, virtuales, extendidas; el aprendizaje automático, la computación cuántica y/o la computación distribuida.

No obstante, el análisis general es que la ley es muy escueta, desordenada, incompleta.

La ley es muy escueta pues solo aborda un Título Preliminar, en el que se enuncian algunos Principios para el Desarrollo; cinco artículos sobre: su: Objeto, Interés Nacional, Definiciones, la Autoridad Nacional a cargo, el Informe anual al Congreso y una Disposición Complementaria Final, relativa a la Aprobación del Reglamento.

Es desordenada pues no organiza el Proyecto de Ley en su relación con un Proyecto de Sociedad y una Estrategia de Desarrollo, vinculada a Políticas de Estado, Planes, Programas, Estrategia digital, impacto, concepción, aplicaciones, uso, oportunidades y riesgos, sectores prioritarios, seguimiento, evaluación, convergencia e innovación intra e inter sectores público y privado, financiamiento.

Es incompleta pues solo acomete un aspecto de la Inteligencia Artificial: la Promoción Económica y Social del país. Tampoco desarrolla algunas experiencias técnicas, de aplicaciones innovadoras, éticas, regulatorias, de seguimiento y evaluación en proceso o adoptadas ya por otros países o conjunto de Estados.

Metodológicamente, citamos el artículo de referencia en cursivas y negrita, y luego los analizamos sucintamente, incluidos algunos enlaces que amplían las referencias. Al final se incluye en Anexo el texto integral de la Ley N° 31814.

1. BUSQUEDA DE OPINION.

El Proyecto de Ley fue dirigido a dos Comisiones del Congreso: a. Comisión de Ciencia, Innovación Y Tecnología y b. Comisión de Comisión de Descentralización, Regionalización, Gobiernos Locales y Modernización de la Gestión del Estado.

a. La Comisión de Ciencia, Innovación Y Tecnología solicitó la opinión de:

Presidencia del Consejo de Ministros, Ministerio de Educación, Ministerio de Defensa, Consejo Nacional de Ciencia, Tecnología e Innovación Tecnológica — CONCYTEC, Instituto Científico y Tecnológico del Ejército — ICTE, Centro de Investigación Científica y Desarrollo Tecnológico de la Marina de Guerra del Perú, Sociedad de Comercio Exterior del Perú.

Se recibieron la opiniones de: 1- MINEDU, 2- CONCYTEC, 3- COMEXPERU, 4- HIPERDERECHO, las mismas que proponen algunas, modificatorias, ampliatorias y observaciones pero sustancialmente no opinan desfavorablemente sobre el Proyecto de Ley.

 La opinión de CONCYTEC es ilustrativa sobre el rol de la SGyTD, la misma que no fue recogida, pues señala:

en (el) análisis del proyecto (la) Ley 27275, menciona en conclusiones y recomendaciones promover el uso de la inteligencia artificial en el marco del proceso nacional de transformación digital, asignándole algunas funciones y responsabilidades a la Secretaría de Gobierno y Transformación Digital de la PCM; consideramos que corresponde a dicha Secretaría emitir opinión sobre el proyecto normativo, más aun teniendo en cuenta sus competencias específicas establecidas en el Texto Integrado del ROF de la PCM (El subrayado es del autor).

 

Resulta fragrante el que las instituciones relacionadas al sector de Seguridad y Defensa del país no se hayan manifestado, ni expresado opinión alguna sobre un tema relacionado a la Promoción del uso de la Inteligencia Artificial en el desarrollo económico y social del Perú, doctrina muy en boga en los ámbitos castrenses del CAEM en los años 70’, devenido después CAEN. Ni mucho menos algunas de las instituciones atinentes a la Lev 31250 Ley del Sistema Nacional de Ciencia, Tecnología e Innovación (SINACTI).

El texto íntegro de las opiniones vertidas obra en el Expediente del Proyecto de Ley (Ver Anexo 3)

 

b. Comisión de Comisión de Descentralización, Regionalización, Gobiernos Locales y Modernización de la Gestión del Estado.

Esta Comisión presentó un Texto Sustitutorio en el cual se proponen algunas modificatorias, precisiones al TÍTULO PRELIMINAR, Artículo único. Principios para el desarrollo y uso de la inteligencia artificial; Artículo 3.- Definiciones; Artículo 4. Autoridad Nacional e invoca el voto favorable del Proyecto. (Ver Anexo 3)

Ninguna de las dos Comisiones a las cuales fue dirigido el Proyecto de Ley propusieron la opinión a algunos responsables de sectores en las cuales la Inteligencia Artificial pudiera ser utilizada: asistencias virtuales, en automóviles, en la compra digital, en el ámbito médico, en las industrias (agricultura, pesca, minería, internet de los objetos,…), seguridad, academia, administración pública

Como afirmáramos antes al referirnos a la opinión de CONCYTEC, a pesar de haberse solicitado la opinión de la Presidencia del Consejo de Ministros, e implícitamente por las funciones adscritas, la Secretaría de Gobierno y Transformación Digital, SGyTD, no expresó opinión.

Ni menos fue tomado en cuenta el “Documento de Trabajo ESTRATEGIA NACIONAL DE INTELIGENCIA ARTIFICIAL Secretaría de Gobierno y Transformación Digital, SGyTD PRESIDENCIA DEL CONSEJO DE MINISTRO para la Participación de la Ciudadanía 2021-2026”.

En este “Documento de Trabajo” la rúbrica: Propósito, Visión y Misión sobre la Estrategia Nacional de Inteligencia Artificial la SGyTD apunta al:

 “Propósito de la Estrategia Nacional de Inteligencia Artificial Para un país como el Perú, la adopción de nuevas tecnologías como la Inteligencia Artificial representan una oportunidad sin precedentes históricos y al mismo tiempo una gran amenaza para quedar rezagados en el desarrollo socio-económico global y profundizar nuestras carencias. (El texto en negrita es del autor)

Esta singularidad histórica presenta una enorme responsabilidad para todos los miembros de nuestra sociedad, no solo el estado, sino también para el sector privado, la academia y la sociedad civil. Entonces se hace imperativa la voluntad de gobernar este proceso de adopción con una Estrategia Nacional de Inteligencia Artificial (ENIA) que facilite las condiciones para aprovechar esas oportunidades y mitigar los riesgos derivados de este proceso. (El subrayado es del autor)

Está claro que el funcionamiento de la Sociedad se ha digitalizado en casi todos sus frentes, impulsando una nueva economía cuyo activo principal son los Datos. Crear valor con estos activos es un imperativo no sólo para el sector privado, sino también para el sector público que debe atender, además, nuevas demandas de una ciudadanía digital.

Propósito de la Estrategia Nacional de Inteligencia Artificial

En este contexto, las naciones más avanzadas han desplegado esfuerzos durante los últimos 5 años para manifestar sus intenciones de gobernar un proceso que convierta a la IA en una herramienta para el desarrollo socio-económico y que no sea una consecuencia del azar. Ese ha sido el principal propósito con el que se han propuesto diversas manifestaciones que van desde Estrategias, Planes y Agendas nacionales que en sus primeras etapas contienen diagnósticos del punto de partida y aspiraciones para fines de esta década, pasando por recomendaciones de políticas públicas, fortalecimiento de algunos sectores y priorización de iniciativas público-privadas que garanticen los primeros pasos hacia una Estrategia Nacional de Inteligencia Artificial. Con ese propósito se propone la Estrategia Nacional de Inteligencia Artificial (ENIA) para el periodo 2021-2026, actualizable cada 2 años de acuerdo a los nuevos avances tecnológicos y la coyuntura del país y del mundo. La estrategia tiene como propósito proponer ejes, objetivos, acciones que promuevan la investigación, desarrollo y adopción de la inteligencia artificial, que esta ayude a crear soluciones a problemas nacionales en base a la IA, y a su vez, generen nuevas oportunidades de desarrollo al país, priorizando sectores productivos y servicios públicos alineados a las estrategias y políticas nacionales del país

 

2. regulacion resultante

TÍTULO PRELIMINAR

Artículo único. Principios para el desarrollo y uso de la inteligencia artificial

Son principios para el desarrollo y uso de la inteligencia artificial:

a) Estándares de seguridad basados en riesgos: Se promueve un enfoque basado en riesgos para el uso y desarrollo de la inteligencia artificial.

b) Enfoque de pluralidad de participantes: Se promueve la participación de personas naturales y jurídicas u organizaciones e instituciones públicas y privadas en el debate para el desarrollo de políticas orientadas a la regulación sobre el uso de la inteligencia artificial en el país.

c) Gobernanza de internet: Se promueve el desarrollo y aplicación de principios, normas, reglas, procedimientos de toma de decisión y programas que determinan la evolución y el uso de internet por parte del Estado, instituciones del sector privado y la sociedad civil participando desde sus respectivos roles.

d) Sociedad digital: Se valora la información y el conocimiento obtenido mediante el acceso, uso y desarrollo de tecnologías digitales en todas sus dimensiones, y se impulsa la seguridad, la confianza, la economía digital, la conectividad digital, el talento, la innovación, la educación y la identidad digital, así como el aprovechamiento de las tecnologías emergentes en favor del bienestar social y económico de la ciudadanía.

e) Desarrollo ético para una inteligencia artificial responsable: Se considera que la ética es la base fundamental para identificar de forma precisa el marco de responsabilidades en el uso de este tipo de sistemas que conforman la industria 4.0.

f) Privacidad de la inteligencia artificial: La inteligencia artificial no debe transgredir la privacidad de las personas, debe actuar de manera segura para lograr un impacto positivo y de bienestar en los ciudadanos

A pesar que el Proyecto Ley aparentemente se sustenta en un III Marco Normativo, en el que menciona:

• Constitución Política del Perú que, en su artículo 14, señala que «Es deber del Estado promover el desarrollo científico y tecnológico del país».

• Acuerdo Nacional que, en su vigésima política, señala que es política del Estado el «Desarrollo de la ciencia y la tecnología».

• Ley 28303, Ley Marco de Ciencia, Tecnología e Innovación Tecnológica que, en su artículo 2, dispone que «el desarrollo, promoción, consolidación, transferencia y difusión de la Ciencia, Tecnología e Innovación Tecnológica (CTIT), son de necesidad pública y de preferente interés nacional, como factores fundamentales para la productividad y el desarrollo nacional en sus diferentes niveles de gobierno».

• Ley 28613, Ley del Consejo Nacional de Ciencia, Tecnología e Innovación Tecnológica que, en su artículo 4, señala que «el Consejo Nacional de Ciencia, Tecnología e Innovación Tecnológica tiene por finalidad normar, dirigir, orientar, fomentar, coordinar, supervisar y evaluar acciones del Estado en el ámbito de la ciencia, tecnología e innovación tecnológica y promover e impulsar su desarrollo mediante la acción concertada y la complementariedad de programas y proyectos de las instituciones públicas, académicas, empresariales, organizaciones sociales y personales integrantes del SINACYT»

• Ley 30806, Ley que modifica diversos artículos de la Ley 28303, Ley Marco de Ciencia, Tecnología e Innovación Tecnológica; y de la Ley 28613, Ley del Consejo Nacional de Ciencia, Tecnología e Innovación Tecnológica (CONCYTEC) que en el numeral 23, del Anexo 1, brinda la definición de parque científico tecnológico.

• Ley 31250, Ley del Sistema Nacional de Ciencia, Tecnología e innovación (Sinacti). Artículo único. Principios del Sistema Nacional de Ciencia, Tecnología e Innovación (SINACTI) en la letra 1). Sustenta el Principio de multidisciplinariedad, que promueve la ciencia, tecnología e innovación en todas las áreas del saber, incluyendo el conocimiento de la humanidad, la cultura y la sociedad, a partir del trabajo colaborativo entre las diferentes áreas y disciplinas científicas.

• Resolución de Presidencia Nro. 216-2019-CONCYTEC-P que formaliza la aprobación de los "Lineamientos Técnicos para Parques Científicos Tecnológicos en el Perú".

• Resolución de Presidencia Nro. 214-2018-CONCYTEC-P que aprueba los "Lineamientos técnicos para la ejecución de proyectos de ciencia, tecnología e innovación tecnológica financiados con recursos públicos provenientes del canon en universidades públicas".

• Decreto Supremo que aprueba el Reglamento del Decreto de Urgencia Nro. 006- 2020, Decreto de Urgencia que crea el Sistema Nacional de Transformación Digital con el DS Nro. 157-2021-PCM.

No se incluyeron normas relativas a la organización y funciones de la Secretaria de Gobierno y Transformación Digital (pretendida Autoridad Nacional, técnico-normativa a nivel nacional responsable de dirigir, evaluar y supervisar el uso y la promoción del desarrollo de la inteligencia artificial y (sino también de) las tecnologías emergentes, a fin de alcanzar los objetivos del país en materia de transformación digital y los objetivos de desarrollo sostenible conforme a la normativa vigente - artículo 4°).

No fueron examinadas al detalle ni desagregadas en el articulado del Proyecto de Ley algunas Políticas Nacionales relacionadas a Ciencia y Tecnología ni Sociedad de la Información y Sociedad del Conocimiento. Las referencias al Plan Estratégico de desarrollo Nacional al 2050 resultan impertinentes pues la evolución, convergencia e integración de las tecnologías emergentes es tan rápido que es imposible de planificar o de regular a mediano o largo plazo.

No fueron tomadas en cuenta normas sobre el Acceso, Transparencia de la Información y Protección de los Datos Personales, ni sobre Simplificación Administrativa, ni sobre las Normas Técnicas Peruanas e Internacionales, ni sobre Normas Técnicas referidas a la Seguridad Informática; a la Gestión e incluso sobre Tecnologías de la Información, entre otras.

El Título Preliminar de la presente Ley no recoge los Principios de la OCDE sobre la Inteligencia Artificial que suscribieron 36 países miembros de la OCDE, en el marco de la Reunión del Consejo de Ministros, entre ellos algunos países latinoamericanos: Argentina, Brasil, Colombia, Costa Rica y Perú, en París el 22 de mayo 22 de 2019. Ni fueron adoptados formalmente las directrices de políticas intergubernamentales sobre Inteligencia Artificial (IA), sobre las normas internacionales que convino el Perú al someterse a éstas a fin de velar para que el diseño de los sistemas de IA los haga robustos, seguros, imparciales y fiables.

Tampoco fue tomado en cuenta el Enfoque de la Union Europea sobre la Inteligencia Artificial, o la Ley de Inteligencia Artificial de la Union Europea primera normativa sobre inteligencia artificial

Por último, las referencias de fuentes y estadísticas incluidas en el Proyecto Ley no son de primera fuente, no han podido ser contrastadas, y en otros casos provienen de presentaciones de exposiciones magistrales.

El Artículo 1. Señala que ésta tiene por objeto: promover el uso de la inteligencia artificial en el marco del proceso nacional de transformación digital privilegiando a la persona y el respeto de los derechos humanos con el fin de fomentar el desarrollo económico y social del país, en un entorno seguro que garantice su uso ético, sostenible, transparente, replicable y responsable.

Este artículo merece mayor precisión. La promoción de la Inteligencia artificial debe ser parte de una Estrategia digital, orientada por un Plan de Desarrollo, coordinada y consensuada por los agentes públicos y privados que el Perú requiere regular para garantizar mejores condiciones de desarrollo, el uso seguro de esta tecnología innovadora centrada en la persona humana, y responder a principios éticos, sostenibles, transparentes, replicables y responsables.

 

El Artículo 2. se refiere al interés nacional en la promoción del talento nacional en el aprovechamiento de las tecnologías emergentes y nuevas tecnologías(¿?) en favor del bienestar social y económico así como el fomento y uso de las inteligencia artificial para la mejora de los servicios públicos (la educación y los aprendizajes, la salud, la justicia, la seguridad ciudadana, la seguridad digital, la economía, la inclusión, los programas sociales, la seguridad y la defensa nacional, así como para toda otra actividad económica y social a nivel nacional.)

El interés nacional debe aprehenderse desde la perspectiva de oportunidades y desafíos o amenazas que la Inteligencia Artificial suscita. En primer lugar, desde la perspectiva del crecimiento y/o desarrollo que el uso de las tecnologías, los datos conectados que aportan al Perú, de su sostenibilidad, de los beneficios positivos en la vida diaria de las personas físicas y jurídicas, del estatuto público o privado de éstas últimas, de los bienes y servicios que generan las instituciones y empresas, de la formación y competencia de los recursos humanos, del refuerzo de la gobernanza y de la democracia. En segundo lugar, respecto de la amenazas, desafíos o riesgos que plantea la Inteligencia artificial para los regímenes de gobierno, sobre los cíberataques, la desinformación o el perfilamiento de los ciudadano, la prevención del delito, la administración de justicia, o la creciente dependencia de esta tecnología, la pérdida de ventajas competitivas que ella permite, la desconfianza ciudadana en su uso y aplicaciones, o de la interoperabilidad e interconexión que ellas pueden generar, su impacto sobre las competencias digitales, el impacto sobre el empleo. La Inteligencia Artificial supone igualmente el interés por identificar las responsabilidades de los diferentes agentes que participan en las diversas etapas de los procesos de concepción, desarrollo y ejecución de estas tecnologías. Las aplicaciones de Inteligencia Artificial que están en contacto físico con las personas o integradas en su cuerpo pueden finalmente representar riesgos de seguridad si están más diseñadas, mal utilizados o pirateados. Finalmente, los riesgos relacionados a la transparencia respecto de la asimetría en los accesos a la información, o la interactuación con una persona física o no.

La Ley de IA, presentada en abril de 2021 por la Comisión Europea, tiene una estructura piramidal que divide los sistemas impulsados por IA en cuatro categorías según el riesgo potencial que suponen para la sociedad: inaceptable, alto, limitado y mínimo.

Los sistemas de Inteligencia Artificial, IA de riesgo inaceptable son considerados una amenaza para las personas y están prohibidos. Ellos incluyen:

• manipulación cognitiva del comportamiento de personas o grupos vulnerables específicos: por ejemplo, juguetes activados por voz que fomentan comportamientos peligrosos en los niños
• puntuación social: clasificación de personas en función de su comportamiento, estatus socioeconómico o características personales
• sistemas de identificación biométrica en tiempo real y a distancia, como el reconocimiento facial.

Aunque existen algunas excepciones a esta calificación. Por ejemplo, los sistemas de identificación biométrica a distancia "a posteriori", en los que la identificación se produce tras un retraso significativo, se permitirán para perseguir delitos graves y sólo cuando haya previa aprobación judicial.

Los sistemas de IA de Alto riesgo que afecten negativamente a la seguridad o a los derechos fundamentales se considerarán de alto riesgo y se dividirán en dos categorías.

Los sistemas de IA que se utilicen en productos sujetos a la legislación de la UE sobre seguridad de los productos. Esto incluye juguetes, aviación, automóviles, dispositivos médicos y ascensores.

Los sistemas de IA pertenecientes a ocho ámbitos específicos que deberán registrarse en una base de datos de la Unión Europea:

• identificación biométrica y categorización de personas físicas
• gestión y explotación de infraestructuras críticas
• educación y formación profesional
• empleo, gestión de trabajadores y acceso al autoempleo
• acceso y disfrute de servicios privados esenciales y servicios y prestaciones públicas
• aplicación de la ley
• gestión de la migración, el asilo y el control de fronteras
• asistencia en la interpretación jurídica y aplicación de la ley.

Todos los sistemas de IA de alto riesgo serán evaluados antes de su comercialización y a lo largo de su ciclo de vida.

Respecto de la IA generativa, como ChatGPT, tendría que cumplir requisitos de transparencia:

• revelar que el contenido ha sido generado por IA

 

 

El Artículo 3. Definiciones

Representan solo referencias semánticas que pueden ser ampliadas, corregidas, mejoradas, indexadas a las definiciones ya normalizadas en otras regulaciones en el Reglamento de la presente Ley.

 

Artículo 4. Referido a la Autoridad Nacional. Según este artículo: La Presidencia del Consejo de Ministros, a través de la Secretaría de Gobierno y Transformación Digital, en su calidad de ente rector del Sistema Nacional de Transformación Digital, es la autoridad técnico-normativa a nivel nacional responsable de dirigir, evaluar y supervisar el uso y la promoción del desarrollo de la inteligencia artificial y las tecnologías emergentes, a fin de alcanzar los objetivos del país en materia de transformación digital y los objetivos de desarrollo sostenible conforme a la normativa vigente.

La Ley de Inteligencia Artificial de la Unión Europea propone en el Título VI, dos sistemas de gobernanza. Uno, en el plano nacional, en la que los Estados miembros tendrán designan a una o más autoridades nacionales competentes y, entre ellas, seleccionan a una autoridad nacional de supervisión que se encargará de supervisar la aplicación y ejecución del Reglamento. Designándose al Supervisor Europeo de Protección de Datos quien actuará como la autoridad competente para la supervisión de las instituciones, las agencias y los organismos de la Unión cuando entren en el ámbito de aplicación del presente Reglamento.

 

Y una segunda, a escala de la Unión, un Comité Europeo de Inteligencia Artificial («el Comité»), integrado por representantes de los Estados miembros y la Comisión Europea. El Comité facilitará la aplicación sencilla, efectiva y armonizada de este Reglamento contribuyendo a la cooperación efectiva de las autoridades nacionales de supervisión y la Comisión, así como proporcionando asesoramiento y conocimientos especializados a esta última. Además, compilará y compartirá las mejores prácticas entre los Estados miembros.

La Comisión Europea propone a su vez un marco reglamentario sobre inteligencia artificial con los siguientes objetivos específicos:

·        ·garantizar que los sistemas de IA introducidos y usados en el mercado de la UE sean seguros y respeten la legislación vigente en materia de derechos fundamentales y valores de la Unión;

·        ·garantizar la seguridad jurídica para facilitar la inversión e innovación en IA;

·        ·mejorar la gobernanza y la aplicación efectiva de la legislación vigente en materia de derechos fundamentales y los requisitos de seguridad aplicables a los sistemas de IA;

·        ·facilitar el desarrollo de un mercado único para hacer un uso legal, seguro y fiable de las aplicaciones de IA y evitar la fragmentación del mercado.

Esta propuesta es coherente con las disposiciones existentes en los Planes, Programas y la Política Sectorial y con las otras Políticas de la Unión Europea, las consultas con las partes interesadas, la obtención de asesoramiento especializado pero también a los estudios de impacto Ex Ante y Ex Post.

Particularmente por las posibles repercusiones negativas que pudieran incidir sobre los múltiples derechos fundamentales a proteger. (El derecho a la dignidad humana (artículo 1), el respeto de la vida privada y familiar y la protección de datos de carácter personal (artículos 7 y 8), la no discriminación (artículo 21) y la igualdad entre hombres y mujeres (artículo 23). Su objetivo es evitar un efecto paralizante sobre los derechos a la libertad de expresión (artículo 11) y de reunión (artículo 12), y garantizar el derecho a la tutela judicial efectiva y a un juez imparcial, la presunción de inocencia y los derechos de la defensa (artículos 47 y 48), así como el principio general de buena administración. Asimismo, al ser aplicable en determinados ámbitos, la propuesta tendrá efectos positivos en los derechos de diversos grupos especiales, como los derechos de los trabajadores a unas condiciones de trabajo justas y equitativas (artículo 31), un elevado nivel de protección de los consumidores (artículo 28), los derechos del niño (artículo 24) y la integración de las personas discapacitadas (artículo 26). El derecho a un nivel elevado de protección del medio ambiente y la mejora de su calidad (artículo 37) también es pertinente, en particular en lo que respecta a la salud y la seguridad de las personas.).

 

Artículo 5. Informe al Congreso de la República

La Autoridad Nacional remite un informe anual al Congreso de la República sobre los avances en la implementación de la Política Nacional de Transformación Digital y la Estrategia Nacional de Inteligencia Artificial.

En el caso de que se identifique amenazas graves o vulneración de ciberseguridad nacional, la Autoridad Nacional informa inmediatamente a la Comisión de Inteligencia del Congreso de la República.

El Artículo 5. Se presentó durante las opiniones vertidas como un Informe semestral o anual al Congreso, optándose finalmente por este último. El quid del asunto estriba en que la Secretaria de Gobierno y Transformación Digital no lo remite al Ministerio de la Presidencia del Consejo de Ministros, dependiente del Poder Ejecutivo sino ante el Congreso de la República órgano del Poder Legislativo, ahondando la crisis sobre el principio de separación y equilibrio de poderes.

Se incluye un párrafo adicional, sobre un Informe que pudiera ser urgente o extraordinario a la Comisión de Inteligencia del Congreso de la República, El Reglamento a desarrollar por el Poder Ejecutivo pudiera modificar la relación entre Autoridad Nacional de Inteligencia Artificial y Congreso. Veremos. 

Conclusiones.

Esta norma constituye una regulación mayor, sensible de modificar sustancialmente la forma de organización y de producción social en el Perú. Sin embargo, ella no ha sido tomada seria, rigurosa, consensual, ni críticamente. Sus alcances y marcos normativos, experiencias técnicas, regulatorias y éticas son insuficientes.

Primera. La presente Ley puede ser tomada como un primer enfoque de una Ley Marco sobre la Inteligencia Artificial.

Segunda. La Ley N° 31814 debe enmarcarse dentro de la perspectiva de un Proyecto Social y una Estrategia de Desarrollo, relacionada con los Acuerdos Nacionales, Planes, Programas, Estrategias Digitales, Planes de Gobernanza y Transformación Digital, incluyendo protección de los datos, de las personas, de los consumidores, de la competitividad, seguridades, discriminaciones, responsabilidades, e innovación en el Perú.

Tercera. El interés nacional definido en la presente Ley de Promoción de la IA debe aprehenderse desde la perspectiva de oportunidades y desafíos o amenazas que la Inteligencia Artificial suscita, entre los diferentes actores pero a su vez sobre los múltiples derechos fundamentales a proteger.

Cuarta. La experiencia y regulación que otros Estados o Unión de los mismos, como los evocados por la OCDE, Unión Europea, pudieran servir de referencia para profundizar los alcances y objeto de la misma, las autoridades e instituciones vinculadas, los sistemas de organización y gobernanza, incluyendo la propuesta de una organización pública autónoma de Control y Consejo.

Quinta. El Reglamento de la presente Ley debe definir, limitar, reforzar, ampliar, mejorar el objeto, alcance, organización, gobernanza, oportunidades, riesgos, amenazas, derechos y obligaciones de los actores vinculados a la promoción del uso de la inteligencia artificial en favor del desarrollo económico y social del país y de los sistemas a los cuales se encuentra vinculados, particularmente los sectores de defensa y seguridad.

_________________________________________________

ANEXO N° 1

LEY Nº 31814

LA PRESIDENTA DE LA REPÚBLICA

POR CUANTO:

EL CONGRESO DE LA REPÚBLICA;

Ha dado la Ley siguiente:

LEY QUE PROMUEVE EL USO DE LA INTELIGENCIA ARTIFICIAL EN FAVOR DEL DESARROLLO ECONÓMICO Y SOCIAL DEL PAÍS

TÍTULO PRELIMINAR

Artículo único. Principios para el desarrollo y uso de la inteligencia artificial

Son principios para el desarrollo y uso de la inteligencia artificial:

a) Estándares de seguridad basados en riesgos: Se promueve un enfoque basado en riesgos para el uso y desarrollo de la inteligencia artificial.

b) Enfoque de pluralidad de participantes: Se promueve la participación de personas naturales y jurídicas u organizaciones e instituciones públicas y privadas en el debate para el desarrollo de políticas orientadas a la regulación sobre el uso de la inteligencia artificial en el país.

c) Gobernanza de internet: Se promueve el desarrollo y aplicación de principios, normas, reglas, procedimientos de toma de decisión y programas que determinan la evolución y el uso de internet por parte del Estado, instituciones del sector privado y la sociedad civil participando desde sus respectivos roles.

d) Sociedad digital: Se valora la información y el conocimiento obtenido mediante el acceso, uso y desarrollo de tecnologías digitales en todas sus dimensiones, y se impulsa la seguridad, la confianza, la economía digital, la conectividad digital, el talento, la innovación, la educación y la identidad digital, así como el aprovechamiento de las tecnologías emergentes en favor del bienestar social y económico de la ciudadanía.

e) Desarrollo ético para una inteligencia artificial responsable: Se considera que la ética es la base fundamental para identificar de forma precisa el marco de responsabilidades en el uso de este tipo de sistemas que conforman la industria 4.0.

f) Privacidad de la inteligencia artificial: La inteligencia artificial no debe transgredir la privacidad de las personas, debe actuar de manera segura para lograr un impacto positivo y de bienestar en los ciudadanos.

CAPÍTULO I

DISPOSICIONES GENERALES

Artículo 1. Objeto de la Ley

La presente ley tiene por objeto promover el uso de la inteligencia artificial en el marco del proceso nacional de transformación digital privilegiando a la persona y el respeto de los derechos humanos con el fin de fomentar el desarrollo económico y social del país, en un entorno seguro que garantice su uso ético, sostenible, transparente, replicable y responsable.

Artículo 2. Interés nacional

Es de interés nacional la promoción del talento digital en el aprovechamiento de las tecnologías emergentes y nuevas tecnologías en favor del bienestar social y económico, así como el fomento del desarrollo y uso de la inteligencia artificial para la mejora de los servicios públicos, de la educación y los aprendizajes, la salud, la justicia, la seguridad ciudadana, la seguridad digital, la economía, la inclusión, los programas sociales, la seguridad y la defensa nacional, así como para toda otra actividad económica y social a nivel nacional.

Artículo 3. Definiciones

a) Inteligencia artificial: Tecnología emergente de propósito general que tiene el potencial de mejorar el bienestar de las personas, contribuir a una actividad económica global sostenible positiva, aumentar la innovación y la productividad, y ayudar a responder a los desafíos globales clave.

b) Sistema basado en inteligencia artificial: Sistema electrónico-mecánico que puede, para una serie de objetivos definidos por humanos, hacer predicciones, recomendaciones o tomar decisiones, influenciando ambientes reales o virtuales. Está diseñado para funcionar con diferentes niveles de autonomía.

c) Tecnologías emergentes: Tecnologías digitales capaces de generar soluciones innovadoras tales como la robótica, la analítica, la inteligencia artificial, las tecnologías cognitivas, la nanotecnología, el internet de las cosas (IoT) y similares, que conforman la industria 4.0 que combina técnicas avanzadas de producción y operaciones con tecnología, generando impacto en el ecosistema digital, las organizaciones y las personas.

d) Algoritmo: Secuencia de instrucciones y de conjuntos ordenados y finitos de pasos para resolver un problema o tomar una decisión.

CAPÍTULO II

AUTORIDAD NACIONAL

Artículo 4. Autoridad Nacional

La Presidencia del Consejo de Ministros, a través de la Secretaría de Gobierno y Transformación Digital, en su calidad de ente rector del Sistema Nacional de Transformación Digital, es la autoridad técnico-normativa a nivel nacional responsable de dirigir, evaluar y supervisar el uso y la promoción del desarrollo de la inteligencia artificial y las tecnologías emergentes, a fin de alcanzar los objetivos del país en materia de transformación digital y los objetivos de desarrollo sostenible conforme a la normativa vigente.

La Autoridad Nacional, en el marco de la transformación digital, desarrolla y articula acciones para promover e impulsar:

a) El desarrollo de la inteligencia artificial y su adopción como una herramienta que impulse el desarrollo y el bienestar del país.

b) La formación de profesionales con competencia para el aprovechamiento, desarrollo y usos de la inteligencia artificial en el país.

c) La creación y el fortalecimiento de la infraestructura digital como habilitadora para el desarrollo de la inteligencia artificial.

d) El desarrollo de una infraestructura de datos a fin de poner a disposición datos públicos de alta calidad, reutilizable y accesible.

e) La adopción de lineamientos éticos para un uso sostenible, transparente y replicable de la inteligencia artificial.

f) Un ecosistema de colaboración de inteligencia artificial a nivel nacional e internacional.

 

Artículo 5. Informe al Congreso de la República

La Autoridad Nacional remite un informe anual al Congreso de la República sobre los avances en la implementación de la Política Nacional de Transformación Digital y la Estrategia Nacional de Inteligencia Artificial.

En el caso de que se identifique amenazas graves o vulneración de ciberseguridad nacional, la Autoridad Nacional informa inmediatamente a la Comisión de Inteligencia del Congreso de la República.

DISPOSICIÓN

COMPLEMENTARIA FINAL

ÚNICA. Aprobación del reglamento

El Poder Ejecutivo aprueba el reglamento de la presente ley en el plazo de noventa días hábiles, contados a partir de su entrada en vigor.

Comuníquese a la señora Presidenta de la República para su promulgación.

En Lima, a los trece días del mes de junio de dos mil veintitrés.

JOSÉ DANIEL WILLIAMS ZAPATA

Presidente del Congreso de la República

MARTHA LUPE MOYANO DELGADO

Primera Vicepresidenta del Congreso de la República

A LA SEÑORA PRESIDENTA DE LA REPÚBLICA

POR TANTO:

Mando se publique y cumpla.

Dado en la Casa de Gobierno, en Lima, a los cuatro días del mes de julio del año dos mil veintitrés.

DINA ERCILIA BOLUARTE ZEGARRA

Presidenta de la República

LUIS ALBERTO OTÁROLA PEÑARANDA

Presidente del Consejo de Ministros

2192926-1

 

____________________________________________________________________________

ANEXO N° 2

1- MINEDU

Con oficio nro. 644-2022-MINEDU/DM, con fecha 28 de octubre del 2022, se adjunta el informe N 01259-2022-MINEDU/SG-OGAJ, de la Secretaria General hacia la Jefa de la Oficina General de Asesoría Jurídica: brinda su opinión con respecto a la promoción del uso de la Inteligencia Artificial en favor del desarrollo económico y social del país, concluyendo que: (...)es viable, dado que en la actualidad, las actividades de la población y de la administración pública se relacionan con la I.A.; siendo que, muchos de los procesos se vienen automatizando. Sin perjuicio de lo anterior se sugiere que la periodicidad del informe técnico de la Autoridad Nacional al Congreso de la República sobre los avances en el desarrollo de la Inteligencia Artificial y de las tecnologías digitales emergentes, sea semestral en lugar de anual, a fin de tomar conocimiento del avance en periodos más cortos, lo cual permitirá de ser el caso, tomar acciones pertinentes de mejora en el marco de competencia del sector educación.

En ese sentido, se recomienda considerar lo señalado respecto a la coordinación con el MINEDU, sobre el desarrollo de contenidos especializados en materia de Inteligencia Artificial en las Instituciones de educación superior universitaria y tecnológica, a nivel de pregrado y posgrado.

2- CONCYTEC

1. Oficio Nro. 698-2022-EF/10.01, de fecha 11 de junio de 2022. En el informe Nro. D000013-2022-CONCYTEC-OGAJ, en análisis del proyecto Ley 27275, menciona en conclusiones y recomendaciones promover el uso de la inteligencia artificial en el marco del proceso nacional de transformación digital, asignándole algunas funciones y responsabilidades a la Secretaría de Gobierno y Transformación Digital de la PCM; consideramos que corresponde a dicha Secretaría emitir opinión sobre el proyecto normativo, más aun teniendo en cuenta sus competencias específicas establecidas en el Texto Integrado del ROF de la PCM. 2. Informe Nro. D000027-2022-CONCYTEC-DPP-SDITT-DLT. De fecha 19 de setiembre de 2022. En el art. 2 recomienda tener en cuenta que, respecto del proceso de transformación digital, lo definido por el Decreto de Urgencia 007- 2020 sobre el "Marco de la confianza digital"1 y considerar los aportes y comentarios descritos para los artículos 2,3,5,7 y 8, a través de la Sub Dirección de Innovación y Transferencia Tecnológica. 3. Informe Nro. D000037-2022-CONCYTEC-DEGC-SDGIC-JDS, San Isidro, 19 de Setiembre del 2022. Sugiere ampliar las siguientes definiciones, II. Estrategia Nacional de Inteligencia Artificial (ENIA), VI. Contexto situacional que busca promover la Inteligencia Artificial-IA en f

3 - COMEXPERU Mediante la Carta Nro. 289-2022/GG/COMEXPERU, de fecha 16 de noviembre de 2022. Por lo que sugieren agregar la siguiente función en el artículo 6: "g) Impulsar la implementación de un vehículo de compra de servicios en la nube que permita un aprovechamiento de las tecnologías emergentes por parte de las entidades públicas, acompañadas de capacitaciones para su uso" también revisar el texto del artículo 9 priorizando la adopción voluntaria a los principios mencionados y a la estandarización alineada con normas y marcos internacionales en las funciones que se pretendan atribuir a dicho centro a través del Gerente General de Sociedad de Comercio Exterior del PerúCOMEXPERÚ.

4 - HIPERDERECHO: Asociación Civil Hiperderecho tecnología como libertad De fecha 25 de enero de 2022. Considerando el valioso interés de promover el uso de tecnologías emergentes, en particular, para el desarrollo económico y social del Perú, con énfasis en la Inteligencia Artificial. Sin embargo, observamos con preocupación que el Proyecto no responde a un problema público específico. En atención a ello, le hacemos llegar nuestros comentarios sobre el particular, que se centran, principalmente, en un enfoque de derechos humanos para la inteligencia artificial, especificando dos numerales uno Inteligencia Artificial y derechos humanos.

____________________________________________________________________

 

ANEXO N° 3

TEXTO SUSTITUTORIO

Comisión de Descentralización, Regionalización, Gobiernos Locales y Modernización de la Gestión del Estado.

LEY QUE PROMUEVE EL USO DE LA INTELIGENCIA ARTIFICIAL EN Favor\del DESARROLLO ECONÓMICO Y SOCIAL DEL PAÍS

TÍTULO PRELIMINAR

Artículo único. Principios para el desarrollo y uso de la Inteligencia Artificial

Son principios para el desarrollo y uso de la inteligencia artificial:

a) Estándares de seguridad basados en riesgos: Se promueve un enfoque basado en riesgos para el uso y desarrollo de la inteligencia artificial.

(...)

Artículo 3.- Definiciones

a) Inteligencia artificial: Tecnología emergente de propósito general que tiene el potencial de mejorar el bienestar de las personas, contribuir a una actividad económica global sostenible positiva, aumentar la innovación y la productividad, y ayudar a responder a los desafíos globales clave.

b) Sistema basado en Inteligencia artificial: Sistema electrónico-mecánico que puede, para una serie de objetivos definidos por humanos, hacer predicciones, recomendaciones, o tomar decisiones, influenciando ambientes reales o virtuales. Está diseñado para funcionar con diferentes niveles de autonomía.

c) Tecnologías emergentes: Tecnologías digitales capaces de generar soluciones innovadoras tales como la robótica, la analítica, la inteligencia artificial, las tecnologías cognitivas, la nanotecnología, el Internet de las cosas (loT) y similares, que conforman la industria 4.0 que combina técnicas avanzadas de producción y operaciones con tecnología, generando impacto en el ecosistema digital, las organizaciones y las personas.

d) Algoritmo: Secuencia de instrucciones y de conjuntos ordenados y finitos de pasos para resolver un problema o tomar una decisión.

Artículo 4. Autoridad Nacional

La Presidencia del Consejo de Ministros, a través de la Secretaría de Gobierno Digital, en su calidad de ente rector del Sistema Nacional Transformación Digital, es la autoridad técnico-normativa a nivel nacional responsable de dirigir, evaluar y supervisar el uso y la promoción del desarrollo de la inteligencia artificial y las tecnologías emergentes, a fin de alcanzar los objetivos del país en materia de transformación digital y los objetivos de desarrollo sostenible conforme a la normativa vigente.

La Autoridad Nacional en el marco de la transformación digital desarrolla y articula acciones para promover e impulsar: (...)

 

Cerrado el debate y antes de pedir pasar al voto:

Como lo he afirmado, esta ley constituye el primer paso en la definición de un marco legislativo para el tratamiento de la Inteligencia Artificial en el Perú, que no va a agotar el tema pero que sí abre el camino para su desarrollo, más aun considerando que este tipo de tecnologías cobra cada vez mayor relevancia sobre las acciones que la población realiza día a día.

En ese sentido, la comisión recoge la propuesta del congresista Cueto, en el extremo de aplicar un enfoque basado en riesgos para el uso y desarrollo de la inteligencia artificial, lo cual permitirá que las regulaciones posteriores sean acordes a la naturaleza y el contexto en el que se implementó esta tecnología. Por ello, estamos de acuerdo que en el literal a) del artículo único del título preliminar, se reemplace el principio de seguridad supervisada por el principio de Estándares de seguridad basados en riesgos, en los siguientes términos:

“TÍTULO PRELIMINAR

Artículo único. Principios para el desarrollo y uso de la inteligencia artificial

a)      Estándares de seguridad basados en riesgos: Se promueve un enfoque basado en riesgos para el uso y desarrollo de la inteligencia artificial.

(...)

 

Asimismo, habiendo verificado la información alcanzada sobre las definiciones alineadas a los términos de la OCDE, acogemos la definición de “Inteligencia Artificial”, que recoge la recomendación del Consejo de Inteligencia Artificial de la OCDE, distinguiéndose de la definición del “Sistema basado en Inteligencia Artificial”.

Para ello en los literales a) y b) del artículo 3, “definiciones”, se reemplaza la definición del término “inteligencia artificial” y se incorpora la definición de “Sistema basado en Inteligencia Artificial” en los siguientes términos:

“Artículo 3. Definiciones

Las definiciones fundamentales para el desarrollo y uso de la inteligencia artificial son las siguientes:

“a) Inteligencia artificial: Tecnología emergente de propósito general que tiene el potencial de mejorar el bienestar de las personas, contribuir a una actividad económica global sostenible positiva, aumentar la innovación y la productividad, y ayudar a responder a los desafíos globales clave.”

b) Sistema basado en Inteligencia artificial: Sistema electrónico-mecánico que puede, para una serie de objetivos definidos por humanos, hacer predicciones, recomendaciones, o tomar decisiones, influenciando ambientes reales o virtuales. Está diseñado para funcionar con diferentes niveles de autonomía.”

Consecuentemente se modifica el orden de los literales b) y c) por los literales c) y d).

Asimismo, respecto a la recomendación de que quede claro el marco en el cual la Presidencia del Consejo de Ministros a través de la Secretaria de Gobierno y Transformación Digital es la Autoridad Nacional en materia de Inteligencia Artificial, se incorpora un texto de precisión en el artículo 4 en los siguientes términos:

“Artículo 4. Autoridad Nacional

La Presidencia del Consejo de Ministros, a través de la Secretaría de Gobierno Digital, en su calidad de ente rector del Sistema Nacional Transformación Digital, es la autoridad técnico-normativa a nivel nacional responsable de dirigir, evaluar y supervisar el uso y la promoción del desarrollo de la inteligencia artificial y las tecnologías emergentes, a fin de alcanzar los objetivos del país en materia de transformación digital y los objetivos de desarrollo sostenible conforme a la normativa vigente.

La Autoridad Nacional en el marco de la transformación digital desarrolla y articula acciones para promover e impulsar

 (...)

Estos textos ya se alcanzaron a la relatoría. En tal sentido invoco el voto favorable de la Representación Nacional.