Por: Carlos y Elena FERREYROS SOTO
Doctor en Derecho
Université de Montpellier I Francia.
M. Sc. Institut Agronomique Méditerranéen
cferreyros@hotmail.com
INTRODUCCION
Los Términos de Referencia sobre
el Partenariado Mundial de Inteligencia Artificial (PMIA) contienen las especificaciones
técnicas, objetivos y estructura de la iniciativa dedicada a la
inteligencia artificial (IA) promovida por Canadá y Francia. Esta iniciativa
reunirá a otros países que comparten valores reflejados en los Principios de un enfoque responsable en apoyo
de la IA, las Políticas nacionales y de cooperación internacionales en apoyo de
una IA digna de confianza y la Recomendación del Consejo de la
OCDE sobre IA, además de las declaraciones de los principales expertos del
mundo en IA en campos relevantes, como la ciencia, la industria, la
sociedad civiles, organizaciones internacionales y gobiernos.
Los 15 miembros
fundadores del PMIA son Alemania, Australia, Canadá, República de Corea,
Estados Unidos, Francia, India, Italia, Japón, México, Nueva Zelanda, Reino
Unido, Singapur, Eslovenia y la Unión Europea. Brasil, España, Holanda y
Polonia se unieron a ellos en diciembre de 2020.
Existe un Procedimiento de Adhesión para todos los países y en particular para los países emergentes y en vías de desarrollo a fin de devenir miembro en el enlace siguiente: https://gpai.ai/fr/communaute/procedure-adhesion/
Los temas de los
grupos de trabajo para el programa de trabajo del primer año son los
siguientes:
• IA Responsable
• Gobernanza de datos;
• Avenir del trabajo;
• Innovación y comercialización.
Partenariado Mundial sobre Inteligencia Artificial:
Términos de Referencia Preliminares
I. RESUMEN
1. El Partenariado Mundial de Inteligencia Artificial (PMIA) será una iniciativa dedicada a la inteligencia artificial (IA) que reunirá a países que comparten los valores reflejados en Sección 1: Principios de un enfoque responsable en apoyo de la IA de confianza y la Sección 2: Políticas nacionales y cooperación internacionales en apoyo de una IA digna de confianza en la Recomendación del Consejo de la OCDE sobre IA (en adelante " Recomendación de la OCDE sobre IA ”) y muchos de los principales expertos del mundo en todo el mundo en IA en todos los campos relevantes, como la ciencia, la industria, la sociedad civiles, organizaciones internacionales y gobiernos.
2. El PMIA es una iniciativa voluntaria y multipartidaria basada en la voluntad política y la comunidad de espíritu de sus miembros y participantes. Como tal, la adhesión y la participación no confieren ningún derecho u obligación con vigencia en virtud de la legislación nacional o internacional.
1. Enunciado de misión
3. La misión del PMIA consiste en apoyar y orientar la adopción responsable de la IA basado en los derechos humanos, la inclusión, la diversidad, la innovación, el crecimiento bienestar económico y el bienestar social, buscando en alcanzar los objetivos de desarrollo sostenible de las Naciones Unidas. PMIA facilitará la colaboración multipartidaria internacional, orientado a proyectos, con la comunidad científica, la industria, la sociedad civil, las organizaciones internacionales y los países, teniendo especialmente en cuenta los intereses y la contribución de los países emergentes y en vías de desarrollo. Vigilará también el desarrollo de los trabajos realizados sobre el plan nacional e internacional y se inspirara para cernir los vacios, maximizar la coordinación y facilitar la colaboración internacional en materia de la IA.
4. Aprovechando la experiencia de las partes interesadas en diversas disciplinas, el PMIA emprenderá de proyectos aplicados en IA y ofrecerá un mecanismo de intercambio para el análisis, prospectiva y la coordinación multidisciplinaria en materia de resultados con el objetivo de facilitar la colaboración y de reducir la duplicación de los trabajos en IA. El PMIA evaluará - de manera completa, objetiva, abierta y transparente - las informaciones científicas, técnicas y socioeconómicas pertinentes para comprender las incidencias de la IA, fomentando en particular su desarrollo responsable y las medidas de adaptación y de mitigación de los problemas potenciales. Para ello, la PMIA elaborará informes y evaluaciones prácticas en temas aplicados en IA, a solicitud de sus miembros (países) y participantes (una amplia gama de expertos de diversos sectores y disciplinas). Para hacer esto, el PMIA también formará grupos de trabajo o adoptará otros mecanismos multipartidarias para, entre otras acciones, de intercambiar información y mejores prácticas, e identificar áreas de colaboración futura entre los miembros. La PMIA no desarrollará estándares y no abordará las cuestiones de defensa nacional.
5. En su calidad de iniciativa dedicada a comprender mejor las posibilidades y los desafíos que plantea la AI, el PMIA procura un valor único al ecosistema global del AI, capaz de reunir las competencias de una amplia gama de sectores y países para llevar a cabo proyectos aplicados y experimentación. Tendrá en cuenta iniciativas centradas en proyectos para facilitar el análisis y la comprensión para la comunidad internacional de las principales prioridades en IA. Por ejemplo, esto podría incluir la experimentación por Sandboxes reglamentarios sobre la interoperabilidad de datos con el objetivo de facilitar el acceso de las empresas de IA a los conjuntos de datos claves para los algoritmos de entrenamiento.
6. Además de su propio trabajo, el PMIA establecerá estrechas relaciones con diferentes organizaciones e iniciativas a fin de sacar partido del trabajo efectuado sobre el nivel nacional e internacional en el campo de la IA. Buscará identificar las brechas, maximizar la coordinación y facilitar la colaboración internacional.
2. Resultados
7. De acuerdo con la estructura descrita en el Artículo III anotada a continuación, el PMIA proporcionará los resultados siguientes:
• La Asamblea plenaria multipartidaria del grupo de expertos evidenciará los proyectos de colaboración prospectiva, que se esforzará por ser coherentes con el trabajo de la OCDE sobe las políticas en IA, y publicará un informe anual sobre la evolución de la IA. Este informe será distribuido a las partes interesadas, discutido por el Comité Director y aprobado por el Consejo del PMIA.
• Los Grupos de Trabajo del PMIA
producirán informes y otros documentos sobre sus conclusiones, incluso sobre los desafíos científicos y
técnicos asociados al desarrollo de
una IA digna de confianza, a solicitud del Comité Director, Asamblea plenaria multipartidaria de grupos de expertos y del
Consejo y del PMIA. Los grupos de
trabajo del PMIA contribuirán también a la redacción del informe anual de la Asamblea plenaria multipartidaria
de grupo de expertos. Este informe debería
incluir los aspectos potenciales en los que una mayor colaboración con organizaciones e iniciativas podrían
contribuir al logro de la misión.
• Una advertencia será contenida en todos los informes y publicaciones que indican claramente que el PMIA es una entidad distinta de la OCDE y que, por lo tanto, que las opiniones expresadas y los argumentos que son utilizados no reflejan las posiciones de la OCDE o de sus miembros.
II. ADHESION Y PARTICIPACIÓN
1. Adhesión
8. La adhesión del PMIA está abierta a los países y a la Unión Europea.
9. Proceso de solicitud de adhesión:
• Aquellos que deseen adherirse al PMIA deben comunicarse con la Secretaría de la PMIA y presentar una solicitud que incluya una carta de intención que exponga los motivos de la solicitud de adhesión, así como una confirmación de que el candidato suscribe los valores comunes reflejados en la Recomendación de la OCDE sobre AI o, para los solicitantes que no son adherentes a la Recomendación de OCDE sobre la IA, a los principios enunciados en el Anexo A.
• Desde la recepción de dicha solicitud, el Comité Director procederá a una evaluación de lo siguiente:
o El compromiso del candidato con la IA responsable y los valores comunes reflejados en la Recomendación de la OCDE sobre IA o los principios establecidos en el anexo A;
o La medida en la cual el candidato juega un papel activo en la promoción de una AI responsable, basada en los derechos humanos, tanto a nivel nacional como internacional solo en colaboración con organizaciones e iniciativas;
o El nivel de habilidad de los expertos en IA que trabajan en la región, en un variedad de sectores y disciplinas.
• Una vez finalizada la evaluación, el Comité Director presentará su recomendación al Consejo del PMIA, quien decidirá si acepta o no la adhesión del candidato por un voto mayoritario de dos tercios.
2. Participación
10. Participantes: El PMIA brindará posibilidades de participación a una amplia gama de expertos procedentes de diversos sectores, incluidos la ciencia, la industria, la sociedad civil y las organizaciones e iniciativas. Los expertos se seleccionan a título individual y no representan su organización o su país.
11. Proceso de solicitud:
• Los participantes pueden ser designados por los miembros o proponer su propia candidatura por un mandato de tres años.
• Cada miembro del PMIA puede designar a dos expertos. Todos los otros expertos presentarán su propia candidatura, que seguirá el mismo proceso que el de los miembros (como se describe en el artículo anterior).
12. Observadores: El PMIA puede invitar a ciertas personas a participar como observadores, incluidos los representantes de organizaciones internacionales y regionales y otros que trabajan en IA. Los miembros de la OCDE pueden observar colectivamente las reuniones del Comité Director a través de un "relator", salvo invitación particular por la presidencia. Otros observadores pueden ser invitados a observar, por ejemplo, las reuniones del Comité Director o del Consejo del PMIA. Su estatuto de observador será confirmado por voto a la mayoría de dos tercios de votos del Consejo del PMIA y puede ser renovado cada año. Los observadores serán autorizados a asistir a las reuniones pertinentes y podrán ser invitados por el presidente a tomar la palabra.
• Por su estatuto de Observador permanente, la secretaría de la OCDE puede participar en todas las reuniones del Consejo del PMIA del Comité Director y de otros órganos del PMIA y puede contribuir sustancialmente a los puntos de la agenda.
3. Expectativas para miembros y participantes
13. Todos los miembros y participantes se comprometen a promover una IA responsable y los valores comunes reflejadas en la Recomendación de la OCDE sobre IA o los principios establecidos en el Anexo A.
14. Todo miembro/participante puede retirarse del PMIA en cualquier momento enviando una carta a este efecto a la Secretaría del PMIA. Este último informará a continuación a los Centros de especialización, Comité Director y Consejo del PMIA.
15. Miembros: El Comité Director y el Consejo del PMIA pueden solicitar de examinar en qué medida un miembro actúa de acuerdo con los valores comunes reflejados en la Recomendación de la OCDE sobre IA o los principios establecidos en el Anexo A. Cuando se activa el proceso de examen, se notificará al candidato miembro por escrito y, a manera de respuesta, se le pedirá que presente información para ser incluida en un informe escrito. Si, después del examen de este informe, así como de toda información presentada por miembro bajo revisión, el Consejo del PMIA acuerda por mayoría de votos dos tercios, que el miembro no ha cumplido con sus compromisos como miembro, terminará su adhesión. Los miembros del PMIA cuya adhesión se cancele pueden enviar una nueva solicitud de adhesión. Esto debe incluir información sobre medidas adoptadas para rectificar los problemas expuestos en el informe que justifican su exclusión de la lista o cualquier otra inquietud comunicada por el Consejo del PMIA.
16. Participantes: Si el Consejo del PMIA decide que un participante ha actuado de manera contraria a los valores comunes reflejados en la Recomendación de la OCDE sobre IA o principios establecidos en el Anexo A, este participante ya no será invitado a participar en el PMIA.
El Comité Director puede brindar detalles adicionales sobre las expectativas relativo a los participantes.
III. ESTRUCTURA
A. Estructura de transición del PMIA
17. El período de transición del PMIA continuará hasta que el PMIA haya sido creado oficialmente por un anuncio de los miembros fundadores y hasta que todos los puestos de los órganos de gobernanza del PMIA (Consejo, Comité Director) hayan sido provistos. Durante el período de transición, todas las decisiones relacionadas con el PMIA serán tomada por consenso de los países participantes en el comité de trabajo del PMIA (el "comité de trabajo”), copresidido por Canadá y Francia. Durante el período de transición, el comité de trabajo proporcionará orientación y líneas directrices sustantivas a la Secretaría del PMIA. y a los Centros de especialización; creará los Grupos de Trabajo (como se indica en el párrafo III.B.5), compuesto por participantes del comité de trabajo y otros expertos en IA; establecerá el Comité director permanente (como se indica en el párrafo III.B.2); planeará la primera Asamblea plenaria multipartidaria del grupo de expertos (como se indica en el párrafo III.B.4) y la reunión el Consejo del PMIA (como se indica en el párrafo III.B.1); y establecerá el plan de trabajo del primer año del PMIA. Durante el período de transición, el comité de trabajo determinará por consenso qué países, organizaciones y expertos serán invitados a trabajar en el diseño del PMIA.
B. Estructura permanente del PMIA
1. Consejo del PMIA
18. Objeto: Proveer las orientaciones estratégicas al PMIA y asumir la responsabilidad de todas decisiones importantes.
19. Composición: Altos representantes (equivalente a ministro o viceministro) de miembros del PMIA.
20. Proceso de selección:
• Los procedimientos suplementarios se exponen en el Anexo B.
21. Funcionamiento:
• El presidente del Consejo del PMIA es elegido por mayoría de dos tercios de los miembros, por un período de un año. El Consejo del PMIA está presidido por un trío, compuesto del presidente titular para el año en curso y los presidentes suplentes saliente y entrante. Las decisiones se toman por mayoría de dos tercios de votos.
• Los procedimientos adicionales se establecen en el Anexo B.
22. Reuniones: Las reuniones se llevan a cabo una vez al año o según lo que determine el Consejo de PMIA. Pueden realizarse presencial o virtualmente (es decir, por teleconferencia o video conferencia).
23. Responsabilidades:
• Detentan el poder de decisión final dentro del PMIA, particularmente con respecto a la adhesión y la participación;
• Nombrar a los dos representantes gubernamentales adicionales (que no son parte del trío de miembros del Consejo del PMIA) al Comité Director;
• Nombra a los expertos propuestos por los miembros para la Asamblea plenaria multipartidaria del grupo de expertos;
• Nombra, por mayoría de dos tercios, a los expertos que presenten sus propias candidatura para la Asamblea plenaria multipartidaria del grupo de expertos;
• Recomienda al Comité de Dirección los temas a abordar por la Asamblea plenaria multipartidaria del grupo de expertos y los Grupos de trabajo;
• Examina y aprueba los informes de la Asamblea plenaria multipartidaria del grupo de expertos, y formula recomendaciones y toma decisiones sobre los trabajos futuros del PMIA, basados, entre otros, en los informes de estos expertos;
• Aprueba el presupuesto anual del PMIA;
• En su caso, publica las declaraciones públicas o recomendaciones fundadas sobre los trabajos de la Asamblea plenaria multipartidaria del grupo de expertos y Grupos de trabajo y;
• Cuando sea el caso, compromete al Consejo de la OCDE en un diálogo sobre temas de intereses mutuos.
2. Comité de dirección
24. Objeto: Implementar las líneas directrices propuestas por el Consejo del PMIA, en particular, la elaboración de planes de trabajo y la creación de Grupos de trabajo basados en solicitudes realizadas por el Consejo del PMIA y recomendaciones de la Asamblea plenaria multipartidaria del grupo de expertos, y proveer las orientaciones y directrices sustantivas a la Secretaría del PMIA y a los Centros de especialización en Montreal y París, según sea necesario.
25. Composición:
Participantes gubernamentales (5 en total):
- Tres (3) representantes gubernamentales, uno cada uno del trío de miembros del Consejo PMIA;
- Dos (2) representantes gubernamentales designados por el Consejo del PMIA.
Participantes no gubernamentales (6 en total):
- Un (1) presidente de la Asamblea plenaria multipartidaria del grupo de expertos;
- Un (1) representante del sector científico, un (1) representante de la industria, un (1) representante de la sociedad civil, un (1) representante sindical y un (1) representante de un organización internacional proveniente de la Asamblea plenaria multipartidaria del grupo de expertos.
26. Como se indica en el artículo II, se podrá invitar observadores a asistir a la Reuniones del Comité Director.
27. Proceso de selección: En el anexo B se establecen procedimientos adicionales.
28. Funcionamiento: El presidente del Consejo del PMIA y presidente de la Asamblea plenaria multipartidaria del grupo de expertos copresidirá el Comité Director por un período de un año.
29. Reuniones: Las reuniones se llevan a cabo tres veces al año o según lo determinen los miembros del Comité director. Pueden realizarse presencial o virtualmente.
30. Responsabilidades:
• Hacer recomendaciones al Consejo del PMIA sobre la adhesión/ la participación;
• Determina los temas a abordar en la Asamblea plenaria multipartidaria del grupo de expertos y los Grupos de trabajo sobre la base de las recomendaciones formuladas por el Consejo del PMIA;
• Elabora los planes de trabajo anuales para la Asamblea plenaria multipartidaria del grupo de expertos y los Grupos de trabajo que luego son aprobados por el Consejo PMIA;
• Supervisa el trabajo de la Secretaría del PMIA brindándole orientaciones sustantivas y decidiendo de su programa de trabajo y su presupuesto;
• Supervisa el trabajo de los Centros de especialización;
• Revisa el presupuesto anual del PMIA (incluidos los presupuestos de la Secretaría de la PMIA y de los Centros de especialización) y hace recomendaciones al Consejo de PMIA y;
• Inicia el diálogo con el Comité de la política de economía digital de la OCDE (al menos una vez al año) sobre el alcance y la dirección de los proyectos PMIA y el trabajo de la OCDE sobre IA.
3a. Secretaría del PMIA
31. Objeto: Brindar asistencia administrativa al Consejo del PMIA y al Comité Director.
32. Estructura: como se indica en el protocolo de entendimiento sobre la Secretaría del PMIA concluida entre Canadá, Francia y la OCDE [adjunto al Anexo C cuando se complete], el PMIA será apoyado por una secretaría en el seno de la OCDE y los Centros de Especialización en Montreal y París.
33. Responsabilidades: Como se establece en el protocolo de entendimiento, la Secretaría del PMIA, bajo reserva de disponibilidad de fondos:
• Planificará y apoyará las reuniones del Consejo del PMIA y del Comité Director, y administrará la elección por parte del Consejo del PMIA de su presidente, así como los dos participantes gubernamentales en el Comité Director;
• Proporcionar informes y actualizaciones periódicos al Consejo del PMIA y al Comité Director sobre el análisis de políticas llevadas a cabo en el plano nacional e internacional en el ámbito de la IA;
• Organizará y preparará documentos, informes, actas y otros materiales para el Consejo del PMIA y el Comité Director, según sea necesario;
• Asegurará la gestión de las informaciones para el Consejo del PMIA y el Comité director, y de toda la correspondencia oficial de estos dos órganos;
• Actuará como principal punto de contacto para los miembros y participantes del PMIA, así como para el público en general, en relación con cualquier asunto relacionado con el Consejo del PMIA y el Comité Director;
• Promoverá y asegurará la cooperación con otras iniciativas y organizaciones multilaterales, entre otros;
• Facilitará el intercambio de información y promoverá sinergias entre el PMIA y las iniciativas y el programa de trabajo de IA de la OCDE, en materia de IA, incluido el Observatorio de políticas relativas a la IA de la OCDE; y
• Elaborará el presupuesto de la Secretaría del PMIA, asegurará el seguimiento y rendirá cuenta de ello.
3b. Centros de especialización PMIA
34. Objeto: Brindar asistencia administrativa a los Grupos de Trabajo del PMIA y a la Asamblea plenaria multipartidaria del grupo de expertos.
35. Estructura: como indicado en el protocolo de entendimiento sobre la Secretaría del PMIA concluido entre Canadá, Francia y la OCDE [adjunto al Anexo C cuando se complete], el PMIA será apoyado por una secretaría en el seno de la OCDE y los Centros de Especialización en Montreal y París.
36. Responsabilidades: Como indicado en el protocolo de entendimiento, los Centros de Especialización del PMIA en Montreal y París serán responsables de lo siguiente:
• Planificar y apoyar las reuniones de los Grupos de Trabajo del PMIA y la Asamblea plenaria multipartidaria del grupo de expertos;
• Brindar el apoyo necesario a las decisiones del Consejo del PMIA concerniente a los miembros y participantes potenciales, especialmente respecto a la aprobación de valores comunes reflejados en la Recomendación de la OCDE sobre IA o los principios establecidos en el anexo A, de conformidad con las directivas del Consejo el PMIA y el Comité Director;
• Elaborar planes de movilización para nuevas expansiones del PMIA en apoyo de las recomendaciones formuladas por el Comité Director para el Consejo de PMIA; y
• Preparar el presupuesto de financiamiento de las actividades de los Centros de Especialización, asegurar el seguimiento y la presentación de informes.
4. Asamblea plenaria multipartidaria del grupo de expertos
37. Objeto: Federar las competencias internacionales multipartidarias y multidisciplinarias necesarias para preparar informes anuales y formular recomendaciones basadas en los resultados de los proyectos aplicados emprendidos por los grupos de trabajo.
38. Composición: Entre 100 y 150 expertos en los ámbitos de la ciencia, la industria, la sociedad civil, sindicatos, organizaciones internacionales y gobiernos.
• La Asamblea plenaria multipartidaria del grupo de expertos reúne a expertos equipos multidisciplinarios que aportan perspectivas únicas sobre los avances científicos y tecnológicos, la transformación de la economía y del mercado de trabajo, el respeto de los derechos humanos y los desafíos legales de la IA, la inclusión y la igualdad de género, el colectivo, la sociedad y la diversidad cultural, y las evoluciones geopolíticas.
• Los expertos son seleccionados de forma individual y no representan a su organización o su país.
• El Consejo del PMIA, el Comité Director, los Centros de especialización y la Asamblea plenaria multipartidaria del grupo de expertos se esforzarán por mantener un equilibrio entre los diferentes grupos de interés, los expertos designados por el miembros y aquellos que han propuesto su candidatura, la multidisciplinariedad y la diversidad geográfica durante el proceso de selección de miembros y de participantes (ver el artículo II sobre la participación).
39. Proceso de selección: el presidente de la Asamblea Plenaria es elegido por mayoría de votos de los expertos. En el anexo B se establecen los procedimientos adicionales.
40. Reuniones: Las reuniones tienen lugar una vez al año. Se llevan a cabo presencialmente.
41. Responsabilidades:
• Preparar un informe anual sobre la evolución de la IA, que se distribuye a las partes interesadas, discutido y aprobado por el Consejo del PMIA;
o En su informe anual, la Asamblea plenaria multipartidaria del grupo de expertos propondrá temas para los Grupos de Trabajo para el año siguiente (estos pueden ser nuevos o ya comenzados). El Consejo del PMIA someterá luego sus recomendaciones al Comité Director sobre los temas propuestos para los Grupos de Trabajo.
• Revisar los informes de los Grupos de Trabajo y los somete al Comité Director y al Consejo del PMIA para su discusión y aprobación.
5. Grupos de trabajo
42. Objeto: Contribuir con sus competencias avanzadas sobre las cuestiones relevantes en IA. Ello puede implicar consolidar la investigación y los análisis sobre temas específicos, y de proponer ámbitos de colaboración profunda con el objeto de apoyar el avance del programa de trabajo del PMIA a lo largo del año.
43. Composición: Participantes a la Asamblea plenaria multipartidaria del grupo de expertos.
44. Funcionamiento:
• Los Grupos de Trabajo se crean por decisión de una mayoría de dos tercios del Comité Director.
• Los expertos que deseen participar en un Grupo de Trabajo deben presentar sus candidaturas a la presidencia del grupo en cuestión.
• Los presidentes de los Grupos de Trabajo son propuestos por la Asamblea Plenaria grupo de expertos multipartidarios, o presentan su propia candidatura para un mandato de dos años. Luego son elegidos por el Comité Director.
• Como se indica en el Artículo II, los presidentes de los Grupos de Trabajo podrán, discrecionalmente, invitar a observadores según la pertinencia de sus competencias a participar en las reuniones de su grupo.
• La OCDE será invitada a participar en cada grupo de trabajo a fin de garantizar que los presidentes estén informados sobre el trabajo de la OCDE en IA y eviten la duplicación del programa de trabajo de la OCDE.
45. Reuniones: Las reuniones son convocadas por el presidente de cada Grupo de Trabajo. Pueden realizarse en presencial o virtualmente.
46. Responsabilidades:
• Conformemente con las instrucciones del Comité Director, redactar informes sobre temas específicos que serán revisados por la Asamblea plenaria multipartidaria del grupo de expertos.
47. Los temas de los grupos de trabajo para el programa de trabajo del primer año son los siguientes (ver Apéndice III sobre la ilustración del alcance de los mandatos que serán confirmado una vez establecidos los Grupos de Trabajo):
• IA Responsable
• Gobernanza de datos;
• El avenir del trabajo;
• La innovación y la comercialización.
48. En los próximos años, los temas de los Grupos de Trabajo serán elegidos por el Comité director y validado por el Consejo del PMIA en base a las recomendaciones de Asamblea plenaria multipartidaria del grupo de expertos y del Consejo del PMIA.
IV. OTROS FACTORES A TENER EN CONSIDERACIÓN
1. Métodos de trabajo
49. Conflictos de intereses: Los participantes se esforzarán por evitar cualquier conflicto de intereses real, aparente o potencial. Ellos se abstienen de participar en las decisiones y de tomarlas en favor de sus intereses. El PMIA formará un comité o creará algún otro mecanismo para analizar quejas e inquietudes relacionadas con posibles conflictos de intereses. En situaciones que requieren una acción inmediata, el Consejo y el Comité Director del PMIA puede investigar la queja o la inquietud a la luz de las líneas directrices establecidas por el Comité Director (que se definirán más adelante).
50. Confidencialidad: La confidencialidad de las reuniones será determinada por los presidentes del órgano competente (Consejo del PMIA, Comité Director, Asamblea plenaria Multipartidaria del grupo de expertos, Grupos de trabajo) según el tema abordado y teniendo en cuenta las directivas de la OCDE a los presidentes. Para garantizar la transparencia del PMIA, las actas de la Asamblea plenaria multipartidaria del grupo de expertos, reuniones de Grupos de trabajo, reuniones del Comité Director y reuniones del consejo del PMIA serán publicadas de tal manera que los comentarios no sean imputables a ningún partícipe. Las actas se pondrán a disposición de todos los miembros de la OCDE.
51. Remuneración: Los participantes no reciben honorarios, derechos o cualquier otra remuneración del PMIA. En una fecha posterior, el PMIA podrá dedicar fondos para apoyar la asistencia a reuniones presenciales.
2. Financiamiento
52. La financiación de la Secretaría del PMIA, alojada en la OCDE, será asegurada por los miembros, principalmente bajo forma de contribuciones voluntarias. Las contribuciones en especie de miembros y de los participantes (por ejemplo, préstamo o adscripción de personal) pueden ser aceptado por la OCDE de acuerdo con sus reglas, procedimientos y políticas.
53. Todos los miembros financiarán sus propios gastos de viaje y alojamiento para asistir a las reuniones y eventos del PMIA, como las reuniones del Consejo de la PMIA y del Comité Director.
3. Modificaciones del mandato
54. El mandato del PMIA y cualquier otro documento clave de gobernanza deben ser revisados por el Comité Director, con el apoyo de la Secretaría del PMIA, los cambios propuestos para ser presentado al Consejo del PMIA para su aprobación mediante votación en la mayoría de dos tercios. El primer examen debe realizarse dentro de los tres años siguientes a la PMIA y las revisiones posteriores deben realizarse a más tardar cada cinco años, a continuación. El objetivo de la revisión es determinar si ciertos aspectos del PMIA, al igual que su gobernanza, organización futura y/o expansión, debe ser modificado para asegurar que continúe logrando sus objetivos, cumplir con su misión (por ejemplo, evaluar la necesidad de determinados Grupos de Trabajo) y responder a los desafíos y oportunidades cambiantes que plantea la IA.
APÉNDICE A: Principios de la inteligencia artificial
55. Los siguientes principios se han extraído de la Sección 1: Principios de un enfoque responsable en apoyo de una IA confiable y Sección 2 - Políticas nacionales y cooperación internacional en apoyo de una IA digan de confianza de la Recomendación de la OCDE sobre IA:
Sección 1: Principios de un enfoque responsable en apoyo de una IA digna de confianza
1.1. Crecimiento inclusivo, desarrollo sostenible y bienestar
56. Las partes interesadas deben adoptar un enfoque de manera proactiva responsable en apoyo de una IA digna de confianza a fin de tender hacia resultados beneficioso para las personas y el planeta, como el desarrollo de capacidades humanas y el fortalecimiento de la creatividad humana, la inclusión de poblaciones sub-representadas, reducir las desigualdades económicas, sociales, de género y de otro tipo, y proteger entornos naturales, promoviendo así el crecimiento inclusivo, el desarrollo sostenible y el bienestar.
1.2. Valores y equidad centrados en el ser humano
57. Los actores de AI deberían respetar el estado de derecho, los derechos humanos y los valores democráticos a lo largo del ciclo de vida de los sistemas de IA. Estos derechos y valores comprenden la libertad, la dignidad y la autonomía, la protección de la vida privada y los datos, la no discriminación y la igualdad, la diversidad, la equidad, la justicia social, así como los derechos de los trabajadores reconocidos a la escala internacional.
58. Para ello, los actores de la IA deberían instituir garantías y mecanismos, tales como la atribución de la capacidad de decisión final al hombre, que sean adaptadas al contexto y al estado del arte.
1.3. Transparencia y explicabilidad
59. Los actores de la IA deberían comprometerse a garantizar la transparencia y la divulgación responsable de la información relacionada con los sistemas de IA. Con este fin, deberían proporcionar información relevante, adaptada al contexto y al estado del arte, con el fin de:
1. Favorecer una comprensión general de los sistemas de IA,
2. Informar a las partes interesadas de sus interacciones con los sistemas de IA, incluidos en el ámbito profesional,
3. Permitir a las personas afectadas por un sistema de IA de comprender el resultado, y,
4. Permitir a las personas afectadas negativamente por un sistema de IA oponerse a los resultados sobre la base de información clara y sencilla comprensible sobre los factores y la lógica que ha sido utilizada para la formulación de previsiones, recomendaciones o decisiones.
1.4. Robustez, seguridad y protección
60. Los sistemas de IA deben ser robustos, seguros y protegidos durante todo su ciclo de vida útil, de modo que en condiciones normales o previsibles de uso, o en el caso de uso abusivo o en condiciones desfavorables, sean capaces de operar correctamente y no supongan un riesgo excesivo para la seguridad.
61. Para ello, los actores de la IA deberían garantizar la trazabilidad, en particular para lo relativo a los conjuntos de datos, los procesos y las decisiones que se toman durante el ciclo de vida de los sistemas de IA, con el fin de permitir el análisis de los resultados producidos por dichos sistemas de IA y el tratamiento de solicitudes de información, teniendo en cuenta el contexto y el estado del arte de la tecnología.
62. Los actores de la IA deberían, según sus respectivos roles, el contexto y su capacidad de actuar, aplicar continuamente un enfoque sistemático de la gestión del riesgo, en cada fase del ciclo de vida de los sistemas de IA, con el fin de gestionar los riesgos relacionados, en particular aquellos relativos a la vida privada, a la seguridad digital, a la seguridad y a los sesgos.
1.5. Responsabilidad
63. Los actores de la IA deberían ser responsables del correcto funcionamiento de los sistemas de IA y del cumplimiento de los principios expuestos anteriormente, según sus funciones, el contexto y el estado del arte.
Sección 2: Políticas nacionales y cooperación internacional en apoyo de la IA digna de confianza
2.1. Invertir en la investigación y el desarrollo en materia de IA
64. Los poderes públicos deberían considerar las inversiones públicas a largo plazo y fomentar la inversión privada en investigación y desarrollo, en particular interdisciplinar, con el fin de estimular la innovación en IA digna de confianza, a fin de abordar importantes desafíos técnicos, así como sus implicaciones sociales, jurídicos, éticos y políticos relacionados con la IA.
65. Los poderes públicos deberían también de considerar las inversiones públicas y fomentar la inversión privada en los conjuntos de datos de acceso abierto que sean representativos y garanticen la protección de la privacidad y de los datos, con el fin de apoyar un entorno de investigación y desarrollo en materia de IA sin parcialidad indebida y fortalecer la interoperabilidad y el uso de estándares.
2.2. Fomentar el establecimiento de un ecosistema digital para la IA
66. Los poderes públicos deberían favorecer el desarrollo y la accesibilidad de un ecosistema digital en apoyo a una IA digna de confiable. Este ecosistema consta en particular de tecnologías e infraestructuras digitales y mecanismos de intercambio de conocimiento en materia de IA, en función de las necesidades. En este sentido, los poderes públicos deberían considerar la promoción de mecanismos, tales como el fideicomiso de datos ("data trusts"), para promover el intercambio de datos de manera segura, equitativa, legal y ética.
2.3 Dar forma a un marco de acción favorable a la IA
67. Los poderes públicos deberían promover el establecimiento de un marco de acción favorable que sostenga una suave transición de la etapa de investigación y desarrollo a aquel de la implementación de sistemas de IA dignos de confianza. Con este fin, deben considerar el recurso a la experimentación, con el fin de proporcionar un entorno controlado en el cual los sistemas de IA puedan ser probados y ampliados, según sea necesario.
68. Los poderes públicos deberían examinar y adaptar, según sea necesario, sus marcos políticos y reglamentarios y sus mecanismos de evaluación aplicables a los sistemas de IA, para fomentar la innovación y la competencia en el desarrollo de una IA digna de confianza.
2.4. Fortalecer las capacidades humanas y preparar la transformación del mercado de trabajo
69. Los poderes públicos deberían trabajar en estrecha colaboración con las partes interesadas con el fin de preparar la transformación del mundo del trabajo y de la sociedad. Ellos deben empoderar a las personas para que utilicen e interactúen eficazmente con sistemas de IA a través de sus diferentes aplicaciones, en particular proporcionándoles las competencias necesarias.
70. Los poderes públicos deberían tomar medidas, incluso mediante el uso del diálogo social, para garantizar una transición justa para los trabajadores a medida del despliegue de la IA, en particular a través de programas de formación a lo largo de la vida activa, el apoyo a los afectados por las supresiones de empleo y del acceso a nuevas oportunidades en el mercado laboral.
71. Los poderes públicos deberían también trabajar en estrecha colaboración con las partes interesadas para promover el uso responsable de la IA en el trabajo, fortalecer la seguridad de los trabajadores y la calidad de los empleos, favorecer el espíritu empresarial y la productividad y velar porque los beneficios de la IA sean compartidos ampliamente y equitativamente.
2.5. Favorecer la cooperación internacional al servicio de una IA digna de confianza
72. Los poderes públicos, incluidos aquellos de los países en vías de desarrollo, en asociación con las partes interesadas, deberían cooperar activamente a fin de avanzar en la implementación de estos principios y progresar en un enfoque responsable en apoyo de una IA digna de confianza.
73. Los poderes públicos deberían trabajar concertadamente, en el seno de la OCDE y de otros organismos mundiales y regionales pertinentes, con miras a favorecer el intercambio de conocimiento de IA, según sea necesario. Ellos deberían fomentar iniciativas multipartidistas interesadas internacionales, intersectoriales y abiertas con el fin de crear expertise a largo plazo, en materia de IA.
74. Los poderes públicos deberían estimular la elaboración de normas técnicas internacionales multipartidistas basadas sobre la investigación de consenso, al servicio de la IA interoperable y digna de confianza.
75. Los poderes públicos deberían además, estimular el desarrollo y el uso, para sus propias necesidades, de indicadores comparables internacionalmente con el fin de medir la investigación y el desarrollo en el ámbito de la IA y el despliegue de la IA, y de constituir la base factual necesaria al seguimiento del progreso cuanto a la implementación de los principios expuestos en este documento.
APÉNDICE B: PROCESO DE ELECCIÓN DEL PMIA
Consejo del PMIA
76. Como indicado en el párrafo III.B.1. del mandato del PMIA, el Consejo del PMIA está compuesto por altos representantes (el equivalente de ministro o viceministro) de los miembros del PMIA, y el Consejo del PMIA está presidido por un trío de miembros: un presidente titular para el año en curso con el apoyo de los presidentes suplentes saliente y entrante.
77. Para facilitar el establecimiento de este trío, se llevarán a cabo elecciones especiales durante las cuales el Consejo del PMIA elegirá a los presidentes por períodos escalonados de un año, como indicado en la sección sobre el proceso de votación detallada a continuación.
78. Cada año, el Consejo del PMIA elige un nuevo presidente entre sus miembros. Los presidentes son elegidos un año antes del inicio de su mandato como presidentes titulares. (Es decir, un miembro elegido como presidente servirá durante un año como presidente suplente entrante, luego un año como presidente titular, y finalmente un año como presidente saliente).
Representantes gubernamentales en el Comité Director
79. Como indicado en el párrafo III.B.2. de este mandato, los cinco representantes gubernamentales del Comité Director incluirán:
• Tres (3) representantes gubernamentales, uno cada uno del trío de los miembros del Consejo del PMIA;
o Cada miembro del trío del Consejo del PMIA designará a su representante gubernamental al Comité Director (puede ser la persona que se sesiona en el Consejo del PMIA o un delegado a un nivel apropiado).
• Dos (2) representantes gubernamentales designados por el Consejo del PMIA.
o Los dos representantes gubernamentales suplementarios en el Comité Director serán elegidos entre los miembros del Consejo del PMIA al mismo tiempo que la elección del presidente del Consejo del PMIA (puede tratarse de la persona que sesiona en el Consejo del PMIA o un delegado a un nivel apropiado).
Proceso de votación para el presidente del Consejo del PMIA y los dos representantes gubernamentales suplementarios al Comité Director
80. Todos los miembros del PMIA pueden presentar su candidatura de puesto de presidente del Consejo del PMIA y como representante gubernamental en el Comité Director mediante la entrega de una carta de interés al actual presidente del Consejo del PMIA al menos una semana antes de la apertura del período de votación.
81. Se distribuirá una lista de candidatos a todos los miembros del Consejo del PMIA, que dispondrán de al menos dos semanas para votar.
82. La votación se realiza de acuerdo al modo de escrutinio preferencial. Los electores clasifican los candidatos por orden de preferencia en su boleta, es decir, del más preferido al menos preferido.
83. La votación se llevará a cabo mediante escrutinio secreto administrado en línea.
84. A la conclusión de la votación, se asignan puntos equivalentes al rango obtenido, luego contados. Cada Miembro tiene derecho a los votos de primer lugar que haya recibido. Si ninguno de los Miembro hubiera obtenido tiene mayoría, el miembro que haya obtenido el menor número de primeros votos es eliminado y se cuentan los votos del segundo lugar. Este proceso continúa de esta manera hasta que un candidato obtenga la mayoría de los votos.
85. El candidato que obtenga la mayoría de los votos es elegido.
86. Los dos candidatos subsiguientes con el mayor número de puntos son elegidos como representantes gubernamentales en el Comité Director.
Proceso de votación para los participantes no gubernamentales del Comité Director
87. Como se indica en el párrafo III.B.2. del presente mandato, los seis participantes gubernamentales al Comité Director incluirán:
• Un (1) presidente de la Asamblea plenaria multipartidaria del grupo de expertos;
- Como se indica en el párrafo III.B.4, el Presidente de la Asamblea Plenaria Multipartidaria del grupo de expertos es elegido por la mayoría de los expertos.
• Un (1) representante del sector científico, un (1) representante de la industria, un (1) representante de la sociedad civil, un (1) representante sindical y un (1) representante de las organizaciones internacionales. Todos los representantes provienen de la Asamblea plenaria multipartidaria del grupo de expertos.
- Los representantes no gubernamentales en el Comité Director serán elegidos por la mayoría de sus pares durante la Asamblea plenaria multipartidaria del grupo de expertos.
88. Como por la elección del presidente del Consejo del PMIA, el voto por los representantes no gubernamentales al Comité director y para el Presidente de la Asamblea plenaria multipartidaria del grupo de expertos se realizará según el sistema de escrutinio preferencial, en el cual los electores clasifican a los candidatos por orden de preferencia en su boleta de votos, de la más preferida a la menos preferida.
89. Todos los expertos de la Asamblea plenaria multipartidaria del grupo de expertos pueden presentar su candidatura al cargo de Presidente de la Asamblea plenaria multipartidaria mediante la presentación de una carta de interés al Comité director a más tardar una semana antes de la apertura del período de votos.
90. Se proporcionará una lista de candidatos a todos los expertos de la Asamblea plenaria multipartidaria del grupo de expertos, quienes tendrán al menos dos semanas para votar.
91. Un proceso de votación más detallado para los representantes no gubernamentales dentro del Comité director será desarrollado por la Asamblea plenaria multipartidaria del grupo de expertos en una fecha posterior, y aprobados por el Consejo del PMIA.
APÉNDICE C: Ilustración del alcance de los mandatos de
los Grupos de Trabajo
92. A medida que los mandatos de los grupos de trabajo sean ultimados por los co-presidentes y los miembros, los Grupos de Trabajo del PMIA se esforzarán de inspirar, apoyar y contribuir al trabajo pertinente que se lleve a cabo en otras organizaciones y foros internacionales, incluidos los análisis de políticas sobre IA y sobre otros temas relevantes llevados a cabo por la OCDE. El alcance de los mandatos de los Grupos de trabajo siguientes figura de manera ilustrativa y será discutido por los co-presidentes y miembros de los grupos de trabajo.
1. El Grupo de trabajo de IA responsable examinará los medios para favorecer y garantizar el desarrollo, el uso y la adopción responsables de la IA centrada sobre el ser humano, con especial énfasis sobre la sensibilización y el aumento de la confianza del público, mientras se busca alcanzar los objetivos de desarrollo sostenible de las Naciones unidas.
2. El Grupo de trabajo sobre la gobernanza de datos evaluará los enfoques técnicos relativos al acceso y al intercambio, a la soberanía y a la protección de datos que garanticen equidad, transparencia y confidencialidad en un entorno propicio para la innovación en IA.
3. Al explorar el estado del arte y las capacidades de la IA en el medio laboral, el Grupo de trabajo sobre el avenir del trabajo proporcionará un análisis técnico crítico que contribuirá a la comprensión colectiva de la manera por la cual la IA puede ser utilizada en el medio laboral para empoderar a los trabajadores y para aumentar la productividad, de la forma en que los trabajadores y los empleadores pueden prepararse para el avenir del trabajo y de la manera por la cual la calidad de los empleos, la inclusión y la salud y la seguridad pueden ser preservadas.
4. El Grupo de trabajo sobre la Innovación y comercialización estudiará y recomendará las herramientas y métodos prácticos para permitir a los actores el sector privado y a las organizaciones de investigación de estimular la colaboración internacional en I + D y la innovación en IA, de transformar los resultados de la investigación en productos y procesos, así como de transferir estos resultados a la industria, con especial énfasis en las PYME.
93. A la luz del contexto internacional actual, el comité de trabajo del
PMIA podría eventualmente invitar
los Grupos de Trabajo a emprender trabajos cuanto a la respuesta a las pandemias, como COVID-19, o a examinar las implicaciones
específicas de las pandemias. En tal escenario, los
Grupos de trabajo pertinentes podrían reunir profesionales de la IA, expertos en salud y miembros de los grupos
nacionales o internacionales, por
ejemplo, para dar forma a la respuesta tecnológica o para compartir y desarrollar soluciones a las pandemias
y a otros desafíos de salud global.
