viernes, 8 de septiembre de 2017

LA CONVERGENCIA TECNOLÓGICA, LA INTELIGENCIA ARTIFICIAL Y LOS DERECHOS HUMANOS


La reciente recomendación expresada en la 18a sesión de la Asamblea Parlamentaria de abril 2017 - apenas cinco meses -, se basa en el informe de la Comisión de Cultura, Ciencia, Educación y Medios de Comunicación del Consejo de Europa, traducida del francés por el suscrito.

Ella tiene en cuenta el notable desarrollo en materia de tecnologías avanzadas (Nanotecnologías, Biotecnologías, tecnologías de la Información y ciencias Cognitivas, NBIC), sus aplicaciones, las incidencias que ellas tienen en los derechos humanos, las dificultades de los legisladores, científicos y juristas para establecer los límites y desafíos de esta convergencia tecnológica y las consecuencias sociales y éticas, relacionadas con la genética, la genómica, la medicina, la robótica, las neurociencias, los datos personales y los Grandes Datos (Big Data).  Asistimos a lo que algunos adelantados llaman el transhumanismo? 

El transhumanismo (abreviado como H+ o h+) es un movimiento cultural e intelectual internacional que tiene como objetivo final transformar la condición humana mediante el desarrollo y fabricación de tecnología ampliamente disponibles, que mejoren las capacidades humanas, tanto a nivel físico como psicológico o intelectual.​ Los pensadores transhumanistas estudian los posibles beneficios y peligros de las nuevas tecnologías que podrían superar las limitaciones humanas fundamentales, como también la tecnoética adecuada a la hora de desarrollar y usar esas tecnologías.​ Estos especulan sosteniendo que los seres humanos pueden llegar a ser capaces de transformarse en seres con extensas capacidades, merecedores de la etiqueta "posthumano". https://es.wikipedia.org/wiki/Transhumanismo

Asistimos por medio de las tecnologías a la mejora, ampliación de las capacidades físicas y cognitivas del humano? Cuáles son los límites jurídicos, éticos y culturales, en particular, sobre: la protección de los datos personales; el respeto de la privacidad e intimidad; la dignidad humana; los derechos intelectuales; la seguridad, la responsabilidad y la fiabilidad; la libertad de expresión y los derechos a/sobre la imagen; la prohibición a la discriminación; el acceso a la justicia y el derecho a un proceso justo?  Cómo ello impacta en la forma de organización y de producción social?  Cómo abordar los temas de valores y trascendencia humana? Y cuáles son los derechos que surgen de estos avances? Son algunas de las interrogantes que evoca este documento. 

La versión en francés de la Recomendación se encuentra al final de la versión en castellano.

Carlos FERREYROS SOTO
cferreyros@hotmail.com


Recomendación 2102 (2017) 
Versión provisional Autor (es): Asamblea Parlamentaria
Origen - Debate de la Asamblea el 28 de abril de 2017 (18ª sesión) (véase Doc 14288, de la Comisión de Cultura, Ciencia, Educación y Medios de Comunicación, ponente: Sr. Jean-Yves Le Déaut, y Doc 14303, opinión de la Comisión de Asuntos Jurídicos y Derechos Humanos,
Ponente: Sr. Boriss Cilevičs). Texto aprobado por la Asamblea el 28 de abril de 2017 (18ª sesión).

1. La convergencia entre nanotecnologías, biotecnologías, tecnologías de la información y ciencias cognitivas, así como la rapidez con que se ponen en el mercado las nuevas aplicaciones, incide no sólo sobre los derechos humanos y la forma en que pueden ejercerse, sino también sobre la noción fundamental de aquello que caracteriza al ser humano.

2. La omnipresencia de las nuevas tecnologías y sus aplicaciones está invalidando la distinción entre el hombre y la máquina, entre las actividades en línea y fuera de línea, entre el mundo físico y el mundo virtual, entre lo natural y lo artificial, y entre realidad y virtualidad. El hombre ha ido aumentado sus habilidades potenciándolos con la ayuda de máquinas, robots y programas informáticos. Hoy en día es posible crear interfaces cerebro-ordenador funcionales. Del hombre "cuidado" al ser humano "reparado" se ha operado un cambio, y ahora se cierne en el horizonte el ser humano "aumentado".

3. La Asamblea Parlamentaria observa con preocupación que el legislador encuentra cada vez más difícil adaptarse a la evolución de la ciencia y de la tecnología y a elaborar las normas que se imponen. Ella está firmemente convencida de que la preservación de la dignidad humana en el siglo XXI supone el desarrollo de nuevas formas de gobernanza y de un debate público, abierto, informado y contradictorio, sobre los nuevos mecanismos legislativos y, sobre todo, el establecimiento de una cooperación internacional para resolver estos nuevos desafíos de la manera más efectiva.

4. La Asamblea recuerda el principio consagrado en el artículo 2 de la Convención para la protección de los Derechos Humanos y de la dignidad de los seres humanos,  en relación a las aplicaciones de la Biología y de la Medicina "Convención sobre los Derechos Humanos y la Biomedicina"), «Convención de Oviedo» https://rm.coe.int/168007cf99) que afirma la primacía del ser humano declarando que:
"el interés y el bienestar del ser humano deben prevalecer sobre el único interés de la sociedad o de la ciencia".

5. A este respecto, la Asamblea acoge con beneplácito la iniciativa del Comité de Bioética del Consejo de Europa que organiza, en octubre de 2017, con motivo del vigésimo aniversario del Convenio del Consejo de Europa sobre Derechos Humanos y Biomedicina, una conferencia internacional para discutir la perspectiva de la aparición de estas nuevas tecnologías y sus consecuencias sobre los derechos humanos, con miras a desarrollar una acción estratégica durante el próximo bienio 2018-19.

6. Además, la Asamblea considera que es necesario poner en práctica una verdadera gobernanza mundial de Internet, que no dependa de grupos de intereses privados o de un puñado de Estados.

7. La Asamblea invita el Comité de Ministros a:
7.1. Finalizar sin demora la modernización de la Convención para la Protección de las personas en relación al Tratamiento Automatizado de Datos de Carácter Personal (STE[1] No. 108 http://www.coe.int/en/web/conventions/full-list/-/conventions/rms/0900001680078b39) con el fin de que las nuevas disposiciones permitan implementar rápidamente una protección más adaptada;
7.2. Definir el marco para el uso de robots de asistencia médica y tecnologías de asistencia en la Estrategia del Consejo de Europa para la Discapacidad 2017-2023 uno de cuyos objetivos es de lograr para las personas con discapacidad: igualdad, dignidad e igualdad de oportunidades.

8. Teniendo en cuenta lo precedente, la Asamblea insta al Comité de Ministros a encargar a los órganos pertinentes del Consejo de Europa a examinar la manera como los objetos inteligentes y/o los dispositivos conectados desafían las diferentes dimensiones de los derechos humanos, y de manera general, la convergencia tecnológica y sus consecuencias sociales y éticas relacionadas con el campo de la genética, de la genómica, de la neurociencias y de los Grandes Datos (Big Data).

9. Además, la Asamblea propone que se desarrollen líneas directrices sobre las cuestiones siguientes:
9.1. Reforzar la transparencia, la normatividad de las autoridades públicas y la responsabilidad de los operadores concerniente:
9.1.1. El hecho que la responsabilidad de un acto y la obligación de dar cuenta de él, recaen en el ser humano, independientemente de las circunstancias en las cuales el acto ha sido cometido.
La mención de un sistema de decisión independiente, por sistemas de inteligencia artificial no puede eximir a los creadores, propietarios ni administradores de estos sistemas, de sus obligaciones de dar cuenta por las violaciones de derechos humanos cometidos durante el uso de estos sistemas, incluso cuando el acto que causó el daño no fue ordenada directamente por un operador humano;
9.1.2. Las operaciones de tratamiento automatizado destinados al acopio, colecta, tratamiento y uso de los datos personales;
9.1.3. La información al público sobre el valor de los datos que ellos producen, el consentimiento sobre su  uso y la fijación de la duración sobre su conservación;
9.1.4. La información a toda persona sobre el tratamiento de datos personales de la cual ella es fuente y sobre los modelos matemáticos y estadísticos que permiten su perfilamiento;
9.1.5. La concepción y el uso de programas informáticos persuasivos y de tecnologías de información y de la comunicación (TIC) o algoritmos de inteligencia artificial, que respeten plenamente la dignidad y los derechos fundamentales de todos los usuarios, particularmente los más vulnerables, como los ancianos y  discapacitados;
9.2. Un marco común de normas a respetar cuando una jurisdicción se sirva de aplicativos de inteligencia artificial;
9.3. La necesidad que toda máquina, robot o cualquier artefacto de inteligencia artificial permanezca bajo el control del hombre; en la medida en que toda máquina no es inteligente sino gracias al programa informático, todo poder que le ha sido dado, debe ser capaz de serle retirado;
9.4. El reconocimiento de nuevos derechos concernientes al respeto de la vida privada y familiar, el poder de rehusar  de ser sometido a perfilamiento, de ser geolocalizado, de ser manipulado o influenciado por un "coach" y de tener la posibilidad, en el marco de atención y de asistencia brindada a las personas mayores y personas con discapacidad, de elegir el contacto humano en lugar de un robot.

10. La Asamblea reitera el llamado que ella lanzó en la Resolución 2051 (2015) "Drones y asesinatos selectivos: la necesidad de velar por el respeto de los derechos humanos y del derecho internacional", al conjunto de todos los Estados miembros y Estados observadores, así como a los Estados cuyos Parlamentos tienen el estatus de observadores ante la Asamblea, para que ellos se abstengan de recurrir a todo procedimiento automatizado (robótico) que apunte a seleccionar individuos para asesinatos selectivos o causarles cualquier tipo de lesión basados ​​en patrones de comunicación u otros datos recogidos a través de técnicas de vigilancia masiva. Esto debe ser válido no sólo para los drones, sino también para otros equipos de combate con sistemas de inteligencia artificial, así como para otras formas de material y/o programas informáticos susceptibles de causar daños a las personas, bienes y a las bases de datos que contengan datos personales o informaciones, o de constituir una injerencia en la privacidad, el derecho a la libertad de expresión, o al derecho a la igualdad y a la no discriminación.

11. La Asamblea preconiza una estrecha cooperación con las instituciones de la Unión Europea y de la  Organización de las Naciones Unidas para la Educación, la Ciencia y la Cultura (UNESCO) para garantizar un marco jurídico coherente y mecanismos eficaces de supervisión a nivel internacional.





 VERSIÓN EN FRANCES
Recommandation 2102 (2017)
La convergence technologique, l’intelligence artificielle et les droits de l’homme
Auteur(s) : Assemblée parlementaire
Origine - Discussion par l’Assemblée le 28 avril 2017 (18e séance) (voir Doc. 14288, rapport de la commission de la culture, de la science, de l'éducation et des médias, rapporteur: M. Jean-Yves Le Déaut; et Doc. 14303, avis de la commission des questions juridiques et des droits de l'homme, rapporteur: M. Boriss Cilevičs). Texte adopté par l’Assemblée le 28 avril 2017 (18e séance).
1. La convergence entre les nanotechnologies, les biotechnologies, les technologies de l’information et les sciences cognitives, et la vitesse à laquelle les applications des nouvelles technologies sont mises sur le marché ont des incidences non seulement sur les droits de l’homme et la façon dont ils peuvent être exercés, mais aussi sur la notion fondamentale de ce qui caractérise l’être humain.
2. L’omniprésence des nouvelles technologies et de leurs applications estompe la distinction entre l’homme et la machine, entre les activités en ligne et hors ligne, entre le monde physique et le monde virtuel, entre le naturel et l’artificiel, entre la réalité et la virtualité. L’homme augmente ses capacités en les dopant grâce aux apports de machines, de robots, de logiciels. On sait aujourd’hui créer des interfaces cerveau/ordinateur fonctionnelles. De l’homme «soigné» à l’homme «réparé», un changement s’est opéré et, aujourd’hui, se profile à l’horizon l’homme «augmenté».
3. L’Assemblée parlementaire note avec préoccupation que le législateur a de plus en plus de mal à s’adapter à l’évolution de la science et des technologies, et à élaborer les textes réglementaires et les normes qui s’imposent; elle est fermement convaincue que la préservation de la dignité humaine au XXIe siècle suppose le développement de nouvelles formes de gouvernance et de débat public ouvert, éclairé et contradictoire, de nouveaux mécanismes législatifs et surtout l’instauration d’une coopération internationale permettant de relever ces nouveaux défis de la manière la plus efficace.
4. L’Assemblée rappelle le principe consacré à l’article 2 de la Convention pour la protection des droits de l'homme et de la dignité de l'être humain à l'égard des applications de la biologie et de la médecine: Convention sur les droits de l'homme et la biomédecine (STE no 164, «Convention d’Oviedo»), qui affirme la primauté de l’être humain, en déclarant que «l'intérêt et le bien de l'être humain doivent prévaloir sur le seul intérêt de la société ou de la science».
5. À ce sujet, l’Assemblée se félicite de l’initiative du Comité de bioéthique du Conseil de l’Europe qui organise en octobre 2017, à l’occasion du 20e anniversaire de la Convention du Conseil de l'Europe sur les droits de l’homme et la biomédecine, une conférence internationale pour examiner l’émergence de ces nouvelles technologies et leurs conséquences sur les droits de l’homme, en vue d’élaborer un plan d’action stratégique au cours du prochain biennium 2018‑2019.
6. Par ailleurs, l’Assemblée considère qu’il est nécessaire de mettre en œuvre une véritable gouvernance mondiale de l’internet qui ne dépende pas de groupes d’intérêts privés ni de quelques États.
7. L’Assemblée invite le Comité des Ministres:
7.1. à achever sans plus tarder la modernisation de la Convention pour la protection des personnes à l’égard du traitement automatisé des données à caractère personnel (STE no 108) afin d’avoir de nouvelles dispositions permettant la mise en place rapide d’une protection mieux adaptée;
7.2. à définir le cadre de l’utilisation de robots de soins et de technologies d’assistance dans la Stratégie du Conseil de l'Europe sur le handicap 2017‑2023 dont l’un des objectifs est d’assurer aux personnes handicapées l’égalité, la dignité et l’égalité des chances.
8. Compte tenu de ce qui précède, l’Assemblée invite instamment le Comité des Ministres à charger les organes compétents du Conseil de l'Europe d’examiner la manière dont les produits intelligents et/ou les objets connectés, et plus généralement la convergence technologique, et ses conséquences sociales et éthiques dans les domaines de la génétique et de la génomique, des neurosciences et des mégadonnées (big data) remettent en question les différentes dimensions des droits de l’homme.
9. Par ailleurs, l’Assemblée propose que des lignes directrices soient développées sur les questions suivantes:
9.1. le renforcement de la transparence, de la réglementation des pouvoirs publics et de la responsabilité des opérateurs concernant:
9.1.1. le fait que la responsabilité d’un acte et l’obligation de rendre des comptes à son sujet incombent à un être humain, indépendamment des circonstances dans lesquelles cet acte a été commis. La mention d’une prise de décision indépendante par des systèmes d’intelligence artificielle ne saurait exonérer les créateurs, les propriétaires et les gestionnaires de ces systèmes de leur obligation de rendre des comptes pour les violations des droits de l’homme commises lors de l’utilisation de ces systèmes, même lorsque l’acte qui a causé le préjudice n’a pas été directement ordonné par un opérateur humain responsable;
9.1.2. les opérations de traitements automatisés visant à collecter, à traiter et à utiliser les données à caractère personnel;
9.1.3. l’information du public sur la valeur des données qu’ils produisent, le consentement sur leur utilisation et la fixation de la durée de conservation de ces données;
9.1.4. l’information de toute personne sur le traitement de données personnelles dont elle est la source ainsi que sur les modèles mathématiques et statistiques qui permettent le profilage;
9.1.5. la conception et l’utilisation de logiciels persuasifs et de technologies de l’information et de la communication (TIC) ou d’algorithmes d’intelligence artificielle respectant pleinement la dignité et les droits fondamentaux de tous les utilisateurs, en particulier les plus vulnérables, dont les personnes âgées et les personnes handicapées;
9.2. un cadre commun de normes à respecter lorsqu’une juridiction a recours à l’intelligence artificielle;
9.3. la nécessité pour toute machine, tout robot ou tout produit doté d’intelligence artificielle de rester sous le contrôle de l’homme; dans la mesure où toute machine n’est intelligente que grâce à son logiciel, tout pouvoir qui lui a été donné doit pouvoir lui être retiré;
9.4. la reconnaissance de nouveaux droits concernant le respect de la vie privée et familiale, le pouvoir de refuser de faire l’objet de profilage, d’être géolocalisé, d’être manipulé ou influencé par un «coach» et d’avoir la possibilité, dans le cadre des soins et de l’assistance octroyés aux personnes âgées et aux personnes handicapées, de choisir le contact humain plutôt que le robot.
10. L’Assemblée réitère l’appel qu’elle avait lancé dans la Résolution 2051 (2015) «Drones et exécutions ciblées: la nécessité de veiller au respect des droits de l’homme et du droit international» à l’ensemble des États membres et des États observateurs, ainsi qu’aux États dont les parlements jouissent du statut d’observateur auprès de l’Assemblée, pour qu’ils s’abstiennent de recourir à toute procédure automatique (robotique) visant à choisir des personnes pour procéder à leur exécution ciblée ou leur causer quelque dommage que ce soit sur la base de leurs modes de communication ou d’autres données collectées par des techniques de surveillance de masse. Cela vaut non seulement pour les drones, mais également pour les autres types de matériel de combat doté de systèmes d’intelligence artificielle, ainsi que pour les autres formes de matériel et/ou de logiciels susceptibles de causer un préjudice aux personnes, aux biens et aux bases de données qui comportent des données à caractère personnel ou des informations, ou de constituer une ingérence dans le droit au respect de la vie privée, le droit à la liberté d’expression ou le droit à l’égalité et à l’absence de discrimination.
11. L’Assemblée préconise une coopération étroite avec les institutions de l’Union européenne et l’Organisation des Nations Unies pour l’éducation, la science et la culture (UNESCO) pour garantir un cadre juridique cohérent et des mécanismes de supervision efficaces au niveau international.




[1] Serie de Tratados Europeos

No hay comentarios:

Publicar un comentario