La reciente recomendación expresada en la 18a sesión de
la Asamblea Parlamentaria de abril 2017 - apenas cinco meses -, se basa en el informe de la Comisión
de Cultura, Ciencia, Educación y Medios de Comunicación del Consejo de Europa, traducida del francés por el suscrito.
Ella tiene en cuenta el notable desarrollo en materia de tecnologías avanzadas
(Nanotecnologías, Biotecnologías, tecnologías de la Información y ciencias Cognitivas, NBIC), sus aplicaciones, las incidencias que ellas tienen en los
derechos humanos, las dificultades de los legisladores, científicos y juristas
para establecer los límites y desafíos de esta convergencia tecnológica y las consecuencias sociales y éticas, relacionadas con la genética, la genómica, la
medicina, la robótica, las neurociencias, los datos personales y los Grandes Datos
(Big Data). Asistimos a lo que algunos adelantados llaman el transhumanismo?
El transhumanismo (abreviado como H+ o h+) es un movimiento cultural e intelectual internacional que tiene como objetivo final transformar la condición humana mediante el desarrollo y fabricación de tecnología ampliamente disponibles, que mejoren las capacidades humanas, tanto a nivel físico como psicológico o intelectual. Los pensadores transhumanistas estudian los posibles beneficios y peligros de las nuevas tecnologías que podrían superar las limitaciones humanas fundamentales, como también la tecnoética adecuada a la hora de desarrollar y usar esas tecnologías. Estos especulan sosteniendo que los seres humanos pueden llegar a ser capaces de transformarse en seres con extensas capacidades, merecedores de la etiqueta "posthumano". https://es.wikipedia.org/wiki/Transhumanismo
El transhumanismo (abreviado como H+ o h+) es un movimiento cultural e intelectual internacional que tiene como objetivo final transformar la condición humana mediante el desarrollo y fabricación de tecnología ampliamente disponibles, que mejoren las capacidades humanas, tanto a nivel físico como psicológico o intelectual. Los pensadores transhumanistas estudian los posibles beneficios y peligros de las nuevas tecnologías que podrían superar las limitaciones humanas fundamentales, como también la tecnoética adecuada a la hora de desarrollar y usar esas tecnologías. Estos especulan sosteniendo que los seres humanos pueden llegar a ser capaces de transformarse en seres con extensas capacidades, merecedores de la etiqueta "posthumano". https://es.wikipedia.org/wiki/Transhumanismo
Asistimos por medio de las tecnologías a la mejora, ampliación de las capacidades físicas y cognitivas del humano? Cuáles son los límites jurídicos, éticos y culturales, en particular, sobre: la protección de los datos personales; el respeto de la privacidad e intimidad; la dignidad humana; los derechos intelectuales; la seguridad, la responsabilidad y la fiabilidad; la libertad de expresión y los derechos a/sobre la imagen; la prohibición a la discriminación; el acceso a la justicia y el derecho a un proceso justo? Cómo ello impacta en la forma de organización y de producción social? Cómo abordar los temas de valores y trascendencia humana? Y cuáles son los derechos que surgen de estos avances? Son algunas de las interrogantes que evoca este documento.
La versión en francés de la Recomendación se encuentra al final de la versión en castellano.
La versión en francés de la Recomendación se encuentra al final de la versión en castellano.
Carlos FERREYROS SOTO
cferreyros@hotmail.com
Recomendación 2102 (2017)
Versión
provisional Autor (es): Asamblea Parlamentaria
Origen -
Debate de la Asamblea el 28 de abril de 2017 (18ª sesión) (véase Doc 14288, de
la Comisión de Cultura, Ciencia, Educación y Medios de Comunicación, ponente:
Sr. Jean-Yves Le Déaut, y Doc 14303, opinión de la Comisión de Asuntos
Jurídicos y Derechos Humanos,
Ponente: Sr.
Boriss Cilevičs). Texto
aprobado por la Asamblea el 28 de abril de 2017 (18ª sesión).
1. La convergencia entre nanotecnologías, biotecnologías, tecnologías de
la información y ciencias cognitivas, así como la rapidez con que se ponen en
el mercado las nuevas aplicaciones, incide no sólo sobre los derechos humanos y
la forma en que pueden ejercerse, sino también sobre la noción fundamental de
aquello que caracteriza al ser humano.
2. La omnipresencia de las nuevas tecnologías y sus aplicaciones está invalidando
la distinción entre el hombre y la máquina, entre las actividades en línea y
fuera de línea, entre el mundo físico y el mundo virtual, entre lo natural y lo
artificial, y entre realidad y virtualidad. El hombre ha ido aumentado sus
habilidades potenciándolos con la ayuda de máquinas, robots y programas
informáticos. Hoy en día es posible crear interfaces cerebro-ordenador
funcionales. Del hombre "cuidado" al ser humano
"reparado" se ha operado un cambio, y ahora se cierne en el horizonte
el ser humano "aumentado".
3. La Asamblea Parlamentaria observa con preocupación que el legislador
encuentra cada vez más difícil adaptarse a la evolución de la ciencia y de la
tecnología y a elaborar las normas que se imponen. Ella está firmemente
convencida de que la preservación de la dignidad humana en el siglo XXI supone
el desarrollo de nuevas formas de gobernanza y de un debate público, abierto,
informado y contradictorio, sobre los nuevos mecanismos legislativos y, sobre
todo, el establecimiento de una cooperación internacional para resolver estos
nuevos desafíos de la manera más efectiva.
4. La Asamblea recuerda el principio consagrado en el artículo 2 de la
Convención para la protección de los Derechos Humanos y de la dignidad de los
seres humanos, en relación a las
aplicaciones de la Biología y de la Medicina "Convención sobre los
Derechos Humanos y la Biomedicina"), «Convención
de Oviedo» https://rm.coe.int/168007cf99) que afirma la primacía del ser humano declarando que:
"el
interés y el bienestar del ser humano deben prevalecer sobre el único interés
de la sociedad o de la ciencia".
5. A este respecto, la Asamblea acoge con beneplácito la iniciativa del
Comité de Bioética del Consejo de Europa que organiza, en octubre de 2017, con
motivo del vigésimo aniversario del Convenio del Consejo de Europa sobre Derechos
Humanos y Biomedicina, una conferencia internacional para discutir la
perspectiva de la aparición de estas nuevas tecnologías y sus consecuencias
sobre los derechos humanos, con miras a desarrollar una acción estratégica
durante el próximo bienio 2018-19.
6. Además, la Asamblea considera que es necesario poner en práctica una
verdadera gobernanza mundial de Internet, que no dependa de grupos de intereses
privados o de un puñado de Estados.
7. La Asamblea invita el Comité de Ministros a:
7.1. Finalizar sin demora la modernización de la
Convención para la Protección de las personas en relación al Tratamiento Automatizado
de Datos de Carácter Personal (STE[1]
No. 108 http://www.coe.int/en/web/conventions/full-list/-/conventions/rms/0900001680078b39) con el fin de que las nuevas disposiciones
permitan implementar rápidamente una protección más adaptada;
7.2. Definir el marco para el uso de robots de
asistencia médica y tecnologías de asistencia en la Estrategia del Consejo de Europa
para la Discapacidad 2017-2023 uno de cuyos objetivos es de lograr para las
personas con discapacidad: igualdad, dignidad e igualdad de oportunidades.
8. Teniendo en cuenta lo precedente, la Asamblea insta al Comité de
Ministros a encargar a los órganos pertinentes del Consejo de Europa a examinar
la manera como los objetos inteligentes y/o los dispositivos conectados desafían las diferentes dimensiones de los
derechos humanos, y de manera general, la convergencia tecnológica y sus
consecuencias sociales y éticas relacionadas con el campo de la genética, de la
genómica, de la neurociencias y de los Grandes Datos (Big
Data).
9. Además, la Asamblea propone que se desarrollen líneas directrices
sobre las cuestiones siguientes:
9.1. Reforzar la transparencia, la normatividad de las autoridades
públicas y la responsabilidad de los operadores concerniente:
9.1.1. El hecho que la responsabilidad de un acto y
la obligación de dar cuenta de él, recaen en el ser humano, independientemente
de las circunstancias en las cuales el acto ha sido cometido.
La mención de un sistema de decisión independiente,
por sistemas de inteligencia artificial no puede eximir a los creadores,
propietarios ni administradores de estos sistemas, de sus obligaciones de dar
cuenta por las violaciones de derechos humanos cometidos durante el uso de
estos sistemas, incluso cuando el acto que causó el daño no fue ordenada
directamente por un operador humano;
9.1.2. Las operaciones de tratamiento automatizado
destinados al acopio, colecta, tratamiento y uso de los datos personales;
9.1.3. La información al público sobre el valor de
los datos que ellos producen, el consentimiento sobre su uso y la fijación de la duración sobre su conservación;
9.1.4. La información a toda persona sobre el
tratamiento de datos personales de la cual ella es fuente y sobre los modelos
matemáticos y estadísticos que permiten su perfilamiento;
9.1.5. La concepción y el uso de programas
informáticos persuasivos y de tecnologías de información y de la comunicación
(TIC) o algoritmos de inteligencia artificial, que respeten plenamente la
dignidad y los derechos fundamentales de todos los usuarios, particularmente
los más vulnerables, como los ancianos y discapacitados;
9.2. Un marco común de normas a respetar cuando una jurisdicción se
sirva de aplicativos de inteligencia artificial;
9.3. La necesidad que toda máquina, robot o cualquier artefacto de
inteligencia artificial permanezca bajo el control del hombre; en la
medida en que toda máquina no es inteligente sino gracias al programa
informático, todo poder que le ha sido dado, debe ser capaz de serle retirado;
9.4. El reconocimiento de nuevos derechos concernientes al respeto de la
vida privada y familiar, el poder de rehusar
de ser sometido a perfilamiento, de ser geolocalizado, de ser manipulado
o influenciado por un "coach" y de tener la posibilidad, en el marco
de atención y de asistencia brindada a las personas mayores y personas con
discapacidad, de elegir el contacto humano en lugar de un robot.
10. La Asamblea reitera el llamado que ella lanzó en la Resolución 2051 (2015) "Drones y asesinatos selectivos: la
necesidad de velar por el respeto de los derechos humanos y del derecho
internacional", al
conjunto de todos los Estados miembros y Estados observadores, así como a los
Estados cuyos Parlamentos tienen el estatus de observadores ante la Asamblea,
para que ellos se abstengan de recurrir a todo procedimiento automatizado
(robótico) que apunte a seleccionar individuos para asesinatos selectivos o
causarles cualquier tipo de lesión basados en patrones de comunicación u
otros datos recogidos a través de técnicas de vigilancia masiva. Esto debe
ser válido no sólo para los drones, sino también para otros equipos de combate
con sistemas de inteligencia artificial, así como para otras formas de material
y/o programas informáticos susceptibles de causar daños a las personas, bienes
y a las bases de datos que contengan datos personales o informaciones, o de
constituir una injerencia en la privacidad, el derecho a la libertad de
expresión, o al derecho a la igualdad y a la no discriminación.
11. La Asamblea preconiza una estrecha cooperación con las instituciones
de la Unión Europea y de la Organización
de las Naciones Unidas para la Educación, la Ciencia y la Cultura (UNESCO) para
garantizar un marco jurídico coherente y mecanismos eficaces de supervisión a
nivel internacional.
Recommandation 2102 (2017)
La
convergence technologique, l’intelligence artificielle et les droits de l’homme
Auteur(s)
: Assemblée parlementaire
Origine
- Discussion par l’Assemblée le 28 avril 2017
(18e séance) (voir Doc. 14288, rapport de la commission de
la culture, de la science, de l'éducation et des médias, rapporteur: M.
Jean-Yves Le Déaut; et Doc. 14303, avis de la commission des
questions juridiques et des droits de l'homme, rapporteur: M. Boriss
Cilevičs). Texte adopté par l’Assemblée le 28 avril 2017
(18e séance).
1. La convergence entre les nanotechnologies, les
biotechnologies, les technologies de l’information et les sciences cognitives,
et la vitesse à laquelle les applications des nouvelles technologies sont mises
sur le marché ont des incidences non seulement sur les droits de l’homme et la
façon dont ils peuvent être exercés, mais aussi sur la notion fondamentale de
ce qui caractérise l’être humain.
2. L’omniprésence des nouvelles technologies et de
leurs applications estompe la distinction entre l’homme et la machine, entre
les activités en ligne et hors ligne, entre le monde physique et le monde
virtuel, entre le naturel et l’artificiel, entre la réalité et la virtualité.
L’homme augmente ses capacités en les dopant grâce aux apports de machines, de
robots, de logiciels. On sait aujourd’hui créer des interfaces
cerveau/ordinateur fonctionnelles. De l’homme «soigné» à l’homme «réparé», un
changement s’est opéré et, aujourd’hui, se profile à l’horizon l’homme
«augmenté».
3. L’Assemblée parlementaire note avec préoccupation
que le législateur a de plus en plus de mal à s’adapter à l’évolution de la
science et des technologies, et à élaborer les textes réglementaires et les
normes qui s’imposent; elle est fermement convaincue que la préservation de la
dignité humaine au XXIe siècle suppose le développement de nouvelles
formes de gouvernance et de débat public ouvert, éclairé et contradictoire, de
nouveaux mécanismes législatifs et surtout l’instauration d’une coopération internationale
permettant de relever ces nouveaux défis de la manière la plus efficace.
4. L’Assemblée rappelle le principe consacré à
l’article 2 de la Convention pour la protection des droits de l'homme et de la
dignité de l'être humain à l'égard des applications de la biologie et de la
médecine: Convention sur les droits de l'homme et la biomédecine (STE
no 164, «Convention d’Oviedo»), qui affirme la primauté de l’être humain,
en déclarant que «l'intérêt et le bien de l'être humain doivent prévaloir sur le
seul intérêt de la société ou de la science».
5. À ce sujet, l’Assemblée se félicite de
l’initiative du Comité de bioéthique du Conseil de l’Europe qui organise en
octobre 2017, à l’occasion du 20e anniversaire de la Convention du
Conseil de l'Europe sur les droits de l’homme et la biomédecine, une conférence
internationale pour examiner l’émergence de ces nouvelles technologies et leurs
conséquences sur les droits de l’homme, en vue d’élaborer un plan d’action
stratégique au cours du prochain biennium 2018‑2019.
6. Par ailleurs, l’Assemblée considère qu’il est
nécessaire de mettre en œuvre une véritable gouvernance mondiale de l’internet
qui ne dépende pas de groupes d’intérêts privés ni de quelques États.
7. L’Assemblée
invite le Comité des Ministres:
7.1. à achever sans plus tarder la modernisation de la
Convention pour la protection des personnes à l’égard du traitement automatisé
des données à caractère personnel (STE no 108) afin d’avoir de nouvelles
dispositions permettant la mise en place rapide d’une protection mieux adaptée;
7.2. à définir le cadre de l’utilisation de robots de
soins et de technologies d’assistance dans la Stratégie du Conseil de l'Europe
sur le handicap 2017‑2023 dont l’un des objectifs est d’assurer aux personnes
handicapées l’égalité, la dignité et l’égalité des chances.
8. Compte tenu de ce qui précède, l’Assemblée invite
instamment le Comité des Ministres à charger les organes compétents du Conseil
de l'Europe d’examiner la manière dont les produits intelligents et/ou les
objets connectés, et plus généralement la convergence technologique, et ses
conséquences sociales et éthiques dans les domaines de la génétique et de la
génomique, des neurosciences et des mégadonnées (big data) remettent en
question les différentes dimensions des droits de l’homme.
9. Par ailleurs,
l’Assemblée propose que des lignes directrices soient développées sur les
questions suivantes:
9.1. le renforcement
de la transparence, de la réglementation des pouvoirs publics et de la
responsabilité des opérateurs concernant:
9.1.1. le fait que la responsabilité d’un acte et
l’obligation de rendre des comptes à son sujet incombent à un être humain, indépendamment
des circonstances dans lesquelles cet acte a été commis. La mention d’une prise
de décision indépendante par des systèmes d’intelligence artificielle ne
saurait exonérer les créateurs, les propriétaires et les gestionnaires de ces
systèmes de leur obligation de rendre des comptes pour les violations des
droits de l’homme commises lors de l’utilisation de ces systèmes, même lorsque
l’acte qui a causé le préjudice n’a pas été directement ordonné par un
opérateur humain responsable;
9.1.2. les opérations de traitements automatisés visant à
collecter, à traiter et à utiliser les données à caractère personnel;
9.1.3. l’information du public sur la valeur des données
qu’ils produisent, le consentement sur leur utilisation et la fixation de la
durée de conservation de ces données;
9.1.4. l’information de toute personne sur le traitement
de données personnelles dont elle est la source ainsi que sur les modèles
mathématiques et statistiques qui permettent le profilage;
9.1.5. la conception et l’utilisation de logiciels
persuasifs et de technologies de l’information et de la communication (TIC) ou
d’algorithmes d’intelligence artificielle respectant pleinement la dignité et
les droits fondamentaux de tous les utilisateurs, en particulier les plus
vulnérables, dont les personnes âgées et les personnes handicapées;
9.2. un cadre commun de normes à respecter lorsqu’une
juridiction a recours à l’intelligence artificielle;
9.3. la nécessité pour toute machine, tout robot ou
tout produit doté d’intelligence artificielle de rester sous le contrôle de
l’homme; dans la mesure où toute machine n’est intelligente que grâce à son
logiciel, tout pouvoir qui lui a été donné doit pouvoir lui être retiré;
9.4. la reconnaissance de nouveaux droits concernant le
respect de la vie privée et familiale, le pouvoir de refuser de faire l’objet
de profilage, d’être géolocalisé, d’être manipulé ou influencé par un «coach»
et d’avoir la possibilité, dans le cadre des soins et de l’assistance octroyés
aux personnes âgées et aux personnes handicapées, de choisir le contact humain
plutôt que le robot.
10. L’Assemblée réitère l’appel qu’elle avait lancé
dans la Résolution 2051 (2015) «Drones et
exécutions ciblées: la nécessité de veiller au respect des droits de l’homme et
du droit international» à l’ensemble des États membres et des États
observateurs, ainsi qu’aux États dont les parlements jouissent du statut
d’observateur auprès de l’Assemblée, pour qu’ils s’abstiennent de recourir à
toute procédure automatique (robotique) visant à choisir des personnes pour
procéder à leur exécution ciblée ou leur causer quelque dommage que ce soit sur
la base de leurs modes de communication ou d’autres données collectées par des
techniques de surveillance de masse. Cela vaut non seulement pour les drones,
mais également pour les autres types de matériel de combat doté de systèmes
d’intelligence artificielle, ainsi que pour les autres formes de matériel et/ou
de logiciels susceptibles de causer un préjudice aux personnes, aux biens et
aux bases de données qui comportent des données à caractère personnel ou des
informations, ou de constituer une ingérence dans le droit au respect de la vie
privée, le droit à la liberté d’expression ou le droit à l’égalité et à
l’absence de discrimination.
11. L’Assemblée préconise une coopération étroite avec
les institutions de l’Union européenne et l’Organisation des Nations Unies pour
l’éducation, la science et la culture (UNESCO) pour garantir un cadre juridique
cohérent et des mécanismes de supervision efficaces au niveau international.
