Por:
Carlos A. FERREYROS SOTO
Doctor en Derecho
Universidad de Montpellier I Francia.
cferreyros@ferreyros-ferreyros.com
RESUMEN
La Declaración
conjunta alerta sobre los riesgos generados de imágenes y vídeos realistas por sistemas
de IA de personas identificables sin su conocimiento ni consentimiento? especialmente
cuando se integran en redes sociales de amplio acceso, proponiendo medidas
mínimas para desarrolladores y usuarios
de estos sistemas y una respuesta regulatoria coordinada a nivel global.
El principal problema
es la proliferación de imágenes íntimas no consentidas, contenidos difamatorios
y otras imágenes dañinas representando a personas reales, Dañando particularmente
a niños y grupos vulnerables (pedofilia, ciberacoso, explotación, etc.).
La Declaración
política conjunta anexa no es vinculante per
se, pero ha sido adoptada por más de sesenta autoridades de protección de
datos y privacidad de múltiples Estados – entre ellos Perú - y entidades geopolíticas
como la Union Europea y coordinada por la Asamblea Global de Privacidad (GPA) y
su Grupo de Trabajo sobre Cooperación Internacional en Materia de Cumplimiento
(IEWG).
Los cosignatarios recuerdan
las principales obligaciones y expectativas de las organizaciones en el
desarrollo de contenido y uso de sistemas generados por IA y su ajuste a los
marcos legales aplicables, en particular, las normas de protección de la
identidad, intimidad, privacidad, derecho a/sobre la imagen, y, extensivamente
al derecho penal.
Sobre esa base,
fija algunos principios rectores:
- Medidas de seguridad sólidas.
- Transparencia significativa.
- Mecanismos de reparación.
- Protección reforzada de la infancia.
Los cosignatarios, autoridades
de protección de datos y privacidad de todos los continentes, así como
organismos supranacionales como el Comité Europeo de Protección de Datos y el
Supervisor Europeo de Protección de Datos se comprometen en la Declaración a
compartir información sobre sus estrategias para enfrentar estos riesgos
(aplicación de la ley, formulación de políticas, actividades educativas), en la
medida en que lo permita su legislación interna. Se pretende así el fomento
sistemas de IA innovadores pero respetuosos de los derechos de la persona, y un
esfuerzo conjunto ante un riesgo considerado global.
A fin de acceder a normas similares y estándares europeos, las empresas,
organizaciones públicas y privadas interesadas en asesorías, consultorías,
capacitaciones, estudios, evaluaciones, auditorías sobre el tema, sírvanse
comunicar al correo electrónico:cferreyros@ferreyros-ferreyros.com
__________________________________________________________
Los co-signatarios
a continuación emiten esta Declaración Conjunta en respuesta a serias
preocupaciones sobre los sistemas de inteligencia artificial (IA) que generan
imágenes y vídeos realistas que representan a individuos identificables sin su
conocimiento y consentimiento.
Si bien la IA puede
aportar beneficios significativos para las personas y la sociedad, los avances
recientes, en particular, la generación de imágenes y vídeos mediante IA,
integrada en plataformas de redes sociales de amplio acceso, ha permitido la
creación de imágenes íntimas no consensuadas, representaciones difamatorias y
otros contenidos dañinos que representan a personas reales. Preocupan
especialmente los posibles daños a los niños y otros grupos vulnerables, como
el cíberacoso o la explotación.
Expectativas para las organizaciones
Los cosignatarios
recuerdan a todas las organizaciones que desarrollan y utilizan sistemas de
generación de contenido de IA que dichos sistemas deben desarrollarse y
utilizarse de conformidad con los marcos legales aplicables, incluidas las
normas de protección de datos y privacidad.
También destacamos
que la creación de imágenes íntimas no consensuadas puede constituir un delito
penal en muchas jurisdicciones.
Si bien los
requisitos legales específicos varían según la jurisdicción, los principios
fundamentales deben guiar a todas las organizaciones que desarrollan y utilizan
sistemas de generación de contenido de IA, incluidos:
• Implementar
medidas de seguridad sólidas para prevenir el uso indebido de información
personal y la generación de imágenes íntimas no consensuadas y otros materiales
dañinos, en particular cuando se representan niños.
• Garantizar una
transparencia significativa sobre las capacidades del sistema de IA, las
salvaguardas, los usos aceptables y las consecuencias del mal uso.
• Proporcionar
mecanismos eficaces y accesibles para que las personas soliciten la eliminación
de contenido dañino que involucre información personal y responder rápidamente
a dichas solicitudes.
• Abordar los
riesgos específicos que enfrentan los niños mediante la implementación de
medidas de protección mejoradas y brindando información clara y apropiada para
su edad a niños, padres, tutores y educadores.
Respuesta coordinada
Los daños que
surgen de la generación no consentida de contenido íntimo, difamatorio o de otro
modo dañino que representa a personas reales son significativos y exigen
atención regulatoria urgente.
Para fomentar el
desarrollo de una IA innovadora y que proteja la privacidad, los firmantes de
esta declaración se unen para expresar su preocupación por los posibles daños
derivados del uso indebido de los sistemas de generación de contenido de IA.
Los firmantes se proponen compartir información sobre sus estrategias para
abordar estas preocupaciones, que pueden incluir la aplicación de la ley, la
formulación de políticas y la educación, según corresponda y en la medida en
que dicho intercambio sea coherente con la legislación aplicable. Esto refleja
nuestro compromiso compartido y esfuerzo conjunto para abordar un riesgo
global.
Conclusión
Hacemos un
llamamiento a las organizaciones para que colaboren de forma proactiva con los
reguladores, implementen salvaguardas sólidas desde el principio y garanticen
que el avance tecnológico no se produzca a expensas de la privacidad, la
dignidad, la seguridad y otros derechos fundamentales, en particular de los más
vulnerables de nuestra sociedad global.
Firmantes
Esta Declaración
Conjunta ha sido coordinada por la Asamblea Global de Privacidad (GPA) Grupo de
Trabajo sobre Cooperación Internacional en Materia de Cumplimiento (IEWG) y
está firmado por los siguientes cosignatarios:
Albania
Information
and Data Protection Office of the Republic of Albania
Besnik
Dervishi, Information and Data Protection Commissioner
Andorra
Andorran
Data Protection
Agency Agència Andorrana de Protecció
de Dades
Jèssica
Obiols, Head of the Andorran Data Protection Agency Argentina Agency of Access
to Public Information – DPA
Argentina
Agencia de Acceso a la Información
Pública
Mg.
Beatriz de Anchorena, Commissioner of the Agency to Access to Public
Information
Autonomous City of
Buenos Aires (Argentina)
Ombudsman’s Office of the Autonomous City of Buenos Aires
Defensoría del Pueblo de la Ciudad
Autónoma de Buenos Aires
María Rosa Muiños, Defensora del
Pueblo / Ombudsman
State of Queensland (Australia)
Office
of the Information Commissioner, Queensland
Joanne
Kummrow, Information Commissioner Alexander White, Privacy Commissioner
Basque (Spain)
Basque Data Protection Authority
Autoridad Vasca de Protección de Datos
Unai Aberasturi Gorriño, President
Belgium
Data Protection
Authority Autorité de la protection des données –Gegevensbeschermingsautoriteit
Koen
Gorissen, Chairman of the Board
Alexandra
Jaspar, Member of the Board
Peter
Van den Eynde, Member of the Board
Bermuda
Office
of the Privacy Commissioner of Bermuda
E.
Angie Farquharson, Acting Privacy Commissioner
Brazil
National Data Protection Agency
Agência Nacional de Proteção de Dados
Waldemar Gonçalves Ortunho Junior,
Director-President
Bulgaria
Commission for Personal Data Protection of the
Republic of Bulgaria
Комисия за защита на личните данни
Borislav
Bozhinov, Chairman
Burkina Faso
Commission for Information Technology and
Freedoms Commission de l’Informatique et des Libertés Kouliga
Désiré Yameogo, Director of Legal Affairs and
Litigation
Canada
Office
of the Privacy Commissioner of Canada
Philippe
Dufresne, Commissioner
Province of Alberta (Canada)
Office
of the Information and Privacy Commissioner of Alberta
Diane
McLeod, Information and Privacy Commissioner
Province of British Columbia (Canada)
Office
of the Information and Privacy Commissioner for British Columbia
Michael
Harvey, Information and Privacy Commissioner for British Columbia
Province of Newfoundland and Labrador
(Canada)
Office
of the Information and Privacy Commissioner for Newfoundland and Labrador
Kerry
Hatfield, Commissioner
Province of Quebec (Canada)
Commission on
Access to Information of Quebec Commission d’accès à l’information du Québec
Me
Lise Girard, President and Member
Me
Naomi Ayotte, Vice-President, Supervision Section and Administrative Judge
Me
Steeven Plante, Member, Supervision Section and Administrative Judge
Republic of Cabo Verde
National
Commission of Data Protection Comissão Nacional de Proteção de Dados
Faustino
Varela Monteiro, President
Catalonia (Spain) Catalan Data Protection
Authority Autoritat Catalana de Protecció de Dades Meritxell Borràs i Solé,
Director
Colombia
Superintendence of
Industry and Commerce of Colombia Superintendencia de Industria y Comercio
Juan Carlos Upegui,
Deputy Superintendent for the Protection of Personal Data Croatia
Croatian
Personal
Data Protection Agency Agencija za zaštitu osobnih podataka
Zdravko
Vukić, Director Cyprus Commissioner for Personal Data Protection,
Cyprus
Γραφείο Επιτρόπου Προστασίας Δεδομένων Προσωπικού Χαρακτήρα
Maria
Christofides, Commissioner for Personal Data Protection
Ecuador
Superintendence of Personal Data
Protection of Ecuador Superintendencia de Protección de Datos Personales del
Ecuador
Fabrizio
Roberto Peralta Díaz, Superintendent of Data Protection European Data
Protection Board
European Data Protection Board
Anu Talus, Chair of the European Data
Protection Board
European Data Protection Supervisor
European
Data Protection Supervisor
Wojciech
Wiewiórowski, European Data Protection Supervisor
France
National
Commission for Information Technology and Civil Liberties Commission Nationale
de l’Informatique et des Libertés
Marie-Laure
Denis, President
Germany
Federal
Commissioner for Data Protection and Freedom of Information Bundesbeauftragte
für den Datenschutz und die Informationsfreiheit
Andreas
Hartl, Deputy Commissioner
Ghana
Data
Protection Commission Ghana
Dr
Arnold Kavaarpuo, Executive Director / Commissioner
Quintin
Akrobotu, Director, Regulatory & Compliance
Abigail
Tibuah Yeboah, Head of Administration
Gibraltar Gibraltar Regulatory Authority John
Paul Rodriguez, Chief Executive Officer
Bailiwick of Guernsey
Office
of the Data Protection Authority
Brent
Homan, Data Protection Commissioner
Hong Kong (SAR), China
Office
of the Privacy Commissioner for Personal Data
個人資料私隱專員公署
Ada
Chung Lai-Ling, Privacy Commissioner
Iceland
The
Icelandic Data Protection Authority
Persónuvernd
Helga
Þórisdóttir, Data Protection Commissioner
Helga
Sigríður Þórhallsdóttir, Head of International Affairs & Guidance
Ireland
Data
Protection Commission Coimisiún um Chosaint Sonaí
Dr.
Des Hogan, Commissioner for Data Protection and Chairperson
Dale
Sunderland, Commissioner for Data Protection
Niamh
Sweeney, Commissioner for Data Protection
Isle of Man
Isle
of Man Information Commissioner
Alexandra
Delaney-Bhattacharya, Information Commissioner
Israel
Israeli
Privacy Protection Authority
תויטרפה תנגהל תושרה
Gilad
Semama, Commissioner
Italy
Italian
Data Protection Authority Garante per la Protezione dei dati Personali
Pasquale
Stanzione, President
Ginevra
Cerrina Feroni, Vice-President
Agostino
Ghiglia, Board Member
Bailiwick of Jersey
Jersey
Office of the Information Commissioner
Paul
Vane, Information Commissioner
Kenya
Office
of the Data Protection Commissioner
Oscar
Otieno, Deputy Data Commissioner
Kosovo
Information
and Privacy Agency
Krenare
Sogojeva Dërmaku, Commissioner for Information and Privacy
Malta Office of the Information and Data
Protection Commissioner of Malta Ian Deguara, Information and Data Protection
Commissioner
Mauritius
Mauritius
Data Protection Office
Drudeisha
Madhub, Data Protection Commissioner
State of Mexico and Municipalities (Mexico)
Institute
for Transparency, Access to Public Information and Personal Data Protection of
the State of Mexico and Municipalities
Instituto de Transparencia, Acceso a
la Información Pública y Protección de Datos Personales del Estado de México y
Municipios
Dr. José Martínez Vilchis, President
Commissioner
Rosario Mejía Ayala, Commissioner
Sharon Cristina Morales Martínez,
Commissioner
Luis Gustavo Parra Noriega,
Commissioner
Guadalupe Ramírez Peña, Commissioner
State of Nuevo León (Mexico)
Institute for Transparency, Access to
Public Information and Personal Data Protection of Nuevo León
Instituto de Transparencia, Acceso a
la Información Pública y Protección de Datos Personales del Estado de Nuevo
León
Brenda Lizeth González Lara,
President Commissioner
Félix Fernando Ramírez Bustillos,
Commissioner
María Teresa Treviño Fernández,
Commissioner
Mexico
Personal Data Protection Unit of the
Anti-Corruption and Good Government Secretariat Unidad de Protección de Datos
Personales de la Secretaría Anticorrupción y del Buen Gobierno
Monaco
Personal
Data Protection Authority
Autorité de
Protection des Données Personnelles
Agnès
Lepaulmier, Secretary General
Netherlands
Dutch
Data Protection Authority
Autoriteit
Persoonsgegevens
Monique Verdier,
Deputy Chair
New Zealand
Office
of the Privacy Commissioner, New Zealand
Michael
Webster, Privacy Commissioner
Nigeria
Nigeria
Data Protection Commission
Dr.
Vincent Olatunji, National Commissioner / Chief Executive Officer
Norway
Norwegian Data Protection Authority
Datatilsynet Tobias Judin, Head of International
Panama
The
National Authority for Transparency and Access to Information
Autoridad Nacional de Transparencia y
Acceso a la Información
Licda.
Sheyla Castillo de Arias, Director
Peru
National
Authority for the Protection of Personal Data
Autoridad Nacional de Protección de
Datos Personales
Eduardo
Luna Cervantes, Director
Philippines
National
Privacy Commission, Philippines
Atty.
Johann Carlos S. Barcena, CESO III, Privacy Commissioner
Atty.
Jose Amelito S. Belarmino, MSc, Deputy Privacy Commissioner
Atty.
Juan Paolo F. Fajardo, Deputy Privacy Commissioner
Poland
Personal
Data Protection
Office
Urząd Ochrony Danych Osobowych
Mirosław
Wróblewski, President of the Office
Portugal
Portuguese Data Protection
Supervisory Authority
Comissão Nacional de Proteção de
Dados
Prof. Dra. Paula Meira Lourenço, President
Singapore
Personal
Data Protection Commission of the Republic of Singapore
Denise
Wong, Deputy Commissioner
Slovenia
Information
Commissioner of the Republic of Slovenia
Informacijski
pooblaščenec
dr.
Jelena Virant Burnik, Information Commissioner
Republic of Korea
Personal
Information Protection Commission
개인정보 보호위원회
Kyung
Hee Song, Chairperson
Switzerland
Federal
Data Protection and Information Commissioner
Eidgenössischer
Datenschutz- und Öffentlichkeitsbeauftragter
Adrian
Lobsiger, Federal Data Protection and Information Commissioner
Emirate of Abu Dhabi (United Arab Emirates)
ADGM
Office of Data Protection
Sami
Mohammed, Commissioner of Data Protection
Emirate of Dubai (United Arab Emirates)
Dubai
International Financial Centre Authority
Lori
Baker, Vice President – Data Protection & Regulatory Compliance
United Kingdom
UK
Information Commissioner’s Office
William
Malcolm, Executive Director Regulatory Risk & Innovation
Uruguay
Regulatory
and Control Unit for Personal Data Unidad Reguladora y de Control de Datos
Personales
Executive
Council
[1] Este
texto ha sido traducido del inglés al castellano por el suscrito con la ayuda
de Google Translator. El enlace al texto original en inglés es: https://www.edps.europa.eu/system/files/2026-02/23-02-26_joint-statement-ai-generated-imagery_en.pdf
