martes, 30 de abril de 2024

DIRECTRICES EUROPEAS A LOS PRESTADORES DE PLATAFORMAS EN LÍNEA Y MOTORES DE BÚSQUEDA EN LÍNEA DE MUY GRAN TAMAÑO PARA LA REDUCCIÓN DE LOS RIESGOS SISTÉMICOS EN LOS PROCESOS ELECTORALES.

  Por: Carlos A. FERREYROS SOTO

Doctor en Derecho

Universidad de Montpellier I Francia.

 

cferreyros@hotmail.com

RESUMEN

Las plataformas y los motores de búsqueda en línea se han convertido en lugares importantes para el debate público, la configuración de la opinión pública y el comportamiento de los votantes. El Reglamento (UE) 2022/2065 («Reglamento de Servicios Digitales») impone obligaciones a los prestadores de plataformas en línea de muy gran tamaño y de motores de búsqueda en línea de muy gran tamaño para llevar a cabo evaluaciones de riesgos concretos y aplicar medidas de reducción del riesgo razonables, proporcionadas y eficaces, en particular para «cualquier efecto negativo real o previsible sobre el discurso cívico y los procesos electorales, así como sobre la seguridad pública» 

Las directrices están dirigidas a los prestadores de plataformas en línea de muy gran tamaño y de motores de búsqueda en línea de muy gran tamaño cuyos servicios estén expuestos a efectos negativos reales o previsibles en los procesos electorales derivados del diseño, el funcionamiento y el uso de dichos servicios en el sentido del artículo 34 del Reglamento (UE) 2022/2065. De conformidad con el artículo 35, apartado 1, de dicho Reglamento, los prestadores de plataformas en línea de muy gran tamaño y de motores de búsqueda en línea de muy gran tamaño aplicarán medidas de reducción del riesgo razonables, proporcionadas y eficaces, adaptadas a los riesgos sistémicos específicos detectados.

A fin de adaptar las medidas de reducción a los riesgos detectados para los procesos electorales, los prestadores de plataformas en línea de muy gran tamaño y de motores de búsqueda en línea de muy gran tamaño deben considerar el refuerzo de los procesos internos;  medidas de reducción de los riesgos sistémicos para los procesos electorales deben basarse, en particular, en las normas del sector establecidas a través del Código de Buenas Prácticas en materia de Desinformación y otros códigos pertinentes del sector de la UE; medidas de reducción relacionadas con la IA generativa; medidas de cooperación con las autoridades nacionales, los expertos independientes y las organizaciones de la sociedad civil; medidas aplicables durante y después del periodo electoral. 

En Conclusion, la Comisión se ha comprometido a aplicar enérgicamente el Reglamento (UE) 2022/2065, en particular en el ámbito de las elecciones. Estas directrices ayudan a los prestadores de plataformas en línea de muy gran tamaño y de motores de búsqueda en línea de muy gran tamaño a aplicar el artículo 35 de dicho Reglamento, en particular en lo relativo a la manera de evaluar y mitigar los riesgos sistémicos para los procesos electorales derivados de su servicio o del uso de este.

A fin de acceder a normas similares y estándares europeos, las empresas, organizaciones públicas y privados interesados en asesorías, consultorías, capacitaciones, estudios, evaluaciones, auditorías sobre el tema, sírvanse comunicar al correo electrónico:cferreyros@hotmail.com

____________________________________________________________________

European flag

Diario Oficial
de la Unión Europea

ES

Serie C


C/2024/3014

26.4.2024

COMUNICACIÓN DE LA COMISIÓN

Directrices de la Comisión para los prestadores de plataformas en línea de muy gran tamaño y de motores de búsqueda en línea de muy gran tamaño para la reducción de los riesgos sistémicos en los procesos electorales de conformidad con el artículo 35, apartado 3, del Reglamento (UE) 2022/2065

(Texto pertinente a efectos del EEE)

(C/2024/3014)

1.   INTRODUCCIÓN

1.1. Objeto y base jurídica

 1. Las plataformas y los motores de búsqueda en línea se han convertido en lugares importantes para el debate público, la configuración de la opinión pública y el comportamiento de los votantes. El Reglamento (UE) 2022/2065 («Reglamento de Servicios Digitales») impone obligaciones a los prestadores de plataformas en línea de muy gran tamaño y de motores de búsqueda en línea de muy gran tamaño (1) para llevar a cabo evaluaciones de riesgos concretos y aplicar medidas de reducción del riesgo razonables, proporcionadas y eficaces, en particular para «cualquier efecto negativo real o previsible sobre el discurso cívico y los procesos electorales, así como sobre la seguridad pública» (2).

 

 2. De conformidad con el artículo 35, apartado 3, del Reglamento (UE) 2022/2065, la Comisión puede publicar directrices sobre las medidas de reducción del riesgo que los prestadores de plataformas en línea de muy gran tamaño y de motores de búsqueda en línea de muy gran tamaño deben adoptar en relación con riesgos específicos. Dichas directrices podrán, en particular, presentar buenas prácticas y recomendar posibles medidas, teniendo debidamente en cuenta la posible incidencia de las medidas sobre los derechos fundamentales consagrados en la Carta de los Derechos Fundamentales de la Unión Europea (en lo sucesivo, «Carta») de todas las partes afectadas.

 

 3. Una amplia gama de fenómenos relacionados con las plataformas en línea y los motores de búsqueda conllevan un mayor riesgo para la integridad electoral. Entre estos riesgos figuran —de forma no exhaustiva— la proliferación de la incitación ilegal al odio en internet, las amenazas relacionadas con la manipulación de la información y la injerencia por parte de agentes extranjeros («FIMI», por sus siglas en inglés), así como el fenómeno más amplio de la desinformación, la difusión de contenidos extremistas (violentos) y de contenidos destinados a la radicalización de las personas, y la difusión de contenidos generados mediante nuevas tecnologías, como la inteligencia artificial generativa («IA») (3). Dado que se prevé la celebración de varias elecciones en la UE durante los próximos meses, incluidas las próximas elecciones al Parlamento Europeo de 2024, el presente documento contiene orientaciones destinadas a apoyar a los prestadores de plataformas en línea de muy gran tamaño y de motores de búsqueda en línea de muy gran tamaño para garantizar que, cuando proceda, cumplen su obligación de reducir los riesgos específicos vinculados a los procesos electorales. De manera general, estas orientaciones seguirán siendo pertinentes incluso después de que se hayan celebrado dichas elecciones.

 

 4. Las medidas adoptadas por las plataformas en línea de muy gran tamaño y los motores de búsqueda en línea de muy gran tamaño en consonancia con el Reglamento (UE) 2022/2065, incluidas todas las medidas para mitigar los efectos negativos en los procesos electorales mencionados en las presentes directrices, deben aplicarse teniendo muy en cuenta la protección de los derechos fundamentales consagrados en la Carta, incluido el derecho a la dignidad humana, el respeto de la vida privada y familiar, la protección de los datos personales, la libertad de expresión y de información, incluyendo la libertad y el pluralismo de los medios de comunicación, la libertad de asociación y la libertad de empresa. Los prestadores de plataformas en línea de muy gran tamaño y de motores de búsqueda en línea de muy gran tamaño deben prestar la debida atención al posible impacto de las medidas en los derechos fundamentales de todas las partes afectadas, incluidos los grupos vulnerables, teniendo en cuenta la accesibilidad y el carácter inclusivo de las medidas.

 

 5. Estas directrices ya tienen en cuenta las futuras obligaciones impuestas a los prestadores de plataformas en línea de muy gran tamaño y de motores de búsqueda en línea de muy gran tamaño por el Reglamento (UE) 2024/900 sobre la transparencia y la segmentación de la publicidad política («Reglamento sobre la publicidad política») (4), el futuro Reglamento por el que se establecen normas armonizadas en materia de inteligencia artificial («Ley de IA») (5) —ambos en proceso de adopción por el legislador de la UE—, y los compromisos voluntarios asumidos por los prestadores de plataformas en línea de muy gran tamaño y de motores de búsqueda en línea de muy gran tamaño en virtud del Pacto sobre la IA de cumplir las obligaciones establecidas en la Ley de IA antes de su entrada en vigor (6). Los prestadores de plataformas en línea de muy gran tamaño y de motores de búsqueda en línea de muy gran tamaño estarán obligados a cumplir dichas normas jurídicamente vinculantes cuando entren en vigor, en la medida en que les sean aplicables.

 

 6. Los prestadores de plataformas en línea de muy gran tamaño y de motores de búsqueda en línea de muy gran tamaño cumplirán sus obligaciones en virtud del Reglamento (UE) 2022/2065. Estas directrices deben considerarse en el marco del apoyo a los prestadores de plataformas en línea de muy gran tamaño y de motores de búsqueda en línea de muy gran tamaño para garantizar el cumplimiento de la obligación establecida en el artículo 35 de dicho Reglamento en relación con los riesgos en los procesos electorales. Además de la obligación de aplicar medidas de reducción razonables, proporcionadas y eficaces para los riesgos relacionados con los procesos electorales de conformidad con el artículo 35 del Reglamento (UE) 2022/2065, los prestadores de plataformas en línea de muy gran tamaño y de motores de búsqueda en línea de muy gran tamaño deben cumplir todas las demás obligaciones jurídicas del Reglamento (UE) 2022/2065 que puedan ser pertinentes para las elecciones. Entre estas obligaciones figuran —de forma no exhaustiva— las establecidas por los artículos 14 y 17 sobre las condiciones generales y la declaración de motivos, los artículos 27 y 38 sobre sistemas de recomendación, los artículos 36 y 48 sobre los mecanismos de respuesta a las crisis y los protocolos de crisis, los artículos 15, 24, 37 y 42 sobre transparencia y auditorías independientes, los artículos 26 y 39 sobre la transparencia de la publicidad en línea y el artículo 40 sobre acceso a datos y escrutinio.

 

 7. Los riesgos sistémicos para los procesos electorales también pueden manifestarse mediante la amplificación y, potencialmente, la difusión rápida y amplia de contenidos ilícitos con arreglo a la legislación europea o de los Estados miembros, por ejemplo, amenazas, contenidos extremistas y terroristas violentos, incitación ilegal al odio o acoso en línea contra candidatos o cargos políticos, periodistas, trabajadores electorales u otras personas participantes en el proceso electoral. A este respecto, cabe destacar los artículos 9, 10, 16 y 22 del Reglamento (UE) 2022/2065 sobre contenidos ilícitos, que abarcan las órdenes de actuar contra contenidos ilícitos y de proporcionar información, así como los mecanismos de notificación y acción y la disposición sobre alertadores fiables.

1.2. Contribución a las directrices y las iniciativas políticas conexas

 8. Estas directrices se basan en una serie de diálogos sobre la preparación en materia de integridad electoral mantenidos por la Comisión con varios prestadores de plataformas en línea de muy gran tamaño y de motores de búsqueda en línea de muy gran tamaño tras la entrada en vigor del Reglamento (UE) 2022/2065, concernientes a los primeros diecinueve servicios designados a finales de agosto de 2023 (7), en cooperación con las autoridades nacionales competentes. A efectos de la preparación de la versión final de estas directrices, la Comisión organizó una consulta exploratoria (8), que se publicó el 8 de febrero de 2024 y finalizó el 7 de marzo de 2024, así como consultas específicas en forma de mesas redondas, en particular con organizaciones de la sociedad civil y con prestadores de plataformas en línea de muy gran tamaño y de motores de búsqueda en línea de muy gran tamaño, sobre un proyecto de directrices. Además, al finalizar las directrices, la Comisión cooperó con los coordinadores de servicios digitales a través de reuniones de la Junta Europea de Servicios Digitales.

 

 9. En la medida en que sea pertinente para el cumplimiento por parte de las plataformas en línea de muy gran tamaño y los motores de búsqueda en línea de muy gran tamaño del Reglamento (UE) 2022/2065, las directrices también reflejan varios compromisos y medidas para reducir la difusión de desinformación en línea que figuran en el Código de Buenas Prácticas en materia de Desinformación (9), el primer marco mundial impulsado por el propio sector en el ámbito digital y una fuente de mejores prácticas sectoriales para hacer frente a la desinformación. También tienen en cuenta el trabajo realizado por las instituciones de la UE y los Estados miembros en relación con la manipulación de la información y la injerencia por parte de agentes extranjeros, en particular el marco global proporcionado por el conjunto de instrumentos de la UE contra la manipulación de la información y la injerencia por parte de agentes extranjeros y el reciente informe del Servicio Europeo de Acción Exterior (SEAE) sobre las amenazas de manipulación de información y de injerencia por parte de agentes extranjeros (10), centrado en las respuestas a dichas amenazas en el contexto de las elecciones.

 

 10. Estas directrices complementan las políticas de la Comisión en el ámbito de la democracia y las elecciones libres, justas y resilientes, incluido el Plan de Acción para la Democracia Europea de 2020 (11), el paquete sobre elecciones e integridad presentado por la Comisión en 2021 (12) y, recientemente, el paquete de Defensa de la Democracia de 2023 (13), y la labor de la Red Europea de Cooperación en materia de elecciones (14) para fomentar la cooperación entre las redes electorales nacionales de las autoridades competentes. El paquete de defensa de la democracia incluye, entre otras cosas, abundantes recomendaciones a los Estados miembros y a los partidos políticos nacionales y europeos, las fundaciones políticas y las organizaciones de campaña sobre procesos electorales inclusivos y resilientes en la UE y la mejora del carácter europeo y el desarrollo eficiente de las elecciones al Parlamento Europeo (15). Como se indica en estas recomendaciones, la Comisión informará sobre el desarrollo de las elecciones al Parlamento Europeo. La Comunicación de la Comisión sobre la Defensa de la Democracia también ofrece una evaluación de los riesgos para los procesos electorales y el discurso cívico desde la perspectiva, entre otras cosas, de la aplicación del Plan de Acción para la Democracia Europea, y debe tenerse en cuenta (16).

1.3. Resumen

 11. La estructura de estas directrices es la siguiente:

a) En la sección 1 se exponen la finalidad y la base jurídica, las aportaciones y otras iniciativas políticas conexas, así como la estructura de las presentes directrices;

 

b) La sección 2 fija el ámbito de aplicación de las presentes directrices;

 

c) La sección 3 establece las principales orientaciones sustantivas para las medidas de reducción de los riesgos sistémicos relacionados con los procesos electorales. Las subsecciones específicas tratan del refuerzo de los procesos internos; las medidas de reducción del riesgo para los procesos electorales; las medidas de reducción relacionadas con la IA generativa; la cooperación con las autoridades nacionales y de la UE, los expertos independientes y las organizaciones de la sociedad civil; el proceso de aplicación de medidas de reducción del riesgo durante y después de los procesos electorales; y las orientaciones específicas para las elecciones al Parlamento Europeo;

 

d) En la sección 4 se indican los siguientes pasos y conclusiones.

2. ÁMBITO DE APLICACIÓN DE LAS PRESENTES DIRECTRICES

 12. Las directrices están dirigidas a los prestadores de plataformas en línea de muy gran tamaño y de motores de búsqueda en línea de muy gran tamaño cuyos servicios estén expuestos a efectos negativos reales o previsibles en los procesos electorales derivados del diseño, el funcionamiento y el uso de dichos servicios en el sentido del artículo 34 del Reglamento (UE) 2022/2065. De conformidad con el artículo 35, apartado 1, de dicho Reglamento, los prestadores de plataformas en línea de muy gran tamaño y de motores de búsqueda en línea de muy gran tamaño aplicarán medidas de reducción del riesgo razonables, proporcionadas y eficaces, adaptadas a los riesgos sistémicos específicos detectados.

 

 13. El artículo 35, apartado 1, del Reglamento (UE) 2022/2065 establece una lista no exhaustiva de medidas de reducción del riesgo que los prestadores de plataformas en línea de muy gran tamaño y de motores de búsqueda en línea de muy gran tamaño pueden adoptar para hacer frente a los riesgos sistémicos que detecten en el proceso de evaluación de riesgos generados por su servicio y sus sistemas conexos, incluidos los sistemas algorítmicos, o que se deriven del uso que se hace de sus servicios. Las presentes directrices desarrollan en mayor medida dicha lista, establecen las mejores prácticas y recomiendan medidas de reducción del riesgo específicamente para los riesgos relacionados con los procesos electorales.

 

 14. Las medidas presentadas en las presentes Directrices no constituyen una lista exhaustiva de recomendaciones a los prestadores de plataformas en línea de muy gran tamaño y de motores de búsqueda en línea de muy gran tamaño en todos los casos. Las medidas de reducción adecuadas dependen del servicio específico y de los riesgos sistémicos específicos detectados de conformidad con el artículo 34 del Reglamento (UE) 2022/2065.

 

 15. Los prestadores de plataformas en línea de muy gran tamaño y de motores de búsqueda en línea de muy gran tamaño deben aplicar estas directrices a los procesos electorales en los Estados miembros, incluidas las elecciones nacionales y las elecciones al Parlamento Europeo. Esto debería abarcar medidas durante los periodos preelectoral, electoral y postelectoral (17). También deben aplicarse medidas de reducción a las elecciones o referendos regionales y locales, en caso de que las evaluaciones de riesgos concluyan que existen efectos negativos reales o previsibles para estos procesos electorales.

 

 16. El ámbito de aplicación de estas directrices es la aplicación del artículo 35, apartado 1, del Reglamento (UE) 2022/2065. De conformidad con el artículo 35, apartado 2, la Junta, en cooperación con la Comisión, publicará una vez al año informes exhaustivos que incluirán la identificación y evaluación de los riesgos sistémicos más destacados y recurrentes notificados por los prestadores de plataformas en línea de muy gran tamaño y de motores de búsqueda en línea de muy gran tamaño o detectados a través de otras fuentes de información.

 

 17. En consonancia con el considerando 103 del Reglamento (UE) 2022/2065, estas directrices también pueden servir de fuente de inspiración para los prestadores de plataformas en línea o motores de búsqueda que no hayan sido designados como plataformas en línea de muy gran tamaño o motores de búsqueda en línea de muy gran tamaño y cuyos servicios entrañen riesgos similares. También puede servir de referencia para la investigación y el análisis continuos de la eficacia de las medidas de reducción del riesgo en respuesta a los riesgos relacionados con los procesos electorales. Cuando las medidas de reducción y las mejores prácticas recomendadas en las presentes directrices sean de aplicación a los procesos electorales en general, los prestadores de plataformas en línea de muy gran tamaño y de motores de búsqueda en línea de muy gran tamaño podrán considerar la posibilidad de mantener las medidas y prácticas en vigor cuando proceda para proteger el debate público fuera de los procesos electorales, teniendo en cuenta el impacto que esto pueda tener en los derechos fundamentales.

3. MEDIDAS ESPECÍFICAS DE REDUCCIÓN DEL RIESGO ELECTORAL

3.1. Refuerzo de los procesos internos

 18. A fin de adaptar las medidas de reducción a los riesgos detectados para los procesos electorales, los prestadores de plataformas en línea de muy gran tamaño y de motores de búsqueda en línea de muy gran tamaño deben considerar el refuerzo de los procesos internos de conformidad con el artículo 35, apartado 1, letra f), del Reglamento (UE) 2022/2065. Las medidas de reducción deben guiarse, entre otras cosas, por la información sobre elementos como la presencia y la actividad de los actores políticos en el servicio, los debates pertinentes sobre la plataforma y su uso en el contexto de las elecciones, el número de usuarios en un Estado miembro cuando se convoquen una elecciones concretas en dicho Estado, y las indicaciones de casos anteriores relativas a tácticas, técnicas y procedimientos de manipulación de la información.

 

 19. Los procesos internos deben detectar y ofrecer información, análisis y datos pertinentes para permitir el diseño y la calibración de medidas para reducir cualquier riesgo real o previsible que pueda derivarse de la información sobre elecciones que se busque, se comparta o a la que se acceda a través del servicio prestado por plataformas en línea de muy gran tamaño y de motores de búsqueda en línea de muy gran tamaño. Esto podría incluir, entre otras cosas, información sobre partidos políticos o candidatos, programas de partidos, manifiestos u otros materiales políticos, o información conexa, para organizar actos como manifestaciones o concentraciones, campañas, recaudación de fondos u otras actividades políticas conexas. Los procesos internos de recogida y puesta en común de análisis y datos que sirvan de base para el diseño y la calibración de las medidas de reducción del riesgo que los prestadores de plataformas en línea de muy gran tamaño y de motores de búsqueda en línea de muy gran tamaño apliquen deberán garantizar el cumplimiento de la legislación pertinente en materia de protección de datos (18).

 

 20. Deben reforzarse los procesos internos para garantizar que el diseño y la calibración de las medidas de reducción sean adecuados para el contexto regional, local y lingüístico específico en el que se aplicarán. Por lo tanto, se anima a los prestadores de plataformas en línea de muy gran tamaño y de motores de búsqueda en línea de muy gran tamaño a, entre otras cosas, garantizar que la información recogida y el análisis realizado sobre los riesgos específicos del contexto local y la información específica de los Estados miembros a nivel nacional, regional o local se ponga a disposición de las entidades responsables del diseño y la calibración de las medidas de reducción del riesgo sin ninguna dificultad.

 

 21. También se recomienda que los prestadores dispongan de recursos adecuados de moderación de contenidos con conocimiento de la lengua local y de los contextos y las especificidades nacionales o regionales. La Comisión también recomienda que los prestadores garanticen que disponen de procesos internos adecuados para tener en cuenta análisis independientes del estado de la libertad y el pluralismo de los medios de comunicación —como el instrumento de seguimiento del pluralismo en los medios de comunicación (Media Pluralism Monitor(19)—, que tienen conocimiento de las iniciativas e indicadores de alfabetización mediática, y que cuentan con información sobre la existencia de un espacio que permita a las organizaciones de la sociedad civil participar en la elaboración de políticas y en el discurso cívico. También debe tenerse en cuenta la capacidad de todas las medidas de reducción pertinentes para surtir efecto con eficacia en el contexto lingüístico y electoral local.

 

 22. Con el fin de reforzar los procesos y recursos internos en un contexto electoral particular, los prestadores de plataformas en línea de muy gran tamaño y de motores de búsqueda en línea de muy gran tamaño deben considerar la posibilidad de crear un equipo interno con dedicación exclusiva y claramente identificable antes de cada periodo electoral (véase también la sección 3.5. «Durante un periodo electoral»). La asignación de recursos para dicho equipo debe ser proporcional a los riesgos detectados para las elecciones en cuestión, lo cual implica que el personal debe contar con conocimientos específicos de los Estados miembros, como conocimientos locales, contextuales y lingüísticos. El equipo debe abarcar todos los conocimientos especializados pertinentes, en particular en ámbitos como la moderación de contenidos, la verificación de datos, la perturbación por amenazas, las amenazas híbridas, la ciberseguridad, la desinformación y la manipulación de información e injerencia por parte de agentes extranjeros, los derechos fundamentales y la participación pública; asimismo, debe cooperar con los expertos externos pertinentes, por ejemplo, con los centros del Observatorio Europeo de los Medios de Comunicación Digitales (EDMO) y con las organizaciones independientes de verificación de datos (20).

 

 23. La Comisión recomienda que los prestadores de plataformas en línea de muy gran tamaño y de motores de búsqueda en línea de muy gran tamaño definan en sus condiciones el periodo durante el cual se aplicarán medidas y se dedicarán recursos específicos a la reducción de los riesgos para el proceso electoral. Determinadas medidas de reducción del riesgo, como procesos internos adicionales o equipos con dedicación exclusiva, pueden resultar necesarias tan solo en torno a un periodo electoral específico, en función del riesgo de un prestador determinado y de las características concretas de las elecciones en cuestión.

 

 24. Además, la legislación de algunos Estados miembros solo permite hacer campaña electoral en un periodo de tiempo determinado, mientras que en otros Estados miembros no es así. Esto debe ser tenido en cuenta por los prestadores de plataformas en línea de muy gran tamaño y de motores de búsqueda en línea de muy gran tamaño. En consonancia con la información sobre la evolución prevista de la amenaza durante las elecciones del 2.o Informe del SEAE sobre amenazas en materia de manipulación de información e injerencia por parte de agentes extranjeros (21), la Comisión recomienda que, en función de la evaluación de riesgos para las elecciones de que se trate y teniendo en cuenta los procedimientos electorales aplicables, existan y se apliquen medidas de reducción del riesgo al menos entre uno y seis meses antes del periodo electoral, y que continúen al menos un mes después de las elecciones.

 

 25. Dependiendo del contexto específico, las medidas de reducción se intensificarán normalmente durante el periodo anterior a la fecha de las elecciones, teniendo en cuenta las normas nacionales sobre elecciones, un mayor riesgo de amenazas y la necesidad de proporcionar información precisa sobre los procedimientos de votación.

3.2. Medidas de reducción del riesgo para los procesos electorales

 26. Las medidas de reducción de los riesgos sistémicos para los procesos electorales deben basarse, en particular, en las normas del sector establecidas a través del Código de Buenas Prácticas en materia de Desinformación y otros códigos pertinentes del sector de la UE, como el Código de Conducta para la Lucha contra la Incitación Ilegal al Odio en Internet, y de las mejores prácticas existentes, como las compartidas por el Foro de Internet de la UE, las documentadas en el Content-Agnostic Election Integrity Framework for Online Platforms («Marco para la integridad de las elecciones agnóstico en cuanto al contenido para las plataformas en línea») (22) y el Election Integrity Programme («Programa de integridad electoral») del Integrity Institute (23), así como las recomendaciones de la sociedad civil, como las de la Unión por las Libertades Civiles en Europa y la European Partnership for Democracy (Asociación Europea para la Democracia) (24).

3.2.1. Medidas de reducción específicas

 27. En concreto, las medidas de reducción destinadas a hacer frente a los riesgos sistémicos para los procesos electorales deben incluir medidas en los siguientes ámbitos:

a) Acceso a la información oficial sobre el proceso electoral. Con el fin de incrementar la participación electoral y de evitar la difusión de información errónea, la desinformación y la manipulación de la información y la injerencia por parte de agentes extranjeros sobre el propio proceso electoral, la mejor práctica para los prestadores de plataformas en línea de muy gran tamaño y de motores de búsqueda en línea de muy gran tamaño es facilitar el acceso a la información oficial relativa al proceso electoral, incluida la información sobre cómo y dónde votar, sobre la base de la información oficial de las autoridades electorales de los Estados miembros de que se trate. Esta información podría facilitarse, por ejemplo, a través de paneles de información, anuncios, ventanas emergentes, intervenciones de búsqueda, enlaces a sitios web de las autoridades electorales, pestañas específicas de información electoral o una parte de la plataforma dedicada a esta información. A la hora de diseñar y aplicar dichas medidas de reducción del riesgo, la Comisión recomienda que los prestadores de plataformas en línea de muy gran tamaño y de motores de búsqueda en línea de muy gran tamaño tengan en cuenta principios como la inclusividad y la accesibilidad.

 

b) Iniciativas de alfabetización mediática Las mejores prácticas para los prestadores de plataformas en línea de muy gran tamaño y de motores de búsqueda en línea de muy gran tamaño consisten en colaborar en iniciativas y campañas de alfabetización mediática centradas en las elecciones, ponerlas en práctica, e invertir y participar en ellas con el fin de fomentar el pensamiento crítico y mejorar las capacidades de los usuarios en el reconocimiento de las técnicas de desinformación y manipulación, incluyendo las relacionadas con la IA generativa. Para ello, será necesario:

i. Colaborar con organizaciones locales de alfabetización mediática, así como con asociaciones, grupos y redes pertinentes, prestar apoyo financiero, compartir e integrar en la plataforma iniciativas y campañas relacionadas con las elecciones, en particular mediante el desarrollo de iniciativas conjuntas. Las organizaciones locales de alfabetización mediática representan un valioso recurso en términos de conocimiento de los contextos locales y del público destinatario. La Comisión recomienda el uso de la red del EDMO y de sus centros, así como del grupo de expertos de la Comisión sobre alfabetización mediática para dar con las organizaciones pertinentes en los Estados miembros;

ii. Desarrollar y aplicar medidas de inoculación que refuercen de forma preventiva la resiliencia frente a los discursos y técnicas de manipulación de desinformación posibles y previstos, informando y preparando a los usuarios. Dichas medidas deben tener en cuenta el contexto local específico en el que se apliquen y complementarse con otras medidas que proporcionen información fiable a los usuarios. Las medidas de inoculación pueden adoptar diferentes formas, incluidas, por ejemplo, las intervenciones ludificadas, como la participación en juegos en línea sobre la generación de desinformación que fomente una reflexión crítica sobre las tácticas utilizadas para influir (25), vídeos u otros tipos de contenidos (26), y, cuando sea factible, deben integrarse en la propia aplicación para fomentar la facilidad de acceso;

 

 

iii. Al diseñar campañas de alfabetización mediática, se recomienda que los prestadores de plataformas en línea de muy gran tamaño o de motores de búsqueda en línea de muy gran tamaño tengan en cuenta narrativas específicas, así como tácticas, técnicas y procedimientos que contribuyan a los riesgos sistémicos con probabilidades de producirse antes, durante y después de unas elecciones, en consonancia con el enfoque consistente en adaptar las medidas de reducción al contexto nacional pertinente y al público destinatario.

 

c) Medidas para proporcionar a los usuarios más información contextual sobre el contenido y las cuentas con las interactúan. Se ofrecen seguidamente algunos ejemplos:

i. Etiquetas de verificación de datos sobre los contenidos identificados como desinformación y manipulación de la información e injerencia por parte de agentes extranjeros facilitadas por verificadores de datos independientes y equipos de verificación de datos de organizaciones de medios de comunicación independientes. La cobertura de la verificación de datos debe extenderse a toda la UE y a todas sus lenguas, entre otras cosas reforzando la cooperación con los verificadores de datos locales durante los periodos electorales, integrando y dando visibilidad a contenidos de verificación de datos relacionados con las elecciones, y utilizando mecanismos para ayudar a aumentar el impacto de estos en el público. Las etiquetas de verificación de datos deben ser accesibles y estar redactadas en un lenguaje fácilmente comprensible;

ii. Incitadores y acicates para instar a los usuarios a leer los contenidos y evaluar su exactitud y fuente antes de compartirlos;

iii. Indicaciones de las cuentas oficiales claras, visibles y no engañosas, así como de las cuentas que proporcionen información autorizada sobre el proceso electoral, como las cuentas de las autoridades electorales, incluida la base sobre la que se establece dicha verificación. Los criterios que permiten obtener una etiqueta «oficial» para una cuenta deben ser fáciles de consultar y estar redactados en un lenguaje fácilmente comprensible, a fin de evitar que tales indicaciones den credibilidad a las cuentas suplantadoras de las cuentas oficiales, como las de las autoridades electorales;

iv. Etiquetado de las cuentas claro, visible y no engañoso cuando estas estén controladas por los Estados miembros, terceros países y entidades controladas o financiadas por entidades controladas por terceros países;

v. Herramientas e información para ayudar a los usuarios a evaluar la fiabilidad de las fuentes de información, como las marcas de confianza centradas en la integridad de las fuentes basadas en metodologías transparentes y desarrolladas por terceros independientes;

vi. Otras herramientas para evaluar la procedencia, el historial de edición, la autenticidad o la exactitud de los contenidos digitales. Esto ayuda a los usuarios a comprobar la autenticidad o determinar la procedencia o el origen de los contenidos relacionados con las elecciones;

vii. Establecer medidas internas eficaces para luchar contra el uso indebido de cualquiera de los procedimientos e instrumentos mencionados, en particular el abuso del proceso de verificación de las cuentas y los contenidos etiquetados.

 

d) Los sistemas de recomendación pueden desempeñar un papel importante en la configuración del panorama informativo y la opinión pública, como se reconoce en los considerandos 70, 84, 88 y 94, así como en el artículo 34, apartado 2, del Reglamento (UE) 2022/2065. Para reducir el riesgo que estos sistemas pueden plantear en relación con los procesos electorales, los prestadores de plataformas en línea de muy gran tamaño y de motores de búsqueda en línea de muy gran tamaño deben considerar la posibilidad de:

i. Garantizar que los sistemas de recomendación se diseñen y ajusten de manera que los usuarios puedan elegir y controlar de manera significativa sus fuentes web, teniendo debidamente en cuenta la diversidad y el pluralismo de los medios de comunicación;

ii. Establecer medidas para reducir la prominencia de la desinformación en el contexto de las elecciones sobre la base de métodos claros y transparentes, por ejemplo, en relación con los contenidos engañosos que hayan sido declarados falsos a raíz de una verificación o procedentes de cuentas respecto de las cuales se haya constatado repetidamente que difunden desinformación;

iii. Establecer medidas para limitar la amplificación, a través de sus sistemas de recomendación, de contenidos engañosos, falsos o que puedan inducir a error generados por la IA en un contexto de elecciones;

iv. Evaluar periódicamente el rendimiento y el impacto de los sistemas de recomendación y abordar cualquier riesgo o problema emergente relacionado con los procesos electorales, en particular actualizando y perfeccionando políticas, prácticas y algoritmos;

v. Implantar medidas que garanticen la transparencia en torno al diseño y el funcionamiento de los sistemas de recomendación, en particular en relación con los datos y la información utilizados en el diseño de sistemas que fomenten el pluralismo de los medios de comunicación y la diversidad de contenidos, a fin de facilitar el control y la investigación por terceros;

vi. Colaborar con partes externas para llevar a cabo pruebas contradictorias y ejercicios de equipo rojo sobre estos sistemas para detectar posibles riesgos, como los derivados de los sesgos, la susceptibilidad a la manipulación o la amplificación de información errónea, la desinformación, la manipulación de la información e injerencia por parte de agentes extranjeros u otros contenidos nocivos.

 

e) Publicidad política Se recomienda a los prestadores de plataformas en línea de muy gran tamaño y de motores de búsqueda en línea de muy gran tamaño que se preparen para la entrada en vigor del Reglamento (UE) 2024/900 sobre la transparencia y la segmentación de la publicidad política («Reglamento sobre la publicidad política») y que presten especial atención a la aplicación de la disposición sobre no discriminación (artículo 5, apartado 1), que entrará en vigor veinte días después de la publicación del Reglamento el 20 de marzo de 2024 (27). Todos los prestadores de plataformas en línea tienen la responsabilidad de garantizar el cumplimiento de esta disposición. El presente Reglamento define la publicidad política como la preparación, inserción, promoción, publicación, entrega o difusión de mensajes por, para o en nombre de actores políticos, a menos que sean de naturaleza puramente privada o puramente comercial; o que sean susceptibles de influir en el comportamiento electoral o en el resultado de unas elecciones, un referéndum o un proceso legislativo o reglamentario a escala de la UE, nacional, regional o local y que, además, estén concebidos para hacerlo. Se anima a los prestadores de plataformas en línea de muy gran tamaño y de motores de búsqueda en línea de muy gran tamaño a tener en cuenta las definiciones establecidas en el Reglamento a la hora de aplicar estas directrices. Si un prestador de plataformas en línea de muy gran tamaño o de motores de búsqueda en línea de muy gran tamaño ofrece la posibilidad de insertar anuncios políticos en su servicio, la Comisión recomienda que, al cumplir las obligaciones establecidas en el artículo 26 del Reglamento (UE) 2022/2065 y en consonancia con el futuro Reglamento sobre la transparencia y la segmentación de la publicidad política, estos anuncios estén etiquetados de manera clara, destacada e inequívoca y en tiempo real para permitir a los usuarios comprender que el contenido presentado contiene publicidad política. Además, las etiquetas aplicadas deben mantenerse cuando los usuarios compartan contenidos en la misma plataforma. La Comisión también recomienda que los prestadores de plataformas en línea de muy gran tamaño y de motores de búsqueda en línea de muy gran tamaño adapten sus políticas al Reglamento sobre publicidad política antes de su entrada en vigor, que complementa las obligaciones jurídicas derivadas de los artículos 26 y 39 del Reglamento (UE) 2022/2065, y en particular en los siguientes ámbitos:

i. Facilitar a los usuarios información sobre los anuncios políticos que ven, como la identidad del patrocinador y, en su caso, de la entidad que controla en última instancia al patrocinador; el periodo durante el cual está previsto publicar, entregar o difundir el anuncio político; los importes agregados y el valor agregado de otras prestaciones recibidas por los proveedores de servicios de publicidad política; así como información significativa acerca de los principales parámetros utilizados para determinar el destinatario al que se presenta el anuncio publicitario;

ii. Mantener un repositorio de anuncios políticos accesible al público en el que se puedan realizar búsquedas y actualizarlo, en la medida de lo posible, en tiempo real. Esto incluirá, como mínimo, el número total de destinatarios a los que alcance el servicio y, en su caso, los números agregados desglosados por Estado miembro para el grupo o grupos de destinatarios a los que se dirige específicamente el anuncio, tal como exige el artículo 39 del Reglamento (UE) 2022/2065, y también podría incluir, por ejemplo, los importes agregados y el valor agregado de otras prestaciones recibidas por los prestadores, el número de impresiones y las zonas geográficas en las que se presentó el anuncio;

iii. Cuando no permitan la publicidad política en sus servicios, deberán contar con sistemas de verificación eficientes y adoptar las medidas necesarias para garantizar que la decisión se ejecute adecuadamente;

iv. Garantizar que existan políticas y sistemas adecuados para evitar el uso indebido de los sistemas de publicidad para difundir información engañosa, desinformación y manipulación de información e injerencia por parte de agentes extranjeros en relación con los procesos electorales, incluidos los contenidos de IA generativa engañosa.

 

f) Los influyentes pueden tener un impacto significativo en las decisiones electorales de los destinatarios del servicio, ya que participan cada vez más a la hora de facilitar del debate político en línea. A este respecto, y con el fin de incrementar la transparencia, los prestadores de plataformas en línea de muy gran tamaño y de motores de búsqueda en línea de muy gran tamaño deben:

i. Facilitar una funcionalidad que permita a los influyentes declarar si el contenido que ofrecen es o contiene publicidad política, incluyendo la identidad del patrocinador y, en su caso, de la entidad que controla en última instancia al patrocinador; el periodo durante el cual está previsto publicar, comunicar o difundir el anuncio político; los importes agregados y el valor agregado de otras prestaciones recibidas por los proveedores de servicios de publicidad política; el periodo de visualización, así como información significativa acerca de los principales parámetros utilizados para determinar el destinatario al que se presenta el anuncio publicitario;

ii. Garantizar que otros destinatarios del servicio puedan percibir de manera clara, destacada e inequívoca y en tiempo real, en particular mediante un etiquetado destacado, que el contenido proporcionado es publicidad política o la contiene, tal como se describe en la declaración del influyente.

 

g) Desmonetización de los contenidos de desinformación. La Comisión recomienda que los prestadores de plataformas en línea de muy gran tamaño y de motores de búsqueda en línea de muy gran tamaño cuenten con políticas y sistemas específicos para garantizar que la inserción de publicidad no ofrezca incentivos financieros para la difusión de desinformación y la manipulación de información e injerencia de agentes extranjeros en relación con los procesos electorales y contenidos de odio, extremistas (violentos) o radicalizadores que puedan influir en las personas en sus decisiones electorales.

 

h) Integridad de los servicios Los prestadores de plataformas en línea de muy gran tamaño y de motores de búsqueda en línea de muy gran tamaño deben establecer procedimientos adecuados para garantizar que se detecte y se impida de forma oportuna y efectiva la manipulación del servicio cuando se haya determinado que esta manipulación supone un riesgo sistémico pertinente, teniendo en cuenta la mejor información disponible. Por ejemplo, pueden incluir en sus condiciones normas específicas contra la creación de cuentas no auténticas, botnets (que pueden incluir cuentas automatizadas, parcialmente automatizadas o no automatizadas) o contra el uso engañoso de un servicio.

i. La Comisión recomienda que los prestadores de plataformas en línea de muy gran tamaño y de motores de búsqueda en línea de muy gran tamaño desarrollen y hagan cumplir sus normas, evitando el engaño mediante la suplantación de candidatos, el recurso a medios de comunicación engañosos manipulados, las interacciones falsas, los mensajes de pago no transparentes o la promoción no transparente por parte de influyentes, así como la coordinación de la creación de contenidos o el comportamiento no auténticos;

ii. La Comisión recomienda la cooperación entre los equipos pertinentes de los diferentes prestadores de plataformas en línea de muy gran tamaño y de motores de búsqueda en línea de muy gran tamaño para detectar amenazas comunes y contrarrestar las campañas de desinformación en varias plataformas a la vez, las actividades de manipulación de información e injerencia por parte de agentes extranjeros o las actividades de odio, extremistas (violentas) o radicalizadoras que puedan influir en las decisiones electorales de las personas y la migración de agentes malintencionados (véase la sección 3.4 sobre la cooperación con las autoridades nacionales, los expertos independientes y las organizaciones de la sociedad civil).

 

 28. Habida cuenta del carácter evolutivo de la comprensión de los riesgos sistémicos para los procesos electorales, las medidas de reducción deben vincularse a análisis, pruebas y exámenes rigurosos y críticos tanto de su impacto deseado como del impacto potencialmente no deseado. Por tanto, las medidas de reducción eficaces deben basarse en la mejor información y en los mejores conocimientos científicos disponibles. La Comisión recomienda que los prestadores de plataformas en línea de muy gran tamaño y de motores de búsqueda en línea de muy gran tamaño diseñen, evalúen y optimicen de forma proactiva parámetros de rendimiento válidos desde el punto de vista conceptual para la eficacia de las medidas de reducción, por ejemplo mediante pruebas A/B de las opciones de características y diseño. Estos parámetros de rendimiento deben analizarse como parte del marco de gestión de riesgos de los prestadores y servir para medir el éxito de las medidas de reducción pertinentes durante una elección concreta. Asimismo, deben ser SMART (específicos, mensurables, realizables, pertinentes y acotados en el tiempo) y tener carácter tanto cualitativo como cuantitativo.

3.2.2 Control, investigación y acceso a los datos por parte de terceros

 29. El control y la investigación por parte de terceros de las medidas de reducción son importantes para ayudar a los prestadores de plataformas en línea de muy gran tamaño y motores de búsqueda en línea de muy gran tamaño a garantizar que las medidas que adopten sean eficaces y respeten los derechos fundamentales, así como los principios democráticos. El acceso estable y fiable a los datos para el control por parte de terceros es de suma importancia durante los periodos electorales con el fin de garantizar la transparencia, avanzar en los conocimientos y contribuir a un mayor desarrollo de las medidas de reducción del riesgo en los contextos electorales. Además de sus obligaciones jurídicas en virtud del artículo 40 del Reglamento (UE) 2022/2065 ( ), la Comisión recomienda que los prestadores de plataformas en línea de muy gran tamaño y de motores de búsqueda en línea de muy gran tamaño proporcionen acceso gratuito a los datos para estudiar los riesgos relacionados con los procesos electorales —incluyendo, cuando sea necesario, aquellos datos que no estén disponibles en las interfaces de las plataformas en línea de muy gran tamaño y de los motores de búsqueda en línea de muy gran tamaño— a terceras partes interesadas pertinentes. En general, se recomiendan actividades de cooperación ad hoc para diseñar y, en caso necesario, ajustar rápidamente sus medidas de reducción del riesgo en relación con los procesos electorales. De acuerdo con las mejores prácticas documentadas ( ), podría considerarse la posibilidad de adoptar diferentes medidas para llevar a cabo tales actividades con terceros.

 

 30. Además de las herramientas y de otras políticas de acceso existentes para cumplir lo dispuesto en el artículo 40, apartado 12, del Reglamento (UE) 2022/2065, estas medidas pueden incluir herramientas o características adicionales y a medida, en particular las necesarias para estudiar y controlar los modelos de IA, los paneles de control visuales, la adición de puntos de datos suplementarios a las herramientas existentes o el suministro de conjuntos de datos específicos. El acceso a dichas herramientas o características podría ampliarse, además de a los investigadores que reunen las condiciones necesarias en virtud del artículo 40 del Reglamento (UE) 2022/2065, a una gama más amplia de terceros.

 

 31. En el ámbito de la publicidad política, la Comisión recomienda que los prestadores pertinentes de plataformas en línea de muy gran tamaño y de motores de búsqueda en línea de muy gran tamaño garanticen que las herramientas y las interfaces de programación de aplicaciones (API) que permitan realizar investigaciones en sus repositorios de publicidad política (28) sean adecuadas para su finalidad y permitan una investigación significativa sobre la desinformación, las campañas de manipulación de información e injerencia por parte de agentes extranjeros y los contenidos de odio, extremistas (violentos) o radicalizadores que se difundan para influir en las decisiones electorales de las personas durante las elecciones, incluidas las elecciones al Parlamento Europeo, de conformidad con los requisitos del Derecho de la Unión y, en particular, del relativo a la protección de los datos personales. Esto debe incluir un conjunto mínimo de funcionalidades y criterios de búsqueda que permitan a los usuarios y a los investigadores realizar búsquedas personalizadas de datos de la forma más cercana posible al tiempo real durante el periodo electoral (por ejemplo, búsquedas por anunciante o candidato, elecciones, zona geográfica o país, lengua).

 

 32. Además de los informes a que se refiere el artículo 42, apartado 4, del Reglamento (UE) 2022/2065, la Comisión recomienda que los prestadores de plataformas en línea de muy gran tamaño y de motores de búsqueda en línea de muy gran tamaño sean lo más transparentes posible para el público sobre el diseño, el funcionamiento y la ejecución de las medidas de reducción relacionadas con los procesos electorales, a fin de permitir un control público que, a su vez, pueda influir en el diseño de medidas de reducción eficaces. Durante los periodos electorales, reviste especial importancia que los prestadores de plataformas en línea de muy gran tamaño y de motores de búsqueda en línea de muy gran tamaño muestren que las decisiones de moderación de contenidos no afectan a la igualdad de los candidatos ni favorecen o promueven de manera desproporcionada las voces que representan determinadas opiniones (polarizadas).

3.2.3. Derechos fundamentales

 33. Las medidas de reducción del riesgo, adoptadas de conformidad con el artículo 35 del Reglamento (UE) 2022/2065, deben adoptarse teniendo debidamente en cuenta la protección de los derechos fundamentales consagrados en la Carta de los Derechos Fundamentales de la Unión Europea, en particular el derecho a la libertad de expresión y de información, incluyendo la libertad y el pluralismo de los medios de comunicación. En consonancia con el considerando 47 de dicho Reglamento, los prestadores de plataformas en línea de muy gran tamaño y de motores de búsqueda en línea de muy gran tamaño deben prestar la debida atención a las normas internacionales pertinentes en materia de derechos humanos, como los Principios Rectores de las Naciones Unidas sobre las Empresas y los Derechos Humanos. También pueden tenerse en cuenta informes independientes pertinentes (29) a la hora de diseñar y aplicar las medidas de reducción.

 

 34. Al reducir los riesgos sistémicos para la integridad electoral, la Comisión recomienda que también se tenga debidamente en cuenta el impacto de las medidas para hacer frente a los contenidos ilícitos, como la incitación pública a la violencia y al odio, en la medida en que dichos contenidos ilícitos puedan inhibir o silenciar las voces en el debate democrático, en particular las que representan a grupos vulnerables o minorías. Por ejemplo, las formas de racismo, la desinformación basada en el género y la violencia de género en línea, también en el contexto de la ideología extremista o terrorista violenta o la manipulación de información e injerencia por parte de agentes extranjeros contra la comunidad LGBTIQ + (30), pueden socavar el diálogo y el debate abiertos y democráticos, y seguir aumentando la división social y la polarización. A este respecto, el Código de Conducta para la Lucha contra la Incitación Ilegal al Odio en Internet puede servir de inspiración a la hora de considerar la adopción de medidas adecuadas.

 

 35. Además de la participación de los actores pertinentes durante la evaluación de riesgos, tal como se menciona en el considerando 90 del Reglamento (UE) 2022/2065, la Comisión recomienda que los prestadores de plataformas en línea de muy gran tamaño y de motores de búsqueda en línea de muy gran tamaño pongan a disposición de las organizaciones de la sociedad civil —en particular de aquellas consultadas en este proceso— las evaluaciones de impacto en materia de derechos fundamentales realizadas como parte de las evaluaciones de riesgos, y que lo hagan tan pronto como las terminen, es decir, posiblemente antes de lo exigido en el artículo 42, apartado 4, de dicho Reglamento. Esto podría proporcionar un espacio para un diálogo abierto y constructivo sobre posibles buenas prácticas y mejoras.

3.3. Medidas de reducción relacionadas con la IA generativa

 36. Los recientes avances tecnológicos en IA generativa han permitido la creación y el uso generalizado de sistemas de inteligencia artificial capaces de generar texto, imágenes, vídeos u otros contenidos sintéticos. Si bien estos avances pueden generar muchas nuevas oportunidades, también pueden dar lugar a riesgos sistémicos específicos en contextos electorales. En particular, cabe abusar de la IA generativa para inducir a error a los votantes o manipular los procesos electorales mediante la creación y difusión de contenidos sintéticos no auténticos, sesgados y engañosos (incluidos textos, audio, imágenes fijas y vídeos) en relación con actores políticos, la representación falsa de acontecimientos, encuestas electorales, contextos o narrativas. Los sistemas de IA generativa también pueden producir información incorrecta, incoherente o inventada, lo que se conoce como «alucinaciones», que tergiversan la realidad y pueden inducir a error a los votantes.

 

 37. De conformidad con el artículo 35, apartado 1, del Reglamento (UE) 2022/2065, los prestadores de plataformas en línea de muy gran tamaño y de motores de búsqueda en línea de muy gran tamaño deben evaluar los riesgos sistémicos en el contexto de las elecciones, como los mencionados anteriormente, y establecer medidas de reducción razonables, proporcionadas y eficaces adaptadas a los riesgos relacionados tanto con la creación como con la difusión de contenidos generativos de IA, en función de la naturaleza de su servicio. Las mejores prácticas que pueden servir de base para las medidas de reducción de riesgos pertinentes ya pueden extraerse de la Ley de IA y del Pacto sobre la IA. En este contexto, son especialmente pertinentes las obligaciones previstas en la Ley de IA para los proveedores de modelos de IA de uso general, incluida la IA generativa, los requisitos para el etiquetado de las «ultrafalsificaciones» y los que exigen a los proveedores de sistemas de IA generativa que utilicen soluciones técnicas de vanguardia para garantizar que los contenidos creados mediante IA generativa estén marcados en un formato legible por máquina y sean identificables como tales, lo cual permitirá su detección por parte de los prestadores de plataformas en línea de muy gran tamaño y de motores de búsqueda en línea de muy gran tamaño. La Comisión recomienda que los prestadores de plataformas en línea de muy gran tamaño y de motores de búsqueda en línea de muy gran tamaño adapten sus políticas a la Ley de IA antes de su entrada en vigor, en consonancia con el Pacto sobre la IA.

 

 38. Los prestadores de plataformas en línea de muy gran tamaño y de motores de búsqueda en línea de muy gran tamaño deben aplicar medidas de reducción relacionadas con la IA generativa, en la medida en que sean técnicamente factibles, prestando especial atención a la incidencia de dichas medidas en los derechos fundamentales protegidos por la Carta. La Comisión también recomienda la colaboración intersectorial para seguir desarrollando medidas de reducción eficaces para la IA generativa en el contexto de los códigos de buenas prácticas para los modelos de IA de uso general y la transparencia de los contenidos generados por IA que se desarrollarán en virtud de la Ley de IA.

 

 39. Habida cuenta de los riesgos específicos reales o previsibles para los procesos electorales detectados, la Comisión recomienda que los prestadores de plataformas en línea de muy gran tamaño y de motores de búsqueda en línea de muy gran tamaño cuyos servicios puedan utilizarse para la creación de contenidos de IA generativa engañosos, sesgados, falsos o que induzcan a error cuenten con las siguientes medidas de reducción del riesgo, en la medida en que sea técnicamente factible, y de acuerdo con el estado actual de la técnica:

a) Garantizar que el contenido de IA generativa y otros tipos de medios sintéticos y manipulados sean detectables, en particular utilizando técnicas y métodos suficientemente fiables, interoperables, eficaces y sólidos, como marcas de agua, identificaciones de metadatos, métodos criptográficos para probar la procedencia y autenticidad del contenido, métodos de registro, impresiones dactilares u otras técnicas, según proceda, teniendo en cuenta las normas existentes. Esto es especialmente importante para cualquier contenido generativo de IA que afecte a candidatos, políticos o partidos políticos. Las marcas de agua y los metadatos también podrán aplicarse a contenidos basados en imágenes que, en un principio, fuesen auténticas (como vídeos, imágenes o audio), pero que posteriormente se hayan alterado mediante el uso de IA generativa.

 

b) Hacer esfuerzos para garantizar que la información generada por los sistemas de IA se base, en la medida de lo posible, en fuentes fiables en el contexto electoral, como la información oficial de las autoridades electorales pertinentes, y que las citas o referencias hechas por el sistema a fuentes externas sean exactas y no tergiversen el contenido citado, limitando así los efectos de las «alucinaciones».

 

c) Advertir a los usuarios de posibles errores en los contenidos creados por sistemas de IA generativa y sugerirles que consulten fuentes autorizadas para comprobar la veracidad de dicha información, así como establecer salvaguardias para evitar la creación de contenidos falsos que puedan tener un gran potencial para influir en el comportamiento de los usuarios.

 

d) Llevar a cabo y documentar ejercicios y pruebas de equipo rojo centrados especialmente en los procesos electorales, tanto con equipos internos como con expertos externos, antes de poner a disposición del público los sistemas de IA generativa y seguir un enfoque escalonado en dicha puesta a disposición con el fin de controlar mejor las consecuencias no deseadas.

 

e) Establecer parámetros de rendimiento adecuados, en particular para la seguridad y la exactitud objetiva de las respuestas dadas a las preguntas sobre contenidos electorales, supervisar continuamente el funcionamiento de los sistemas de IA generativa y adoptar las medidas adecuadas cuando sea necesario.

 

f) Integrar en los sistemas de IA generativa salvaguardias que aumenten su seguridad, como clasificadores de incitadores, moderación de contenidos y otros filtros, a fin de detectar y prevenir los incitadores que infrinjan las condiciones de servicio de los prestadores de plataformas en línea de muy gran tamaño y de motores de búsqueda en línea de muy gran tamaño en relación con los procesos electorales; adoptar otras medidas adecuadas destinadas a evitar el uso indebido del sistema de IA generativa con fines ilegales, manipulativos y de desinformación en el contexto de los procesos electorales.

 

g) Para el contenido de texto, en particular, indicar en los resultados generados, cuando sea posible, las fuentes concretas de la información utilizada como datos de entrada o proporcionar otros medios que permitan a los usuarios verificar la fiabilidad y contextualizar mejor la información.

 

 40. Habida cuenta de los riesgos específicos reales o previsibles para los procesos electorales detectados, la Comisión recomienda que los prestadores de plataformas en línea de muy gran tamaño y de motores de búsqueda en línea de muy gran tamaño cuyos servicios puedan utilizarse para diseminar contenidos de IA generativa engañosos, falsos o que induzcan a error, consideren las siguientes medidas de reducción del riesgo, en la medida en que sea técnicamente factible de acuerdo con el estado actual de la técnica:

a) Adaptar sus condiciones y garantizar su aplicación, a fin de reducir significativamente el alcance y el impacto de los contenidos generativos de IA que representan desinformación o información errónea sobre el proceso electoral, como las irregularidades electorales.

i. La Comisión recomienda que los prestadores de plataformas en línea de muy gran tamaño y de motores de búsqueda en línea de muy gran tamaño faciliten información pública clara sobre qué procesos internos y medidas de reducción —como el etiquetado, el marcado, la relegación o la eliminación— existen para hacer cumplir estas políticas;

ii. La Comisión recomienda que los prestadores de plataformas en línea de muy gran tamaño y de motores de búsqueda en línea de muy gran tamaño cooperen y compartan información sobre tales contenidos engañosos con verificadores de datos a fin de garantizar que se minimice el riesgo de amplificación en otras plataformas. 

 

 

b) Etiquetar claramente, o hacer que puedan distinguirse de otro modo mediante indicaciones destacadas, la imágenes, los audios o los vídeos sintéticos o manipulados que se asemejen sensiblemente a personas, objetos, lugares, entidades o eventos reales, que presenten como reales acontecimientos que no se produjeron o que tergiversen los acontecimientos, y que puedan parecer, falsamente, auténticos o veraces a las personas (es decir, ultrafalsificaciones).

i. La Comisión recomienda que los prestadores de plataformas en línea de muy gran tamaño y de motores de búsqueda en línea de muy gran tamaño proporcionen a los usuarios interfaces y herramientas estándar y fáciles de utilizar para añadir etiquetas a los contenidos generados por la IA;

ii. Al etiquetar contenidos de IA generativa, la Comisión recomienda que los prestadores de plataformas en línea de muy gran tamaño y de motores de búsqueda en línea de muy gran tamaño apliquen etiquetas eficientes y fácilmente reconocibles por los usuarios, teniendo en cuenta aspectos como los gráficos, la posición y el momento de la aplicación, basándose en la investigación científica sobre la eficacia de las etiquetas (31). Los prestadores de plataformas en línea de muy gran tamaño y de motores de búsqueda en línea de muy gran tamaño también deben probar la eficacia de dichas etiquetas antes de empezar a mostrarlas, así como adaptarlas y mejorarlas en función de las observaciones realizadas y de la experiencia;

iii. La Comisión recomienda que los prestadores de plataformas en línea de muy gran tamaño y de motores de búsqueda en línea de muy gran tamaño se aseguren de que los contenidos de IA generativa etiquetados conserven su etiqueta al ser compartidos por otros usuarios en la plataforma.

 

c) La Comisión recomienda que los prestadores de plataformas en línea de muy gran tamaño y de motores de búsqueda en línea de muy gran tamaño adapten sus sistemas de publicidad, por ejemplo ofreciendo a los anunciantes opciones para etiquetar claramente los contenidos creados con IA generativa en la publicidad o en las publicaciones promocionadas, y que exijan en su política publicitaria que estas etiquetas se utilicen cuando el anuncio incluya contenidos de IA generativa.

 

d) Para hacer cumplir estas políticas, los prestadores de plataformas en línea de muy gran tamaño y de motores de búsqueda en línea de muy gran tamaño deben adaptar sus procesos de moderación de contenidos y sistemas algorítmicos de manera que se detecten contenidos de IA generados o manipulados mediante marcas de agua, identificaciones de metadatos, métodos criptográficos para demostrar la procedencia y autenticidad de los contenidos, métodos de registro, impresiones dactilares u otras técnicas.

i. En este contexto, los prestadores de plataformas en línea de muy gran tamaño y de motores de búsqueda en línea de muy gran tamaño deben cooperar con los proveedores de sistemas de IA generativa y aplicar las medidas más avanzadas para garantizar que dichas marcas de agua, identificaciones de metadatos, métodos criptográficos para demostrar la procedencia y autenticidad de los contenidos, métodos de registro, impresiones dactilares u otras técnicas se detecten de manera fiable y eficaz; también se les recomienda apoyar las innovaciones en las nuevas tecnologías a fin de mejorar la eficacia y la interoperabilidad de dichas herramientas.

 

e) Las medidas de alfabetización mediática mencionadas en la sección 2 también deben centrarse en los sistemas de IA generativa, por ejemplo, para explicar cómo funciona la tecnología y cuáles son sus posibles usos indebidos.

 

 41. De conformidad con el artículo 35, apartado 1, del Reglamento (UE) 2022/2065, cuando los prestadores de plataformas en línea de muy gran tamaño y de motores de búsqueda en línea de muy gran tamaño se enfrenten a formas legales pero nocivas de contenido de IA generativa que puedan influir en el comportamiento de los votantes, deben prestar especial atención al impacto que sus políticas y medidas puedan tener en los derechos fundamentales, en particular la libertad de expresión, incluida la expresión política, la parodia y la sátira. Esta evaluación de impacto sobre los derechos fundamentales es necesaria, en particular a la hora de elaborar políticas sobre qué tipos de contenidos de IA generativa engañosa no serán permitidos en sus servicios y serán eliminados por los prestadores de plataformas en línea de muy gran tamaño y de motores de búsqueda en línea de muy gran tamaño.

 

 42. Dado que el contenido generado por la IA conlleva riesgos específicos, debe ser objeto de un mayor control, en particular mediante el desarrollo de herramientas y tecnologías ad hoc, por ejemplo, para llevar a cabo investigaciones destinadas a identificar y comprender los riesgos específicos relacionados con los procesos electorales. Se anima a los prestadores de plataformas en línea de muy gran tamaño y de motores de búsqueda en línea de muy gran tamaño a que consideren la posibilidad de crear herramientas destinadas exclusivamente a los investigadores para que estos puedan acceder a los contenidos generados por la IA y reconocerlos y analizarlos de manera específica.

3.4. Cooperación con las autoridades nacionales, los expertos independientes y las organizaciones de la sociedad civil

 43. No es posible contribuir a la protección de la integridad de unas elecciones concretas sin conocimiento del contexto nacional, jurídico, social y político específico, o sin poder reaccionar oportunamente a los acontecimientos en tiempo real que afecten a los riesgos generados por las plataformas en línea de muy gran tamaño o los motores de búsqueda en línea de muy gran tamaño. Los procedimientos y las estructuras organizativas de las elecciones difieren de un Estado miembro a otro e incluso de una elección a otra. Los prestadores de plataformas en línea de muy gran tamaño y de motores de búsqueda en línea de muy gran tamaño deben conocer la estructura nacional de gobernanza electoral aplicable a las elecciones en cuestión y el papel de las distintas autoridades. Al lograr conocer bien los procedimientos nacionales específicos —como la delimitación de los periodos de campaña electoral, el calendario de designación oficial de los candidatos a las elecciones y los periodos de reflexión electoral— los prestadores de plataformas en línea de muy gran tamaño y de motores de búsqueda en línea de muy gran tamaño podrán diseñar medidas de reducción del riesgo teniendo en cuenta las características específicas del Estado miembro de que se trate.

 

 44. A tal efecto, la Comisión recomienda que los prestadores de plataformas en línea de muy gran tamaño y de motores de búsqueda en línea de muy gran tamaño intercambien información —de forma periódica y, en caso necesario, con carácter urgente— con las autoridades nacionales y europeas competentes y dispongan de puntos de contacto para ellas, con la participación del coordinador de servicios digitales de su Estado miembro y, cuando corresponda, de las autoridades regionales y locales competentes, para facilitar el intercambio de información, así como con la Comisión, según proceda.

 

 45. El objetivo de tales interacciones entre los prestadores de plataformas en línea de muy gran tamaño y de motores de búsqueda en línea de muy gran tamaño y las autoridades nacionales competentes debe consistir únicamente en compartir información que pueda servir de base para las evaluaciones de riesgos y las medidas de reducción del riesgo en los procesos electorales o para las medidas de las autoridades nacionales que sean de su competencia para proteger la integridad de los procesos electorales. Por ejemplo, las autoridades nacionales pertinentes pueden proporcionar a los prestadores de plataformas en línea de muy gran tamaño y de motores de búsqueda en línea de muy gran tamaño información oficial sobre el proceso de votación para que estos puedan integrarla en sus servicios y, cuando sea posible y adecuado, facilitarles información sobre los posibles riesgos para el proceso electoral, lo que puede servir de base para las medidas de reducción adoptadas por los prestadores de plataformas en línea de muy gran tamaño y de motores de búsqueda en línea de muy gran tamaño. A la inversa, la información sobre los riesgos que los prestadores de plataformas en línea de muy gran tamaño y de motores de búsqueda en línea de muy gran tamaño se ocupan de mitigar en sus servicios puede ser pertinente para la labor de las autoridades nacionales competentes en la protección de la integridad de los procesos electorales. En la medida en que dichas interacciones no entren en el ámbito de aplicación de las obligaciones de transparencia informativa en virtud del Reglamento (UE) 2022/2065, la Comisión recomienda que las autoridades nacionales y los prestadores de plataformas en línea de muy gran tamaño y de motores de búsqueda en línea de muy gran tamaño informen de manera transparente sobre ellas, por ejemplo en documentos públicos en los que las autoridades nacionales evalúen el proceso electoral o en los informes de transparencia que se emitan con arreglo al Reglamento (UE) 2022/2065.

 

 46. Los coordinadores de servicios digitales designados en virtud del Reglamento (UE) 2022/2065 en cada Estado miembro podrán servir como puntos de contacto para los prestadores de plataformas en línea de muy gran tamaño y de motores de búsqueda en línea de muy gran tamaño, en caso de que no esté claro qué autoridad nacional es competente para cuestiones relacionadas con la reducción del riesgo en los procesos electorales. Dado que los coordinadores de servicios digitales funcionan como punto de contacto único con respecto a todas las cuestiones relacionadas con la aplicación del Reglamento (UE) 2022/2065 en un Estado miembro, la Comisión recomienda que los coordinadores de servicios digitales participen en los intercambios entre los prestadores de plataformas en línea de muy gran tamaño y de motores de búsqueda en línea de muy gran tamaño y las autoridades nacionales competentes en materia de procesos electorales. Además, la Comisión recomendó a los Estados miembros que reforzaran sus redes electorales nacionales (32) y facilitaran su cooperación con las partes interesadas pertinentes (33). Estas redes electorales nacionales también pueden ser un punto de contacto pertinente para los prestadores de plataformas en línea de muy gran tamaño y de motores de búsqueda en línea de muy gran tamaño.

 

 47. Junto con la cooperación con las autoridades nacionales, también se recomienda a los prestadores de plataformas en línea de muy gran tamaño y de motores de búsqueda en línea de muy gran tamaño que establezcan una estrecha cooperación con los actores no estatales pertinentes, ya que estos desempeñan un papel clave en la protección de los procesos electorales. Antes de las elecciones, los prestadores de plataformas en línea de muy gran tamaño y de motores de búsqueda en línea de muy gran tamaño podrán organizar reuniones y establecer canales de comunicación periódica con actores no estatales que participen en procesos electorales, como académicos, expertos independientes, organizaciones de la sociedad civil y representantes de diversas comunidades, e invitarlos a compartir sus conocimientos especializados, ideas y observaciones independientes que puedan ayudar a detectar los riesgos que puedan requerir medidas de reducción y contribuir al desarrollo de dichas medidas.

 

 48. El establecimiento de canales de comunicación durante la campaña electoral con actores no estatales, incluidas las organizaciones de campaña y los observadores electorales, ayudará a los prestadores de plataformas en línea de muy gran tamaño y motores de búsqueda en línea de muy gran tamaño a comprender mejor el contexto de las elecciones a fin de reaccionar rápidamente en situaciones de emergencia, diseñar y calibrar las medidas de reducción del riesgo y comprender mejor cómo funcionan sus medidas de reducción en el contexto local. El grupo de trabajo sobre elecciones del Código de Buenas Prácticas (y su sistema de respuesta rápida) es un buen ejemplo de foro multilateral de este tipo ya existente y operativo, y que incluye a ONG y verificadores de datos con una importante experiencia específica en materia electoral. El grupo de trabajo en materia de elecciones del EDMO —compuesto por verificadores de datos independientes, académicos y especialistas en alfabetización mediática—, así como los centros del EDMO en toda la UE, también pueden hacer importantes aportaciones a este respecto.

 

 49. La disponibilidad de información fiable procedente de fuentes pluralistas es crucial para el buen funcionamiento de los procesos electorales democráticos. Requiere no solo la protección frente a injerencias comerciales y políticas externas, sino también frente a la posible aplicación incorrecta de los procesos internos de las plataformas en línea de muy gran tamaño y de los motores de búsqueda en línea de muy gran tamaño, tal como se reconoce en el artículo 17 de la propuesta del Reglamento Europeo de Libertad de los Medios de Comunicación (34). Los periodistas y los prestadores de servicios de comunicación desempeñan un papel fundamental en la recopilación, el tratamiento y la comunicación de información al público, un papel más crítico si cabe en periodo electoral. Los prestadores de servicios de comunicación y noticias independientes y las organizaciones con normas y procedimientos editoriales internos ampliamente reconocidos se consideran fuentes de información fiables. Por consiguiente, las plataformas en línea de muy gran tamaño y los motores de búsqueda en línea de muy gran tamaño deben colaborar con las organizaciones de medios de comunicación independientes, las autoridades reguladoras, la sociedad civil y las organizaciones de base, los verificadores de datos, el mundo académico y otras partes interesadas pertinentes en iniciativas para favorecer el reconocimiento de la información fiable y facilitar el acceso por parte de los usuarios a contenidos de medios informativos pluralistas relacionados con las elecciones que procedan de fuentes fiables.

 

 50. Habida cuenta del importante papel que desempeñan estas organizaciones a la hora de juzgar la veracidad de la información de que disponen, la Comisión recomienda que los prestadores de plataformas en línea de muy gran tamaño y los motores de búsqueda en línea de muy gran tamaño colaboren con organizaciones independientes de verificación de datos que observen normas estrictas de metodología, ética y transparencia, por ejemplo, formando parte de la red europea de normas de verificación de datos (EFCSN, por sus siglas en inglés) y cumpliendo su Código de Normas (35). La Comisión recomienda que dicha colaboración sea transparente. Por ejemplo, algunos signatarios del Código de Buenas Prácticas en materia de Desinformación elaboran listas de las organizaciones de verificación de datos con las que tienen acuerdos.

3.5. Durante un periodo electoral

 51. Durante el periodo electoral, en el que se aplicarán medidas y recursos específicos para la reducción de los riesgos para el proceso electoral, la Comisión recomienda que los prestadores de plataformas en línea de muy gran tamaño y de motores de búsqueda en línea de muy gran tamaño presten especial atención a las medidas de reducción del riesgo que reduzcan el impacto de aquellos incidentes que puedan afectar de forma significativa el resultado de las elecciones o en la participación.

 

 52. Para ello es necesario, entre otras cosas, proporcionar a los usuarios acceso a información fiable, oportuna e inteligible procedente de fuentes oficiales sobre cómo votar, así como sobre el proceso de votación o sobre medidas como las mencionadas en la sección 3.3 para reducir el perjuicio potencial causado por problemas de gran impacto, tales como las imágenes manipuladas, las grabaciones de voz o las ultrafalsificaciones que afecten, por ejemplo, a actores políticos que compiten en las elecciones. Los prestadores de plataformas en línea de muy gran tamaño y de motores de búsqueda en línea de muy gran tamaño también deben garantizar que están en condiciones de reaccionar rápidamente ante la manipulación de su servicio con el fin de socavar el proceso electoral, así como ante los intentos de utilizar la desinformación y la manipulación informativa para impedir que los votantes ejerzan su derecho al voto.

 

 53. Los incidentes que se produzcan dentro o fuera de la plataforma durante un periodo electoral pueden tener consecuencias rápidas y de gran impacto para la integridad de las elecciones o la seguridad pública. En consecuencia, la Comisión recomienda que los prestadores de plataformas en línea de muy gran tamaño y de motores de búsqueda en línea de muy gran tamaño establezcan un mecanismo interno de respuesta a incidentes en el que participen también los altos directivos y que elaboren un inventario de las partes interesadas de la organización que participan en la respuesta al incidente. Este procedimiento debe establecerse, acordarse y probarse previamente —en particular mediante ejercicios de equipo rojo— para que pueda aplicarse con rapidez. Este procedimiento también debe ser coherente, reproducible y auditable, y producir decisiones y resultados bien documentados, de manera que los prestadores de plataformas en línea de muy gran tamaño y de motores de búsqueda en línea de muy gran tamaño puedan analizar sus respuestas tras acontecimientos de gran impacto.

 

 54. En vista de la necesidad de aplicar rápidamente las medidas de reducción, la Comisión también recomienda que los prestadores de plataformas en línea de muy gran tamaño y de motores de búsqueda en línea de muy gran tamaño establezcan una cooperación y un intercambio rápido y eficiente de información entre plataformas y con los actores no estatales pertinentes que tengan conocimientos y experiencia pertinentes para las elecciones; entre estos actores podrían figurar las partes interesadas de las organizaciones de la sociedad civil, del mundo académico y de la investigación y de los medios de comunicación independientes, entre otros. Dada la naturaleza multiplataforma de los contenidos ilícitos o nocivos, así como de la desinformación y de las actividades de manipulación de información e injerencia por parte de agentes extranjeros, la cooperación entre plataformas en línea de muy gran tamaño y motores de búsqueda en línea de muy gran tamaño para compartir información pertinente, así como su cooperación con plataformas y servicios más pequeños, es crucial para reducir estos riesgos de manera eficaz. Esto ayudará a los prestadores de plataformas en línea de muy gran tamaño y de motores de búsqueda en línea de muy gran tamaño a reaccionar con mayor rapidez a los problemas e incidentes emergentes, a comprender mejor el contexto, a adaptar sus medidas de reducción y a evaluar la eficacia de las medidas adoptadas. La eficacia de esta cooperación y de este intercambio de información reviste una carácter verdaderamente esencial debido a la importancia de reaccionar con prontitud ante tales acontecimientos. Por lo tanto, debe incluir las reacciones de los prestadores de plataformas en línea de muy gran tamaño y de motores de búsqueda en línea de muy gran tamaño y las observaciones significativas a los actores no estatales pertinentes participantes —en un plazo razonable— que permitan evaluar la eficiencia y el impacto de esta cooperación e intercambio.

 

 55. El sistema de respuesta rápida que deben establecer los signatarios del Código de Buenas Prácticas en materia de Desinformación es un buen ejemplo de este tipo de foro para la cooperación durante las elecciones, que contribuye a los mecanismos de respuesta ante incidentes de las plataformas. Los prestadores de plataformas en línea de muy gran tamaño y de motores de búsqueda en línea de muy gran tamaño deben establecer, junto con los demás signatarios, el marco procedimental para cooperar y coordinarse entre sí durante las elecciones, incluyendo un mecanismo de retorno de información rápido que haga posible un seguimiento rápido, eficiente y adecuado por parte de las plataformas.

 

 56. Otro ejemplo de como organizar el trabajo de respuesta a la manipulación de información e injerencia por parte de agentes extranjeros y a la desinformación puede encontrarse en el segundo informe del SEAE sobre amenazas de manipulación de información e injerencia por parte de agentes extranjeros (36), que presenta un «marco de respuesta» que vincula eficazmente el análisis a respuestas basadas en datos contrastados, al tiempo que destaca la importancia de la cooperación entre las diversas partes interesadas. También cabe inspirarse en iniciativas como el Centro de puesta en común y análisis de la información en materia de manipulación de información e injerencia por parte de agentes extranjeros (FIMI-ISAC, por sus siglas en inglés) (37). Este FIMI-ISAC tiene por objetivo promover el intercambio de información entre todas las partes interesadas sobre las causas profundas, los incidentes y las amenazas, así como la puesta en común de experiencias, conocimientos y análisis.

 

 57. A menudo es fundamental dar una respuesta oportuna a los incidentes. La Comisión recomienda que los prestadores de plataformas en línea de muy gran tamaño y de motores de búsqueda en línea de muy gran tamaño consideren la posibilidad de adoptar un modelo de «seguimiento del sol» que permita que las oficinas de todo el mundo puedan cubrir todos las husos horarios.

 

 58. Para reaccionar oportunamente, los prestadores de plataformas en línea de muy gran tamaño y de motores de búsqueda en línea de muy gran tamaño deben integrar su posible colaboración con las autoridades electorales y los actores no estatales pertinentes en los mecanismos de respuesta a incidentes.

3.6. Con posterioridad al periodo electoral

 59. Una vez finalizado el periodo electoral, la Comisión recomienda que los prestadores de plataformas en línea de muy gran tamaño y de motores de búsqueda en línea de muy gran tamaño lleven a cabo una revisión postelectoral que incluya una evaluación de la eficacia de las medidas de reducción del riesgo empleadas en ese contexto con vistas a adaptar las medidas en caso necesario. Este informe interno debe incluir una evaluación de si se han cumplido los parámetros internos de rendimiento y cualquier otro criterio de evaluación antes, durante y después de las elecciones, así como las lecciones aprendidas y los ámbitos de mejora.

 

 60. La Comisión recomienda que los prestadores de plataformas en línea de muy gran tamaño y de motores de búsqueda en línea de muy gran tamaño tengan en cuenta las contribuciones específicas de investigadores independientes, organizaciones de la sociedad civil y verificadores de datos independientes sobre el impacto de las medidas de reducción aplicadas por las plataformas en línea de muy gran tamaño y los motores de búsqueda en línea de muy gran tamaño en el ejercicio de revisión electoral. Además, los prestadores de plataformas en línea de muy gran tamaño y de motores de búsqueda en línea de muy gran tamaño pueden colaborar con grupos independientes de observadores electorales acreditados que puedan facilitar información sobre el uso y el impacto de sus servicios en ese contexto.

 

 61. En particular, el informe postelectoral debe incluir información sobre la media y la distribución del tiempo de respuesta frente a las infracciones de las condiciones, la media y la distribución del tiempo de respuesta a los contenidos señalados por los usuarios y los actores no estatales, la media y la distribución del alcance de los contenidos contra los que se ha actuado, así como de la interacción con dichos contenidos, el número de infracciones de determinadas políticas relativas a las elecciones, de casos de manipulación de la información y el alcance de determinadas medidas, como las iniciativas de alfabetización mediática y las iniciativas autorizadas. La Comisión podrá exigir dichos informes de manera confidencial (38).

 

 62. La Comisión recomienda que los prestadores de plataformas en línea de muy gran tamaño y de motores de búsqueda en línea de muy gran tamaño publiquen una versión pública de dichos documentos de revisión postelectoral. Esta debe incluir información sobre las medidas adoptadas por el prestador de plataformas en línea de muy gran tamaño y de motores de búsqueda en línea de muy gran tamaño y sobre cualquier incidente que pueda haberse producido, así como información sobre la cooperación y los intercambios de información con actores no estatales pertinentes durante el periodo de campaña electoral. Asimismo, debe incluir detalles sobre las medidas adoptadas y sobre la eficiencia y la oportunidad de dicha cooperación. Con esto también se pretende recabar opiniones del público sobre cómo mejorar las medidas de reducción del riesgo en vigor o poner en común las medidas exitosas con otros proveedores. Como ejemplo adicional de información relacionada con las elecciones, los signatarios del Código de Buenas Prácticas en materia de Desinformación han elaborado un modelo de informe a través del cual informarán antes y después de las elecciones sobre las medidas adoptadas y los parámetros pertinentes en relación con su impacto.

3.7. Orientaciones específicas para las elecciones al Parlamento Europeo

 63. Tal como se indica en la Comunicación sobre el paquete de defensa de la democracia (39), las próximas elecciones al Parlamento Europeo serán una prueba crucial para la resiliencia de nuestros procesos democráticos, también en lo tocante a las amenazas híbridas, incluyendo no solo la desinformación y la manipulación de información y la injerencia por parte de agentes extranjeros, sino también los ciberataques. En este contexto, y debido a su singular carácter transfronterizo, se recomienda a los prestadores de plataformas en línea de muy gran tamaño y de motores de búsqueda en línea de muy gran tamaño que apliquen medidas de reducción sólidas para las elecciones al Parlamento Europeo que tendrán lugar del 6 al 9 de junio de 2024.

 

 64. Esto significa que se recomienda a los prestadores de plataformas en línea de muy gran tamaño y de motores de búsqueda en línea de muy gran tamaño que garanticen la disponibilidad de recursos y medidas de reducción del riesgo suficientes y que ambas cosas se distribuyan de manera proporcionada a las evaluaciones de riesgos e incluyan el acceso a los conocimientos especializados nacionales pertinentes en toda la UE, tanto a escala de esta como de los Estados miembros.

 

 65. Para las elecciones al Parlamento Europeo no existe ningún periodo de campaña predeterminado. Esto significa que en los Estados miembros las campañas para estas elecciones pueden comenzar y terminar en diferentes momentos. Se anima a los prestadores de plataformas en línea de muy gran tamaño y de motores de búsqueda en línea de muy gran tamaño a tener esto en cuenta a la hora de planificar sus medidas de reducción del riesgo para las elecciones al Parlamento Europeo, así como a colaborar con los Estados miembros en la preparación de dichas elecciones.

 

 66. Los prestadores de plataformas en línea de muy gran tamaño y de motores de búsqueda en línea de muy gran tamaño también deben tener en cuenta la singular dimensión transfronteriza y europea de estas elecciones a la hora de asignar los recursos adecuados para la reducción del riesgo. Las campañas no solo serán nacionales, y el debate no parará en fronteras. Además de establecer contactos con las autoridades nacionales competentes, la Comisión recomienda que los prestadores de plataformas en línea de muy gran tamaño y de motores de búsqueda en línea de muy gran tamaño establezcan contactos con las autoridades de la UE antes de las elecciones. El Parlamento Europeo desempeña un papel clave en las elecciones europeas y debe ser un interlocutor clave para las plataformas en línea de muy gran tamaño y los motores de búsqueda en línea de muy gran tamaño antes de estas elecciones. Las redes de expertos nacionales a escala de la UE en los ámbitos de la desinformación y la manipulación de información e injerencia por parte de agentes extranjeros, las elecciones y la ciberseguridad —como el Sistema de Alerta Rápida de la UE, la Red Europea de Cooperación Electoral y el Grupo de Cooperación SRI— podrían ser redes pertinentes para los prestadores de plataformas en línea de muy gran tamaño y de motores de búsqueda en línea de muy gran tamaño en caso de incidentes transfronterizos, incluidos los de carácter híbrido, durante el periodo electoral que requieran una respuesta rápida y la aplicación de medidas de reducción del riesgo.

 

 67. Debe garantizarse una cooperación adecuada en aquellos ámbitos en que las medidas de reducción podrían tener que tomar en consideración amenazas conexas de distinta naturaleza destinadas a desestabilizar o desacreditar los procesos democráticos, incluidos los ciberataques. En caso de actividades cibernéticas de desinformación o de manipulación de información e injerencia por parte de agentes extranjeros, se anima a los prestadores de plataformas en línea de muy gran tamaño y de motores de búsqueda en línea de muy gran tamaño a establecer un contacto adecuado con las autoridades nacionales de ciberseguridad; cuando dichas actividades afecten a la UE en su conjunto o a sus instituciones, órganos y organismos, deben tenerse en cuenta los contactos con la Agencia de la Unión Europea para la Ciberseguridad (ENISA) y el Equipo de respuesta a emergencias informáticas de las instituciones, órganos y organismos de la UE (CERT-UE) (40). Además, y en consonancia con lo propuesto para las elecciones nacionales, la Comisión recomienda establecer contactos y el acceso a la comunicación con la administración del Parlamento Europeo y los partidos políticos europeos en igualdad de condiciones antes de las elecciones al Parlamento Europeo.

 

 68. Los prestadores de plataformas en línea de muy gran tamaño y de motores de búsqueda en línea de muy gran tamaño que sean signatarios del Código de Buenas Prácticas en materia de Desinformación deben participar plenamente en los trabajos relacionados con las elecciones al Parlamento Europeo, en particular mediante la participación efectiva en el sistema de respuesta rápida y en el mecanismo de retorno de información rápido con medidas de seguimiento adecuadas y oportunas. También deben proporcionar, antes y después de las elecciones, información específica sobre las medidas adoptadas para reducir la propagación de la desinformación, la manipulación de la información y la manipulación de información e injerencia por parte de agentes extranjeros en relación con las elecciones al Parlamento Europeo, incluidos los parámetros pertinentes sobre su impacto (sobre la base de los compromisos 37.2 y 42). Basándose en las aportaciones de los verificadores de datos y de los firmantes de la sociedad civil, deberían hacer balance tras las elecciones de las lecciones aprendidas, evaluando también la eficacia y la oportunidad de la cooperación con el fin de mejorar la eficiencia del sistema de cara a futuras elecciones.

 

 69. La sección 3.6 sobre la revisión postelectoral también se aplica a las elecciones al Parlamento Europeo y debe tener en cuenta la naturaleza singular de estas elecciones.

 

 70. Con objeto de adaptar sus medidas de reducción del riesgo a las elecciones al Parlamento Europeo, la Comisión recomienda que los prestadores de plataformas en línea de muy gran tamaño y de motores de búsqueda en línea de muy gran tamaño establezcan contactos y cooperen, en particular con el grupo de trabajo del EDMO, sobre las elecciones al Parlamento Europeo. De cara a las elecciones al Parlamento Europeo de 2024, este grupo de trabajo elaborará informes y actualizaciones periódicas sobre las principales tendencias, retos y fenómenos en materia de desinformación. Dichos informes y actualizaciones deben informar las actuaciones y las medidas de reducción de los prestadores de plataformas en línea de muy gran tamaño y de motores de búsqueda en línea de muy gran tamaño.

4. FASE SIGUIENTE. CONCLUSIÓN

 71. La Comisión se ha comprometido a aplicar enérgicamente el Reglamento (UE) 2022/2065, en particular en el ámbito de las elecciones. Estas directrices ayudan a los prestadores de plataformas en línea de muy gran tamaño y de motores de búsqueda en línea de muy gran tamaño a aplicar el artículo 35 de dicho Reglamento, en particular en lo relativo a la manera de evaluar y mitigar los riesgos sistémicos para los procesos electorales derivados de su servicio o del uso de este. En vista de las numerosas elecciones que se celebrarán próximamente y, en particular, de las del Parlamento Europeo, la Comisión anima encarecidamente a los prestadores de plataformas en línea de muy gran tamaño y de motores de búsqueda en línea de muy gran tamaño a que apliquen estas directrices de forma rápida y exhaustiva, y acoge con satisfacción las evaluaciones de los investigadores y las organizaciones de la sociedad civil sobre la eficacia de las medidas de reducción del riesgo adoptadas por los prestadores de estas plataformas en línea de muy gran tamaño y estos motores de búsqueda en línea de muy gran tamaño en la UE.

 

 72. Al mismo tiempo, en particular teniendo en cuenta que la aplicación del Reglamento (UE) 2022/2065 se encuentra en un fase temprana y la naturaleza específica de los riesgos sistémicos para los procesos electorales, la Comisión está dispuesta a colaborar con los prestadores de plataformas en línea de muy gran tamaño y de motores de búsqueda en línea de muy gran tamaño en lo relativo al diseño y el funcionamiento de sus servicios y sistemas conexos con el fin de garantizar que se eviten los daños a los procesos electorales en la UE.

 

 73. En este contexto, la Comisión está disponible para facilitar, con carácter voluntario, una revisión periódica de las medidas de reducción del riesgo adoptadas por los prestadores de plataformas en línea de muy gran tamaño y de motores de búsqueda en línea de muy gran tamaño. Esto podría adoptar la forma de revisiones ex ante y ex post tras elecciones específicas. La información facilitada por la Comisión en ese contexto se basará en los datos facilitados por los prestadores de plataformas en línea de muy gran tamaño y de motores de búsqueda en línea de muy gran tamaño y no constituirá una evaluación completa de las medidas de cumplimiento que hayan adoptado. Por tanto, se entenderán sin perjuicio de las competencias de investigación y ejecución de la Comisión en virtud del Reglamento (UE) 2022/2065.

 

 74. De conformidad con el artículo 64 del Reglamento (UE) 2022/2065, la Comisión seguirá desarrollando conocimientos especializados y capacidades sobre cuestiones sistémicas y emergentes en toda la UE. La información de las plataformas en línea de muy gran tamaño y los motores de búsqueda en línea de muy gran tamaño es crucial a este respecto. La Comisión espera que los prestadores de dichos servicios colaboren con la Comisión en el marco de la aplicación del Reglamento (UE) 2022/2065 en diálogos sobre la preparación en materia de integridad electoral y otras estructuras de cooperación establecidas por los servicios de la Comisión responsables de la aplicación del Reglamento (UE) 2022/2065 a estos efectos, a fin de poder responder rápidamente a las solicitudes urgentes de información, en particular sobre problemas emergentes e incidentes que puedan tener un impacto significativo en el resultado de las elecciones o en la participación. Esto no excluye la participación en cualesquiera de los demás mecanismos o protocolos de cooperación establecidos que puedan existir.

 

 75. Tal como se menciona en la sección 1.1 con más detalle, las medidas de reducción del riesgo señaladas en las presentes directrices se basan en anteriores diálogos sobre la preparación en materia de integridad electoral con prestadores de plataformas en línea de muy gran tamaño y de motores de búsqueda en línea de muy gran tamaño, en la experiencia adquirida con el Código de Buenas Prácticas en materia de Desinformación y el conjunto de instrumentos de la UE sobre manipulación de información e injerencia por parte de las instituciones, la consulta exploratoria, varias mesas redondas y las aportaciones de los coordinadores de servicios digitales. Por tanto, puede considerarse que las medidas descritas en las directrices constituyen, en estos momentos, las mejores prácticas.

 

 76. Si bien el objetivo de las presentes orientaciones es ayudar a los prestadores de plataformas en línea de muy gran tamaño y de motores de búsqueda en línea de muy gran tamaño a garantizar el cumplimiento de sus obligaciones en virtud del artículo 35 del Reglamento (UE) 2022/2065, la forma que tiene la Comisión de entender las cuestiones en juego en la interpretación y la aplicación del artículo 35 de dicho Reglamento puede evolucionar según vaya adquiriendo experiencia.

 

 77. Además, el panorama en rápida evolución en el que operan los prestadores de plataformas en línea de muy gran tamaño y de motores de búsqueda en línea de muy gran tamaño y las tácticas de los actores malintencionados, que cambian constantemente, requieren actualizaciones y ajustes permanentes para responder a retos emergentes y que no paran de evolucionar. Además, una vez evaluado por la Comisión y la Junta Europea de Servicios Digitales, se espera que el Código de Buenas Prácticas en materia de Desinformación se convierta en un código de conducta que lo vincule al marco jurídico del Reglamento (UE) 2022/2065. En este contexto, la Comisión espera que los signatarios sigan cumpliendo sus compromisos de lucha contra la desinformación en virtud del Código de Buenas Prácticas en materia de Desinformación. Al mismo tiempo, está previsto que en los próximos meses entren en vigor otros actos legislativos de la UE que complementarán el presente Reglamento con normas específicas pertinentes para el objeto de estas directrices, en particular el Reglamento sobre publicidad política y la Ley de IA (cuyo contenido pertinente se ha tenido en cuenta en las presentes directrices, en particular cuando ya constituye, en la actualidad, una mejor práctica en un ámbito específico).

 

 78. La Comisión podrá revisar estas directrices teniendo en cuenta la experiencia práctica adquirida y el ritmo de la evolución tecnológica, social y normativa en este ámbito. Durante dicha revisión, la Comisión podrá decidir retirar o modificar la presente Comunicación. La Comisión anima a los prestadores de plataformas en línea de muy gran tamaño y de motores de búsqueda en línea de muy gran tamaño, a los coordinadores de servicios digitales, a la comunidad investigadora y a las organizaciones de la sociedad civil a que contribuyan a este proceso.

 

 


(1)  De conformidad con el artículo 33 del Reglamento de Servicios Digitales, estos prestadores son designados por la Comisión como tales por tener un número medio mensual de destinatarios activos de su servicio en la Unión Europea (UE) igual o superior a 45 millones.

(2)  Artículo 34, apartado 1, letra c), del Reglamento de Servicios Digitales.

(3)  Inteligencia artificial capaz de generar texto, imágenes u otros medios de comunicación utilizando modelos generativos.

(4)   La UE introduce nuevas normas sobre transparencia y segmentación en la publicidad política (europa.eu)

(5)   https://digital-strategy.ec.europa.eu/en/news/commission-welcomes-political-agreement-artificial-intelligence-act

(6)   https://digital-strategy.ec.europa.eu/es/policies/ai-pact

(7)  La Comisión organizó reuniones ad hoc con prestadores de plataformas en línea de muy gran tamaño y de motores de búsqueda en línea de muy gran tamaño, tanto en contextos bilaterales como en presencia de las autoridades nacionales, en aquellos lugares en que se estaban celebrando elecciones con el fin de recabar información sobre las prácticas existentes y las políticas ad hoc vigentes para hacer frente a los riesgos relacionados con las elecciones.

(8)  Hubo 77 respuestas a la consulta; para acceder a un resumen, véase: Directrices para los prestadores de plataformas en línea de muy gran tamaño y motores de búsqueda en línea de muy gran tamaño sobre la reducción de los riesgos sistémicos en los procesos electorales: resumen y análisis de las respuestas.

(9)   https://disinfocode.eu/introduction-to-the-code/

(10)   https://www.eeas.europa.eu/eeas/2nd-eeas-report-foreign-information-manipulation-and-interference-threats_en

(11)   https://commission.europa.eu/strategy-and-policy/priorities-2019-2024/new-push-european-democracy/protecting-democracy_es

(12)   https://commission.europa.eu/publications/reinforcing-democracy-and-integrity-elections-all-documents_en

(13)   https://commission.europa.eu/publications/defence-democracy_en

(14)   https://commission.europa.eu/strategy-and-policy/policies/justice-and-fundamental-rights/eu-citizenship-and-democracy/democracy-and-electoral-rights/european-cooperation-network-elections_es

(15)   https://eur-lex.europa.eu/legal-content/ES/TXT/?uri=CELEX%3A32023H2829

(16)   https://eur-lex.europa.eu/legal-content/ES/TXT/?uri=CELEX%3A52023DC0630.

(17)   The Council of Europe Electoral Cycle - Elections (coe.int)

(18)  Esto incluye el Reglamento (UE) 2016/679 del Parlamento Europeo y del Consejo, de 27 de abril de 2016, relativo a la protección de las personas físicas en lo que respecta al tratamiento de datos personales y a la libre circulación de estos datos y por el que se deroga la Directiva 95/46/CE (Reglamento general de protección de datos).

(19)   https://cmpf.eui.eu/media-pluralism-monitor/

(20)  Véase la sección 3.4 sobre «Cooperación con las autoridades nacionales, expertos independientes y organizaciones de la sociedad civil».

(21)   EEAS-2nd-Report on FIMI Threats-January-2024_0.pdf (europa.eu)

(22)   Democracy By Design – Accountable Tech

(23)   Elections Program — Integrity Institute

(24)   DSA: New Risk Assessments To Protect Civic Discourse and Electoral Processes liberties.eu

(25)  Traberg, C. S., Roozenbeek, J., & van der Linden, S. (2022). Psychological Inoculation against Misinformation: Current Evidence and Future Directions [«Inoculación psicológica contra la desinformación: Datos actuales y orientaciones futuras», documento en inglés]. The Annals of the American Academy of Political and Social Science, 700 (1), 136-151. https://doi.org/10.1177/00027162221087936

(26)  Jon Roozenbeek et al., Psychological inoculation improve resilience against misinformation on social media [«La inoculación psicológica mejora la resiliencia frente a la desinformación en las redes sociales», documento en inglés]. Sci. Adv. 8,eabo6254(2022).DOI:10.1126/sciadv.abo6254

(27)   https://eur-lex.europa.eu/legal-content/ES/TXT/?uri=OJ:L_202400900&pk_campaign=todays_OJ&pk_source=EURLEX&pk_medium=X&pk_keyword=trasparency_of_political_advertising&pk_content=regulation&pk_cid=EURLEX_todaysOJ. El artículo 3 y el artículo 5, apartado 1, entrarán en vigor el 9 de abril de 2024. El resto del Reglamento entrará en vigor el 9 de octubre de 2025.

(28)  Véase la recomendación en la sección 3.2.1, letra e), para prestadores de plataformas en línea de muy gran tamaño y de motores de búsqueda en línea de muy gran tamaño para armonizar sus políticas con el Reglamento sobre Publicidad Política antes de su fecha de aplicación.

(29)  Algunos ejemplos son el documento de orientación de Access Now y del European Center for Not-for-Profit Law «Towards significant fundamental rights impact assessment under the DSA» (Hacia unas evaluaciones de impacto significativas en materia de derechos fundamentales en el marco del Reglamento de Servicios Digitales), Danish Institute for Human Rights, Guidance on Human Rights Impact Assessment of Digital Activities (Orientaciones sobre la evaluación de impacto en los derechos humanos de las actividades digitales), Julian Jaursch, Josefine Bahro, Asha Allen, Claire Pershan y Katarzyna Szymielewicz, DSA risk mitigation: Current Practices, ideas and open questions (Reducción de riesgos en el Reglamento de Servicios Digitales: prácticas actuales, ideas y preguntas abiertas).

(30)   FIMI targeting LGBTIQ+ people: Well-informed analysis to protect human rights and diversity | EEAS (europa.eu)

(31)  Véase, por ejemplo, Tom Dobber, Sanne Kruikemeier, Fabio Votta, Natali Helberger & Ellen P. Goodman (2023), «The effect of traffic light veracity label on perceptions of political advertising source and message credibility on social media» [«El efecto de las etiquetas de veracidad rojas, amarillas y verdes en las percepciones de la fuente de publicidad política y de la credibilidad del mensaje en las redes sociales»], Journal of Information Technology & Politics.

(32)   https://eur-lex.europa.eu/legal-content/ES/TXT/?uri=CELEX%3A32018H0234

(33)  Recomendación (UE) 2023/2829 de la Comisión, de 12 de diciembre de 2023, sobre procesos electorales inclusivos y resilientes en la Unión y con vistas a reforzar el carácter europeo y el desarrollo eficiente de las elecciones al Parlamento Europeo

(34)   Texts adopted - European Media Freedom Act - Wednesday, 13 March 2024 (europa.eu)

(35)   European Fact-Checking Standards Network Project (Proyecto de Red Europea de Normas de Verificación de Datos)

(36)   EEAS-2nd-Report on FIMI Threats-January-2024_0.pdf (europa.eu)

(37)   https://fimi-isac.org/

(38)  Artículo 84 del Reglamento de Servicios Digitales

(39)  COM(2023) 630 final. Comunicación de la Comisión al Parlamento Europeo, al Consejo, al Comité Económico y Social Europeo y al Comité de las Regiones sobre Defensa de la Democracia.

(40)   https://cert.europa.eu/


ELI: http://data.europa.eu/eli/C/2024/3014/oj

ISSN 1977-0928 (electronic edition)

No hay comentarios:

Publicar un comentario