Por: Carlos A. FERREYROS SOTO
Doctor en Derecho
Universidad de Montpellier I Francia.
RESUMEN
La reciente exposición de la Política
General del nuevo Primer Ministro francés Michel Barnier ante la Asamblea
General de los Diputados ha generado dudas respecto a generalizar la
videovigilancia algorítmica, experimentada durante los Juegos
Olímpicos mientras el Ministerio del Interior aseguraba hasta ahora que
el experimento no iría más allá de la duración de los Juegos Olímpicos,
aunque el texto de la ley ya preveía una prórroga hasta el 31 de marzo de
2025.
Dos artículos al respecto intentan
informar como analizar sobre la aplicación y desafíos de la videovigilancia
algorítmica. Según el Primer Ministro al momento de evocar las cuestiones de
seguridad, se inclina por una "generalización del método probado
durante los Juegos Olímpicos". Del lado de la Asociación "La Quadrature du Net" en marzo de 2023, transmitieron ya a la CNIL su posición sobre la videovigilancia llamada “algorítmica”, así
como más de 170 contribuciones que les dirigieron algunas personas en el marco
de una contra-consulta popular.
Las críticas se basan principalmente en
el enorme mercado que representa la Video vigilancia algorítmica y que a través
de esta automatización, las empresas privadas adquieren poder policial y el
establecimiento de normas y comportamientos en el espacio público, encajando
perfectamente en discutibles ampliaciones de políticas de seguridad. Incluso, se
cuestiona la relación entre la videovigilancia algorítmica y la Smart City (Ciudades
Inteligentes) quienes alimentan la misma ficción: la de una ciudad cuyos
sensores recopilan datos, donde los algoritmos clasifican y detectan y donde
una plataforma central permitiría a la policía gestionar la ciudad de forma
remota.
Estas reflexiones nos interrogan sobre la viabilidad de Proyectos que se implementan en Perú sobre Video vigilancia algorítmica, Ciudades Inteligentes y las altas tasas de criminalidad.
A fin de acceder a normas similares y
estándares europeos, las empresas, organizaciones públicas y privados
interesados en asesorías, consultorías, capacitaciones, estudios, evaluaciones,
auditorías sobre el tema, sírvanse comunicar al correo electrónico: cferreyros@hotmail.com
_______________________________________________________
El gobierno (francés) prevé generalizar la videovigilancia
algorítmica experimentada durante los Juegos Olímpicos.
Artículo escrito por Yannick Falt
Radio
France
Publicado el 10/02/2024 06:00
Actualizado el 10/02/2024 13:16
Tiempo
de lectura: 2 min
Una cámara de vigilancia en París, 7 de septiembre de 2023. Foto
ilustrativa. (VICENTE ISORE / MAXPPP)
PRECISIÓN. Luego de la publicación de este artículo, Matignon pidió a France Info que esperara el informe de un Comité de Evaluación
prometido para finales de diciembre 2024.
El gobierno prevé generalizar la
videovigilancia algorítmica, experimentada durante los Juegos Olímpicos, según
supo France Info por una fuente gubernamental el miércoles 2 de octubre. Y
esto, mientras el Ministerio del Interior aseguraba hasta ahora que el experimento no iría más allá de la
duración de los Juegos Olímpicos, aunque el texto de la ley ya preveía una prórroga hasta el 31 de marzo de
2025. Matignon precisa que está a la espera del Informe de un Comité de Evaluación
prometido para tomar su decisión a finales de diciembre.
A leer también: Paris 2024 : ces questions
éthiques qui se posent avec les caméras "intelligentes" installées
pour les Jeux olympiques
El martes por la tarde, en su
declaración de política general, el Primer Ministro Michel Barnier afirmó que
le gustaría, al momento de evocar las cuestiones de seguridad, una "generalización del método probado durante los
Juegos Olímpicos". Según las informaciones de Franceinfo, el gobierno
está considerando desarrollar el uso de videovigilancia algorítmica.
Esta videovigilancia algorítmica fue probada en Francia en el marco de la ley de los Juegos Olímpicos de París adoptada en abril de 2023, durante los Juegos pero también para conciertos (Dépêche Mode, Black Eyed Peas, Taylor Swift) e incluso para Roland-Garros. Esta consiste en un software asociado a cámaras de vigilancia para identificar eventos considerados sospechosos o de riesgo, antes de alertar a un operador en tiempo real. Durante los Juegos Olímpicos, la Prefectura de Policía de París habló de 185 cámaras fijas movilizadas en la región parisina en el marco de este dispositivo durante los Juegos Olímpicos.
El jefe de policía de París, favorable a la generalización
Según las autoridades, los resultados de
este experimento son positivos, aunque es necesario mejorar el sistema en
materia de detección de armas, inicio de incendio o detección de objetos
abandonados. El Comité de Evaluación de las cámaras algorítmicas deberá
presentar un informe a finales de 2024. Las asociaciones que defienden las
libertades, por su parte, temen una vigilancia generalizada a pesar de la línea
roja marcada hasta ahora por el gobierno: el uso del reconocimiento facial.
La Quadrature du
Net
¿Qué es la videovigilancia algorítmica?
Https://www.laquadrature.net/2022/03/23/quest-ce-que-la-videosurveillance-algorithmique/
Definiciones
Según la CNIL, la “vídeo aumentada se refiere aquí a dispositivos de vídeo a los que se
asocia un procesamiento algorítmico implementado por software, que permite el
análisis automático, en tiempo real y de forma continua, de las imágenes
captadas por la cámara. »
Videovigilancia/videoprotección
“aumentada” o “inteligente”, como la describen instituciones y fabricantes, o
incluso videovigilancia “algorítmica” o “automatizada” (VSA), como preferimos llamarla. Todos estos términos
cubren la misma realidad con contornos más o menos vagos y promesas más o menos
concretas. Se trata de añadir una capa de algoritmo a las llamadas cámaras de
videovigilancia “clásicas”. Y ello, con el objetivo de automatizar el análisis
de las imágenes captadas por las cámaras, hasta ahora realizado por humanos, video
operadores dentro de los Centros de Supervisión Urbana (CSU). Entonces, ¿por
qué estas diferencias de lenguaje?
Como las nociones tienen mucho peso,
preferimos “automatización” - este término deconstruye la noción de
inteligencia que supuestamente aporta la tecnología. La automatización no es un
procedimiento neutral fuera del mundo social, sino que lleva consigo[2] las representaciones y
normas de este último. Y “algorítmico” para visibilizar la incorporación de
este software fabricado por start-ups
y multinacionales de las que no sabemos mucho.
Esta superposición algorítmica tiene
como objetivo realizar análisis de vídeo, ya sea en tiempo real o a posteriori, e identificar... lo que la
policía quiere identificar. Esto va
desde la “detección de comportamientos sospechosos”, hasta “merodeo” (el hecho
de estar estático en un espacio público), pasando por “cruzar una línea”, el seguimiento
de personas, detectar objetos abandonados, peleas, robos, etc.
El despliegue de VSA en las ciudades
Ya sea en Toulouse en 2016 con IBM (proyecto abandonado en
2019), en Nimes desde 2015 con Briefcam, en Marsella a partir de 2018 con SNEF, en París con
la RATP que autoriza a las empresas a probar
sus algoritmos en los usuarios de los metros, o con el municipio de Suresnes que pone a su población a disposición
de la start-up parisina XXII, la videovigilancia algorítmica se está
implementando en casi todas partes de Francia. Aunque sigue siendo
complicado cuantificar el número de ciudades que utilizan el VSA, debido a la
evidente falta de transparencia de este último, es posible identificar al menos
cincuenta, aunque el número real lamentablemente debe superar el centenar, sólo
en Francia.
Desde hace varios años seguimos este
despliegue, a menudo muy opaco (no todos los municipios son tan locuaces como
el de Estrosi). Si bien VSA fue objeto hasta hace poco de numerosos
experimentos salvajes, la CNIL pidió explícitamente en enero de 2022 a los fabricantes del
sector que proporcionaran observaciones sobre el uso de estas tecnologías “para
apoyar su implementación”, tomando claramente partido: aquel de la industria de
la seguridad. La VSA parece preparada para inundar el mercado de la seguridad
urbana digital.
Y este mercado de la VSA está tomando
forma: si actores como IBM en Toulouse no han logrado hacer efectivo su
producto y parecen haberse retirado, la empresa israelí Briefcam (entidad del
grupo Canon) pretende dominar el mercado en Francia mientras las ciudades
firman asociaciones con empresas o start-ups
francesas, apoyadas por responsables políticos, para hacer competitivas a las
industrias francesas en el mercado internacional de la seguridad urbana
digital.
Los Ejemplos de Briefcam y Two-I
Briefcam es una empresa que produce software de videovigilancia algorítmica,
muy establecida en Francia, Estados Unidos y una cuarentena de países. En 2020,
más de 35 ciudades francesas ya utilizaban su software, del que aquí ofrecemos una demostración bastante reveladora.
En este vídeo, la empresa afirma ser
capaz de condensar horas de vídeos en unos pocos minutos, para poder rastrear a
las personas en función de sus atributos (mujer, hombre, bolso, sombreros,
colores de ropa, etc.). También sabemos que el software de Briefcam tiene una opción de reconocimiento facial, que
los funcionarios
de seguridad están ansiosos por activar.
Two-I, por su parte, es una start-up francesa con sede cerca de Metz,
que tras haber intentado primero encontrar un lugar en la detección de
emociones (en particular, el experimento abortado en Niza para detectar
emociones en los tranvías), finalmente se lanzó a la videovigilancia
algorítmica y al diseño de lo que los fabricantes llaman una “plataforma de
hipervisión”. Estas plataformas mapean y traducen los numerosos datos
recopilados por cámaras y algoritmos, con el objetivo de “optimizar la gestión
de la ciudad”. En definitiva, estas plataformas permiten hacer utilizable la
videovigilancia algorítmica, mediante el mapeo de los datos y alertas captados
por las cámaras y los algoritmos.
Hyperviseur de Two-I, vea el vídeo de presentación aquí.
El ejemplo de los softwares de Briefcam o Two-I (que son sólo dos ejemplos entre una
decena de empresas de seguridad del mismo tipo) es indicativo de este nuevo
mercado de seguridad, pero también de un cambio en el concepto de seguridad. En
adelante, son las empresas privadas las que, diseñando los algoritmos vendidos
a las autoridades locales, deciden qué hay detrás de una alerta de
“comportamiento anormal o sospechoso”. A través de la automatización, las
empresas adquieren poder policial y el establecimiento de normas y
comportamientos en el espacio público, encajando perfectamente en la ampliación
de las políticas de seguridad.
Los efectos de la videovigilancia algorítmica
Añadir un algoritmo a la videovigilancia
“clásica” no es insignificante. Esto atestigua un cambio de escala en la
vigilancia con cámaras que, hasta ahora, como la describe Tanguy Le Goff[3], era “un trabajo de vigilancia
[…] considerado aburrido y monótono” dentro del cual los operadores de vídeo
pusieron en marcha estrategias para realizar este trabajo parcialmente.
La automatización de esta vigilancia
debería aumentar el número de ojos detrás de la pantalla de la cámara. Y esto
se refleja en particular en la criminalización de conductas hasta entonces
inofensivas o casi inofensivas, como tirar
basura, no llevar mascarilla o incluso excrementos de perro. La automatización
permite a la policía extender su capacidad de acción a nuevas áreas en las que
ahora tiene poder represivo. La policía puede multiplicar por diez su capacidad
de normalizar los espacios públicos: si el merodeo, es decir el hecho de
permanecer estático durante más de 300 segundos, alerta a la policía, podemos
temer por las personas que no pueden ver la calle como un “mero lugar de paso”,
porque viven allí o lo convierten en un hito social necesario. Volveremos en un
artículo futuro sobre el hecho de que los algoritmos de las cámaras aumentan la
represión policial sobre poblaciones que ya son un objetivo particular de las
fuerzas del orden.
Otro aspecto de VSA es la creciente
tendencia a colectar datos. Más allá
de la vigilancia del espacio público y la normalización de comportamientos que
acentúa el VSA, todo un mercado de datos económicos se frota las manos. La pretendida
“supervisión” de los sistemas prometida por la CNIL permitiría a las empresas Tecno
policía utilizar los espacios públicos y a las personas que pasan por ellos o
viven como “datos con patas”. Y que las industrias de seguridad ganen dinero
con nosotros, mejoran sus algoritmos de represión y luego los vendan en el
mercado internacional. Esto es lo que está haciendo la multinacional francesa Idémia, que perfecciona sus
dispositivos de reconocimiento facial en los aeropuertos franceses con los
dispositivos PARAFE o MONA para luego vender equipos de reconocimiento facial a
China y así participar en la vigilancia masiva y el genocidio de los Ouïghours, o aun ganar licitaciones de la Unión
Europea para realizar biometría en las fronteras de la UE.
¿Cuál es la denominación VSA?
La videovigilancia automatizada y la Smart
City alimentan la misma ficción: la de una ciudad cuyos sensores recopilan
datos, donde los algoritmos clasifican y detectan y donde una plataforma
central permitiría a la policía gestionar la ciudad de forma remota.
La videovigilancia algorítmica es un
mercado de la seguridad que intenta de crecer volviéndose “digital”, es decir
con IA y algoritmos. Y como muestra Myrtille Picaud[4], los industriales y los
responsables políticos franceses están presionando para estructurar un sector
industrial de seguridad fuerte para ser competitivos en el mercado
internacional, que representa un mercado económico enorme. Los grandes
acontecimientos deportivos, como los Juegos Olímpicos de París en 2024 o la
Copa del Mundo de Rugby en 2023, han supuesto una gran ayuda
para acelerar el desarrollo de las tecnologías de seguridad, ofrecer una
vitrina a los fabricantes franceses y normalizar estos dispositivos.
Para los fabricantes, el VSA representa
la posibilidad de justificar el despliegue de cientos de miles de cámaras en Francia.
Un despliegue ampliamente criticado[5] incluso por las
instituciones públicas, pero que, por arte de magia, adquiriría todo su sentido
con la adición de algoritmos (argumento absurdo, volveremos sobre él en un
próximo artículo). La VSA permitiría aprovechar todo el potencial de las
cámaras e incluso acelerar su implementación: se necesitarán más y también será
necesario sustituir las antiguas que no tendrían la calidad suficiente para los
algoritmos; y sobre todo garantizar que sigamos con la instalación excesiva de
cámaras que seguirán aportando mucho dinero a las empresas del sector.
Además de constituir una justificación
para la multiplicación de las cámaras de videovigilancia, la VSA constituye un
recurso rentable[6]
políticamente, lo que explica el entusiasmo desmesurado de los funcionarios locales
por la videovigilancia. La VSA es una medida a corto plazo que los funcionarios
locales pueden movilizar para demostrar que están tomando medidas. La seguridad
digital también constituye[7] una fuente de atractividad
y de distinción en la competencia territorial, en la búsqueda de capital
simbólico para atraer el turismo y la clase creativa.
La videovigilancia algorítmica supone
una renovación de la creencia en la “profecía tecnológica[8]” integrada en la Smart
City. Esta creencia permite seguir desplegando cámaras y, sobre todo, encontrar
cada vez más oportunidades económicas.
Para concluir:
En suma, la videovigilancia algorítmica
es una tecnología a punto de ser ampliamente implementada en Francia y que
quizás ya lo sea mucho más de lo que podemos dudar, lo que sirve para
justificar la existencia del inmenso parque de videovigilancia francés,
intentando hacerlo más eficiente, mediante la automatización de la detección de
delitos. Esta tecnología forma parte de la ficción más amplia de la Smart City,
que basa la gestión de la ciudad en la IA y representa un enorme mercado
económico. Estas tecnologías de automatización reducen aún más los espacios de
libertad en las calles y plazas de las ciudades, aumentando la represión sobre
las poblaciones que ya son el blanco de la policía. Volveremos con más detalle
sobre por qué estamos en contra de esta tecnología y cómo es posible luchar
contra su implementación.
Referencias
1 La Quadrature du
Net promueve y defiende las libertades fundamentales en el entorno digital. La
asociación lucha contra la censura y la vigilancia, ya sea por parte del Estado
o de empresas privadas. Cuestiona la forma en que la tecnología digital y la
sociedad se influyen mutuamente. Obra por una
Internet libre, descentralizada y emancipadora.
2 Florent Castagnino, Rendre
« intelligentes » les caméras : déplacement du travail des
opérateurs de vidéosurveillance et redéfinition du soupçon, Sciences Po,
2019.
3 Tanguy Le Goff, « Dans les
« coulisses » du métier d’opérateur de
vidéosurveillance », Criminologie, vol. 46, n°2, 2013, p.
91-108.
4 Myrtille Picaud Peur sur
la ville. La sécurité numérique pour l’espace urbain en France [Rapport
de recherche] 01/2021, Chaire « Villes et numérique », École urbaine
de Sciences Po, 2021.
5 Ver estos tres estudios: celle de Guillaume Gormand solicitado por el CREOGN, el estudio sobre la vidéosurveillance dans les
villages, novembre 2021 et le rapport sur les polices municipales, d’octobre 2020.
6 Laurent Mucchielli, Vous
êtes filmés, Armand Colin, 2018, page 80.
7 Guillaume Faburel, Les
métropoles barbares, Paris, Le passager clandestin, 2020 [2018], page 46.
8 Ibid.
[1] La Quadrature du
Net promueve y defiende las libertades fundamentales en el entorno digital. La
asociación lucha contra la censura y la vigilancia, ya sea por parte del Estado
o de empresas privadas. Cuestiona la forma en que la tecnología digital y la
sociedad se influyen mutuamente. Trabaja por una
Internet libre, descentralizada y emancipadora.
[2] Florent Castagnino, Rendre
« intelligentes » les caméras : déplacement du travail des
opérateurs de vidéosurveillance et redéfinition du soupçon, Sciences Po,
2019.
[3] Tanguy Le Goff, « Dans les
« coulisses » du métier d’opérateur de
vidéosurveillance », Criminologie, vol. 46, n°2, 2013, p.
91-108.
[4] Myrtille Picaud Peur sur la ville. La sécurité numérique pour l’espace urbain en France [Rapport de recherche] 01/2021, Chaire « Villes et numérique », École urbaine de Sciences Po, 2021.
[5] Ver estos tres estudioss : celle de Guillaume Gormand solicitado por el CREOGN, el estudio sobre la vidéosurveillance dans les
villages, novembre 2021 et le rapport sur les polices municipales, de octubre 2020.
[6] Laurent Mucchielli, Vous
êtes filmés, Armand Colin, 2018, page 80.
[7] Guillaume Faburel, Les
métropoles barbares, Paris, Le passager clandestin, 2020 [2018], page 46.
[8] Ibid.
No hay comentarios:
Publicar un comentario