Por: Carlos A. FERREYROS SOTO
Doctor en Derecho
Universidad de Montpellier I Francia.
cferreyros@ferreyros-ferreyros.com
RESUMEN
La Carta ética europea sobre el uso de la inteligencia artificial (IA) en los sistemas judiciales fue adoptada por la CEPEJ en 2018 basada en cinco principios para orientar su diseño y aplicación.
Su propósito es aprovechar la IA para mejorar la eficiencia y calidad de la justicia, sin menoscabar los derechos fundamentales ni la independencia judicial.
La presente Carta ética podria ser concordada con los recientes "Lineamientos de Política Institucional para el uso seguro, responsable y ético de los sistemas basados en inteligencia artificial en el Ministerio de Salud" en el Perú.
A fin de acceder a normas similares y estándares europeos, las empresas, organizaciones públicas y privadas interesadas en asesorías, consultorías, capacitaciones, estudios, evaluaciones, auditorías sobre el tema, sírvanse comunicar al correo electrónico:cferreyros@ferreyros-ferreyros.com
________________________________________________________
COMISIÓN EUROPEA PARA LA EFICACIA DE LA JUSTICIA (CEPEJ)
Carta ética europea de uso de la inteligencia
artificial en los sistemas judiciales y su entorno.
Adoptada en la 31ª reunión
plenaria de la CEPEJ (Estrasburgo, 3-4 de diciembre de 2018)
Consejo de Europa
Introducción
Constatando la importancia creciente de la inteligencia artificial (IA) en
nuestras sociedades modernas y los beneficios que cabe esperar cuando se
utilice plenamente al servicio de la eficacia y la calidad de la justicia[1],
la CEPEJ adopta solemnemente los 5 principios fundamentales siguientes,
denominados «Carta ética europea de uso de la IA en los sistemas judiciales y
su entorno».
Esta Carta se dirige a los actores públicos y privados encargados de la
concepción y el despliegue de herramientas y servicios de inteligencia
artificial basados, en particular, en el tratamiento de las decisiones
jurisdiccionales y de los datos judiciales (aprendizaje automático o cualquier
otro método proveniente de las ciencias de la información).
Se dirige igualmente a los responsables públicos encargados del encuadre
legislativo o reglamentario, del desarrollo, de la auditoría o del uso de
dichas herramientas y servicios.
La utilización de tales herramientas y servicios en los sistemas judiciales
tiene por vocación mejorar la eficacia y la calidad de la justicia y merece ser
fomentada. No obstante, debe producirse de manera responsable, en el respeto de
los derechos fundamentales de las personas enunciados por el Convenio Europeo
de Derechos Humanos y por el Convenio para la protección de datos de carácter
personal, así como de los demás principios fundamentales enunciados a
continuación, que deberían orientar la definición de políticas públicas de
justicia en este ámbito.
El tratamiento de las decisiones jurisdiccionales por la IA es susceptible,
según sus conceptores, de contribuir, en materia civil, mercantil y
administrativa, a mejorar la previsibilidad de la aplicación de la ley y la
coherencia de las decisiones judiciales, con reserva del respeto de los
principios enunciados a continuación. En materia penal, su utilización debe ser
considerada con las más extremas reservas, a fin de prevenir discriminaciones
sobre datos sensibles, en conformidad con las garantías del proceso equitativo.
Sean cuales sean los fines perseguidos - apoyo a una consulta jurídica,
ayuda a la redacción o a la decisión, u orientación de los justiciables -, es
esencial que dichos tratamientos se efectúen en condiciones de transparencia,
neutralidad y lealtad certificadas por una pericia exterior al operador e
independiente.
Aplicación de la Carta
Los principios de la Carta deberían poder ser objeto de una aplicación, un
seguimiento y una evaluación regulares por parte de los actores públicos y
privados, para mejorar constantemente las herramientas.
A este respecto, es deseable que un balance regular de la aplicación de los
principios de la Carta sea efectuado por estos actores, explicando en su caso
las razones de no realización o de realización parcial, acompañado de un plan
de acción para introducir las medidas adecuadas.
Las autoridades independientes mencionadas en la Carta podrían ser
encargadas de evaluar periódicamente el nivel de adhesión a los principios de
esta Carta de todos los actores y de proponer mejoras para adaptarla a la
evolución de las tecnologías y de los usos de estas herramientas.
LOS 5
PRINCIPIOS DE LA CARTA ÉTICA DE USO DE LA INTELIGENCIA ARTIFICIAL EN LOS
SISTEMAS JUDICIALES Y SU ENTORNO
1. Principio de respeto
de los derechos fundamentales: asegurar una concepción y una
aplicación de las herramientas y de los servicios de inteligencia artificial
compatibles con los derechos fundamentales.
2. Principio de no
discriminación: prevenir específicamente la creación o el refuerzo de discriminaciones
entre individuos o grupos de individuos.
3. Principio de calidad
y seguridad: en lo que respecta al tratamiento de las decisiones jurisdiccionales y de
los datos judiciales, utilizar fuentes certificadas y datos intangibles con
modelos concebidos de una manera multidisciplinar, en un entorno tecnológico
seguro.
4. Principio de transparencia,
neutralidad e integridad intelectual: hacer accesibles y comprensibles
las metodologías de tratamiento de los datos, autorizar las auditorías
externas.
5. Principio de dominio
por el usuario: desterrar un enfoque prescriptivo y permitir que el usuario sea un actor
ilustrado y dueño de sus opciones.
1. Principio de respeto de los
derechos fundamentales: asegurar una concepción y una aplicación de las
herramientas y de los servicios de inteligencia artificial compatibles con los
derechos fundamentales
·
El tratamiento de decisiones
jurisdiccionales y de datos judiciales debe responder a fines claras, en el
respeto de los derechos fundamentales garantizados por el Convenio Europeo de
Derechos Humanos (CEDH) y del Convenio para la protección de datos de carácter
personal (Convenio para la protección de las personas respecto al tratamiento
automatizado de datos de carácter personal, STCE n. º 108, según fue enmendado
por el Protocolo de enmienda STCE n. º 108+).
·
Cuando las herramientas de
inteligencia artificial se utilizan para resolver un litigio o como
herramientas de ayuda a la decisión judicial o de orientación del justiciable,
no deben atentar contra las garantías del derecho de acceso al juez y del
proceso equitativo (igualdad de armas y respeto del contradictorio).
·
Deberían asimismo ser utilizadas
en el pleno respeto de los principios del Estado de Derecho y de la independencia
de los jueces en su proceso de decisión.
· Los enfoques denominados de «ética[2] desde la
concepción» (ethical-by-design) o de «derechos humanos desde la concepción»
(human rights by design) serían así los que habría que privilegiar. Consisten
en integrar desde la fase de concepción y de aprendizaje reglas que prohíban
atentar directa o indirectamente contra los valores fundamentales protegidos
por los derechos humanos.
2. Principio de no
discriminación: prevenir específicamente la creación o el refuerzo de
discriminaciones entre individuos o grupos de individuos
·
Conscientes de la capacidad de
estos tratamientos para revelar discriminaciones existentes, mediante
agrupamiento o clasificación de datos relativos a individuos o grupos de
individuos, los actores públicos y privados deben asegurarse de que estos no
reproducen ni agravan dichas discriminaciones y de que no conducen a análisis o
usos discriminatorios.
·
Debe prestarse una vigilancia
particular tanto en la fase de elaboración como en la de utilización, tanto más
cuanto que estos tratamientos se fundan de manera directa o indirecta en datos
«sensibles». Pueden considerarse como tales el origen supuestamente racial o
étnico, las condiciones socioeconómicas, las opiniones políticas, las
convicciones religiosas o filosóficas, la afiliación sindical, así como los
datos genéticos, los datos biométricos, los datos relativos a la salud o a la
vida sexual o a la orientación sexual. Deben plantearse intervenciones
correctoras encaminadas a limitar y, si es posible, neutralizar estos riesgos,
así como una sensibilización de los actores, cuando estas discriminaciones se
manifiesten.
· En cambio, el uso del aprendizaje automático y la
realización de análisis científicos pluridisciplinares encaminados a luchar
contra tales discriminaciones deberían ser fomentados.
3. Principio de calidad y
seguridad: en lo que respecta al tratamiento de las decisiones jurisdiccionales
y de los datos judiciales, utilizar fuentes certificadas y datos intangibles
con modelos concebidos de una manera multidisciplinar, en un entorno
tecnológico seguro
·
Los conceptores de modelos a
partir del aprendizaje automático deben poder recoger de manera amplia la
pericia de los profesionales de la justicia concernidos (jueces, fiscales,
abogados, etc.) y de los investigadores/docentes en derecho y en ciencias sociales
(economistas, sociólogos, filósofos, por ejemplo).
·
La constitución de equipos de
proyecto mixtos en ciclos de concepción cortos para producir maquetas
funcionales es uno de los modos de organización que permite sacar el mejor
partido de esta pluridisciplinariedad.
·
Las medidas éticas existentes
deberían poder ser compartidas constantemente por estos equipos de proyecto y
enriquecidas sobre la base de los retornos de experiencia.
·
Los datos derivados de las
decisiones jurisdiccionales e integrados en un software que ejecuta un
algoritmo de aprendizaje automático deben provenir de fuentes certificadas y no
deben poder ser alterados hasta su utilización efectiva por el mecanismo de
aprendizaje. El conjunto del proceso debe así poder ser trazado para asegurarse
de que no ha intervenido ninguna alteración, de naturaleza a modificar el
contenido o el sentido de la decisión tratada.
· Los modelos y los algoritmos creados deberían poder
ser igualmente almacenados y ejecutados en entornos protegidos, garantizando la
integridad y la intangibilidad del sistema.
4. Principio de transparencia,
neutralidad e integridad intelectual: hacer accesibles y comprensibles las
metodologías de tratamiento de los datos, autorizar las auditorías externas
·
Debe encontrarse un equilibrio[3] entre la
propiedad intelectual de ciertos métodos de tratamiento y las exigencias de
transparencia (acceso al enfoque de concepción), de neutralidad (ausencia de
sesgos[4]), de
lealtad y de integridad intelectual (hacer prevalecer el interés de la justicia),
en razón de los efectos jurídicos o de las incidencias que estos métodos pueden
tener sobre las personas. Conviene precisar que toda la cadena de concepción y
de funcionamiento se ve afectada por estas medidas, puesto que la metodología
de selección, la calidad y la organización de los datos influyen directamente
en la fase de aprendizaje.
· La transparencia técnica total (por ejemplo, código
abierto del código y de la documentación) es una primera posibilidad, limitada
a veces por la protección de los secretos industriales. El sistema podría ser
también explicable en un lenguaje claro y vulgarizado a fin de describir la
manera en que produce sus resultados, comunicando, por ejemplo, sobre la
naturaleza de las prestaciones propuestas, las herramientas desarrolladas, las
prestaciones y los riesgos de error. Unas autoridades o unos expertos
independientes podrían encargarse de la certificación y de la auditoría de los
tratamientos o proporcionar, de antemano, asesoramiento. Unas etiquetas
renovadas regularmente podrían ser expedidas por las autoridades públicas.
5. Principio de dominio por el usuario: desterrar un enfoque prescriptivo y
permitir que el usuario sea un actor ilustrado y dueño de sus opciones
· La autonomía del usuario debe ser reforzada y no ser
restringida por la utilización de herramientas y servicios de inteligencia
artificial.
· El profesional de la justicia debería poder en todo
momento volver a las decisiones y datos judiciales que hubieran sido utilizados
para producir un resultado y seguir teniendo la posibilidad de apartarse de
ellos a la vista de las especificidades del asunto.
· El justiciable debería ser informado en un lenguaje
claro y comprensible del carácter vinculante o no de las soluciones propuestas
por las herramientas de inteligencia artificial, de las diferentes opciones
posibles, así como de su derecho a una asistencia jurídica y a recurrir a un
tribunal. El justiciable debería asimismo ser informado de manera clara de
cualquier recurso a un tratamiento previo de un asunto por inteligencia
artificial antes o durante un proceso judicial, y estar en condiciones de
oponerse a ello para que su asunto sea examinado directamente por un tribunal
en el sentido del artículo 6 del Convenio.
·
De manera general, deberían
llevarse a cabo acciones de alfabetización digital de los usuarios y debates
con la participación de los profesionales de la justicia con ocasión de la
aplicación de todo sistema de información basado en inteligencia artificial.
ANEXO II
— ¿QUÉ USOS TIENE LA IA EN LOS SISTEMAS JUDICIALES EUROPEOS?
Este Anexo de la Carta pasa revista a diferentes usos de la IA en los
sistemas europeos y fomenta en distinto grado su aplicación a la luz de los
principios y de los valores enunciados en la Carta ética.
La utilización del aprendizaje automatizado (Machine Learning) para
constituir motores de búsqueda que valoricen el patrimonio jurisprudencial es
una oportunidad a desarrollar para el conjunto de los profesionales del
derecho. Otros usos (constitución de baremos, apoyo a medidas alternativas de
resolución de litigios) deben ser considerados tomando precauciones (calidad de
la fuente de los datos, en particular, y no tratamiento masivo de la totalidad
del contenido concernido). Los demás usos («justicia denominada predictiva»)
deberían ser devueltos al campo de la investigación y de un desarrollo ulterior
(en consultación con los profesionales de la justicia a fin de asegurar una
plena correspondencia con las necesidades), antes de considerar una explotación
pública seria de los mismos.
En materia penal, la cuestión aparece como extremadamente sensible pero no
debe ser ignorada. A la luz de los numerosos cuestionamientos existentes en
cuanto a su compatibilidad con un cierto número de derechos fundamentales, la
utilización de algoritmos de cálculo de potenciales riesgos de reincidencia de
un individuo procesado debería ser considerada con las más extremas reservas.
El tratamiento de datos cuantitativos globales para la prevención de la
delincuencia es, en cambio, una pista a profundizar con estas técnicas nuevas,
teniendo en cuenta los sesgos conocidos (efecto performativo, calidad de los
datos). Del mismo modo, la utilización de algoritmos para hacer mejor el enlace
entre la oferta de trabajo de interés general y la personalidad de un individuo
constituiría quizá un factor de eficacia de este tipo de medida.
Usos que deben fomentarse
· Valorización del patrimonio jurisprudencial: las técnicas de Machine Learning se han utilizado
cada vez más en el ámbito del tratamiento del lenguaje natural en los últimos
años (lo cual comprende los esfuerzos iniciales de comprensión del lenguaje
natural) y constituyen un activo considerable para construir soluciones de
búsqueda complementarias de las actuales palabras clave o búsqueda «texto
completo». Estas herramientas podrían enlazar varias fuentes (Constitución y
convenciones, leyes, jurisprudencia, doctrina). Unas técnicas de visualización
de datos podrían ilustrar el resultado de las búsquedas.
· Acceso al derecho: sin sustituir una
intervención humana, podrían implantarse chatbots para facilitar el acceso, en
lenguaje natural, a las diferentes fuentes de información existentes. Unos
modelos de actos (decisiones de un tribunal, contrato de arrendamiento, por
ejemplo) podrían también ser generados en línea.
· Construcción de nuevas herramientas de pilotaje: la utilización de las técnicas de ciencia de los
datos y de inteligencia artificial sobre los datos de actividad de las
jurisdicciones puede contribuir a mejorar la eficacia de la justicia
permitiendo, en particular, proceder a evaluaciones cuantitativas y
cualitativas y construir proyecciones (anticipación de los medios humanos y
presupuestarios). Unos indicadores clave de rendimiento podrían constituirse
sobre esta base. Se recomienda la implicación de los profesionales de la
justicia, y en particular de los jueces, en la puesta en marcha de estas
herramientas, tanto en el plano de la apropiación de las mismas como en el del
análisis de los resultados y su ponderación con elementos relativos a las
especificidades de la jurisdicción o de la calidad de la justicia (por ejemplo,
la necesidad de preservar el acceso a la justicia).
Usos que deben considerarse con
fuertes precauciones metodológicas
· Ayuda a la construcción de baremos/escalas en ciertos contenidos civiles: el análisis de la masa total de las decisiones
judiciales no tiene estadísticamente gran sentido si no se identifican todos
los factores causativos (explícitos e implícitos en las decisiones). Saber que
la media de la prestación compensatoria en una determinada zona geográfica es
más alta que en otra es explicable no por el comportamiento de los jueces, sino
a la vista de las características del territorio. El Machine Learning puede ser
útil para identificar decisiones (cf. valorización del patrimonio jurisprudencial
supra), pero el tratamiento automatizado no puede por solo producir sentido. La
construcción de una muestra pertinente de decisiones a tratar (cf. técnica de
sondeos, por ejemplo) es un preliminar indispensable.
· Apoyo a medidas alternativas de resolución de litigios en materia civil: en ciertos países europeos, unas herramientas de
justicia denominada «predictiva» son utilizadas por compañías de seguros para
evaluar las posibilidades de éxito de un contenido y desviar al justiciable
hacia otro modo de resolución de su litigio cuando las posibilidades de éxito
son consideradas débiles. Por otra parte, ciertos sistemas en el extranjero
proponen unos importes de indemnización sin real transparencia de las reglas de
cálculo. Sin embargo, la evaluación de estos sistemas no puede ser considerada
como imparcial y fiable: se hace tomar una decisión al ciudadano sobre bases
truncadas. En otros casos, una medida alternativa de resolución de litigio
puede ser aconsejada al justiciable por un agente relacional (chatbot) tras un
examen preliminar de los criterios facilitados por el propio justiciable,
cuando este se presenta en el sitio de una jurisdicción o busca en la web una
información jurídica. Este agente relacional puede, en su caso, recomendar asimismo
al justiciable que solicite el consejo de un abogado o de un servicio de
mediación. En todas estas hipótesis, la presencia de un tercero formado
(mediador apoyándose no solo en técnicas sino quizá en baremos como los
calculados más arriba, o un abogado) parece ser la solución más apropiada en
esta fase.
· Resolución de litigios en línea:
cuando se presenta en una plataforma de resolución de litigio en línea, el
justiciable debería ser informado de manera clara y comprensible si el
tratamiento de su litigio se hace de manera totalmente automatizada o con la
implicación de un mediador o de un árbitro. Por otra parte, la información al
justiciable debería también ser leal, y evitar darle la impresión de incoar un requerimiento
a un tribunal (a este respecto, se observa que la denominación «tribunal en
línea» es a menudo utilizada para este tipo de plataformas, cuando técnicamente
se proponen servicios de resolución alternativa de litigios). Se trata de dos
elementos esenciales para permitir al justiciable hacer una opción ilustrada y
decidir eventualmente oponerse a ello y recurrir a un verdadero tribunal, en el
sentido del artículo 6 del CEDH. Asimismo, en atención a las exigencias de los
artículos 6 y 13 del CEDH, habría que considerar siempre formas de control del
procedimiento de resolución de litigios en línea y de su resultado por las
jurisdicciones del Estado, sobre todo cuando el justiciable ha consentido la
resolución de litigios en línea en forma totalmente automatizada.
· Utilización de algoritmos en materia de investigación penal a fin de
identificar lugares de comisión de infracciones: este tipo de aplicación podría concernir no solo a la
policía sino también a las fiscalías en el marco de las instancias de
prevención de la delincuencia en las que participan. Aquí también se han
utilizado sistemas en los Estados Unidos a fin de dirigir en tiempo real
patrullas de policía hacia lugares posibles de comisión de infracciones. Este
tipo de enfoque cuantitativo es, sin embargo, susceptible de generar un fuerte
efecto «performativo» (en un lugar, se tiene más posibilidad de descubrir una
infracción y se autoalimenta así el sistema). El análisis criminal por enfoques
combinados entre sistemas de información geográfica (SIG) y masas de datos de
los procedimientos podría ser mejor compartido con las fiscalías y beneficiarse
ciertamente de un fuerte aporte del Machine Learning. Unas unidades de lucha
contra el blanqueo utilizan ya sistemas «predictivos» para identificar flujos
financieros sospechosos, pero tratándose de información cuantitativa
(monetaria), las máquinas están más en condiciones de producir análisis
fiables. La investigación debería tener también un mejor acceso a estos datos
para producir estudios pertinentes destinados a los responsables de la toma de
decisiones.
Usos que deben considerarse al
término de trabajos científicos complementarios
· Perfilado de los jueces:
la cuantificación de la actividad de un juez dará cuenta menos de sus posibles
sesgos de razonamiento que de factores externos que han pesado sobre su decisión.
La actividad jurisdiccional en un territorio empobrecido no produce los mismos
resultados que en otro territorio, y ello con independencia de la personalidad
del juez. Cuando la decisión es dictada de manera colegiada y sin posibilidad
de que un juez exprese una opinión divergente, es en vano perfilar a cada uno
de los jueces de la sala. Ofrecer, en cambio, a los jueces una evaluación
cuantitativa y cualitativa más fina de sus actividades, gracias a nuevas
herramientas, pero con un fin puramente informativo de ayuda a la decisión y
para su uso exclusivo, podría, en cambio, ser considerado.
· Anticipación de las decisiones de justicia: el solo tratamiento estadístico de grupos léxicos
revela la frecuencia de la utilización de ciertos grupos de palabras pero no
identifica las causas reales de una decisión, pues no procede de un
razonamiento jurídico (cf. estudio conducido sobre las decisiones del TEDH por
el University College of London, que obtiene resultados mejores sobre la parte
de hechos que sobre la parte de análisis del derecho). Unos sistemas híbridos,
fundados en la construcción de modelos matemáticos que se supone representan la
diversidad de razonamiento de los jueces, no son más eficaces porque siguen
limitados a los sesgos de la muestra de datos que han tratado y necesitan ser
totalmente reescritos en caso de modificación de la ley o de cambio de
jurisprudencia.
Usos que deben considerarse con
las más extremas reservas
· Utilización de algoritmos en materia penal a fin de perfilar a los
individuos: las experiencias extranjeras
(COMPAS en los Estados Unidos y HART en Gran Bretaña) han sido denunciadas por
ONG (cf. trabajos de ProPublica en los Estados Unidos o de Big Brother Watch en
Gran Bretaña). En razón de los límites de los métodos empleados, este enfoque
puramente estadístico ha conducido a resultados erróneos: del constato de que
ciertos individuos afroamericanos estarían más a menudo implicados en hechos
criminales, se dedujo un factor de riesgo más elevado para toda la población
afroamericana. Así, incluso por hechos menores, estos sistemas han ponderado
negativamente a acusados afroamericanos y han conducido a un injusto
agravamiento del quantum de sus penas. Una orientación diferente, más
respetuosa de los estándares europeos concernientes a la sanción penal, y que
debe ofrecer posibilidades de rehabilitación y de reintegración a todo
individuo, debe sustituir a este enfoque de efectos discriminatorios y
deterministas. Si unos sistemas algorítmicos logran contribuir a una mejor
recogida de información en beneficio de los servicios de libertad condicional,
por ejemplo, y a ofrecerles de manera más rápida la información pertinente para
un tratamiento respetuoso de los derechos humanos, tales iniciativas pueden ser
útiles (en particular para los procedimientos de juicio rápido). Cualquier otro
uso es, en cambio, sujeto a sesgos que chocarán con numerosos principios
fundamentales nacionales y supranacionales.
· «Norma surgida del número»: no
se trata solo de producir baremos, lo cual podría ser legítimo, sino de
facilitar a cada juez el contenido de las decisiones producidas por el conjunto
de los demás jueces y de pretender encerrar su futura opción en la masa de esos
«precedentes». Pues el número no puede añadirse a la ley ni sustituirla. Por
las razones evocadas más arriba, la masa no hace necesariamente sentido. El
estudio de la CEPEJ ha señalado asimismo los riesgos existentes en materia de
cristalización de la jurisprudencia y de sus efectos potencialmente negativos
sobre la imparcialidad y la independencia de los jueces.
ANEXO III — GLOSARIO
Este glosario apunta a definir los términos empleados por
la carta ética y el documento de estudio. Se ha preferido una interpretación estricta al
conjunto del vocabulario utilizado. El conjunto de los documentos deben
leerse y entenderse a la luz de estas definiciones.
· ALGORITMO: sucesión finita de reglas
formales (operaciones lógicas, instrucciones) que permite obtener un resultado
a partir de elementos facilitados como entrada. Esta sucesión puede ser objeto
de un proceso automatizado de ejecución y apoyarse en modelos concebidos
mediante aprendizaje automático.
· APRENDIZAJE AUTOMÁTICO (machine learning): permite construir un modelo matemático a partir de
datos, incluyendo un gran número de variables que no se conocen de antemano.
Los parámetros se configuran a lo largo de una fase de aprendizaje, que utiliza
juegos de datos de entrenamiento para encontrar vínculos y clasificarlos. Las
diferentes modalidades se clasifican en 3 categorías: aprendizaje supervisado
por un humano, aprendizaje no supervisado y aprendizaje por refuerzo.
· ANONIMIZACIÓN: proceso consistente en tratar
datos de carácter personal a fin de impedir totalmente y de manera irreversible
la identificación de una persona física o moral.
· BASE DE DATOS: «contenedor» que almacena datos
(cifras, fechas o palabras) susceptibles de ser retratados por medios
informáticos para producir una información.
· BIG DATA (megadatos): gran conjunto de
datos de fuente heterogénea (open data, datos propietarios, datos comprados
comercialmente).
·
CHATBOT (agente
conversacional): agente que dialoga con su
usuario.
· DATAMINING: permite analizar un gran volumen
de datos y hacer surgir de ellos modelos, correlaciones, patrones.
· DEEP LEARNING (aprendizaje profundo):
véase Aprendizaje automático y Redes de neuronas.
· DATOS DE CARÁCTER PERSONAL:
toda información relativa a una persona física identificada o identificable.
Entre ellos, los datos sensibles: genéticos, biométricos, relativos a
infracciones, procedimientos y condenas penales, origen racial o étnico,
opiniones políticas, afiliación sindical, convicciones religiosas, salud o vida
sexual.
· INTELIGENCIA ARTIFICIAL (IA):
conjunto de ciencias, teorías y técnicas cuyo fin es reproducir por una máquina
capacidades cognitivas de un ser humano. Los desarrollos actuales son IA
«débiles» o «moderadas»; las IA «fuertes» (contextualización autónoma de
problemas) siguen siendo teóricas.
· JUSTICIA «PREDICTIVA»: análisis de grandes
masas de decisiones de justicia por tecnologías de IA a fin de construir, para
ciertos tipos de contenido especializados, previsiones sobre el resultado de
los litigios (importe de indemnizaciones por despido o de pensiones alimenticias,
por ejemplo).
· LEGALTECH: empresas que explotan las
tecnologías de la información en el ámbito del derecho para proponer servicios
jurídicos innovadores (startups especializadas).
· OPEN DATA: puesta a disposición pública,
por descarga, de bases de datos estructuradas, re-empleables de manera no
onerosa bajo licencia específica. No debe confundirse con información pública
unitaria disponible en sitios web.
· PERFILADO: técnica de tratamiento
automatizado que consiste en aplicar un «perfil» a una persona física, en
particular para tomar decisiones sobre ella o analizar o prever sus
preferencias, comportamientos y actitudes.
· PSEUDONIMIZACIÓN: tratamiento de datos de carácter
personal de tal modo que ya no puedan atribuirse a una persona determinada sin
información adicional, conservada separadamente y protegida técnicamente.
· SISTEMA EXPERTO: herramienta capaz de reproducir
los mecanismos cognitivos de un experto en un dominio particular: base de
hechos, base de reglas y motor de inferencia.
· TRATAMIENTO DE DATOS DE CARÁCTER PERSONAL: toda operación o conjunto de operaciones efectuadas
sobre datos de carácter personal (recogida, registro, conservación,
modificación, extracción, comunicación, puesta a disposición, supresión,
destrucción).
[1]Para la
definición de inteligencia artificial, véase el Glosario [1]
[2] La elección ética se realiza de antemano por los conceptores del programa y no queda, pues, librada al algoritmo.
[3] Resulta interesante la propuesta
formulada en el estudio del MSI-NET del Consejo de Europa titulado «Algoritmos
y derechos humanos» (página 46): «La solución consistente en exigir la
divulgación pública de algoritmos completos o de su código fuente resulta
utópica en este contexto, dado que las empresas privadas consideran sus
algoritmos como software propietario estratégico y, por tanto, los protegen en
consecuencia. En cambio, parece factible exigir la publicación de información
parcial pero significativa, como las variables utilizadas, los objetivos
perseguidos mediante la optimización de los algoritmos, los conjuntos de datos
de entrenamiento, los valores medios y las desviaciones típicas de los
resultados obtenidos, o la cantidad y el tipo de datos procesados por el
algoritmo». Cabe citar también las sugerencias del informe titulado «IA para la
humanidad», elaborado por el diputado Cédric Villani en el marco de una misión
encomendada por el Primer Ministro de la República Francesa (página 144): «los
auditores podrían comprobar la equidad y la integridad de un programa
(verificar que hace lo que se supone que debe hacer), por ejemplo, mediante la
introducción de múltiples datos de entrada ficticios o la creación de numerosos
perfiles de usuario con características específicas»... Se observan
conclusiones similares en el informe de la Cámara de los Lores titulado «IA en
el Reino Unido: ¿preparados, dispuestos y capaces?» (párrafos 92 y 96-99).
[4] Las soluciones consideradas de
manera general para garantizar la neutralidad de los algoritmos en el
mencionado informe de la House of Lords (§114, 115, 116, 119, 120) son
interesantes: más datos diversificados, más diversidad y transdisciplinariedad,
más auditoría sobre aspectos como el tratamiento de los datos o la manera en la
que la máquina es entrenada.
