El 12 de abril de 2022 recibimos la noticia: la Justicia de la Ciudad de Buenos Aires (CABA) suspendía el funcionamiento del Sistema de Reconocimiento Facial de Prófugos que funcionaba en la capital argentina desde mayo de 2019.

El sistema se implementó con el objetivo nominal de ayudar a detectar a personas buscadas por la policía, y estaba regido por un convenio de cooperación entre el Ministerio de Seguridad de Buenos Aires y el Registro Nacional de las Personas (RENAPER), permitía acceder a una base de datos de aproximadamente 40 mil personas. El Gobierno de Buenos Aires desplegó 9.500 cámaras de seguridad, equipadas con un software de reconocimiento facial, en la capital argentina. Las imágenes que capturaban llegaban al Centro de Monitoreo Urbano, supervisado por el Ministerio de Seguridad y Justicia.

La investigación realizada por el juez Roberto Gallardo pudo constatar que entre abril de 2019 y marzo de 2022 se realizaron más de 10 millones de consultas de datos biométricos desde el Ministerio de Seguridad, sobre un total de 7.5 millones de personas de la ciudad. Entre las personas investigadas hay políticos, activistas sociales y periodistas.

Junto con suspender el funcionamiento del sistema, el juez Gallardo ordenó el allanamiento del Centro de Monitoreo Urbano y la sede del Ministerio de Seguridad porteño, y ordenó periciar los equipos que se utilizaron para procesar la información proveniente del RENAPER.

Acceso a la información, amparos y pedidos de inconstitucionalidad

La decisión del Juez Gallardo no es azarosa. Desde antes de que el sistema fuese implementado, la sociedad civil jugó un papel sumamente importante, debatiendo la legalidad de esta tecnología ante la Justicia argentina.

La Asociación por los Derechos Civiles (ADC)  solicitó en 2019 información e inició una acción ante el Tribunal Superior de Justicia porteño para que dicte la inconstitucionalidad del Sistema de Reconocimiento Facial. En su portal “Con mi cara no” reúnen información y estudios vinculados a los sistemas de identificación biométrica utilizados en Argentina.

El Observatorio de Derecho Informático Argentino (ODIA) realizó dos pedidos de acceso a la información pública. Ninguno fue contestado. Los pedidos fueron apelados y la demanda ampliada, con la presentación de una acción de amparo para detener el Sistema de Reconocimiento Facial de Prófugos de la Ciudad de Buenos Aires, con el apoyo de organizaciones locales y regionales, como  Centro de Estudios Legales y Sociales (CELS), Fundación Vía Libre, Access Now y Asociación Trabajadores del Estado (ATE) y Derechos Digitales.   

ODIA basó el pedido de información y la posterior demanda en diversos puntos. En cuanto a la implementación, destacaron que el sistema fue montado sin la elaboración de un informe previo del potencial impacto sobre datos personales. Destacan también que la empresa encargada de operar el sistema fue seleccionada mediante una licitación privada. Además, funcionaba con un software privativo (no abierto), lo que dotaba al sistema de una falta de transparencia importante, sobre todo a la hora de saber qué destino tenían los datos recabados.

En cuanto a su funcionamiento, se identificó una ausencia de reglas claras en cuanto a los permisos de manipulación del sistema, lo cual impide la realización de auditorías con el objetivo de evitar usos abusivos. Además se constató la inexistencia de un plan de contingencia ante la detección de vulnerabilidades en el software.

Otra cuestión relevante es en la necesidad de conocer la base de datos utilizada para “entrenar” al sistema, mediante técnicas de “aprendizaje automatizado”, pues eso determina los resultados que se pueden obtener. Existe extensa literatura que plantea problemas de sesgos en los procesos de aprendizaje algorítmico pueden generar decisiones discriminatorias al utilizar el sistema.

El 12 de abril de 2022 se decretó la suspensión del sistema de reconocimiento facial. La ADC, celebró el fallo, indicando que  la opción del litigio estratégico es un camino  válido para enfrentar el despliegue de esta clase de tecnología por parte de las autoridades públicas.

Lecturas desde la sociedad civil

Desde el colectivo O.D.I.A, manifestaron que “Ha sido un proceso extenso y abundante de sorpresas. Meses antes de iniciar el amparo, se obtuvo una sentencia favorable mediante la que se ordenó al Gobierno de la Ciudad entregar información producida en el marco de la  contratación del sistema. Tal situación nos posibilitó no solo dar con  detalles necesarios para el planteo del amparo, sino también acercar esta información a la opinión pública y, de tal modo, robustecer el debate en torno a este tipo de tecnologías.

En cuanto a la resolución tomada por el juez,  Michel de Souza , director de políticas públicas de Derechos Digitales expresa que  “Al otorgar la medida cautelar, el juez siguió importantes entendimientos de organismos internacionales, que ven el reconocimiento facial como una forma de vigilancia masiva y con un enorme riesgo contra los derechos humanos, el derecho a la privacidad, a la libertad de asociación y la no discriminación a personas vulnerables.”

Sin embargo, la historia está lejos de acabar, pues hace pocas semanas, el juez Gallardo fue denunciado penalmente por el ministro de Seguridad de CABA, Marcelo D’Alessandro. En la denuncia, se acusa a Gallardo de  los delitos de prevaricato, abuso de autoridad y privación ilegítima de la libertad, en la causa sobre la utilización del Reconocimiento Facial de la Policía de la Ciudad.

Para Eduardo Ferreyra, líder de proyectos de ADC, el actuar del Ministerio de Seguridad de la Ciudad “permite vislumbrar un largo camino judicial por delante”, en tanto las autoridades “autoridades al día de la fecha niegan la prueba incorporada al expediente. Han presentado distintos recursos para apartar al Juez interviniente en la causa”.

Junto con ello, Ferreyra señala que el principal desafío consiste en “expandir el trabajo hacia las otras zonas del país y prestar atención a las discusiones legislativas para que los peligros del reconocimiento facial puedan ser detectados antes de que sean implementados por los gobiernos”. Esto es relevante, debido a que en Argentina “existen diferentes ciudades que ya han implementado sistemas de reconocimiento facial o están considerando implementarlos en un futuro próximo”.

Lejos estamos de que las tecnologías de reconocimiento facial desaparezcan en América Latina. Sin embargo, el caso argentino abre una nueva perspectiva en cuanto al peso y la importancia de las organizaciones civiles, al llevar adelante procesos de reclamos ciudadanos. Es el trabajo sostenido que además de la acción legal logró poner el tema en la agenda pública, abre nuevos horizontes, para que esta vez sí sepamos a dónde ir, y no seamos siempre prófugos.