Desde 2020, investigadoras e investigadores de la región han desarrollado una serie de estudios de casos enfocados en el análisis crítico de la implementación de tecnologías para la función pública en América Latina. Este esfuerzo, que ha sido canalizado por Derechos Digitales en el contexto del proyecto Cyber Policy Centre de IDRC, ha permitido conocer las principales características, objetivos y dificultades que han enfrentado los planes y programas públicos que han implementado diversos dispositivos tecnológicos como elementos nucleares o auxiliares de políticas destinadas a resolver problemas que incluyen, entre otros, la gestión de la pandemia de COVID-19 y la predicción del riesgo de vulneración de derechos de niñas, niños y adolescentes.

Esta semana conocemos los resultados de dos estudios que abundan en el esfuerzo arriba señalado. Nos referimos al análisis de la implementación del “Auxilio emergencial” (disponible en portugués e inglés) la política de transferencia de recursos implementada en Brasil durante la pandemia de COVID-19; y al Sistema predictivo del delito urbano (también en portugués e inglés) desarrollado en Chile para dirigir el patrullaje policial preventivo. Ambos estudios de caso fueron desarrollados por investigadoras de Brasil y Chile durante 2021, y permiten abundar en algunos de los aspectos críticos que fueron relevados durante la primera serie de investigaciones.

Uno de los aspectos críticos que han emergido recurrentemente en los análisis refiere a las implicancias de la inclusión de tecnologías como una capa adicional de complejidad al ejercicio de la función pública. Lo anterior resulta crucial a la hora de situar las innovaciones tecnológicas en la institucionalidad existente; desde las consideraciones por errores que puedan cometerse, hasta la requerida preparación de las y los funcionarios públicos para integrar adecuadamente las tecnologías en sus labores cotidianas. Pues aún cuando sea cierto que los dispositivos tecnológicos pueden ofrecer soluciones eficientes y eficaces a problemas complejos, no podemos olvidar que la resolución de tales problemas en el ámbito estatal exige múltiples resguardos con el fin de proteger los derechos de la ciudadanía. En otras palabras, las tecnologías no se implementan en el vacío, sino que deben articular un sistema que incluye factores institucionales, políticos, sociales y técnicos.

Tal complejidad se verifica en el caso brasileño a la hora de establecer reclamaciones a los resultados arrojados por el sistema algorítmico que decidió la asignación del “Auxilio emergencial”. Puesto que no existen mecanismos administrativos (humanos) para revisar la decisión automatizada, la ciudadanía ha tenido que buscar en el sistema judicial una resolución favorable que permita acceder al beneficio. Lo anterior, además de las dilaciones que puede implicar en el acceso a recursos en circunstancias de emergencia como la pandemia, también se asocia a las dificultades que pueden existir para el acceso a la justicia en un país tan vasto como Brasil.

Por otra parte, la investigación conducida en Chile en torno al sistema de policiamiento preventivo da cuenta de las dificultades existentes respecto de la generación de datos certeros de los eventos delictivos, todavía más cuando no existe información respecto al modo en que se configura la base de datos generada por Carabineros de Chile, y que constituye el elemento central para alimentar el procesamiento de datos orientado a anticipar la ocurrencia de delitos. Lo anterior resulta problemático, atendiendo a que la Contraloría ha señalado que no se puede verificar la integridad de los datos existentes y que, además, no existiría una política de seguridad de la información de tal base de datos. ¿Qué tan efectivo puede ser un sistema que se alimenta de “datos sucios”?

Ejemplos como los señalados reafirman la importancia que supone la implementación reflexiva de tecnologías para la función pública, no sólo a fines de lograr resolver las problemáticas identificadas, sino en hacerlo de una forma que favorezca el resguardo y promoción de los derechos humanos.