Esta semana se iniciaron los trabajos de la 67^a Comisión de la Condición Jurídica y Social de la Mujer (CSW67, por su sigla en inglés). La CSW es una instancia auspiciada por Naciones Unidas que tiene como objetivo avanzar hacia la “igualdad y el empoderamiento de las mujeres”.

Este año, la Comisión tiene como tema prioritario “La innovación y el cambio tecnológico, y la educación en la era digital para lograr la igualdad de género y el empoderamiento de todas las mujeres y las niñas”. El tema ofrece muchas posibilidades de avanzar en acuerdos urgentes y necesarios sobre como las tecnologías digitales pueden efectivamente favorecer la equidad de género.

A la vez, representa una oportunidad para reforzar lineamientos que permitan establecer límites necesarios para que estas tecnologías no profundicen desigualdades. Sin embargo, el colonialismo, el punitivismo y el determinismo tecnológico pueden representar barreras importantes para que se alcancen conclusiones significativas. Peor que eso: sumados a la ausencia de una mirada interseccional y de derechos humanos, pueden implicar retrocesos en consensos que se vienen plasmando hace décadas a nivel internacional.

Derechos Digitales ha sido participante activa de las discusiones: en octubre de 2022 co-presidimos la reunión de expertas realizada en preparación para la CSW y participaremos intensamente de las actividades oficiales y paralelas a lo largo de toda la reunión en Nueva York.

En esta columna compartimos algunas impresiones y prioridades que creemos que deben ser consideradas en las discusiones, a partir de una detenida revisión del borrador inicial de conclusiones de la CSW67.

Una perspectiva de derechos para contrarrestar el determinismo tecnológico

Si bien podemos afirmar que desde el derecho internacional han habido avances en comprender que las normas de derechos humanos y su aplicación tienen que acompañar la transformación tecnológica, en la práctica vemos escasos compromisos por implementar tales consensos.

Como resultado, las brechas sociales y de género se amplifican y profundizan. El caso latinoamericano refleja cómo las desigualdades estructurales se replican en el entorno tecnológico y grupos históricamente excluidos del acceso a derechos encuentran no solamente las mismas barreras de acceso y uso de tecnologías, sino que están sujetos a nuevas y más complejas formas de violencia, explotación y exclusión.

Casos como el de Belén Whittingslow en Paraguay y de las trabajadoras en aplicaciones de limpieza son crudos ejemplos de las injusticias que se recrudecen alrededor de estos temas. En el segundo caso, también muestran como las mismas se automatizan en forma de códigos algorítmicos.

La vigilancia masiva o dirigida hacia periodistas, defensoras de derechos humanos y grupos feministas, evidencian cómo prácticas autoritarias de persecución, criminalización y silenciamiento de mujeres se refinan con apoyo de nuevas tecnologías de vigilancia.

Frente a evidencias de crecientes de abusos y vulneraciones de derechos facilitadas por las tecnologías en las últimas décadas, la comunidad internacional se vió obligada a superar el mito de la “independencia del ciberespacio” y reconocer las implicancias de las tecnologías digitales en los derechos humanos. Es fundamental que los gobiernos reunidos en la CSW67 construyan sus consensos a partir de la noción, duramente comprobada en la experiencia vivida de millones de personas, de que la tecnología no va a resolver problemas estructurales como los relacionados al hecho de que ciertas poblaciones han sido históricamente marginadas del acceso a derechos en su totalidad.

Además de compromisos concretos con garantizar efectiva diversidad en la producción tecnológica e incentivos al desarrollo de tecnologías alineadas con el respeto y protección de derechos humanos, los Estados deben garantizar un acceso significativo a internet para todas las personas y que los mismos derechos que ellas tienen fuera de línea se apliquen en línea. Se deben adoptar medidas para limitar y regular el desarrollo y uso de tecnologías con potencial discriminatorio y abusivo en relación a los derechos humanos.

Abordar a la innovación, el cambio tecnológico y la educación digital desde una perspectiva de derechos humanos, reconociendo los marcos existentes en la materia, es crucial para que éstos puedan tener algún rol en el alcance de la equidad de género. Cualquier recomendación distinta puede incrementar brechas de género, avalar prácticas autoritarias y retroceder en consensos duramente conquistados a nivel internacional.

El combate a la violencia y censura de género más allá de la criminalización y el paternalismo

Sabemos que la violencia de género facilitada por tecnologías es creciente, y genera múltiples y profundos impactos individuales y colectivos al implicar una forma de censura de género.

En América Latina, la violencia que se manifiesta en el entorno en línea es un duro reflejo de sociedades marcadas por el patriarcado, la misoginia y la homofobia y una extensión de múltiples violencias de género vividas en el ámbito doméstico y los espacios públicos.

La violencia política de género, por su parte, ha representado una barrera adicional a la participación de las mujeres y personas LGBTQIA+ en los espacios de poder y toma de decisión. Junto a la violencia contra periodistas defensoras de derechos humanos, es mucha veces perpetrada por funcionarios y autoridades públicas, como se ha observado en el caso de Brasil, El Salvador y México.

Es urgente el desarrollo de políticas públicas que respondan a esas violencias, responsabilicen a quienes la promueven – incluso cuando se trata de autoridades públicas – y establezcan mecanismos efectivos de reparación. Respuestas desde el derecho penal pueden ser necesarias, pero no son suficientes para dar cuenta de la complejidad del problema y la diversidad de experiencias de vida de las sobrevivientes.

Legislaciones penales promovidas sin perspectiva de derechos humanos pueden ocasionar criminalización y retrocesos en materia de acceso a derechos. El test tripartito y los criterios de legalidad, necesidad y proporcionalidad deben ser considerados en cualquier política o acción destinada a la restricción de contenidos de modo a evitar la criminalización y censura de expresiones legítimas, incluso de activistas mujeres y LGBTQIA+.

Es necesario que la CSW pueda incentivar el desarrollo de conceptos comunes y marcos basados en los derechos humanos para responder a todas las formas de violencia de género, incluyendo las mediadas por las tecnologías.

Por una transformación digital basada en la autonomía

La equidad de género jamás puede ser utilizada como argumento para la implementación de sistemas digitales sin criterios de atención a los derechos humanos, como observamos nuevamente en el caso latinoamericano.

Aquí, muchas de las iniciativas de uso de Inteligencia Artificial (IA) en el sector público se dirigen a grupos en situación de vulnerabilidad que terminan expuestos a la recolección de sus datos para distintos fines sin capacidad de ofrecer su consentimiento informado de manera previa y sin mecanismos efectivos de protección ni acceso a la justicia, incluso frente a decisiones automatizadas que se tomen sobre su presente y futuro.

Además de la garantía de derechos básicos a la protección de sus datos – con garantías especiales para la infancia –, las mujeres y personas LGBTQIA+ deben contar con mecanismos efectivos para participar en decisiones sobre el desarrollo y uso de sistemas con potencial de afectar su bienestar.

Tal como señala la Recomendación sobre Ética de la Inteligencia Artificial, adoptada por 193 países de la Unesco, los Estados deben generar medidas efectivas para la realización de estudios de impacto en derechos humanos en el desarrollo e implementación de este tipo de tecnologías. Especial atención debe darse a sus implicaciones en derechos económicos y sociales y al potencial impacto a grupos en condición de vulnerabilidad. Esos estudios deben efectivamente informar la toma de decisiones sobre su desarrollo y adopción, con el establecimiento de límites estrictos a aquellos que no cumplan con criterios mínimos – como ha recomendado la anterior Alta Comisionada de las Naciones Unidas para los Derechos Humanos, Michelle Bachelet.

Ningún tipo de innovación puede construirse con base en la vulneración de derechos, la explotación y el incremento de brechas e injusticias de género. Las empresas de tecnología deben cumplir con la responsabilidad de respetar y proteger los derechos humanos y los Estados deben adoptar medidas proactivas para promover marcos de transparencia y rendición de cuentas a tales empresas.

Por una innovación capaz de transformar estructuras de género

Es bien sabido que las tecnologías no son neutrales y que tampoco conllevan en sí mismas el poder de transformar realidades sociales. Sostener que la innovación y el cambio tecnológico pueden en sí mismos generar mayor equidad es ignorar la realidad en que las desigualdades e injusticias se plasman y automatizan en crueles códigos algorítmicos. No sólo eso: las brechas relacionadas al desarrollo tecnológico a nivel geopolítico – con las grandes empresas tecnológicas mayormente concentradas en pocos países del Norte Global – reproducen estructuras de extracción y explotación que nos remiten al contexto colonial.

Hay evidencias desde distintas fuentes y perspectivas de cómo tecnologías desarrolladas bajo lógicas comerciales basadas en la vigilancia no solo no contribuyen con la superación de brechas de género, sino que las profundizan. Cambiar esta lógica implica adoptar medidas concretas y proactivas para la promoción de una innovación no solo responsable, pero comprometida con la justicia de género.

Eso incluye avanzar efectivamente hacia la superación de brechas de género más allá de lo digital, pero también es necesario establecer políticas serias de inclusión y participación transversales y con perspectiva de género, reconociendo los avances y acuerdos relacionados a la gobernanza digital desde múltiples partes interesadas.

Son innumerables las iniciativas de producción tecnológica desde comunidades feministas en el Sur Global capaces de potenciar su uso hacia mayor equidad y justicia. Es urgente que los gobiernos reunidos en CSW67 incorporen miradas críticas a sus lentes tecno-solucionistas y adopten medidas para incentivar el desarrollo y la sostenibilidad de formas alternativas de pensar y construir tecnologías.