Es una buena noticia porque, contrario a lo que afirmó su director ejecutivo, Mark Zuckerberg, la iniciativa no se centra solamente en el desarrollo de tecnología de inteligencia artificial y reconocimiento facial para la identificación de las imágenes, sino que incluye apoyo emocional, asesoramiento técnico e información a las víctimas.

Por eso se sumaron a la Guía de eliminación en línea y además lanzaron una guía propia. Sin embargo, es una lástima que la organización especializada en el tema, aún en asocio con la red social más grande del mundo, solamente ofrezca soporte en idioma inglés y acompañamiento en territorio estadounidense, lo que sin duda excluye a muchas de las víctimas.

Ante esta limitación parece que, en efecto, el esfuerzo de esta compañía sí está centrado en el desarrollo de tecnologías para probar la coincidencia de las fotos que sean reportadas como “sin consentimiento”, con el fin de evitar que sean compartidas nuevamente en Facebook, Messenger e Instagram. Si alguien trata de compartir la imagen después de que ha sido reportada y eliminada, la plataforma enviará una alerta de violación a las políticas y detendrá el intento de compartirla.

Si bien la iniciativa de Facebook no es suficiente para combatir este tipo de agresión, que es expresión de problemas sociales más allá de la interacción a través de una u otra plataforma, es necesario cuestionar si esta herramienta, efectivamente, protege a las víctimas. Como se sabe, en muchas ocasiones las políticas de la red social han derivado en la censura de imágenes de importante contenido cultural y político, así como de perfiles, tanto personales como no personales, por la difusión de imágenes que contienen cuerpos desnudos, femeninos.

La llamada “pornovenganza” es un tipo de violencia que se ejerce principalmente contra las mujeres, por eso es necesario alertar sobre las soluciones técnicas que, antes como ahora, no han contribuido a hacer de Facebook un espacio más seguro sino más restrictivo para nosotras. Aunque resulta muy útil una herramienta para eliminar las copias de una imagen íntima compartida sin consentimiento, y a pesar de que es imposible controlar que la imagen se difunda en otras plataformas, ¿cómo garantiza Facebook que la selección de las imágenes se hará con criterios justos? ¿Cómo garantiza que no se convertirá en un herramienta de censura? ¿Está dispuesto Facebook a rendir cuentas sobre el uso de inteligencia artificial? ¿Sobre el uso de las imágenes que eliminará de la plataforma?

Reconociendo el modelo de negocio en que está basado Facebook, cuesta imaginar una tecnología desarrollada por ellos que apoye efectivamente a las víctimas de “pornovenganza” y es preocupante que las estrategias de protección estén basadas en el desarrollo de tecnologías intrusivas como el reconocimiento a través de inteligencia artificial que, aunque de hecho ya son utilizadas por la plataforma, contribuyen mejorar los sistemas de monitoreo a usuarios y usuarias.