En los últimos años se han comenzado a buscar soluciones técnicas y regulatorias al problema de la desinformación en plataformas digitales, considerando la rapidez con que se difunde y sus impactos sobre la población conectada, en coyunturas críticas como procesos electorales o protestas sociales. Sin embargo, muchas de estas soluciones han tendido a restringir los derechos a la libertad de expresión y acceso a la información, constituyéndose en mecanismos de vigilancia y censura de contenidos, y afectando principalmente a las voces disidentes.

En este contexto, la aparición de los llamados deepfakes (audios o vídeos alterados con tecnologías de inteligencia artificial) plantea un escenario más complejo, de una parte porque su autenticidad es cada vez más difícil de verificar, pero también porque pone de frente, otra vez, que respecto de la información no hay aproximaciones técnicas suficientes, ya que se trata también de un problema social sobre cómo se configuran política y culturalmente las ideas de “confianza” y “verdad”. Esto, sin contar con que además los deepfakes se han convertido en una nueva herramienta para la violencia de género mediada por tecnologías digitales, entre otros problemas menos visibilizados.

Desde hace tiempo, Witness ha hecho seguimiento a este tipo de tecnologías emergentes, procurando entender los riesgos y oportunidades que presentan para los derechos humanos, especialmente para la protección de voces marginalizadas. Como parte de ese esfuerzo, se vinculó al grupo de trabajo sobre amenazas y daños de la Coalición para la Procedencia y Autenticidad del Contenido (C2PA), una iniciativa empresarial dirigida por Adobe, Arm, Intel, Microsoft, BBC, Truepic y Twitter, que en palabras de la organización, es hasta ahora “el esfuerzo más consolidado que conduce hacia un uso más generalizado y potencialmente sistemático de la infraestructura de procedencia y autenticidad”.

C2PA es un estándar técnico para certificar la fuente y la historia de contenidos digitales como vídeos, audios, imágenes y documentos, a través de la creación de un manifiesto firmado por una autoridad de certificación, y protegido criptográficamente en cada plataforma digital donde el contenido ha sido intervenido. Por ser un estándar abierto, puede ser implementado en distintas aplicaciones como software de captura y edición de imágenes en dispositivos digitales, CMS, redes sociales o plataformas web de verificación. Con esto, se espera que la confianza sobre la autenticidad o no de contenidos se base en la identidad de los actores que firman sus datos de procedencia y no en el estándar mismo.

Junto con otras organizaciones de América Latina, venimos planteando hace años que el problema de la desinformación no es nuevo, ni propio de los entornos digitales, y que está muy relacionado con los monopolios de la información. Por eso es relevante reconocer que, aunque C2PA no se plantee como un ente de certificación, quienes promueven esta iniciativa lanzada oficialmente en enero de 2022, son grandes corporaciones como Adobe, Microsoft o Twitter, quienes cuentan con una ventaja comparativa como autoridades de certificación, al tener una capacidad temprana de implementar el estándar.

Sin embargo, también es relevante mencionar el proceso abierto y participativo mediante el cual se han desarrollado las especificaciones técnicas y otros documentos útiles como su guía de implementación, las recomendaciones sobre experiencia de usuarias para la implementación, las consideraciones de seguridad y el modelo de daños, de cuyo diseño la única organización de sociedad civil que ha participado es Witness.

Es relevante porque, para permitir la interoperabilidad entre distintos sistemas, los estándares técnicos deben no solo ser abiertos sino también flexibles y adaptables a diferentes contextos, necesidades y decisiones de implementación. Como herramientas puramente técnicas, los estándares son muy limitados para el resguardo, por diseño, de la privacidad y otros derechos humanos. Por eso, además de las necesarias preocupaciones y compromisos durante su desarrollo, es importante hacer un seguimiento permanente a la manera como los estándares son implementados, por quiénes, con qué capacidades e intereses y, sobre todo, qué impactos tienen sobre las personas, individual y colectivamente.

La existencia de un marco para la identificación de daños y abusos potenciales del estándar C2PA durante su diseño e implementación temprana, y también para garantizar la debida diligencia y la mitigación de daños cuando su despliegue sea más amplio, es una oportunidad para proteger la seguridad, la privacidad y otros derechos humanos dentro y fuera de los entornos digitales. Pero de poco sirve ese marco si no está siendo activamente utilizado, revisado y actualizado. Junto con la coalición, Witness continúa invitando a hacer aportes concretos (en inglés) sobre el estándar, y además abriendo espacios de trabajo sobre los riesgos y oportunidades que presenta, en diferentes regiones y con diferentes grupos sociales.

Este importante trabajo que adelanta Witness sirve para comprender mejor cómo puede funcionar este estándar en contextos tan diversos como los que hay en América Latina. Por ejemplo, cómo será afectada la visibilidad en redes sociales de contenidos producidos por medios independientes, que no cuenten con el estándar implementado en sus sitios web; cómo se reconfigura la normativa y la vigilancia sobre derechos de autor en contenidos digitales; o cómo se legitiman ciertas autoridades de certificación y otras no, entre otros asuntos relevantes.

Además de eso, sería muy interesante probar qué tan factible es, en términos técnicos y de infraestructura, que por ejemplo, una organización sin ánimo de lucro implemente el estándar. ¿Qué tan sencillo es el código?, ¿qué tantos recursos, habilidades o inversión de tiempo se requiere? Estas preguntas que quedan abiertas a manera de invitación.