El Órgano Asesor de Alto Nivel sobre Inteligencia Artificial (AIAB, por su sigla en inglés) de la Organización de las Naciones Unidas (ONU) fue propuesto inicialmente en 2020, como parte de la hoja de ruta para la cooperación digital del Secretario General de la ONU. Este órgano, compuesto por 38 miembros, se constituyó en 2023 para analizar y adelantar recomendaciones para la gobernanza global de la IA.

A fines de 2023, el AIAB publicó un reporte intermedio con un conjunto de principios y guías para la gobernanza global de la IA. Con base en la retroalimentación de este reporte, que estuvo abierto a consultas hasta el pasado mes de marzo, será publicada una segunda versión para adopción junto a la Cumbre del Futuro en septiembre. Se espera que contenga recomendaciones detalladas sobre las funciones, formato y plazos de una nueva agencia global para la gobernanza de la IA.

Derechos Digitales viene acompañando de cerca el trabajo del AIAB y ha enviado comentarios al reporte intermedio publicado por el Órgano. La versión completa está disponible aquí y abajo se encuentra una breve síntesis de nuestras principales recomendaciones.

Consideraciones generales

A lo largo del reporte se constata cierta insistencia en el presunto “potencial benéfico” de los sistemas de IA, asignando características de orden moral a esta herramienta mediante la distinción entre sus usos “para el bien” o “para el mal”. En este sentido, proponemos revisar este tipo de nociones y adoptar, en cambio, una aproximación de carácter sociotécnico a la gobernanza global de la IA. Defendemos que ello posibilitaría un enfoque integral de derechos humanos, que debería estar anclado en mecanismos efectivos para garantizar su cumplimiento por parte de empresas y Estados en lo que se refiere al desarrollo, comercialización y despliegue de este tipo de tecnologías.

En la misma dirección, sostenemos que el reporte debe hacer énfasis en que los Estados adopten compromisos y respalden estándares que puedan prevenir los abusos de esta tecnología, en consonancia con las recomendaciones de la UNESCO en este aspecto y haciendo hincapié en que tales estándares deben aplicarse a todo el proceso productivo de la IA.  Estamos a favor de la incorporación de una perspectiva integral de derechos humanos que considere los impactos civiles y políticos, sociales y económicos, y culturales y medioambientales de la implementación de la IA. Del mismo modo, resaltamos que es indispensable que el reporte destaque la necesidad de cumplimiento de leyes laborales y medioambientales por parte de los actores involucrados en la producción de esos sistemas.

Como parte de la sociedad civil, subrayamos también la necesidad de la participación significativa de voces históricamente marginalizadas en las discusiones sobre IA, como las personas que habitan en comunidades rurales e indígenas, cuyo derecho a consulta es internacionalmente reconocido. Resaltamos también que los criterios de diversidad, equidad e inclusión deben ser considerados en todo el ciclo de vida de los sistemas de IA y en el desarrollo de estudios de impacto en derechos humanos. Finalmente, apuntamos a las siguientes recomendaciones generales a ser consideradas por el AIAB:

• Los Objetivos de Desarrollo Sostenible (ODS) no pueden servir de excusa para la promoción irresponsables de tecnologías. Además, criterios deberían ser aplicados para garantizar que inversiones en digitalización no compitan con las necesarias inversiones en infraestructuras básicas de bienestar social, como salud, educación, entre otras;
• Órganos de la ONU y bancos de desarrollo deben ser transparentes y rendir cuentas sobre su uso y promoción de IA, presentando Estudios de Impacto en Derechos Humanos que justifiquen sus inversiones en sistemas tecnológicos;
• El trabajo del AIAB debe ser guiado por el amplio trabajo del Consejo de Derechos Humanos de la ONU sobre el tema e incorporarlos explícitamente.

Comentarios a los principios rectores

El reporte ofrece cinco principios para guiar este debate: 1) inclusión; 2) interés público; 3) gobernanza de datos y promoción de los datos comunes; 4) universalidad enraizada en la colaboración de múltiples partes interesadas, y 5) un anclaje al derecho internacional y los Objetivos de Desarrollo Sostenible de la ONU. Sobre cada uno de ellos, recomendamos:

• Que se refuerce la necesidad de operacionalizar los estándares existentes para asegurar que las empresas cumplan sus responsabilidades de acuerdo con los Principios Rectores sobre las Empresas y los Derechos Humanos;
• Superar la idea de “interoperabilidad regulatoria” tal como presentada en el reporte y reconocer la diversidad de abordajes posibles para la regulación de IA según los contextos nacionales, reiterando la soberanía de los Estados y la necesidad crítica de que leyes locales se basen en evidencias y en la participación de las comunidades afectadas;
• Enfocarse en la protección de datos como eje clave de la gobernanza global de la IA e incentivar a los Estados a adoptar legislaciones basadas en los principios internacionalmente reconocidos en la materia como la legalidad, finalidad, proporcionalidad, minimización y transparencia.  Reiteramos además la importancia de que datos recolectados para fines de políticas públicas no sean redirigidos para entrenar sistemas de IA sin el debido consentimiento de las personas titulares;
• Reiterar que una estructura de gobernanza de IA no puede replicar desbalances previos o priorizar la visión de unos Estados por sobre la de otros y que debe promover la participación significativa de la sociedad civil en los procesos de toma de decisiones desde lo nacional hacia lo global, comprometiéndose con la garantía de un ambiente habilitador para tal participación, es decir, la democracia y un espacio cívico abierto;
• Reconocer la imperativa necesidad de implementación de Estudios de Impacto en Derechos Humanos en todo el ciclo de vida de los sistemas de IA.

De las funciones institucionales

El reporte propone funciones institucionales para la gobernanza de la IA distribuidas según su grado de “severidad”, de menor a mayor: construcción de consenso científico; alineación e interoperabilidad normativa; elaboración de marcos normativos sobre estándares, seguridad y gestión de riesgos; facilitación de regímenes de desarrollo y usabilidad, y entrenamiento y prueba de modelos de carácter transfronterizo; colaboración internacional; revisión de pares y reportabilidad, y creación de normas y mecanismos de rendición de cuentas.

Sobre estas funciones, destacamos que:

• La participación de múltiples partes interesadas debe ser transversal a las distintas funciones, con medidas concretas que habiliten un involucramiento significativo de actores de la sociedad civil;
• Para la investigación en IA es imprescindible una acción afirmativa que abra la puerta a actores y producción de conocimiento fuera del Norte Global;
• El contexto es clave en la definición de los riesgos potenciales de la IA y los Estados deben contar con su soberanía al momento de regularla según sus necesidades y prioridades específicas. Eso incluye la posibilidad establecer reglas de competencia o impuestos, de modo a participar de manera más significativa en la economía global. Además de superar la noción de interoperabilidad, el AIAB debería recomendar que los Estados eviten imponer limitaciones regulatorias en otros foros, como los acuerdos de libre comercio;
• Sobre la estandarización, es prioritario definir criterios que, a nivel global, permitan el análisis del cumplimiento normativo de ciertos productos y aplicaciones de IA y mecanismos de monitoreo, supervisión y certificación que impidan que eventuales abusos se repliquen y multipliquen alrededor del mundo. En ese sentido, la ONU cumple un rol central en apoyar a los países con información sobre hasta que punto determinadas aplicaciones resultan de una cadena productiva justa o no;
• La gobernanza global de la IA debe posibilitar el diálogo y la integración de diferentes actores a niveles local, regional y global, junto con ofrecer apoyo a los Estados respecto en cuanto a investigación, diseño y desarrollo de la IA. Así, la cooperación internacional debe estar orientada a facilitar la toma de mejores decisiones;
• La cooperación para la implementación de sistemas de IA debe estar sujeta a la Evaluación de Impacto en Derechos Humanos y responder a estrictos criterios de transparencia y rendición de cuentas, incluso en el ámbito de Naciones Unidas.