El mes pasado, la OMS publicó su “Guía sobre ética y gobernanza de la inteligencia artificial para la salud”. Sin dudas, representa una excelente noticia a nivel de Naciones Unidas respecto a un análisis detallado respecto a cómo incorporar las tecnologías respetando los derechos humanos, mucho más tratándose de la salud, que involucra datos de extrema sensibilidad.

De acuerdo con Privacy International, este es un informe “completo y no rehúye reconocer los riesgos y las limitaciones del uso de la inteligencia artificial” en la atención médica. Por supuesto, aclaran que “su eficacia dependerá de la voluntad de los gobiernos y de los profesionales de la salud pública para poner en práctica las orientaciones proporcionadas.”

A continuación, compartimos algunos puntos destacados de la devolución de Privacy International al documento de la OMS.

Desarrollar un marco de derechos humanos para el uso de la IA en el sistema de salud

En la introducción, el informe hace referencias directas a la Declaración Universal de Derechos Humanos. También establece que “para que la IA tenga un impacto beneficioso en la salud pública y la medicina, las consideraciones éticas y los derechos humanos deben estar en el centro del diseño, desarrollo y despliegue de tecnologías de IA para la salud”, una declaración que refleja las demandas elaboradas por organizaciones de la sociedad civil que trabajan en la intersección de la tecnología y los derechos humanos.

Reconocer los riesgos y limitaciones de la IA

Otro punto fuerte del informe es su análisis detallado de los riesgos y limitaciones de la IA en el campo de la atención en salud, por ejemplo, los sesgos, “cuando los conjuntos de datos utilizados en IA no reflejan el mundo real” y esto tiene consecuencias graves en la respuesta sesgada que los sistemas ofrecen a las poblaciones. 

Por ejemplo, estos sesgos tienden a excluir a “niñas y mujeres, minorías étnicas, personas mayores, comunidades rurales y grupos vulnerables”, reforzando prácticas de discriminación subyacentes. También la posibilidad de segmentar e identificar realizando cruces de datos, dando lugar a usos no consentidos e ilegítimos, como el de la publicidad comercial y política

La brecha digital siempre es una debilidad para las soluciones tecnológicas propuestas desde las políticas públicas.Aquellas personas con mejor conectividad terminarán siendo más beneficiadas por la IA y las prestaciones de salud mediadas por tecnologías.

Las empresas proveedoras de tecnología en salud

El papel de las empresas de tecnología en la remodelación del sector de la salud también es un riesgo que se aborda en el informe. Para PI, el papel de las empresas privadas en la entrega de tecnologías de inteligencia artificial para uso del sector público, incluida la atención médica, es un tema clave que no puede subestimarse.

Debido a la creciente dependencia por parte de gobiernos de las aplicaciones de IA para la prestación de una amplia gama de servicios públicos, PI cree que se debe mirar con atención los marcos legislativos que rigen la contratación pública de tecnologías de IA, y las salvaguardias que se deben implementar para la contratación pública. Con especial atención cuando se trata de empresas monopólicas u oligopólicas,

El seguimiento de los avances de IA en salud deben continuar

Si bien el informe de la OMS, dice PI, advierte de los peligros derivados del “tecno-optimismo” y reconoce a fondo los riesgos del despliegue de IA en la atención médica sin procedimientos adecuados, no cuestiona las suposiciones de que el uso de IA en atención médica conducirá a sistemas de salud más eficientes, a pesar de que todavía hay poca evidencia que respalde dicha suposición.

La efectividad y relevancia de las tecnologías de IA en los sistemas de salud deben revisarse cuidadosamente y las aplicaciones de IA deben diseñarse de manera que respeten y protejan los derechos humanos desde el principio.

Como se afirma desde Privacy International: “El impacto de la IA va más allá del derecho a la privacidad y, en el contexto de la atención médica, puede resultar en daños tangibles a nuestra dignidad y nuestro acceso igualitario a la atención médica. Cuando las preocupaciones por los derechos humanos son demasiado grandes, los reguladores deben estar preparados para prohibir ciertas aplicaciones de IA.”

Los aportes de Derechos Digitales en el área salud, tecnologías e inteligencia artificial

La pandemia de Covid-19 impulso en forma acelerada y sin precedentes la digitalización del sector salud, e ilustra lo rápida que puede ser esta aceptación y las oportunidades que pueden surgir; pero también, lo que es más importante, los riesgos que conlleva.

Este es un tema que venimos dando seguimiento en Derechos Digitales, por lo que recomendamos algunas de nuestras publicaciones relacionadas:

• La herejía tecno-optimista florece en pandemia: un repaso crítico a las tecnologías disponibles (2020), por María Paz Canales. Un repaso crítico a los distintos roles asignados a la tecnología en la lucha contra la pandemia por enfermedad de coronavirus, desde una óptica de afectación a los derechos humanos, y con énfasis en América Latina. También disponible en inglés.
  

• Narrativas en torno al uso de la huella digital en la salud pública (2020), por Javiera Figueroa & Catalina Venegas. Una investigación cualitativa sobre la aplicación de tecnologías biométricas en las instituciones de salud pública en Chile, específicamente en el uso de la huella digital en usuarios y usuarias del Fondo Nacional de Salud FONASA en la ciudad de Santiago.