La crisis creada por la IA en la gestion des données sanitarios 

A través de la lente del tiempo, el estudio de la medicina empequeñece en siglos la era de la tecnología moderna. Históricamente, la mayoría de los tratamientos médicos requieren décadas de investigación y amplios estudios antes de ser aprobados y puestos en práctica. Tradicionalmente, los médicos han sido los únicos encargados de tomar decisiones sobre el tratamiento de los pacientes. La industria sanitaria ha pivotado hacia la planificación asistencial basada en la evidencia, en la que las decisiones sobre el tratamiento de los pacientes se derivan de la información disponible durante las revisiones sistemáticas.

¿Deberíamos confiar en herramientas de ciencia de datos como la inteligencia artificial (IA) y el aprendizaje automático (ML) para tomar decisiones relacionadas con nuestra salud?  

En la primera entrega de esta serie, Sesgo algorítmico: el lado oscuro de la inteligencia artificialexploramos los efectos perjudiciales del sesgo algorítmico y las consecuencias para las empresas que no practican una IA responsable. Se ha descubierto que las aplicaciones para el procesamiento de Big Data en el sector sanitario y de seguros amplifican exponencialmente el sesgo, lo que crea disparidades significativas relacionadas con los grupos oprimidos y marginados. Los investigadores están tratando de encontrar soluciones para paliar estas disparidades.

Un estudio publicado por Science reveló que un algoritmo de predicción del riesgo sanitario, utilizado en más de 200 millones de personas en EE.UU., estaba sesgado debido a su dependencia de una métrica defectuosa utilizada para determinar la necesidad. El algoritmo se utilizaba para ayudar a los hospitales a determinar los niveles de riesgo para priorizar la atención al paciente y los planes de tratamiento necesarios. Según el estudio, los pacientes afroamericanos tendían a recibir puntuaciones de riesgo más bajas. Los pacientes afroamericanos también tendían a pagar las visitas a urgencias por complicaciones de la diabetes o la hipertensión.

Otro estudio, realizado por el Laboratorio de Innovaciones Sanitarias e Informática Traslacional, reveló que un modelo de aprendizaje profundo utilizado en imágenes radiológicas, que se creó para acelerar el proceso de detección de fracturas óseas y problemas pulmonares como la neumonía, podía predecir con bastante exactitud la raza de los pacientes.

"En radiología, cuando examinamos radiografías y resonancias magnéticas para determinar la presencia o ausencia de una enfermedad o lesión, la raza del paciente no es relevante para esa tarea. A eso lo llamamos ser agnóstico con respecto a la raza: no sabemos ni necesitamos saber la raza de alguien para detectar un tumor canceroso en un TAC o una fractura ósea en una radiografía", afirma Judy W. Gichoya, MD, profesora adjunta y directora del Laboratorio de Emory. Laboratorio de Emory.

El sesgo en la gestion des données sanitarios no se limita a la raza. Estos ejemplos arañan la superficie del potencial de la IA para salir muy mal cuando se utiliza en el análisis de datos sanitarios. Antes de utilizar la IA para tomar decisiones, es necesario estudiar la exactitud y pertinencia de los conjuntos de datos, su análisis y todos los resultados posibles antes de someter al público a la prise de décision basada en algoritmos en la planificación y el tratamiento de la atención sanitaria.

Datos sanitarios Pobreza

Es necesario que las organizaciones sanitarias que trabajan con IA incluyan en sus agendas un esfuerzo más concertado y una investigación más exhaustiva. A 2021 estudio de Lancet Digital Health define la pobreza de datos sanitarios como: la incapacidad de individuos, grupos o poblaciones para avantage de un descubrimiento o innovación debido a la escasez de datos que sean adecuadamente representativos.

"La pobreza de datos sanitarios es una amenaza para la salud mundial que podría impedir que los beneficios de las tecnologías sanitarias digitales basadas en datos se aprovechen más ampliamente y podría incluso llevar a que causen daños. El momento de actuar es ahora para evitar la creación de una brecha digital en materia de salud que agrave las desigualdades existentes en la atención sanitaria y para garantizar que nadie se quede atrás en la era digital."

A estudio del Journal of Medical Internet Research identificó los catalizadores de las crecientes disparidades de datos en la atención sanitaria:

• Datos AbsentismoFalta de representación de los grupos desfavorecidos.
• Chovinismo de los datosfe en el tamaño de los datos sin tener en cuenta la calidad y los contextos.

IA responsable en la gestion des données sanitarios

Ser un administrador de datos responsable en la atención sanitaria exige un mayor nivel de atención a la calidad jeu de données para evitar la discriminación y los prejuicios. La carga del cambio recae en las organizaciones sanitarias, que deben "ir más allá de la moda actual" para coordinar y facilitar esfuerzos estratégicos amplios y eficaces que aborden de forma realista las disparidades sanitarias basadas en los datos.

Las organizaciones sanitarias que deseen abogar por el uso responsable de la IA necesitan un enfoque multidisciplinar que incluya

• Prioridad a la lucha contra la pobreza de datos.
• Comunicación transparente con los ciudadanos.
• Reconocer y trabajar para dar cuenta de la brecha digital que existe para los grupos desfavorecidos.
• Aplicar las mejores prácticas para recopilar datos que sirvan de base al tratamiento sanitario.
• Trabajar con conjuntos de datos representativos que apoyen la prestación equitativa de tratamiento mediante la atención sanitaria digital.
• Desarrollo de equipos internos para el análisis de datos y las revisiones y auditorías de procesamiento.

Para luchar contra los prejuicios, hace falta un esfuerzo de equipo, además de un conjunto de herramientas técnicas bien estudiadas. En lugar de intentar sustituir a los humanos por ordenadores, sería mejor facilitar un entorno en el que puedan compartir la responsabilidad. Utilice estos recursos para saber más sobre la IA responsable en la gestión de la atención sanitaria.

• Inteligencia artificial aplicada a la atención sanitaria 
• Sociedad de Sistemas de Información y Gestión Sanitarios  
• Asociación Americana de Hospitales 

Acerca de Actian Corporation

Actian hace que trabajar con datos sea fácil. Nuestra plataforma de datos simplifica la forma en que las personas conectan, gestionan y analizan datos en entornos cloud, híbridos y locales. Con décadas de experiencia en gestión y analítica de datos, Actian ofrece soluciones de alto rendimiento que ayudan a las empresas a tomar decisiones basadas en datos. Estamos reconocidos por los principales analistas del sector y hemos recibido premios por nuestro rendimiento e innovación. Nuestros equipos comparten casos de éxito en conferencias (como Strata Data) y contribuyen activamente a proyectos de código abierto. En el blog de Actian tratamos temas como la ingesta de datos en tiempo real, el análisis de datos, la gobernanza y gestión de datos, la calidad de los datos, la inteligencia de datos y el análisis impulsado por IA.