Die Krise, die KI im Datenmanagement des Gesundheitswesens verursacht hat 

Zeitlich gesehen übertrifft das Studium der Medizin das Alter der modernen Technologie um Jahrhunderte. Historisch gesehen erfordern die meisten medizinischen Behandlungen jahrzehntelange Forschung und umfangreiche Studien, bevor sie genehmigt und in die Praxis umgesetzt werden. Traditionell waren allein die Ärzte mit der Aufgabe betraut, Behandlungsentscheidungen für Patienten zu treffen. Die Gesundheitsbranche ist zu einer evidenzbasierten Behandlungsplanung übergegangen, bei der die Behandlungsentscheidungen der Patienten auf der Grundlage der verfügbaren Informationen im Rahmen systematischer Überprüfungen getroffen werden.

Sollten wir Data Science wie künstlicher Intelligenz (KI) und Maschinelles Lernen (ML) vertrauen, um Entscheidungen in Bezug auf unsere Gesundheit zu treffen?  

In der ersten Folge dieser Serie, Algorithmische Verzerrungen: Die dunkle Seite der künstlichen Intelligenzhaben wir die schädlichen Auswirkungen algorithmischer Voreingenommenheit und die Folgen für Unternehmen untersucht, die keine verantwortungsvolle KI praktizieren. Es hat sich gezeigt, dass Anwendungen für die Verarbeitung von Big Data im Gesundheitswesen und in der Versicherungsbranche die Voreingenommenheit exponentiell verstärken, was zu erheblichen Ungleichheiten in Bezug auf unterdrückte und marginalisierte Gruppen führt. Die Forscher sind dabei, Lösungen zu finden, um diese Ungleichheiten abzubauen.

Eine Studie veröffentlicht von Wissenschaft veröffentlichte Studie ergab, dass ein Algorithmus zur Vorhersage von Gesundheitsrisiken, der bei mehr als 200 Millionen Menschen in den USA eingesetzt wurde, aufgrund der Abhängigkeit von einer fehlerhaften Metrik zur Ermittlung des Bedarfs verzerrt war. Der Algorithmus wurde eingesetzt, um Krankenhäuser bei der Bestimmung von Risikostufen für die Priorisierung der Patientenversorgung und der erforderlichen Behandlungspläne zu unterstützen. Die Studie ergab, dass afroamerikanische Patienten tendenziell niedrigere Risikowerte erhielten. Außerdem zahlten afroamerikanische Patienten tendenziell mehr für Notfallbesuche aufgrund von Komplikationen bei Diabetes oder Bluthochdruck.

Eine weitere Studie, die vom Emory University's Healthcare Innovations and Translational Informatics Labdurchgeführt wurde, zeigte, dass ein Deep-Learning-Modell, das in der radiologischen Bildgebung eingesetzt wird, um die Erkennung von Knochenbrüchen und Lungenproblemen wie Lungenentzündungen zu beschleunigen, die Ethnie von Patienten ziemlich genau vorhersagen kann.

"Wenn wir in der Radiologie Röntgenbilder und MRTs betrachten, um festzustellen, ob eine Krankheit oder Verletzung vorliegt, ist die Ethnie des Patienten für diese Aufgabe nicht relevant. We call that being race agnostic: we don’t know and don’t need to know someone’s race to detect a cancerous tumor in a CT or a bone fracture in an x-ray,” stated Judy W. Gichoya, MD, assistant professor and director of Labors in Emory.

Voreingenommenheit im Gesundheitswesen Datenmanagement hört nicht bei Ethnien auf. Diese Beispiele kratzen nur an der Oberfläche des Potenzials von KI, bei der Analyse von Gesundheitsdaten viel falsch zu machen. Bevor KI zur Entscheidungsfindung eingesetzt wird, müssen die Genauigkeit und Relevanz von Datensätzen, ihre Analyse und alle möglichen Ergebnisse untersucht werden, bevor die Öffentlichkeit einer algorithmusbasierten Entscheidungsfindung bei der Planung und Behandlung im Gesundheitswesen ausgesetzt wird.

Gesundheitsdaten Armut

Die Gesundheitsorganisationen, die sich mit KI befassen, müssen sich mehr anstrengen und gründliche Forschung betreiben. A 2021 Studie von Lancet Digital Health definiert Datenarmut im Gesundheitswesen als: die Unfähigkeit von Einzelpersonen, Gruppen oder Bevölkerungsgruppen, von einer Entdeckung oder Innovation Nutzen , weil es an ausreichend repräsentativen Daten mangelt.

"Die Armut an Gesundheitsdaten ist eine Bedrohung für die globale Gesundheit, die verhindern könnte, dass die Vorteile data driven digitaler Gesundheitstechnologien in größerem Umfang genutzt werden, und die sogar dazu führen könnte, dass sie Schaden anrichten. Es ist jetzt an der Zeit zu handeln, um zu verhindern, dass eine digitale Gesundheitskluft entsteht, die die bestehenden Ungleichheiten in der Gesundheitsversorgung verschärft, und um sicherzustellen, dass im digitalen Zeitalter niemand zurückgelassen wird."

A Studie des Journal of Medical Internet Research hat die Katalysatoren für die zunehmenden Datenunterschiede in der Gesundheitsversorgung ermittelt:

• Daten Absentismus: mangelnde Vertretung von benachteiligten Gruppen.
• Daten-ChauvinismusDer Glaube an den Umfang der Daten ohne Berücksichtigung der Qualität und der Zusammenhänge.

Verantwortungsvolle KI im Datenmanagement des Gesundheitswesens

Ein verantwortungsbewusster Datenverwalter in der Gesundheitsversorgung muss ein höheres Maß an Aufmerksamkeit für die Datensatz aufbringen, um Diskriminierung und Voreingenommenheit zu verhindern. Die Last des Wandels liegt bei den Gesundheitsorganisationen, um "über die aktuelle Modeerscheinung hinauszugehen" und umfassende und wirksame strategische Bemühungen zu koordinieren und zu erleichtern, die datenbasiert gesundheitliche Ungleichheiten realistisch angehen.

Gesundheitsorganisationen, die sich für den verantwortungsvollen Einsatz von KI einsetzen wollen, brauchen einen multidisziplinären Ansatz, der Folgendes umfasst

• Priorisierung der Bekämpfung der Datenarmut.
• Transparente Kommunikation mit den Bürgern.
• Anerkennung der digitalen Kluft, die für benachteiligte Gruppen besteht, und Bemühungen, diese zu überwinden.
• Umsetzung bewährter Verfahren für die Erfassung von Daten, die für die Behandlung im Gesundheitswesen von Bedeutung sind.
• Arbeit mit repräsentativen Datensätzen, die eine gerechte Versorgung mit digitaler Gesundheitsfürsorge unterstützen.
• Aufbau interner Teams für die Data Analytics und Verarbeitung von Überprüfungen und Audits.

Um Voreingenommenheit zu bekämpfen, bedarf es sowohl einer Teamleistung als auch eines gut erforschten Portfolios an technischen Instrumenten. Anstatt zu versuchen, Menschen durch Computer zu ersetzen, wäre es besser, ein Umfeld zu schaffen, in dem sie gemeinsam Verantwortung übernehmen können. Nutzen Sie diese Ressourcen, um mehr über verantwortungsvolle KI im Gesundheitsmanagement zu erfahren.

• Angewandte Künstliche Intelligenz für das Gesundheitswesen 
• Gesellschaft für Informations- und Managementsysteme im Gesundheitswesen  
• Amerikanische Krankenhausvereinigung 

Über Actian Corporation

Actian macht Daten einfach. Unsere Datenplattform vereinfacht die Verbindung, Verwaltung und Analyse von Daten in Cloud-, Hybrid- und lokalen Umgebungen. Mit jahrzehntelanger Erfahrung in den Bereichen Datenmanagement und -analyse liefert Actian leistungsstarke Lösungen, die es Unternehmen ermöglichen, datengesteuerte Entscheidungen zu treffen. Actian wird von führenden Analysten anerkannt und wurde für seine Leistung und Innovation mit Branchenpreisen ausgezeichnet. Unsere Teams präsentieren bewährte Anwendungsfälle auf Konferenzen (z. B. Strata Data) und tragen zu Open-Source-Projekten bei. Im ActianBlog behandeln wir Themen wie Echtzeit-Dateneingabe, Datenanalyse, Data Governance, Datenmanagement, Datenqualität, Datenintelligenz und KI-gesteuerte Analysen.