Der Unternehmensleitfaden zur Datenqualität

Die Datenqualität ist ein Maß dafür, inwieweit Daten den für ihren Verwendungszweck erforderlichen Standards entsprechen – sei es bei der Entscheidungsfindung im Unternehmen, bei der Erstellung eines behördlichen Berichts, Training KI-Modells oder bei der Kundenbetreuung.

Hochwertige Daten sind korrekt, vollständig, konsistent, aktuell, gültig und eindeutig. Daten von schlechter Qualität kosten Unternehmen schätzungsweise durchschnittlich 12 bis 15 Millionen US-Dollar pro Jahr durch betriebliche Ineffizienzen, Fehlentscheidungen, gescheiterte Projekte und Strafen wegen Nichteinhaltung von Vorschriften.

Dieser Leitfaden behandelt die folgenden Themen: Was unter Datenqualität zu verstehen ist, die sechs Dimensionen, anhand derer sie gemessen wird, wie das Qualitätsmanagement funktioniert, wer dafür verantwortlich ist, in welchem Zusammenhang sie mit Data Governance KI steht und wie ein Programm zur systematischen Verbesserung der Datenqualität aufgebaut werden kann.

Was ist Datenqualität?

Unter Datenqualität versteht man den Grad, in dem Daten für ihren beabsichtigten Verwendungszweck geeignet sind. Ein Datensatz für einen bestimmten Zweck von hoher Qualität ist, kann für einen anderen Zweck unzureichend sein. Kundendaten, die für die Rechnungsstellung genau genug sind, erfüllen möglicherweise nicht die Vollständigkeitsanforderungen für ein Modell zur Vorhersage der Kundenabwanderung. Finanztransaktionsdaten, die für das interne Berichtswesen ausreichen, erfüllen möglicherweise nicht die Anforderungen an die Datenherkunft und Genauigkeit für eine behördliche Einreichung.

Qualität ist kein einzelnes Merkmal – sie setzt sich aus sechs messbaren Dimensionen zusammen, von denen jede je nach use case eine unterschiedliche Bedeutung hat.

Die sechs Dimensionen der Datenqualität

Jedes Datenqualitätsprogramm sollte für jede Dimension nach Datenbereich akzeptable Schwellenwerte festlegen. Ein Datensatz zu Finanztransaktionen erfordert Datensatz eine Genauigkeit von 99,9 % und eine Vollständigkeit von 100 % bei den Pflichtfeldern. Bei einer Marketing-Kontaktliste sind hingegen höhere Nullwerte bei den optionalen Feldern zulässig. Durch die nach Datenbereich festgelegten Schwellenwerte lässt sich die Qualität messen und nachweisen.

Warum Datenqualität wichtig ist

Entscheidungsfindung: Jede geschäftliche Entscheidung ist nur so zuverlässig wie die Daten, auf denen sie basiert. Prognosen, die auf ungenauen Umsatzdaten beruhen, führen zu falschen Vorhersagen. Marketingkampagnen, die auf unvollständigen Kundendaten basieren, verfehlen ihre Zielgruppen. Betriebsabläufe, die auf veralteten Bestandsdaten optimiert werden, führen zu Fehlern bei der Auftragsabwicklung. Datenqualität ist kein technisches Problem – sie ist ein Problem der Unternehmensleistung.

Einhaltung gesetzlicher Vorschriften: DSGVO, HIPAA, SOX, BCBS 239 und CCPA enthalten allesamt Anforderungen an die Richtigkeit und Vollständigkeit von Daten. BCBS 239 verlangt von Banken den Nachweis, dass Risikodaten korrekt und vollständig sind. HIPAA schreibt vor, dass Patientenakten korrekt und aktuell sein müssen. SOX verlangt, dass Daten der Finanzberichterstattung zuverlässig und nachvollziehbar sind. Verstöße gegen die Vorschriften aufgrund mangelhafter Datenqualität ziehen Strafen, das Risiko von Rechtsstreitigkeiten und Reputationsschäden nach sich.

KI und Maschinelles Lernen: KI-Modelle lernen aus Training . Ungenaue, unvollständige oder inkonsistente Training führen zu Modellen, die schlechte Vorhersagen treffen. Ein Betrugserkennung , das auf Daten mit 20 % doppelten Transaktionen trainiert wurde, lernt, Muster zu erkennen, die gar nicht existieren. Ein Empfehlungsmodell, das auf veralteten Produktdaten trainiert wurde, schlägt Artikel vor, die nicht vorrätig sind. Datenqualität ist die Grundlage für vertrauenswürdige KI.

Betriebliche Effizienz: Mangelhafte Datenqualität führt zu Nacharbeit: Ingenieure, die Pipelines reparieren, die aufgrund unerwarteter Nullwerte ausfallen; Analysten, die Berichte erneut ausführen, nachdem sie Fehler in den Quellen entdeckt haben; und Kundendienstteams, die Abrechnungsfehler korrigieren, die durch inkonsistente Datensätze verursacht wurden. Gartner schätzt, dass mangelhafte Datenqualität Unternehmen durchschnittlich 15 Millionen US-Dollar pro Jahr kostet. Der Großteil dieser Kosten ist unsichtbar – er eingebettet der Zeit, die Mitarbeiter damit verbringen, mit Daten zu arbeiten, denen sie nicht vertrauen.

Customer-Experience: Doppelte Kundendatensätze führen zu doppelter Kommunikation. Ungenaue Adressdaten verursachen fehlgeschlagene Zustellungen. Veraltete Präferenzdaten führen zu irrelevanten Empfehlungen. Das Customer-Experience eines Geschäftsprozesses wird von der Datenqualität am Anfang dieses Prozesses bestimmt.

Informationen zur kontinuierlichen Überwachung der Datenintegrität über alle Pipelines hinweg finden Sie in unserem Leitfaden zur Beobachtbarkeit.

Wie die Datenqualität gemessen wird

Um die Qualität zu messen, muss zunächst für jeden Bereich definiert werden, was unter „gut“ zu verstehen ist, bevor eine Bewertung anhand dieser Kriterien erfolgt. Der Messprozess umfasst vier Komponenten.

Datenprofilierung: Automatisiertes Scannen von Datenbeständen zur Bewertung aktueller Qualitätsmerkmale: Nullwerte, Werteverteilungen, Formatmuster, Duplikatrate und referenzielle Integrität. Durch die Profilierung wird eine Ausgangsbasis geschaffen und es werden Qualitätslücken identifiziert, ohne dass eine manuelle Überprüfung erforderlich ist.

Validierungsregeln: Geschäftsregeln, die für jedes Feld festlegen, wie gültige Daten aussehen müssen: zulässige Wertebereiche, erforderliche Formate, Referenzbeschränkungen und feldübergreifende Abhängigkeiten. Validierungsregeln werden kontinuierlich auf eingehende und gespeicherte Daten angewendet und kennzeichnen Datensätze, die die Validierung nicht bestehen.

Qualitätsbewertung: Zusammenfassung der Profiling-Ergebnisse und Validierungsergebnisse zu einem einzigen Qualitätswert pro Asset. Anhand dieser Werte lässt sich die Qualität zwischen verschiedenen Assets und im Zeitverlauf vergleichen. Ein Datensatz einem Qualitätswert von 94 % ist vertrauenswürdiger als einer mit einem Wert von 71 %, und ein Datensatz Wert innerhalb von zwei Wochen von 94 % auf 87 % gesunken ist, deutet auf ein Problem mit der Pipeline oder der Datenquelle hin, das untersucht werden muss.

Qualitätsüberwachung und Warnmeldungen: Kontinuierliche Überwachung der Qualitätswerte mit automatischen Warnmeldungen, wenn die Werte unter definierte Schwellenwerte fallen oder Anomalien auftreten: unerwartete Rückgänge der Zeilenanzahl, plötzliche Anstiege der Null-Rate, Schemaänderungen, die gegen Validierungsregeln verstoßen. Durch die Überwachung werden Qualitätsprobleme erkannt, bevor sie in Produktionsberichte oder Training gelangen.

Qualitätsbewertungen gehören zu den wichtigsten Bewertungskriterien bei Daten-Discovery. Nutzer, die prüfen, ob ein Datensatz für ihren use case geeignet Datensatz , use case auf die im Katalog angezeigten Profilergebnisse und Qualitätsdimensionen. Definitionen zu Qualität und anderen Konzepten, die eine zuverlässige Datensuche gewährleisten, finden Sie imDaten-Discovery .

Die Kosten schlechter Datenqualität

Unternehmen erfassen die Kosten schlechter Datenqualität selten direkt, weshalb dieses Problem weiterhin besteht. Die Kosten verteilen sich auf verschiedene Teams und Budgets, sodass die eigentliche Ursache nicht erkennbar ist.

Wer ist für die Datenqualität verantwortlich?

Die Datenqualität ist eine gemeinsame Verantwortung, die auf verschiedene Rollen mit jeweils unterschiedlichen Zuständigkeiten verteilt ist.

Der häufigste Fehler bei Datenqualitätsprogrammen besteht darin, Qualität als eine rein technische Aufgabe zu betrachten, die in den Zuständigkeitsbereich des Data Engineering fällt. Ingenieure können zwar Qualitätsprüfungen entwickeln und technische Probleme beheben, aber sie können nicht definieren, was „korrekt“ für einen bestimmten Geschäftsbereich bedeutet, nicht bestätigen, ob ein Datensatz für einen bestimmten Geschäftszweck geeignet Datensatz , und auch keine bereichsübergreifenden Inkonsistenzen bei Definitionen beheben. Dies erfordert die Eigenverantwortung des Geschäftsbereichs und die Rechenschaftspflicht der Verantwortlichen.

Die sechs Phasen des Datenqualitätsmanagements

1. Bewerten

Erstellen Sie für alle betroffenen Datenbestände ein Profil, um eine Basisqualität in den sechs Dimensionen zu ermitteln. Identifizieren Sie die Bereiche mit dem höchsten Geschäftsrisiko oder den größten regulatorischen Risiken und legen Sie für diese Bereiche als Erstes Qualitätsschwellenwerte fest.

2. Standards festlegen

Formulieren Sie die Qualitätsstandards, die für jeden Schwerpunktbereich gelten: die zulässigen Schwellenwerte für jede Dimension, die Validierungsregeln zu deren Durchsetzung sowie die Zertifizierungskriterien, die eine Ressource so vertrauenswürdig machen, dass sie in der Produktionsberichterstattung und Training verwendet werden kann.

3. Kontinuierlich überwachen

Führen Sie eine automatisierte Qualitätsüberwachung ein, die jedes Asset kontinuierlich anhand der festgelegten Standards überprüft. Richten Sie Warnmeldungen für Schwellenwertüberschreitungen und Anomalien ein. Verknüpfen Sie die Überwachung mit den Verwaltungsabläufen, damit Probleme automatisch an die richtige Person weitergeleitet werden, anstatt in einem dashboard zu verbleiben dashboard auf dashboard niemand reagiert.

4. Beheben

Beheben Sie Qualitätsprobleme nach Möglichkeit bereits an der Quelle. Eine nachgelagerte Bereinigung – also die Korrektur von Daten, nachdem diese bereits in das Data Warehouse gelangt sind – bekämpft lediglich die Symptome statt die Ursachen und verursacht einen anhaltenden Wartungsaufwand. Wenn eine Korrektur auf Quellenebene nicht sofort möglich ist, führen Sie nachgelagerte Prüfungen ein, die verhindern, dass Daten von schlechter Qualität in die Produktionsberichterstattung oder KI-Pipelines gelangen.

5. Bestätigen

Weisen Sie Assets, die definierte Qualitätsschwellenwerte erfüllen und von einem Verantwortlichen geprüft wurden, den Zertifizierungsstatus zu. Zertifizierte Assets werden mit einem Verifizierungssymbol im Datenkatalogmit einem Verifizierungssiegel an. Nutzer vertrauen zertifizierten Assets auch ohne unabhängige Validierung. Die Zertifizierung ist der Mechanismus, der Qualitätsmessungen in Nutzer umsetzt.

6. Verbessern

Verfolgen Sie die Entwicklung der Qualitätsbewertung im Zeitverlauf nach Domänen. Identifizieren Sie anhaltende Qualitätsmängel und beheben Sie deren Ursachen: Probleme im Quellsystem, Fehler in der Pipeline-Logik, Inkonsistenzen bei den Definitionen oder fehlende Validierungsregeln. Berichten Sie der Governance-Führung monatlich über die Qualitätskennzahlen. Programme, die im Laufe der Zeit keine Qualitätsverbesserung vorweisen können, verbessern sich nicht.

Datenqualität nach Rollen: Was das in der Praxis bedeutet

Datenanalyst: Vor der Einführung des Qualitätsmanagements: Verbringt 30 bis 40 Prozent der Arbeitszeit damit, Daten zu suchen, zu validieren und mit den Ingenieuren abzustimmen, ob die gefundene Version die richtige ist. Nach der Einführung: Durchsucht den Katalog, überprüft den Qualitätswert und den Zertifizierungsstatus der in Frage kommenden Assets und verwendet zertifizierte Assets ohne weitere Rücksprache. Der Zeitaufwand für die Datenvalidierung sinkt auf unter 10 Prozent.

Dateningenieur: Vorher: Probleme mit der Datenqualität werden erst entdeckt, wenn Pipelines in der Produktion ausfallen. Die Ermittlung der Grundursache dauert Stunden. Korrekturen erfolgen reaktiv und sind oft unvollständig. Nachher: Qualitätsprüfungen werden in der Pipeline durchgeführt, bevor die Daten in die Produktion gelangen. Fehler werden automatisch an Stewardship-Workflows weitergeleitet. Ingenieure gehen Probleme proaktiv statt reaktiv an.

Datenverantwortlicher: Überwacht die Qualitätsbewertungen für jedes Asset in seinem Zuständigkeitsbereich über eine zentrale Katalogoberfläche. Wenn eine Bewertung unter den Schwellenwert fällt, wird eine Warnmeldung ausgelöst und das Problem zugewiesen. Der Verantwortliche untersucht den Fall, koordiniert die Behebung mit dem Dateningenieur und behebt das Problem entweder selbst oder entzieht dem Asset bis zur Behebung den zertifizierten Status.

Compliance-Beauftragter:Qualitätszertifizierungenund Validierungshistorien werden als Governance-Aufzeichnungen im Datenkatalog gepflegt. Prüfungsanfragen nach Qualitätsnachweisen werden anhand dieser Aufzeichnungen beantwortet und müssen nicht manuell zusammengestellt werden. BCBS 239-, HIPAA- und SOX-Prüfungen, die eine Dokumentation der Datenqualität erfordern, dauern nur noch Stunden statt Wochen.

Data-Scientist: Trainingsdatensätze sind mit Qualitätsbewertungen, Validierungshistorien und Zertifizierungsstatus versehen. Der Data-Scientist zertifizierte Datensätze mit Qualitätsbewertungen Data-Scientist , die über festgelegten Schwellenwerten liegen, und kann deren Qualitätsnachweise für die Reproduzierbarkeit des Modells sowie für regulatorische Zwecke ohne zusätzlichen manuellen Aufwand dokumentieren.

Datenqualität und Data Governance

Datenqualität und Data Governance eng miteinander verknüpft. Die Governance definiert die Qualitätsstandards, legt fest, wer für deren Durchsetzung verantwortlich ist, und erstellt Richtlinien, mit denen die Qualitätsanforderungen in die Praxis umgesetzt werden. Das Datenqualitätsmanagement setzt diese Richtlinien durch Profiling, Überwachung und Korrekturmaßnahmen um.

Ein Governance-Programm ohne Qualitätsmanagement führt zu Standards, die niemals überprüft werden. Ein Qualitätsmanagementprogramm ohne Governance führt zu Kennzahlen, auf die niemand reagiert, da die Verantwortlichkeiten unklar sind.

Hinweise zu Datenverträgen als Mechanismus zur Qualitätssicherung finden Sie in unseremLeitfaden zu Datenverträgen.

Datenqualität und KI

Die Datenqualität ist die wichtigste infrastrukturelle Voraussetzung für vertrauenswürdige KI. Jedes Datenqualitätsproblem, das in Training vorliegt, wird von dem Modell übernommen, das daraus lernt.

Genauigkeitsfehler in Training : Ein Betrugserkennung , das auf Transaktionsdatensätzen mit 5 % ungenauen Händlerkategoriecodes trainiert wurde, lernt, legitime Transaktionen mit Betrugsmustern in Verbindung zu bringen. Das Modell stuft einwandfreie Transaktionen als betrügerisch ein und übersieht tatsächliche Betrugsfälle.

Unvollständigkeit der Training : Ein Modell zur Vorhersage der Kundenabwanderung, das auf Datensätzen trainiert wurde, bei denen 20 % der Felder zur Vertragsdauer leer sind, lernt, die Abwanderung ohne eines der stärksten Vorhersagesignale vorherzusagen. Die Modellleistung ist systematisch geringer als sie sein sollte, und die Ursache ist ohne Rückverfolgung bis zu den Datensätzen zur Qualität Training nicht erkennbar.

Beständigkeit in Training : Ein Empfehlungsmodell, das auf Daten aus zwei Quellsystemen trainiert wurde, die den Begriff „aktiver Kunde“ unterschiedlich definieren, lernt gleichzeitig zwei widersprüchliche Muster. Empfehlungen für Kunden, die der einen Definition entsprechen, unterscheiden sich systematisch von Empfehlungen für Kunden, die der anderen Definition entsprechen, was zu inkonsistenten Nutzer führt, die sich nicht erklären lassen, ohne das Problem der Qualität Training aufzuspüren.

Was für eine KI-fähige Datenqualität erforderlich ist: Jeder für Training Datensatz Training über eine Qualitätszertifizierung verfügen: Profiling-Ergebnisse, die die aktuellen Qualitätswerte bestätigen, eine Validierungshistorie, die belegt, dass die Daten zum Zeitpunkt des Training die definierten Standards erfüllten, sowie eine Freigabe durch einen Datenverantwortlichen, die bestätigt, dass die Daten für den beabsichtigten Verwendungszweck des Modells geeignet sind. Ohne diese Zertifizierung Training gemäß den KI-Governance-Vorschriften Training geprüft, reproduziert oder verteidigt werden.

Datenqualität in regulierten Branchen

Finanzdienstleistungen: BCBS 239 verlangt von Banken den Nachweis, dass Risikodaten korrekt, vollständig und von der Quelle bis zur Einreichung bei den Aufsichtsbehörden nachvollziehbar sind. Qualitätszertifizierungen, die im Rahmen eines Governance-Programms aufrechterhalten werden, erfüllen diese Anforderung kontinuierlich und machen regelmäßige manuelle Bewertungen überflüssig. SOX verlangt zuverlässige Daten für die Finanzberichterstattung mit dokumentierten Qualitätskontrollen.

Gesundheitswesen: Die HIPAA schreibt vor, dass Patientenakten korrekt und aktuell sein müssen. Ungenaue Patientendaten führen zu klinischen Fehlern, Abrechnungsstreitigkeiten und Datenschutzverletzungen. Datenqualitätsprogramme im Gesundheitswesen müssen Datensätze mit geschützten Gesundheitsdaten (PHI) unter Einhaltung strengster Qualitätsstandards und einer besonders gründlichen Überwachung abdecken.

Arzneimittel: Die Vorschriften der FDA gemäß 21 CFR Part 11 sowie die GxP-Vorschriften verlangen Datenintegrität für klinische und herstellungsbezogene Daten. Qualitätsmanagementprogramme müssen vollständige Validierungshistorien für alle Daten führen, die in Zulassungsanträgen verwendet werden, um nachzuweisen, dass die Daten nicht ohne Dokumentation verändert wurden und dass alle Qualitätsprüfungen bestanden wurden.

Einzelhandel und E-Commerce: Die Qualität der Kundendaten wirkt sich direkt auf den Umsatz aus: Doppelte Datensätze führen zu doppelter Kommunikation, was das Vertrauen in die Marke beeinträchtigt; ungenaue Adressdaten verursachen fehlgeschlagene Lieferungen, und veraltete Präferenzdaten führen zu irrelevanten Empfehlungen. Die Qualität der Bestandsdaten wirkt sich auf die Auftragsabwicklung aus: Veraltete Bestandsdaten führen zu Überverkäufen und enttäuschten Kunden.