DAX-AID-001 Governance Datenqualitätsrisiko Computer Vision und Biometrie Hoch medium

Fehlende Validierung der Datenqualität bei der Beschaffung für Computer Vision und Biometrie-Anwendungen

Werden erworbene oder zugekaufte Datensätze für Computer Vision und Biometrie nicht systematisch auf Qualität, Herkunft und Eignung geprüft, ergeben sich wesentliche Risiken für Fehlfunktionen und fehlerhafte KI-Ergebnisse.

Kontext

Branche: Branchenübergreifend
Prozess: Daten und Beschaffung
Schutzgut: Integrität Verlässlichkeit

Ursachen

Zeit- oder Kostendruck bei der Datenbeschaffung; fehlende Verfahren und Prüfkriterien; unzureichende Dokumentation der Datenherkunft.

Auswirkungen

Fehlerhafte Trainingsdaten führen zu diskriminierenden oder fehleranfälligen KI-Ergebnissen; negative Auswirkungen auf Sicherheit und Akzeptanz; regulatorische Risiken.

Praxisbeispiel

Ein Unternehmen nutzt frei verfügbare Gesichtsbilder aus dem Internet für Trainingszwecke
ohne Herkunft
Copyright oder Manipulationen zu prüfen.

Stakeholder

Datenbeschaffer
KI-Entwicklungsteams
Datenschutz
Einkauf
Recht

Maßnahmen

Noch nicht hinterlegt.

Präventive Maßnahmen

Checkliste zur Qualitäts- und Herkunftsprüfung aller Beschaffungsquellen für Computer Vision und Biometrie
Verpflichtender Review-Prozess durch den Fachbereich vor Datenintegration

Detektive Maßnahmen

Stichprobenhafte Überprüfung von Datenprovenienz und Kennzeichnung bei Trainingsdatensätzen
Automatische Plausibilitätschecks beim Datenimport

Korrektive Maßnahmen

Aussortierung ungeeigneter oder manipulierter Datensätze
Nachschulung des Systems mit geprüften Daten

Pruefziele

Nachweis strukturierter Verfahren zur Prüfung und Dokumentation der Datenqualität und -herkunft.

Auditfragen

Existiert eine qualitätsgesicherte Dokumentation der Trainingsdatenquellen?
Wurden die verwendeten Daten auf Herkunft, Manipulation und Eignung geprüft?

Normbezüge

ISO/IEC 42001 Kapitel 8.5-8.7 EU AI Act (Verordnung (EU) 2024/1689) Artikel 10

Normhinweise

Qualitätsanforderungen an Daten gemäß ISO/IEC 42001 Prozessabschnitt
Konkrete Vorgaben zu Daten im EU AI Act Artikel 10

Nachweise

Datenchecklisten
Beschaffungsprotokolle
Auditberichte

Nachweistypen

Dokumentation
Systemprotokoll

Kontrollen

Freigabeprozess mit dokumentierter Qualitätsprüfung
Pflichtfelder für Herkunftsnachweis in Beschaffungstools