Kontext

Branche

Branchenübergreifend

Prozess

Daten und Beschaffung

Schutzgut

Integrität Verlässlichkeit

Ursachen

• Zeit- oder Kostendruck bei der Datenbeschaffung; fehlende Verfahren und Prüfkriterien; unzureichende Dokumentation der Datenherkunft.

Auswirkungen

• Fehlerhafte Trainingsdaten führen zu diskriminierenden oder fehleranfälligen KI-Ergebnissen; negative Auswirkungen auf Sicherheit und Akzeptanz; regulatorische Risiken.

Praxisbeispiel

• Ein Unternehmen nutzt frei verfügbare Gesichtsbilder aus dem Internet für Trainingszwecke
• ohne Herkunft
• Copyright oder Manipulationen zu prüfen.

Stakeholder

• Datenbeschaffer
• KI-Entwicklungsteams
• Datenschutz
• Einkauf
• Recht

Maßnahmen

Noch nicht hinterlegt.

Präventive Maßnahmen

• Checkliste zur Qualitäts- und Herkunftsprüfung aller Beschaffungsquellen für Computer Vision und Biometrie
• Verpflichtender Review-Prozess durch den Fachbereich vor Datenintegration

Detektive Maßnahmen

• Stichprobenhafte Überprüfung von Datenprovenienz und Kennzeichnung bei Trainingsdatensätzen
• Automatische Plausibilitätschecks beim Datenimport

Korrektive Maßnahmen

• Aussortierung ungeeigneter oder manipulierter Datensätze
• Nachschulung des Systems mit geprüften Daten

Pruefziele

• Nachweis strukturierter Verfahren zur Prüfung und Dokumentation der Datenqualität und -herkunft.

Auditfragen

• Existiert eine qualitätsgesicherte Dokumentation der Trainingsdatenquellen?
• Wurden die verwendeten Daten auf Herkunft, Manipulation und Eignung geprüft?

Normbezüge

• ISO/IEC 42001 Kapitel 8.5-8.7 EU AI Act (Verordnung (EU) 2024/1689) Artikel 10

Normhinweise

• Qualitätsanforderungen an Daten gemäß ISO/IEC 42001 Prozessabschnitt
• Konkrete Vorgaben zu Daten im EU AI Act Artikel 10

Nachweise

• Datenchecklisten
• Beschaffungsprotokolle
• Auditberichte

Nachweistypen

• Dokumentation
• Systemprotokoll

Kontrollen

• Freigabeprozess mit dokumentierter Qualitätsprüfung
• Pflichtfelder für Herkunftsnachweis in Beschaffungstools

Verwandte Risiken

Noch keine Beziehungen hinterlegt.