Risiko inkonsistenter Datenbeschaffungsprozesse bei KI-Plattformen
Inkonsistente oder unzureichend gesteuerte Datenbeschaffungsprozesse führen zu unsicheren oder nicht nachvollziehbaren Datenherkünften im Rahmen des Betriebs allgemeiner KI-Plattformen, was die Qualität und Governance der gesamten Plattform beeinträchtigen kann.
Kontext
- Branche
- Branchenübergreifend
- Prozess
- Daten und Beschaffung
- Schutzgut
- Integrität Nachvollziehbarkeit
Ursachen
- Fehlende Standardisierung für Beschaffungsquellen und Datengenese
- Unzureichende Dokumentation von Beschaffungswegen und -anforderungen
Auswirkungen
- Verlust der Nachvollziehbarkeit von Trainings- und Nutzungsdaten
- Erhöhtes Risiko für Compliance-Verstöße bei weiteren Prozessen
Praxisbeispiel
- Eine KI-Plattform verwendet Drittquellen ohne geprüfte Qualitätskriterien oder formale Freigabeprozesse.
Stakeholder
- Datenmanagement
- Einkauf
- KI-Governance
Maßnahmen
Noch nicht hinterlegt.
Präventive Maßnahmen
- Standardisierte Auswahl- und Prüfprozesse für Datenquellen implementieren
- Zentrale Dokumentationspflicht für Datenbeschaffungen und deren Freigabe etablieren
Detektive Maßnahmen
- Regelmäßige Auditierung und Plausibilitätskontrollen der Beschaffungswege
Korrektive Maßnahmen
- Sofortige Sperrung unsicherer Datenströme und Beschaffungskanäle nach Feststellung
- Nachdokumentation fehlender Herkunftsinformationen
Pruefziele
- Nachvollziehbarkeit und Standardisierung aller involvierten Beschaffungsprozesse sicherstellen.
Auditfragen
- Existieren Vorgaben und Nachweisdokumente zu Datenherkunft und Auswahlprozessen?
- Werden Datenquellen und Beschaffungen regelmäßig auf Risiken geprüft und dokumentiert?
Normbezüge
- ISO/IEC 42001 Kapitel 8.38.5 NIST AI RMF 1.0 Funktion GOVERN
Normhinweise
- Konkreter Bezug zu Datenmanagement
- Third-Party Management und Governance-Anforderungen
Nachweise
- Freigabe- und Beschaffungsprotokolle
- Beschaffungsrichtlinie
Nachweistypen
- Policy
- Auditlog
Kontrollen
- Dokumentationspflicht für neue Datenquellen
- Pflicht zur Auditierung und Freigabe
Verwandte Risiken
Noch keine Beziehungen hinterlegt.