Intransparente Nutzung personenbezogener Daten in Trainings- und Entwicklungsprozessen generativer KI und LLM
Im Entwicklungs- und Trainingsprozess generativer KI und LLM werden personenbezogene Daten unzureichend gekennzeichnet und die Datennutzung ist für Betroffene sowie Entwickler kaum nachvollziehbar. Dadurch besteht das Risiko, dass Datenschutzverstöße unbemerkt bleiben.
Kontext
- Branche
- Branchenübergreifend
- Prozess
- Entwicklung und Training
- Schutzgut
- Transparenz Vertraulichkeit
Ursachen
- Fehlende oder unvollständige Nachverfolgung personenbezogener Daten im Training
- insbesondere bei Vorverarbeitung
- Data Augmentation oder Nutzung von Drittquellen.
Auswirkungen
- Unbeabsichtigte Speicherung/Verwendung personenbezogener Informationen im trainierten System
- mangelnde Umsetzung der Betroffenenrechte
- rechtliche Haftung und Imageschäden.
Praxisbeispiel
- Im Trainingsdatensatz sind personenbezogene Einträge vorhanden
- die im Modell-output reproduziert werden können
- obwohl keine transparente Dokumentation oder Prüfung erfolgte.
Stakeholder
- DPO
- ML-Entwickler
- Dateneigner
- Projektmanagement
Maßnahmen
Noch nicht hinterlegt.
Präventive Maßnahmen
- Implementierung von Data Lineage und Labeling für alle personenbezogenen Elemente im Trainingsdatensatz
- Dokumentationsanforderungen für Datennutzung im Trainingsprozess
Detektive Maßnahmen
- Stichproben auf personenbezogene Daten im Datensatz und Modelloutput
- Review der Trainingsdokumentation nach Datenschutz-Kriterien
Korrektive Maßnahmen
- Entfernung identifizierter personenbezogener Daten aus Trainingsdaten / Modellen
- Nachbesserung der Dokumentation
Pruefziele
- Transparenz und Nachvollziehbarkeit der Nutzung personenbezogener Daten im Trainings- und Entwicklungsprozess sicherstellen.
Auditfragen
- Gibt es eine lückenlose Dokumentation der genutzten Trainingsdaten inkl. Personenbezug?
- Wurden Datenschutzprüfungen und Data Lineage durchgeführt und dokumentiert?
Normbezüge
- DSGVO Artikel 5
- 25 ISO/IEC 27701 Kapitel 6.4 ISO/IEC 42001 Kapitel 8.6
Normhinweise
- DSGVO: Transparente Verarbeitung, Grundsatz der Speicherbegrenzung und Zweckbindung
- ISO/IEC 27701: Nachweisbarkeit von Verarbeitungsvorgängen
- ISO/IEC 42001: Erhöhte Transparenz- und Dokumentationsbudgets im Training
Nachweise
- Trainingsdaten-Register
- Protokolle Datenschutzprüfungen
- Data Lineage Reports
Nachweistypen
- Datenregister
- Auditdokumente
- Nachverfolgungsprotokolle
Kontrollen
- Training Data Audit Trail
- Labeling und Data Lineage Tool
Verwandte Risiken
Noch keine Beziehungen hinterlegt.