Nicht dokumentierte oder ungeprüfte Herkunft von Trainingsdaten für Generative KI und LLM in der Beschaffungsphase

Kontext

Branche

Branchenübergreifend

Prozess

Daten und Beschaffung

Schutzgut

Compliance Nachvollziehbarkeit

Ursachen

• Fehlende Verpflichtung zur technischen und rechtlichen Prüfung der Datenquellen im KI-Projektmanagement und Lieferantenprozess.

Auswirkungen

• Gefahr von Verletzungen geistiger Eigentumsrechte
• fehlerhafte Modelle
• unzulässige oder fehlerhafte Ausgaben
• rechtliche Auseinandersetzungen.

Praxisbeispiel

• Ein Unternehmen bezieht Web-Datensätze für LLM-Training ohne Copyrightprüfung
• was zu Verletzungen von Urheberrechten führt.

Stakeholder

• Data Engineering
• Einkauf
• KI-Entwicklung
• Juristische Abteilung

Maßnahmen

Noch nicht hinterlegt.

Präventive Maßnahmen

• Festlegung verbindlicher Anforderungen für Datenquellenüberprüfung
• Anforderung von Herkunftsnachweisen/Lizenzvereinbarungen
• Integration eines Data Provenance Frameworks

Detektive Maßnahmen

• Audit von Datenquellenlisten
• Stichprobenkontrolle zu Lizenzen und Datenherkunft

Korrektive Maßnahmen

• Austausch problematischer Datensätze
• Verstärkte Compliance-Prüfung bei Lieferanten

Pruefziele

• Die Herkunft aller Trainingsdaten für Generative KI ist nachweisbar dokumentiert und wurde auf rechtliche Konformität geprüft.

Auditfragen

• Sind alle Quellen, von denen Daten bezogen wurden, lückenlos dokumentiert?
• Gibt es eine juristische Prüfung auf Copyright und Lizenzen vor Nutzungsbeginn?

Normbezüge

• ISO/IEC 42001 Kapitel 8.5-8.7 EU AI Act (Verordnung (EU) 2024/1689) Artikel 10

Normhinweise

• Vorschriften fordern dokumentierte Herkunft und Qualitätssicherung von KI-Trainingsdaten.

Nachweise

• Datenbeschaffungsdokumente
• Lizenzprüfprotokolle
• Supplier Assessments

Nachweistypen

• Dokumente

Kontrollen

• Pflicht zur Datenquellendokumentation im Einkauf
• Prozessprüfung durch Rechtsteam vor Nutzung neuer Datensätze

Verwandte Risiken

Noch keine Beziehungen hinterlegt.