Fehlende Prüfung auf Interessenkonflikte im KI-Entscheidungsprozess
Es erfolgt keine strukturierte Überprüfung, ob bei Stakeholdern oder Entscheidungsträgern, die KI-Modelle beauftragen, bewerten oder betreiben, Interessenkonflikte vorliegen.
Kontext
- Branche
- Branchenunabhängig
- Prozess
- KI-Governance, Compliance
- Schutzgut
- Unabhängigkeit
Ursachen
- Fehlende Vorgaben im Governance-System für regelmäßige Interessenkonfliktprüfungen und deren Dokumentation.
Auswirkungen
- Unsachgemäße KI-Entscheidungen oder einseitige Modellanpassungen zugunsten einzelner Parteien
- wodurch Compliance-Verstöße und Reputationsschäden entstehen können.
Praxisbeispiel
- KI-Modelle für Kreditvergabe werden von Mitarbeitenden bewertet
- die privat direkt von Kreditvergaben profitieren könnten.
Stakeholder
- KI-Governance-Team
- Compliance
- Betriebsrat
- Management
Maßnahmen
Noch nicht hinterlegt.
Präventive Maßnahmen
- Implementierung regelmäßiger Interessenkonflikt-Prüfungen für verantwortliche KI-Fachkräfte und Entscheidungsträger.
Detektive Maßnahmen
- Stichprobenhafte Prüfungen und Dokumentationskontrollen über mögliche Interessenkonflikte.
Korrektive Maßnahmen
- Maßnahmen zur Entfernung betroffener Personen aus kritischen Entscheidungsprozessen bei festgestellten Interessenkonflikten.
Pruefziele
- Sicherstellung
- dass Interessenkonflikte im Zusammenhang mit KI-Entscheidungssystemen erkannt und adressiert werden.
Auditfragen
- Existiert ein Prozess zur Offenlegung und Prüfung von Interessenkonflikten in KI-Projekten und wird dieser nachweislich angewandt?
Normbezüge
- ISO/IEC 42001SDM
Normhinweise
- Absicherung der Unabhängigkeit und Integrität von Governance-Prozessen durch laufende Überwachung möglicher Interessenkonflikte.
Nachweise
- Prüfprotokolle
- Erklärungen zu Interessenkonflikten
- Nachweise regelmäßiger Review-Termine.
Nachweistypen
- Dokumentation
Kontrollen
- Verpflichtende jährliche Veröffentlichung und Aktualisierung von Interessenkonflikterklärungen.
Verwandte Risiken
Noch keine Beziehungen hinterlegt.