Kontext

Branche

Branchenunabhängig

Prozess

KI-Governance, Compliance

Schutzgut

Unabhängigkeit

Ursachen

• Fehlende Vorgaben im Governance-System für regelmäßige Interessenkonfliktprüfungen und deren Dokumentation.

Auswirkungen

• Unsachgemäße KI-Entscheidungen oder einseitige Modellanpassungen zugunsten einzelner Parteien
• wodurch Compliance-Verstöße und Reputationsschäden entstehen können.

Praxisbeispiel

• KI-Modelle für Kreditvergabe werden von Mitarbeitenden bewertet
• die privat direkt von Kreditvergaben profitieren könnten.

Stakeholder

• KI-Governance-Team
• Compliance
• Betriebsrat
• Management

Massnahmen

Noch nicht hinterlegt.

Praeventive Massnahmen

• Implementierung regelmäßiger Interessenkonflikt-Prüfungen für verantwortliche KI-Fachkräfte und Entscheidungsträger.

Detektive Massnahmen

• Stichprobenhafte Prüfungen und Dokumentationskontrollen über mögliche Interessenkonflikte.

Korrektive Massnahmen

• Maßnahmen zur Entfernung betroffener Personen aus kritischen Entscheidungsprozessen bei festgestellten Interessenkonflikten.

Pruefziele

• Sicherstellung
• dass Interessenkonflikte im Zusammenhang mit KI-Entscheidungssystemen erkannt und adressiert werden.

Auditfragen

• Existiert ein Prozess zur Offenlegung und Prüfung von Interessenkonflikten in KI-Projekten und wird dieser nachweislich angewandt?

Normbezuege

• ISO/IEC 42001SDM

Normhinweise

• Absicherung der Unabhängigkeit und Integrität von Governance-Prozessen durch laufende Überwachung möglicher Interessenkonflikte.

Nachweise

• Prüfprotokolle
• Erklärungen zu Interessenkonflikten
• Nachweise regelmäßiger Review-Termine.

Nachweistypen

• Dokumentation

Kontrollen

• Verpflichtende jährliche Veröffentlichung und Aktualisierung von Interessenkonflikterklärungen.

Verwandte Risiken

Noch keine Beziehungen hinterlegt.