Unzureichende Governance bei der Integration von Scoring- und Klassifikationssystemen
Beim Übergang von KI-Scoring- und Klassifikationssystemen in produktive Umgebungen fehlen umfassende Prozesse zur Steuerung, Dokumentation und Verantwortlichkeitszuweisung der Integration.
Kontext
- Branche
- Branchenübergreifend
- Prozess
- Bereitstellung und Integration
- Schutzgut
- Integrität Nachvollziehbarkeit
Ursachen
- Keine definierten Integrationsrichtlinien oder Zuständigkeiten
- Fehlende Dokumentation zu Systemwechselwirkungen
Auswirkungen
- Unklare Verantwortlichkeit für Fehlentscheidungen und unerwartete Systemeffekte
- Erhöhtes Risiko fehlerhafter Entscheidungen im Geschäftsprozess
Praxisbeispiel
- Eine Scoring-KI wird ohne zentrale Steuerung oder Dokumentation direkt ins Kernbanksystem integriert
- Folge: falsche Kreditvergaben aufgrund unerkannter Fehler.
Stakeholder
- IT-Integration
- Fachbereiche
- Compliance
Maßnahmen
Noch nicht hinterlegt.
Präventive Maßnahmen
- Definierte, überprüfbare Integrations- und Testprozesse einführen
- Verantwortlichkeiten und Dokumentationspflichten fixieren
Detektive Maßnahmen
- Audits von Integrationsprojekten hinsichtlich Governance-Anforderungen
Korrektive Maßnahmen
- Nachträgliche Verantwortungsklärung und Dokumentation
- Sperrung und Rücknahme fehlerhaft integrierter Systeme
Pruefziele
- Vollständige Dokumentation und Governance für Integrations- und Bereitstellungsprozesse von Scoring-KI.
Auditfragen
- Existieren Integrationsrichtlinien und sind Verantwortlichkeiten zur Integration dokumentiert?
Normbezüge
- ISO/IEC 42001 Kapitel 8.6NIST AI RMF 1.0 Funktion MAP
Normhinweise
- ISO/IEC 42001 fordert dokumentierte Integrationssteuerung
- NIST AI RMF MAP explizite Mapping- und Schnittstellenprozesse
Nachweise
- Integrations- und Testdokumentationen
- Verantwortlichkeitsmatrix
Nachweistypen
- Handbuch
- Projektprotokoll
Kontrollen
- Pflicht zur dokumentierten Integrationsfreigabe
- Governance Review der Schnittstellen
Verwandte Risiken
Noch keine Beziehungen hinterlegt.