Unvollständige Prüfprozesse vor Freigabe von Scoring-Systemen
Im Bereich Scoring und Klassifikation fehlt zu häufig ein vollständiger, dokumentierter Prüf- und Freigabeprozess vor dem Produktiveinsatz. Ungeprüfte Systeme können fehlerhafte Entscheidungen und Regelverstöße produzieren.
Kontext
- Branche
- Branchenübergreifend
- Prozess
- Validierung und Freigabe
- Schutzgut
- Regelkonformität Verlässlichkeit
Ursachen
- Unklare Vorgaben für Validierung und Abnahme
- Zeitdruck im Go-Live-Prozess
Auswirkungen
- Fehlentscheidungen und hohe operative Risiken
- Risiko regulatorischer Beanstandungen gem. ISO/IEC 42001 Kapitel 8.7
Praxisbeispiel
- Ein KI-gestütztes Kreditscoring-System wird in Betrieb genommen
- ohne dass alle Test- und Validierungsergebnisse dokumentiert und vorgelegt wurden.
Stakeholder
- Modellvalidierung
- Betrieb
- Rechtskonformität
- Fachbereiche
Maßnahmen
Noch nicht hinterlegt.
Präventive Maßnahmen
- Implementierung verbindlicher Prüf- und Abnahmeprozesse gemäß ISO/IEC 42001 Kapitel 8.7
Detektive Maßnahmen
- Stichprobenprüfung von Validierungsprotokollen und Freigabenachweisen
Korrektive Maßnahmen
- Nachträgliche Remediation von nicht-prüfkonformen Modulen vor Freigabe
Pruefziele
- Alle Scoring/Klassifikationssysteme werden vor dem Produktiveinsatz vollständig geprüft und dokumentiert freigegeben.
Auditfragen
- Wurde für jedes Scoring- und Klassifikationssystem vor Freigabe eine dokumentierte
- umfassende Validierung durchgeführt?
Normbezüge
- ISO/IEC 42001 Kapitel 8.7
Normhinweise
- Abschnitt 8.7 schreibt einen dokumentierten Validierungsprozess für Systeme der Kategorie Klassifikation und Scoring vor.
Nachweise
- Validierungsprotokoll
- Freigabedokumentation
Nachweistypen
- Dokumentation
Kontrollen
- Verbindlicher Freigabeprozess
- Abnahme durch Kontrollinstanz
Verwandte Risiken
Noch keine Beziehungen hinterlegt.