Kontext

Branche

Alle Branchen

Prozess

Betrieb und Monitoring

Schutzgut

Wirksamkeit Nachvollziehbarkeit Kontrolle

Ursachen

• Fehlende Messgrößen zur systematischen Überwachung
• kein klarer Prüfzyklus für Performance und Maßnahmenvalidierung
• Monitorsysteme werden nicht mit den operativen KI-Systemen gekoppelt.

Auswirkungen

• Fehlerhafte Entscheidungen
• Modellabweichungen oder Sicherheitsverstöße werden zu spät detektiert; Reaktionen auf Schwächen erfolgen verzögert oder unstrukturiert.

Praxisbeispiel

• Ein RAG-System liefert seit Wochen fehlerhafte Auskünfte wegen unbemerkter Quellenänderung; Monitoring greift nicht
• da keine Grenzwerte für diese Art von Fehler definiert wurden.

Stakeholder

• System Owner
• AI Governance
• Qualitätsmanagement
• IT-Betrieb

Massnahmen

Noch nicht hinterlegt.

Praeventive Massnahmen

• Für jedes KI-System wirksame Monitoring-Kennzahlen und Indikatoren vorschreiben
• verpflichtende Maßnahmenprüfungen bei jedem Review
• alles im KI-Register und Maßnahmenprotokoll dokumentieren.

Detektive Massnahmen

• Jährliche oder quartalsweise Performanceprüfungen und automatische Modellüberwachung implementieren; nutzerinitiierte Fehler- und Feedbackmechanismen nutzen.

Korrektive Massnahmen

• Organisierter Modell-Retrain; prompte Fehleranalyse sowie sofortige Dokumentation und Umsetzung von Maßnahmenplänen bei festgestellten Abweichungen.

Pruefziele

• Nachweis
• dass für jedes KI-System die Wirksamkeit aller Hauptmaßnahmen regelmäßig geprüft und dokumentiert ist.

Auditfragen

• Welche Monitoring- und Maßnahmenberichte wurden für die letzten zwei Kontrollzyklen erstellt? Wie wird auf Modellabweichungen und Schwächen frühzeitig reagiert?

Normbezuege

• ISO/IEC 42001 ISO/IEC 23894 ISO/IEC 27001

Normhinweise

• Ableitung aus Monitoring- und Korrekturpflicht (ISO/IEC 42001 u.a.); keine Normtexte übernommen.

Nachweise

• Reviewprotokolle
• Monitoring-Berichte
• Maßnahmenverfolgung
• System-Alerts

Nachweistypen

• Bericht
• Protokoll
• Registerauszug

Kontrollen

• Pflicht zur quartalsweisen Performance- und Wirksamkeitsüberprüfung mit dokumentiertem Maßnahmencontrolling.

Verwandte Risiken

Noch keine Beziehungen hinterlegt.