Fehlende Planungs- und Nachweisdokumentation bei Änderungen an KI-Agenten und Automatisierungssystemen

Kontext

Branche

Branchenübergreifend

Prozess

Änderung und Stilllegung

Schutzgut

Nachvollziehbarkeit Betriebssicherheit

Ursachen

• Fehlende Changemanagement-Prozesse
• keine systematische Protokollierung und Verfolgung von Stilllegungen oder Modifikationen.

Auswirkungen

• Regulatorisches Risiko durch mangelnde Auditierbarkeit
• erhöhter Aufwand bei Störungen oder Rückfragen
• mögliche Unsicherheiten bzgl. Systemstatus und Verantwortlichkeiten.

Praxisbeispiel

• Ein KI-Agent eines Kundenservices wird auf neue Logiken umgestellt
• ohne dass ein nachvollziehbares Änderungsprotokoll geführt wird – Compliance-Prüfungen sind dadurch nicht lückenlos möglich.

Stakeholder

• Betriebsverantwortliche
• Kunden
• IT-Sicherheit
• Revision

Maßnahmen

Noch nicht hinterlegt.

Präventive Maßnahmen

• Pflicht zur Planung und Abnahme jeder Änderung
• inklusive Änderungsprotokollierung und versionierter Nachverfolgung

Detektive Maßnahmen

• Regelmäßige Prüfungen auf Vorliegen von Änderungs- und Freigabedokumenten

Korrektive Maßnahmen

• Nachholende Nachweisdokumentation für vergangene Änderungen
• Schulung der Verantwortlichen zu Changemanagement-Anforderungen

Pruefziele

• Jede Änderung/Stillegung ist nachvollziehbar geplant
• dokumentiert und abgenommen.

Auditfragen

• Wird für jede Änderung/Stilllegung an KI-Agenten ein genehmigtes Protokoll erstellt und nachvollziehbar archiviert?

Normbezüge

• ISO/IEC 42001 Kapitel 8.6
• 8.7 NIST AI RMF 1.0 Funktion MANAGE

Normhinweise

• Beide Normen schreiben Planungs-
• Changemanagement- und Dokumentationspflichten bei Änderungen vor
• inkl. Protokollierung
• Freigabe und Auditabilität.

Nachweise

• Änderungsprotokolle
• Versionshistorien
• Abnahme- und Abschlussdokumente

Nachweistypen

• Dokumentation

Kontrollen

• Verpflichtendes Changemanagement und Abnahmedokumentation im Betriebshandbuch für KI-Agenten

Verwandte Risiken

Noch keine Beziehungen hinterlegt.