Mangelhafte Nachvollziehbarkeit von Plattformabschaltungen und -änderungen für KI-Nutzer

Kontext

Branche

Branchenübergreifend

Prozess

Änderung und Stilllegung

Schutzgut

Nachvollziehbarkeit Verlässlichkeit

Ursachen

• Unvollständige Offenlegung und Dokumentation der Entscheidungs- und Kommunikationswege im Rahmen des Plattformlifecycles.

Auswirkungen

• Vertrauensverlust
• erschwerte Auditierbarkeit und Fehlentscheidungen durch Nutzer aufgrund fehlender Transparenz hinsichtlich Änderungsgründen oder Datenmigration.

Praxisbeispiel

• KI-Plattform wird kurzfristig deaktiviert
• ohne Nutzern die Gründe und den Migrationspfad verständlich zu machen.

Stakeholder

• Kunden
• Regelsetzer
• Betriebspartner
• Endnutzer

Maßnahmen

Noch nicht hinterlegt.

Präventive Maßnahmen

• Verpflichtende dokumentierte Änderungs- und End-of-Life-Kommunikation an Stakeholder

Detektive Maßnahmen

• Stichprobenprüfung der Änderungskommunikation und Archivierung entsprechender Informationsschreiben

Korrektive Maßnahmen

• Nachträgliche Veröffentlichung der Entscheidungs- und Kommunikationshistorie zur Nachvollziehbarkeit

Pruefziele

• Es besteht durchgängig nachvollziehbare Kommunikation zur Stilllegung und Änderung.

Auditfragen

• Wird für jede Plattformänderung nachvollziehbar
• wann und wie Stakeholder informiert wurden?

Normbezüge

• EU AI Act (Verordnung (EU) 2024/1689) Art. 13
• 23 ISO/IEC 42001 Kapitel 8.6 NIST AI RMF 1.0 Funktion MANAGE

Normhinweise

• EU AI Act fordert explizite transparente Information bei systemrelevanten Änderungen; ISO/IEC 42001 Kapitel 8.6 verlangt dokumentierte Lifecycleänderungen; NIST AI RMF MANAGE empfiehlt Nachvollziehbarkeit von Änderungen.

Nachweise

• Kommunikationsprotokolle
• Archivierungssysteme der Änderungskommunikation
• Stilllegungsdokumente

Nachweistypen

• Dokumentation
• Kommunikation

Kontrollen

• Pflicht zur Vorab- und Nachher-Kommunikation und Archivierung in internen Plattform-Governance-Vorgaben

Verwandte Risiken

Noch keine Beziehungen hinterlegt.