Fehlende dokumentierte Freigabeverfahren für KI-basierte Bild- und Biometrielösungen

Kontext

Branche

Branchenübergreifend

Prozess

Validierung und Freigabe

Schutzgut

Nachvollziehbarkeit Verfügbarkeit

Ursachen

• Fehlender geregelter Freigabeprozess für neue Bild- und Biometrielösungen
• Unzureichende Definition von Akzeptanzkriterien, insbesondere mit Blick auf Bias und Fehlerquoten

Auswirkungen

• Produktivsetzung fehlerhafter oder diskriminierender Algorithmen
• Erhöhte Gefahr von Folgen für Compliance, Rechte und Organisation

Praxisbeispiel

• Eine automatisierte Gesichtserkennungslösung wird ohne dokumentierte Validierung und Absegnung durch Datenschutz oder IT-Sicherheit live geschaltet.

Stakeholder

• IT-Validierung
• QS
• Datenschutzbeauftragte

Maßnahmen

Noch nicht hinterlegt.

Präventive Maßnahmen

• Verpflichtende Definition und Dokumentation von Qualitätskriterien und Freigabeprozessen vor Produktivsetzung
• Einbindung relevanter Fachstellen in den Validierungsprozess

Detektive Maßnahmen

• Regelmäßige Überprüfung produktiver Systeme auf Vorliegen gültiger Freigabedokumentation

Korrektive Maßnahmen

• Nachdokumentation versäumter Freigabeprozesse
• Rücknahme oder Sperrung nicht validierter Systeme

Pruefziele

• Nachweis
• dass nur validierte und formell freigegebene Bild- und Biometrie-KI in Betrieb genommen werden.

Auditfragen

• Gibt es für jedes System dokumentierte Akzeptanzkriterien und eine explizite Freigabe?
• Werden Qualitäts- und Bias-Kriterien systematisch geprüft?

Normbezüge

• EU AI Act Kapitel 15ISO/IEC 42001 Kapitel 8.7

Normhinweise

• Bezug auf Anforderungen an Qualitätsmanagement und Zulassungsprozesse für KI-gestützte biometrische Systeme

Nachweise

• Freigabeprotokolle
• Validierungsberichte

Nachweistypen

• Auditprotokoll
• QS-Report

Kontrollen

• Pflicht zur Vorlage dokumentierter Freigabebestätigung vor Inbetriebnahme

Verwandte Risiken

Noch keine Beziehungen hinterlegt.