Kontext

Branche

Branchenübergreifend

Prozess

Planung und Klassifizierung

Schutzgut

Nachvollziehbarkeit Rechtssicherheit

Ursachen

• Unzureichende Governance-Strukturen; fehlerhafte oder fehlende Dokumentation der Aufgabenverteilung; Vernachlässigung der regulatorischen Leitlinien für die KI-Bereitstellung.

Auswirkungen

• Ineffektive Aufsicht oder Steuerung in kritischen Phasen; Verstöße gegen rechtliche Vorgaben; erhöhte Risiken von Fehlverhalten oder Missbrauch.

Praxisbeispiel

• Ein automatisierter HR-Agent übernimmt den Bewerberprozess
• aber es ist nicht klar definiert
• ob der Fachbereich oder die IT Verantwortung für die KI-Entscheidungen trägt.

Stakeholder

• Fachbereichsleitung
• IT
• KI-Entwicklungsteam
• Compliance
• Datenschutzbeauftragte

Maßnahmen

Noch nicht hinterlegt.

Präventive Maßnahmen

• Festlegung und Dokumentation von Rollen und Verantwortlichkeiten für alle Aufgabenbereiche der KI-Agenten im Planungsstadium
• Regelmäßige Überprüfung der Organisationsstruktur nach ISO/IEC 42001 Kapitel 5

Detektive Maßnahmen

• Audits zu Aufgaben- und Rollenwahrnehmung im Projektteam
• Stichprobenhafte Überprüfung von Verantwortungszuweisungen

Korrektive Maßnahmen

• Nachträgliche Klärung und Anpassung von vertraglichen Zuständigkeiten
• Anpassung der Governance-Prozesse nach Auditfeststellungen

Pruefziele

• Nachweis einer eindeutigen und dokumentierten Zuweisung aller KI-relevanten Verantwortlichkeiten im Planungsprozess.

Auditfragen

• Wurden Verantwortlichkeiten für Entwicklung, Betrieb und Überwachung in der Planungsdokumentation festgelegt?
• Sind die Rollen im Organigramm konsistent mit den Aufgabenverteilungen in Projektakten?

Normbezüge

• ISO/IEC 42001 Kapitel 5 NIST AI RMF 1.0 GOVERN

Normhinweise

• Fokus auf Rollen- und Verantwortlichkeitsmanagement im Governance-Abschnitt

Nachweise

• Organigramm
• Verantwortlichkeitsmatrix
• Projektleitfäden

Nachweistypen

• Dokumentation
• Interviews

Kontrollen

• Verpflichtende Rollenklärung vor Projektstart
• Regelmäßige Reviews der Führungs- und Entscheidungsstruktur

Verwandte Risiken

Noch keine Beziehungen hinterlegt.