DAX-AIP-001 Governance Strukturierungsrisiko KI-Agenten und Automatisierung Mittel medium

Unvollständige Definition von Verantwortlichkeiten für KI-Agenten in der Planungsphase

Fehlt bei der Planung und Klassifizierung von KI-Agenten eine klare Zuteilung von Rollen, Verantwortlichkeiten und Zuständigkeiten, entstehen Steuerungs- und Haftungslücken.

Kontext

Branche: Branchenübergreifend
Prozess: Planung und Klassifizierung
Schutzgut: Nachvollziehbarkeit Rechtssicherheit

Ursachen

Unzureichende Governance-Strukturen; fehlerhafte oder fehlende Dokumentation der Aufgabenverteilung; Vernachlässigung der regulatorischen Leitlinien für die KI-Bereitstellung.

Auswirkungen

Ineffektive Aufsicht oder Steuerung in kritischen Phasen; Verstöße gegen rechtliche Vorgaben; erhöhte Risiken von Fehlverhalten oder Missbrauch.

Praxisbeispiel

Ein automatisierter HR-Agent übernimmt den Bewerberprozess
aber es ist nicht klar definiert
ob der Fachbereich oder die IT Verantwortung für die KI-Entscheidungen trägt.

Stakeholder

Fachbereichsleitung
IT
KI-Entwicklungsteam
Compliance
Datenschutzbeauftragte

Maßnahmen

Noch nicht hinterlegt.

Präventive Maßnahmen

Festlegung und Dokumentation von Rollen und Verantwortlichkeiten für alle Aufgabenbereiche der KI-Agenten im Planungsstadium
Regelmäßige Überprüfung der Organisationsstruktur nach ISO/IEC 42001 Kapitel 5

Detektive Maßnahmen

Audits zu Aufgaben- und Rollenwahrnehmung im Projektteam
Stichprobenhafte Überprüfung von Verantwortungszuweisungen

Korrektive Maßnahmen

Nachträgliche Klärung und Anpassung von vertraglichen Zuständigkeiten
Anpassung der Governance-Prozesse nach Auditfeststellungen

Pruefziele

Nachweis einer eindeutigen und dokumentierten Zuweisung aller KI-relevanten Verantwortlichkeiten im Planungsprozess.

Auditfragen

Wurden Verantwortlichkeiten für Entwicklung, Betrieb und Überwachung in der Planungsdokumentation festgelegt?
Sind die Rollen im Organigramm konsistent mit den Aufgabenverteilungen in Projektakten?

Normbezüge

ISO/IEC 42001 Kapitel 5 NIST AI RMF 1.0 GOVERN

Normhinweise

Fokus auf Rollen- und Verantwortlichkeitsmanagement im Governance-Abschnitt

Nachweise

Organigramm
Verantwortlichkeitsmatrix
Projektleitfäden

Nachweistypen

Dokumentation
Interviews

Kontrollen

Verpflichtende Rollenklärung vor Projektstart
Regelmäßige Reviews der Führungs- und Entscheidungsstruktur