Unzureichende Einbindung regulatorischer und ethischer Anforderungen bei der initialen Planung von RAG- und Wissenssystemen
Bei der Konzeption von RAG- und Wissenssystemen werden regulatorische Vorgaben und ethische Leitlinien nicht systematisch analysiert oder in die Zieldefinition und Risikoklassifizierung integriert.
Kontext
- Branche
- Branchenübergreifend
- Prozess
- Planung und Klassifizierung
- Schutzgut
- Compliance Transparenz
Ursachen
- Fehlende systematische Analyse oder Priorisierung relevanter regulatorischer und ethischer Anforderungen im Projektstart.
Auswirkungen
- Risiko regulatorischer Pflichtverletzungen
- spätere teure Nachbesserungen
- Reputationsschäden
- Unsicherheit bei Stakeholdern.
Praxisbeispiel
- Ein Versicherungsunternehmen startet ein Frage-Antwort-System auf Unternehmensdaten
- ohne regulatorische Erwägungen zu dokumentieren und Verantwortlichkeiten zur Einhaltung ethischer Prinzipien festzulegen.
Stakeholder
- Projektleitung
- Compliance
- Data Governance
- IT-Architekten
Maßnahmen
Noch nicht hinterlegt.
Präventive Maßnahmen
- Frühzeitige Konsultation von Compliance- und Rechtsabteilung
- Integration einer regulatorischen Frühbewertung in Projektinitiativen
- Dokumentation der ethischen und regulatorischen Zielbilder
Detektive Maßnahmen
- Review-Protokolle zur Zieldefinition
- Audit von Planungsunterlagen
Korrektive Maßnahmen
- Nachträgliche Anpassung von Projektzielen und Systemklassifikation
- Ergänzende Schulung der Projektbeteiligten zu KI-spezifischen regulatorischen Anforderungen
Pruefziele
- Es ist sichergestellt
- dass regulatorische und ethische Anforderungen in der Planung von RAG- und Wissenssystemen systematisch berücksichtigt werden.
Auditfragen
- Liegen Dokumentationen zur regulatorischen Landschaft und ethischen Zielsetzung für das Projekt vor?
- Werden Anforderungen aus dem EU AI Act sowie nationale Vorgaben in der Systemklassifizierung nachverfolgt?
Normbezüge
- ISO/IEC 42001 Kapitel 5-6 NIST AI RMF 1.0 GOVERN EU AI Act (Verordnung (EU) 2024/1689) Artikel 9-11
Normhinweise
- Standards schreiben explizite Berücksichtigung ethischer
- regulatorischer und Compliance-Anforderungen in der KI-Planung vor.
Nachweise
- Projektinitialisierungdokument
- Risiko- und Anforderungskatalog
- Planungsprotokolle
Nachweistypen
- Dokumente
Kontrollen
- Regelmäßige Compliance-Reviews in der KI-Planung
- Verpflichtende Beteiligung des Legal Counsel bei Systemklassifizierung
Verwandte Risiken
Noch keine Beziehungen hinterlegt.