Unklare Verantwortlichkeiten für sichere Integration generativer KI in bestehende Produktsysteme

Kontext

Branche

Branchenübergreifend

Prozess

Bereitstellung und Integration

Schutzgut

Nachvollziehbarkeit Integrität Rechtssicherheit

Ursachen

• Nicht geregelter Übergang von Entwicklung zu Integration
• fehlende Zuständigkeiten für übergreifende Systemarchitektur.

Auswirkungen

• Fehlfunktionen
• Compliance-Probleme und uneindeutige Haftung bei Problemen mit KI-Ausgaben im Zielprodukt.

Praxisbeispiel

• Eine generative KI wird ohne vollständige Architekturabstimmung in ein Kundenportal integriert; Datenaustausch und Zugriff werden nicht zentral kontrolliert.

Stakeholder

• Projektleitung
• Enterprise-Architekt
• Compliance
• IT-Sicherheit

Maßnahmen

Noch nicht hinterlegt.

Präventive Maßnahmen

• Dokumentierte Schnittstellenabnahme
• Verantwortlichenmatrix für Integrationsrollen
• Formalisierte Freigabe der Integrationsarchitektur

Detektive Maßnahmen

• Review von Integrationsprotokollen
• Integrationstests mit Verantwortungsabnahme

Korrektive Maßnahmen

• Nachträgliche Schließung fehlerhafter Schnittstellen
• Neuzuordnung der Rollen
• Dokumentation nachholen

Pruefziele

• Nachweis der transparenten Regelung und Einhaltung von Rollen für sichere Integration.

Auditfragen

• Wie werden Zuständigkeiten im Integrationsprozess dokumentiert?
• Existiert ein Freigabeverfahren für KI-Schnittstellen?

Normbezüge

• ISO/IEC 42001 Kapitel 8.6 NIST AI RMF 1.0 Funktion MAP ISO/IEC 27001 A.8.1

Normhinweise

• Normen fordern klare Verantwortlichkeitsregelung sowie Nachvollziehbarkeit von Integrationsprozessen.

Nachweise

• Integrationsdokumentation mit Verantwortlichen
• Abnahme- und Übergabeprotokolle

Nachweistypen

• Prozessdokument
• Protokolle

Kontrollen

• Pflicht zur Rollendokumentation
• Integrationsabnahme durch Compliance

Verwandte Risiken

Noch keine Beziehungen hinterlegt.