Shadow AI
Was bedeutet Shadow AI?
Shadow AI bezeichnet den Einsatz von KI-Tools und -Anwendungen durch Mitarbeiter in einem Unternehmen, ohne dass diese von der IT-Abteilung genehmigt oder überwacht werden. Dies kann zu Sicherheits-, Datenschutz- und Compliance-Risiken führen, da die eingesetzten Tools oft nicht den Unternehmensrichtlinien entsprechen.
Warum ist das für Unternehmen wichtig?
Für kleine und mittlere Unternehmen ist es entscheidend, die Nutzung von KI-Ressourcen zu überwachen und zu steuern, um Risiken in Bezug auf Datenintegrität, -sicherheit und rechtliche Anforderungen zu minimieren.
Beispiele
- Mitarbeiter nutzen KI-gestützte Textgeneratoren ohne Genehmigung.
- Einsatz von nicht überwachten Analyse-Tools zur Kundendatenbearbeitung.
- Verwendung von externen Chatbots für den Kundenservice ohne Einbindung der IT.
Typische Risiken oder Fehler
- Datenleckagen durch unsichere Tools.
- Verstöße gegen Datenschutzgesetze wie die DSGVO.
- Schädigung des Unternehmensrufs durch unsachgemäß eingesetzte Technologien.
Verwandte Begriffe
- Künstliche Intelligenz
- Datenschutz
- Compliance
- IT-Sicherheit