Zum Inhalt
DAXAIS – Startseite
Kategorien und Filter

DAXAIS KI-Risikobibliothek

DAXAIS KI-Risikobibliothek

Strukturierte Risiken für KI-Systeme mit Bezug zu relevanten Normen, Gesetzen und Best Practices. Nutzen Sie Filter und Suche, um passende Risiken für Ihre Anforderungen zu finden.

R 68 Risiken gesamt Alle anzeigen K 8 Kritische Risiken Filtern H 47 Hohe Risiken Filtern N 73 Normen integriert Normfilter nutzen A 147 Auditfragen Risiken anzeigen

Risiken (11)

Sortierung:
Hoch
DAX-ISD-105 Informationssicherheit

Nicht überprüfte Integrität von Datenquellen bei der Beschaffung für generative KI und LLM

Datenquellen für Generative KI und LLM werden ohne systematische Integritätsüberprüfung beschafft, wodurch manipulative oder kompromittierte Inhalte in den Trainings- oder Inferenzprozess gelangen…
Betroffene Technologien
Generative KI und LLM
Normbezug
ISO/IEC 27001 A.5.25A.8.7 ISO/IEC 42001 Kapitel 8.5 NIST AI RMF 1.0 Funktion MAP
Letzte Aktualisierung 18. Oktober 2026 Details
Kritisch
DAX-ISP-104 Informationssicherheit

Nicht systematische Berücksichtigung von Schutzbedarfsklassifizierung bei der Planung von RAG- und Wissenssystemen

Im Planungsprozess von RAG- und Wissenssystemen fehlt die konsekutive Schutzbedarfsermittlung auf Basis eingespeister und verarbeiteter Daten, womit Schutzziele und regulatorische Anforderungen nicht…
Betroffene Technologien
RAG und Wissenssysteme
Normbezug
ISO/IEC 27001 A.5.12A.8.2 ISO/IEC 42001 Kapitel 58.2 NIST AI RMF 1.0 Funktion MAP
Letzte Aktualisierung 18. Oktober 2026 Details
Hoch
DAX-ISP-101 Informationssicherheit

Mangelhafte Berücksichtigung von Informationssicherheitsaspekten in der initialen Klassifizierung generativer KI und LLM

Bei der Planung und Klassifizierung generativer KI- und LLM-Anwendungen werden spezifische Informationssicherheitsrisiken wie Input-Manipulation oder Output-Leakage häufig nicht systematisch erfasst und bewertet,…
Betroffene Technologien
Generative KI und LLM
Normbezug
ISO/IEC 27001 Annex A.6.1A.8.2 ISO/IEC 42001 Kapitel 58.2 NIST AI RMF 1.0 Funktion GOVERNMAP
Letzte Aktualisierung 27. September 2026 Details
Mittel
DAX-IS-27001-003 Informationssicherheit

Fehlende Protokollierung und Nachvollziehbarkeit sicherheitsrelevanter KI-Nutzung

Sicherheitsrelevante KI-Aktivitäten werden nicht ausreichend protokolliert, sodass Missbrauch, Fehler oder Vorfälle nicht nachvollzogen werden können.
Betroffene Technologien
KI-Plattform Assistenzsystem Automatisierte Entscheidung
Normbezug
ISO/IEC 27001 ISO/IEC 42001 DSGVO Art. 5
Letzte Aktualisierung 20. August 2026 Details
Hoch
DAX-IS-27001-002 Informationssicherheit

Manipulation produktiver KI-Modelle oder Wissensquellen

Modelle, Prompts, Konfigurationen oder Wissensquellen können manipuliert werden und erzeugen dadurch falsche, schädliche oder nicht nachvollziehbare Ergebnisse.
Betroffene Technologien
RAG-System Machine-Learning-Modell Entscheidungsunterstützung
Normbezug
ISO/IEC 27001 ISO/IEC 42001
Letzte Aktualisierung 20. August 2026 Details
Hoch
DAX-IS-27001-001 Informationssicherheit

Unzureichender Schutz von Trainings- und Eingabedaten im KI-Lebenszyklus

Trainingsdaten, Prompts oder Ausgaben enthalten sensible Informationen und sind nicht ausreichend gegen unbefugten Zugriff, Veränderung oder Abfluss geschützt.
Betroffene Technologien
LLM / Generative AI Machine-Learning-Modell KI-Plattform
Normbezug
ISO/IEC 27001 ISO/IEC 42001 SDM
Letzte Aktualisierung 20. August 2026 Details
Hoch
DAX-IS-004 Informationssicherheit

Unsichere Schnittstellen und Berechtigungen für KI-Integrationen

KI-Integrationen erhalten zu weitreichende Berechtigungen oder nutzen unsichere Schnittstellen, wodurch Daten, Systeme oder Prozesse kompromittiert werden können.
Betroffene Technologien
API-gestützte KI-Integrationen
Normbezug
ISO/IEC 27001 ISO/IEC 42001
Letzte Aktualisierung 20. August 2026 Details
Hoch
DAX-IS-002 Informationssicherheit

Unkontrollierte Änderungen an KI-Artefakten und RAG-Wissensquellen

Modelle, Prompts, Systemanweisungen, Vektorindizes oder Wissensquellen können unbemerkt manipuliert werden und dadurch falsche oder schädliche Ergebnisse erzeugen.
Betroffene Technologien
RAGFine-Tuning und Modellbetrieb
Normbezug
ISO/IEC 27001 ISO/IEC 42001
Letzte Aktualisierung 20. August 2026 Details
Kritisch
DAX-IS-001 Informationssicherheit

Unzureichender Schutz sensibler KI-Eingaben und -Ausgaben

Trainingsdaten, Prompts, Dokumente oder Ausgaben von KI-Systemen sind nicht angemessen gegen unbefugten Zugriff, Abfluss oder Wiederverwendung geschützt.
Betroffene Technologien
TrainingRAG und produktive KI-Dienste
Normbezug
ISO/IEC 27001 ISO/IEC 27701 SDM ISO/IEC 42001
Letzte Aktualisierung 20. August 2026 Details
Hoch
DAX-IS-27001-021 Informationssicherheit

Fehlendes Management von Zugriffen auf sensitives KI-Output

Ohne angemessene Steuerung der Zugriffsmöglichkeiten auf sensible Ergebnisse von KI-Systemen kann es zu unbefugter Offenlegung oder Missbrauch geschützter Informationen kommen.
Betroffene Technologien
Alle
Normbezug
ISO/IEC 27001 ISO/IEC 42001
Letzte Aktualisierung 31. Juli 2026 Details
Hoch
DAX-IS-003 Informationssicherheit

Unzureichendes Logging und Monitoring von KI-Systemen

Eine fehlende oder lückenhafte Protokollierung und Überwachung der Aktivitäten von KI-Systemen kann dazu führen, dass Vorfälle, wie z.B. unautorisierte Zugriffe, Manipulationen oder…
Betroffene Technologien
generativklassifizierend
Normbezug
ISO/IEC 27001ISO/IEC 42001ISO/IEC 27701
Letzte Aktualisierung 31. Juli 2026 Details