Zum Inhalt
DAXAIS – Startseite
Kategorien und Filter

DAXAIS KI-Risikobibliothek

DAXAIS KI-Risikobibliothek

Strukturierte Risiken für KI-Systeme mit Bezug zu relevanten Normen, Gesetzen und Best Practices. Nutzen Sie Filter und Suche, um passende Risiken für Ihre Anforderungen zu finden.

R 48 Risiken gesamt Alle anzeigen K 4 Kritische Risiken Filtern H 34 Hohe Risiken Filtern N 41 Normen integriert Normfilter nutzen A 106 Auditfragen Risiken anzeigen

Risiken (48)

Sortierung:
Hoch
DAX-GOD-001 Governance

Mangelhafte Beschaffungsstrategie für unstrukturierte Unternehmensdaten bei RAG- und Wissenssystemen

Im Zuge der Datenbeschaffung für Retrieval-Augmented Generation (RAG) und Wissenssysteme werden unstrukturierte oder verteilte Unternehmensdatensilos ohne strategische Qualitäts- oder Freigabekriterien eingebunden. Die…
Betroffene Technologien
RAG und Wissenssysteme
Normbezug
ISO/IEC 42001 Kapitel 8.5-8.7 NIST AI RMF 1.0 GOVERN EU AI Act (Verordnung (EU) 2024/1689) Artikel 10
Letzte Aktualisierung 12. September 2026 Details
Hoch
DAX-GOD-002 Governance

Unklare Sicherstellung von Model- und Datendokumentation in der Entwicklung generativer KI und LLM

Wesentliche Entscheidungen, Varianten, Trainingsdaten sowie Architekturänderungen bei der Entwicklung generativer Modelle (z.B. LLM) werden nur unvollständig oder in inkonsistenten Formaten dokumentiert. Dies…
Betroffene Technologien
Generative KI und LLM
Normbezug
ISO/IEC 42001 Kapitel 8.6 NIST AI RMF 1.0 GOVERN/MEASURE EU AI Act (Verordnung (EU) 2024/1689) Artikel 11
Letzte Aktualisierung 12. September 2026 Details
Hoch
DAX-AIV-002 Governance

Fehlende formale Validierungsmethodik vor Freigabe generativer KI und LLM

Generative KI-Systeme und LLM werden teilweise ohne etablierte, dokumentierte Validierungsmethoden vor der Freigabe eingesetzt, was Rechts-, Reputations- und Qualitätsrisiken erhöht.
Betroffene Technologien
Generative KI und LLM
Normbezug
ISO/IEC 42001 Kapitel 8.7 EU AI Act (Verordnung (EU) 2024/1689) Artikel 11-14Anhang VIII
Letzte Aktualisierung 12. September 2026 Details
Hoch
DAX-GOP-001 Governance

Unzureichende Priorisierung regulatorischer und ethischer Anforderungen bei der Planung von Scoring- und Klassifikationssystemen

Regulatorische und ethische Anforderungen werden während der Planungsphase eines Scoring- oder Klassifikationssystems entweder nicht systematisch erfasst oder nicht angemessen priorisiert. Dies führt…
Betroffene Technologien
Scoring und Klassifikation
Normbezug
EU AI Act (Verordnung (EU) 2024/1689) Artikel 91115 ISO/IEC 42001 Kapitel 56 NIST AI RMF 1.0 GOVERN
Letzte Aktualisierung 12. September 2026 Details
Hoch
DAX-GOV-REG-001 Governance

Mangelhafte Nachvollziehbarkeit von Anpassungen in RAG- und Wissenssystementwicklung

Fehlende oder unzureichende Dokumentation von Anpassungen (z.B. Update von Wissensquellen, Systemparametern, Retrieval-Logik) in der Entwicklung von RAG- und Wissenssystemen beeinträchtigt die Transparenz…
Betroffene Technologien
RAG und Wissenssysteme
Normbezug
ISO/IEC 42001 Kapitel 8.28.7 NIST AI RMF 1.0 Funktion GOVERNMANAGE
Letzte Aktualisierung 12. September 2026 Details
Hoch
DAX-AIG-002 Governance

Unkontrollierte Herkunft von Trainings- und Referenzdaten für Scoring und Klassifikation

Es besteht die Gefahr, dass für Scoring- und Klassifikationssysteme Trainings- und Referenzdaten aus unsicheren, nicht ausreichend geprüften oder nicht dokumentierten Quellen bezogen…
Betroffene Technologien
Scoring und Klassifikation
Normbezug
ISO/IEC 42001 Kapitel 8.5-8.7 EU AI Act (Verordnung (EU) 2024/1689) Artikel 10
Letzte Aktualisierung 12. September 2026 Details
Hoch
DAX-GOV-DAT-001 Governance

Unklarer Prozess zur Einbindung externer Datenquellen bei KI-Agenten

Im Bereich KI-Agenten und Automatisierung ist die Einbindung externer Datenquellen oft unzureichend geregelt. Fehlen klare Prozesse und Verantwortlichkeiten, können inadäquate oder nicht…
Betroffene Technologien
KI-Agenten und Automatisierung
Normbezug
ISO/IEC 42001 Kapitel 8.5-8.7 NIST AI RMF 1.0 GOVERN
Letzte Aktualisierung 30. August 2026 Details
Hoch
DAX-GOV-VAL-001 Governance

Unvollständige Prüfprozesse vor Freigabe von Scoring-Systemen

Im Bereich Scoring und Klassifikation fehlt zu häufig ein vollständiger, dokumentierter Prüf- und Freigabeprozess vor dem Produktiveinsatz. Ungeprüfte Systeme können fehlerhafte Entscheidungen…
Betroffene Technologien
Scoring und Klassifikation
Normbezug
ISO/IEC 42001 Kapitel 8.7
Letzte Aktualisierung 30. August 2026 Details
Hoch
DAX-AID-001 Governance

Fehlende Validierung der Datenqualität bei der Beschaffung für Computer Vision und Biometrie-Anwendungen

Werden erworbene oder zugekaufte Datensätze für Computer Vision und Biometrie nicht systematisch auf Qualität, Herkunft und Eignung geprüft, ergeben sich wesentliche Risiken…
Betroffene Technologien
Computer Vision und Biometrie
Normbezug
ISO/IEC 42001 Kapitel 8.5-8.7 EU AI Act (Verordnung (EU) 2024/1689) Artikel 10
Letzte Aktualisierung 30. August 2026 Details
Mittel
DAX-AIT-001 Governance

Unzureichende Dokumentation der Trainingsdaten- und Modellentscheidungen für Scoring- und Klassifikationssysteme

Eine lückenhafte, unstrukturierte oder fehlende Dokumentation zu Herkunft, Merkmalen und Auswahl der Trainingsdaten sowie zu den getroffenen Modellierungsentscheidungen erschwert die Bewertung der…
Betroffene Technologien
Scoring und Klassifikation
Normbezug
ISO/IEC 42001 Kapitel 8.2-8.7 EU AI Act (Verordnung (EU) 2024/1689) Artikel 10
Letzte Aktualisierung 30. August 2026 Details
Hoch
DAX-GOV-PLA-001 Governance

Unvollständige Risiko- und Zieldefinition bei der Planung von KI-Plattformen

Bei der Einführung und Planung von allgemeinen KI-Plattformen werden Risiken, Anforderungen und strategische Ziele nicht ausreichend systematisch erhoben und dokumentiert. Dies kann…
Betroffene Technologien
Allgemeine KI-Plattformen
Normbezug
ISO/IEC 42001 Kapitel 5-6 NIST AI RMF 1.0 GOVERN
Letzte Aktualisierung 30. August 2026 Details
Hoch
DAX-AIV-001 Governance

Unklare Freigabeprozesse für Wissensquellen in RAG- und Wissenssystemen vor Produktivsetzung

Fehlt ein systematischer, dokumentierter Freigabeprozess für Wissensquellen in Retrieval-Augmented Generation (RAG) oder anderen Wissenssystemen, werden ungeprüfte, fehlerhafte oder unzulässige Quellen produktiv eingesetzt.
Betroffene Technologien
RAG und Wissenssysteme
Normbezug
ISO/IEC 42001 Kapitel 8.7 NIST AI RMF 1.0 GOVERN
Letzte Aktualisierung 30. August 2026 Details
Hoch
DAX-GOV-001 Governance

Unklare Verantwortlichkeit bei KI-Entscheidungen

KI-Systeme werden eingesetzt, ohne dass fachliche, technische und rechtliche Verantwortlichkeiten eindeutig zugeordnet sind.
Betroffene Technologien
Alle KI-Systeme
Normbezug
ISO/IEC 42001 ISO/IEC 27001 DSGVO Erwägungsgrund 75
Letzte Aktualisierung 20. August 2026 Details
Hoch
DAX-GOV-002 Governance

Fehlendes KI-Managementsystem

Die Organisation steuert KI-Systeme nur einzelfallbezogen und ohne konsistentes Managementsystem für Ziele, Rollen, Risiken, Kontrollen und Verbesserungen.
Betroffene Technologien
Alle KI-Systeme
Normbezug
ISO/IEC 42001 ISO/IEC 27001
Letzte Aktualisierung 20. August 2026 Details
Hoch
DAX-GOV-004 Governance

Unzureichende Steuerung externer KI-Anbieter

Externe KI-Anbieter werden ohne ausreichende Prüfung, vertragliche Anforderungen und laufende Überwachung eingesetzt.
Betroffene Technologien
Externe KI-Dienste und SaaS
Normbezug
ISO/IEC 42001 ISO/IEC 27001 ISO/IEC 27701 DSGVO Erwägungsgrund 75
Letzte Aktualisierung 20. August 2026 Details
Hoch
DAX-DS-002 Datenschutz

Unzureichende Datenminimierung in KI-Datenpipelines

KI-Datenpipelines verarbeiten mehr personenbezogene Daten als erforderlich oder behalten diese länger als für den Zweck notwendig.
Betroffene Technologien
TrainingFine-Tuning und Analyse
Normbezug
SDM ISO/IEC 27701 DSGVO Erwägungsgrund 75 ISO/IEC 42001
Letzte Aktualisierung 20. August 2026 Details
Hoch
DAX-DS-003 Datenschutz

Fehlende Transparenz und Betroffeneninformation

Betroffene Personen erhalten keine ausreichenden Informationen über KI-gestützte Verarbeitung, Datenquellen, Zwecke oder relevante Auswirkungen.
Betroffene Technologien
KI-Systeme mit Nutzer- oder Kundendaten
Normbezug
SDM ISO/IEC 27701 DSGVO Erwägungsgrund 75 ISO/IEC 42001
Letzte Aktualisierung 20. August 2026 Details
Kritisch
DAX-DS-004 Datenschutz

Unkontrollierte Profilbildung und automatisierte Bewertung

KI-Systeme erstellen Profile oder Bewertungen über Personen, ohne angemessene Grenzen, menschliche Prüfung oder Möglichkeiten zur Intervention.
Betroffene Technologien
ScoringKlassifikation und Personalisierung
Normbezug
DSGVO Erwägungsgrund 75 SDM ISO/IEC 27701 ISO/IEC 42001
Letzte Aktualisierung 20. August 2026 Details
Hoch
DAX-DS-27701-030 Datenschutz

Unzureichende Umsetzung von Betroffenenrechten durch KI-Systeme

KI-Systeme verhindern oder erschweren die wirksame Wahrnehmung von Betroffenenrechten, z.B. auf Auskunft, Löschung, Berichtigung oder Widerspruch, weil Eingabedaten, Trainingsdaten oder Verarbeitungslogiken nicht…
Betroffene Technologien
Produktiv-KILLM
Normbezug
ISO/IEC 27701 SDM DSGVO Erwägungsgrund 75
Letzte Aktualisierung 20. August 2026 Details
Mittel
DAX-GOV-42001-004 Governance

Mangelhafte Stakeholder-Beteiligung und Kommunikationsprozesse im KI-Lebenszyklus

Fehlende, unstrukturierte oder zu spät einbezogene Stakeholder führen dazu, dass Risiken, Anforderungen und ethische Aspekte im KI-Lebenszyklus unzureichend adressiert werden. Unklare oder…
Betroffene Technologien
alle
Normbezug
ISO/IEC 42001 SDM DSGVO Erwägungsgrund 75
Letzte Aktualisierung 20. August 2026 Details
Mittel
DAX-IS-27001-003 Informationssicherheit

Fehlende Protokollierung und Nachvollziehbarkeit sicherheitsrelevanter KI-Nutzung

Sicherheitsrelevante KI-Aktivitäten werden nicht ausreichend protokolliert, sodass Missbrauch, Fehler oder Vorfälle nicht nachvollzogen werden können.
Betroffene Technologien
KI-Plattform Assistenzsystem Automatisierte Entscheidung
Normbezug
ISO/IEC 27001 ISO/IEC 42001 DSGVO Art. 5
Letzte Aktualisierung 20. August 2026 Details
Hoch
DAX-GOV-42001-001 Governance

Fehlende KI-Governance und Verantwortlichkeiten

Es gibt keine klaren Rollen, Entscheidungswege oder Regeln für Auswahl, Betrieb, Überwachung und Stilllegung von KI-Systemen.
Betroffene Technologien
Alle KI-Systeme
Normbezug
ISO/IEC 42001 ISO/IEC 23894 ISO/IEC 27001
Letzte Aktualisierung 20. August 2026 Details
Hoch
DAX-GOV-42001-002 Governance

Unzureichende Risikobewertung vor KI-Einsatz

KI-Systeme werden produktiv genutzt, bevor Risiken für Personen, Organisation, Sicherheit, Datenschutz und Compliance strukturiert bewertet wurden.
Betroffene Technologien
Alle KI-Systeme
Normbezug
ISO/IEC 42001 ISO/IEC 23894 DSGVO Erwägungsgrund 75
Letzte Aktualisierung 20. August 2026 Details
Mittel
DAX-GOV-42001-003 Governance

Fehlende Überwachung der KI-Leistung und Wirksamkeit von Maßnahmen

Nach der Einführung wird nicht regelmäßig geprüft, ob KI-Systeme weiterhin korrekt, sicher, fair und im vorgesehenen Zweck funktionieren.
Betroffene Technologien
Produktive KI-Systeme Automatisierte Entscheidung RAG-System
Normbezug
ISO/IEC 42001 ISO/IEC 23894 ISO/IEC 27001
Letzte Aktualisierung 20. August 2026 Details
Hoch
DAX-IS-27001-002 Informationssicherheit

Manipulation produktiver KI-Modelle oder Wissensquellen

Modelle, Prompts, Konfigurationen oder Wissensquellen können manipuliert werden und erzeugen dadurch falsche, schädliche oder nicht nachvollziehbare Ergebnisse.
Betroffene Technologien
RAG-System Machine-Learning-Modell Entscheidungsunterstützung
Normbezug
ISO/IEC 27001 ISO/IEC 42001
Letzte Aktualisierung 20. August 2026 Details
Hoch
DAX-IS-27001-001 Informationssicherheit

Unzureichender Schutz von Trainings- und Eingabedaten im KI-Lebenszyklus

Trainingsdaten, Prompts oder Ausgaben enthalten sensible Informationen und sind nicht ausreichend gegen unbefugten Zugriff, Veränderung oder Abfluss geschützt.
Betroffene Technologien
LLM / Generative AI Machine-Learning-Modell KI-Plattform
Normbezug
ISO/IEC 27001 ISO/IEC 42001 SDM
Letzte Aktualisierung 20. August 2026 Details
Hoch
DAX-DS-27701-003 Datenschutz

Fehlende Rollen- und Verantwortlichkeitsklärung bei KI-Datenverarbeitung

Bei KI-Diensten ist nicht eindeutig festgelegt, ob Anbieter, Kunde oder weitere Parteien als Verantwortliche, Auftragsverarbeiter oder gemeinsame Verantwortliche handeln.
Betroffene Technologien
Cloud-KI-Dienst KI-Plattform Analyse-System
Normbezug
ISO/IEC 27701 DSGVO Art. 28 DSGVO Art. 26 DSGVO Art. 44 ff.
Letzte Aktualisierung 20. August 2026 Details
Mittel
DAX-DS-SDM-002 Datenschutz

Unzureichende Transparenz über KI-Datenverarbeitung

Nutzer und betroffene Personen können nicht nachvollziehen, welche Daten durch ein KI-System verarbeitet, gespeichert oder an Dritte übertragen werden.
Betroffene Technologien
Chatbot LLM / Generative AI Assistenzsystem
Normbezug
SDM DSGVO Art. 12 DSGVO Art. 13 DSGVO Art. 14
Letzte Aktualisierung 20. August 2026 Details
Hoch
DAX-DS-075-001 Datenschutz

Unrechtmäßige Verarbeitung personenbezogener Daten durch KI-Systeme

KI-Systeme können personenbezogene Daten ohne ausreichende Rechtsgrundlage, Zweckbindung oder Information der betroffenen Personen verarbeiten.
Betroffene Technologien
LLM / Generative AI Scoring-System Automatisierte Entscheidung
Normbezug
DSGVO Erwägungsgrund 75 DSGVO Art. 5 DSGVO Art. 6 SDM
Letzte Aktualisierung 20. August 2026 Details
Hoch
DAX-GOV-003 Governance

Unvollständige KI-Inventarisierung und Risikoklassifizierung

Fehlende oder lückenhafte Inventarisierung und fehlende Risikoklassifizierung von eingesetzten KI-Systemen führen zu Kontroll- und Steuerdefiziten.
Betroffene Technologien
Alle
Normbezug
ISO/IEC 42001ISO/IEC 27001ISO/IEC 27701DSGVO Erwägungsgrund 75
Letzte Aktualisierung 20. August 2026 Details
Hoch
DAX-IS-004 Informationssicherheit

Unsichere Schnittstellen und Berechtigungen für KI-Integrationen

KI-Integrationen erhalten zu weitreichende Berechtigungen oder nutzen unsichere Schnittstellen, wodurch Daten, Systeme oder Prozesse kompromittiert werden können.
Betroffene Technologien
API-gestützte KI-Integrationen
Normbezug
ISO/IEC 27001 ISO/IEC 42001
Letzte Aktualisierung 20. August 2026 Details
Hoch
DAX-IS-002 Informationssicherheit

Unkontrollierte Änderungen an KI-Artefakten und RAG-Wissensquellen

Modelle, Prompts, Systemanweisungen, Vektorindizes oder Wissensquellen können unbemerkt manipuliert werden und dadurch falsche oder schädliche Ergebnisse erzeugen.
Betroffene Technologien
RAGFine-Tuning und Modellbetrieb
Normbezug
ISO/IEC 27001 ISO/IEC 42001
Letzte Aktualisierung 20. August 2026 Details
Kritisch
DAX-IS-001 Informationssicherheit

Unzureichender Schutz sensibler KI-Eingaben und -Ausgaben

Trainingsdaten, Prompts, Dokumente oder Ausgaben von KI-Systemen sind nicht angemessen gegen unbefugten Zugriff, Abfluss oder Wiederverwendung geschützt.
Betroffene Technologien
TrainingRAG und produktive KI-Dienste
Normbezug
ISO/IEC 27001 ISO/IEC 27701 SDM ISO/IEC 42001
Letzte Aktualisierung 20. August 2026 Details
Kritisch
DAX-DS-001 Datenschutz

Unrechtmäßige Verarbeitung personenbezogener Daten

Personenbezogene Daten werden in KI-Systemen ohne tragfähige Rechtsgrundlage, klare Zweckbindung oder ausreichende Transparenz verarbeitet.
Betroffene Technologien
Alle KI-Systeme mit Personenbezug
Normbezug
DSGVO Erwägungsgrund 75 ISO/IEC 27701 SDM ISO/IEC 42001
Letzte Aktualisierung 20. August 2026 Details
Mittel
DAX-IGI-001 Governance

Unzureichende Governance bei der Integration von Scoring- und Klassifikationssystemen

Beim Übergang von KI-Scoring- und Klassifikationssystemen in produktive Umgebungen fehlen umfassende Prozesse zur Steuerung, Dokumentation und Verantwortlichkeitszuweisung der Integration.
Betroffene Technologien
Scoring und Klassifikation
Normbezug
ISO/IEC 42001 Kapitel 8.6NIST AI RMF 1.0 Funktion MAP
Letzte Aktualisierung 12. August 2026 Details
Hoch
DAX-AED-002 Governance

Fehlende Validierung ethischer Prinzipien bei der KI-Agentenentwicklung

Im Zuge der Entwicklung und dem Training von KI-Agenten werden ethische Prinzipien wie Fairness, Transparenz oder Verantwortung nicht systematisch geprüft oder nachgewiesen,…
Betroffene Technologien
KI-Agenten und Automatisierung
Normbezug
EU AI Act Kapitel 9ISO/IEC 42001 Kapitel 6.2
Letzte Aktualisierung 12. August 2026 Details
Mittel
DAX-AIG-001 Governance

Risiko inkonsistenter Datenbeschaffungsprozesse bei KI-Plattformen

Inkonsistente oder unzureichend gesteuerte Datenbeschaffungsprozesse führen zu unsicheren oder nicht nachvollziehbaren Datenherkünften im Rahmen des Betriebs allgemeiner KI-Plattformen, was die Qualität und…
Betroffene Technologien
Allgemeine KI-Plattformen
Normbezug
ISO/IEC 42001 Kapitel 8.38.5 NIST AI RMF 1.0 Funktion GOVERN
Letzte Aktualisierung 12. August 2026 Details
Mittel
DAX-GOV-42001-030 Governance

Fehlende Vorgaben für KI-Modellarchivierung und -versionierung

Ohne geregelte Archivierungs- und Versionierungsprozesse für KI-Modelle können Änderungen und Verantwortlichkeiten an Modellen nicht zweifelsfrei nachvollzogen werden.
Betroffene Technologien
alle
Normbezug
ISO/IEC 42001ISO/IEC 27001
Letzte Aktualisierung 4. August 2026 Details
Hoch
DAX-IS-27001-021 Informationssicherheit

Fehlendes Management von Zugriffen auf sensitives KI-Output

Ohne angemessene Steuerung der Zugriffsmöglichkeiten auf sensible Ergebnisse von KI-Systemen kann es zu unbefugter Offenlegung oder Missbrauch geschützter Informationen kommen.
Betroffene Technologien
Alle
Normbezug
ISO/IEC 27001 ISO/IEC 42001
Letzte Aktualisierung 31. Juli 2026 Details
Hoch
DAX-IS-003 Informationssicherheit

Unzureichendes Logging und Monitoring von KI-Systemen

Eine fehlende oder lückenhafte Protokollierung und Überwachung der Aktivitäten von KI-Systemen kann dazu führen, dass Vorfälle, wie z.B. unautorisierte Zugriffe, Manipulationen oder…
Betroffene Technologien
generativklassifizierend
Normbezug
ISO/IEC 27001ISO/IEC 42001ISO/IEC 27701
Letzte Aktualisierung 31. Juli 2026 Details
Hoch
DAX-GOV-42001-023 Governance

Unzureichendes Management von Shadow-KI-Anwendungen

Shadow-KI-Anwendungen, die außerhalb der offiziellen IT-Prozesse genutzt werden, können zu unkontrollierten Risiken und Verstößen gegen interne und regulatorische Vorgaben führen.
Betroffene Technologien
alle
Normbezug
ISO/IEC 42001ISO/IEC 27001
Letzte Aktualisierung 31. Juli 2026 Details
Mittel
DAX-GOV-42001-022 Governance

Fehlende Prüfung auf Interessenkonflikte im KI-Entscheidungsprozess

Es erfolgt keine strukturierte Überprüfung, ob bei Stakeholdern oder Entscheidungsträgern, die KI-Modelle beauftragen, bewerten oder betreiben, Interessenkonflikte vorliegen.
Betroffene Technologien
KI-basierte Entscheidungssysteme
Normbezug
ISO/IEC 42001SDM
Letzte Aktualisierung 25. Juli 2026 Details