Zum Inhalt
DAXAIS – Startseite
Kategorien und Filter

DAXAIS KI-Risikobibliothek

DAXAIS KI-Risikobibliothek

Strukturierte Risiken für KI-Systeme mit Bezug zu relevanten Normen, Gesetzen und Best Practices. Nutzen Sie Filter und Suche, um passende Risiken für Ihre Anforderungen zu finden.

R 68 Risiken gesamt Alle anzeigen K 8 Kritische Risiken Filtern H 47 Hohe Risiken Filtern N 73 Normen integriert Normfilter nutzen A 147 Auditfragen Risiken anzeigen

Risiken (35)

Sortierung:
Mittel
DAX-GGI-001 Governance

Unklare Verantwortlichkeiten für sichere Integration generativer KI in bestehende Produktsysteme

Fehlende Benennung und Dokumentation klarer Verantwortlichkeiten im Integrationsprozess generativer KI kann zu Fehlanbindungen, Sicherheitslücken und mangelnder Produktnachvollziehbarkeit führen.
Betroffene Technologien
Generative KI und LLM
Normbezug
ISO/IEC 42001 Kapitel 8.6 NIST AI RMF 1.0 Funktion MAP ISO/IEC 27001 A.8.1
Letzte Aktualisierung 18. Oktober 2026 Details
Kritisch
DAX-GVP-101 Governance

Fehlende Definition von Anwendungskontexten und Zulässigkeitskriterien bei Computer Vision und Biometrie in der Planung

In der Planungs- und Klassifizierungsphase für Computer Vision und biometrische Systeme werden die geplanten Anwendungskontexte und deren regulatorische oder ethische Zulässigkeit oftmals…
Betroffene Technologien
Computer Vision und Biometrie
Normbezug
EU AI Act (Verordnung (EU) 2024/1689) Artikel 56910 ISO/IEC 42001 Kapitel 5-6
Letzte Aktualisierung 27. September 2026 Details
Hoch
DAX-GOP-101 Governance

Unvollständige Definition von Bewertungsmaßstäben und Systemgrenzen in der Planungsphase für Generative KI und LLM

In der Planungs- und Klassifizierungsphase generativer KI- und LLM-Projekte kann es an einer durchgängigen Definition von Systemgrenzen, Bewertungskriterien und Dokumentationsanforderungen mangeln, was…
Betroffene Technologien
Generative KI und LLM
Normbezug
ISO/IEC 42001 Kapitel 5 NIST AI RMF 1.0 Funktion GOVERN EU AI Act (Verordnung (EU) 2024/1689) Artikel 911
Letzte Aktualisierung 27. September 2026 Details
Hoch
DAX-GOP-011 Governance

Unzureichende Einbindung regulatorischer und ethischer Anforderungen bei der initialen Planung von RAG- und Wissenssystemen

Bei der Konzeption von RAG- und Wissenssystemen werden regulatorische Vorgaben und ethische Leitlinien nicht systematisch analysiert oder in die Zieldefinition und Risikoklassifizierung…
Betroffene Technologien
RAG und Wissenssysteme
Normbezug
ISO/IEC 42001 Kapitel 5-6 NIST AI RMF 1.0 GOVERN EU AI Act (Verordnung (EU) 2024/1689) Artikel 9-11
Letzte Aktualisierung 27. September 2026 Details
Hoch
DAX-GOD-001 Governance

Mangelhafte Beschaffungsstrategie für unstrukturierte Unternehmensdaten bei RAG- und Wissenssystemen

Im Zuge der Datenbeschaffung für Retrieval-Augmented Generation (RAG) und Wissenssysteme werden unstrukturierte oder verteilte Unternehmensdatensilos ohne strategische Qualitäts- oder Freigabekriterien eingebunden. Die…
Betroffene Technologien
RAG und Wissenssysteme
Normbezug
ISO/IEC 42001 Kapitel 8.5-8.7 NIST AI RMF 1.0 GOVERN EU AI Act (Verordnung (EU) 2024/1689) Artikel 10
Letzte Aktualisierung 12. September 2026 Details
Hoch
DAX-GOD-002 Governance

Unklare Sicherstellung von Model- und Datendokumentation in der Entwicklung generativer KI und LLM

Wesentliche Entscheidungen, Varianten, Trainingsdaten sowie Architekturänderungen bei der Entwicklung generativer Modelle (z.B. LLM) werden nur unvollständig oder in inkonsistenten Formaten dokumentiert. Dies…
Betroffene Technologien
Generative KI und LLM
Normbezug
ISO/IEC 42001 Kapitel 8.6 NIST AI RMF 1.0 GOVERN/MEASURE EU AI Act (Verordnung (EU) 2024/1689) Artikel 11
Letzte Aktualisierung 12. September 2026 Details
Hoch
DAX-AIV-002 Governance

Fehlende formale Validierungsmethodik vor Freigabe generativer KI und LLM

Generative KI-Systeme und LLM werden teilweise ohne etablierte, dokumentierte Validierungsmethoden vor der Freigabe eingesetzt, was Rechts-, Reputations- und Qualitätsrisiken erhöht.
Betroffene Technologien
Generative KI und LLM
Normbezug
ISO/IEC 42001 Kapitel 8.7 EU AI Act (Verordnung (EU) 2024/1689) Artikel 11-14Anhang VIII
Letzte Aktualisierung 12. September 2026 Details
Hoch
DAX-GOP-001 Governance

Unzureichende Priorisierung regulatorischer und ethischer Anforderungen bei der Planung von Scoring- und Klassifikationssystemen

Regulatorische und ethische Anforderungen werden während der Planungsphase eines Scoring- oder Klassifikationssystems entweder nicht systematisch erfasst oder nicht angemessen priorisiert. Dies führt…
Betroffene Technologien
Scoring und Klassifikation
Normbezug
EU AI Act (Verordnung (EU) 2024/1689) Artikel 91115 ISO/IEC 42001 Kapitel 56 NIST AI RMF 1.0 GOVERN
Letzte Aktualisierung 12. September 2026 Details
Hoch
DAX-GOV-REG-001 Governance

Mangelhafte Nachvollziehbarkeit von Anpassungen in RAG- und Wissenssystementwicklung

Fehlende oder unzureichende Dokumentation von Anpassungen (z.B. Update von Wissensquellen, Systemparametern, Retrieval-Logik) in der Entwicklung von RAG- und Wissenssystemen beeinträchtigt die Transparenz…
Betroffene Technologien
RAG und Wissenssysteme
Normbezug
ISO/IEC 42001 Kapitel 8.28.7 NIST AI RMF 1.0 Funktion GOVERNMANAGE
Letzte Aktualisierung 12. September 2026 Details
Hoch
DAX-AIG-002 Governance

Unkontrollierte Herkunft von Trainings- und Referenzdaten für Scoring und Klassifikation

Es besteht die Gefahr, dass für Scoring- und Klassifikationssysteme Trainings- und Referenzdaten aus unsicheren, nicht ausreichend geprüften oder nicht dokumentierten Quellen bezogen…
Betroffene Technologien
Scoring und Klassifikation
Normbezug
ISO/IEC 42001 Kapitel 8.5-8.7 EU AI Act (Verordnung (EU) 2024/1689) Artikel 10
Letzte Aktualisierung 12. September 2026 Details
Hoch
DAX-GOV-DAT-001 Governance

Unklarer Prozess zur Einbindung externer Datenquellen bei KI-Agenten

Im Bereich KI-Agenten und Automatisierung ist die Einbindung externer Datenquellen oft unzureichend geregelt. Fehlen klare Prozesse und Verantwortlichkeiten, können inadäquate oder nicht…
Betroffene Technologien
KI-Agenten und Automatisierung
Normbezug
ISO/IEC 42001 Kapitel 8.5-8.7 NIST AI RMF 1.0 GOVERN
Letzte Aktualisierung 30. August 2026 Details
Hoch
DAX-GOV-VAL-001 Governance

Unvollständige Prüfprozesse vor Freigabe von Scoring-Systemen

Im Bereich Scoring und Klassifikation fehlt zu häufig ein vollständiger, dokumentierter Prüf- und Freigabeprozess vor dem Produktiveinsatz. Ungeprüfte Systeme können fehlerhafte Entscheidungen…
Betroffene Technologien
Scoring und Klassifikation
Normbezug
ISO/IEC 42001 Kapitel 8.7
Letzte Aktualisierung 30. August 2026 Details
Hoch
DAX-AID-001 Governance

Fehlende Validierung der Datenqualität bei der Beschaffung für Computer Vision und Biometrie-Anwendungen

Werden erworbene oder zugekaufte Datensätze für Computer Vision und Biometrie nicht systematisch auf Qualität, Herkunft und Eignung geprüft, ergeben sich wesentliche Risiken…
Betroffene Technologien
Computer Vision und Biometrie
Normbezug
ISO/IEC 42001 Kapitel 8.5-8.7 EU AI Act (Verordnung (EU) 2024/1689) Artikel 10
Letzte Aktualisierung 30. August 2026 Details
Mittel
DAX-AIT-001 Governance

Unzureichende Dokumentation der Trainingsdaten- und Modellentscheidungen für Scoring- und Klassifikationssysteme

Eine lückenhafte, unstrukturierte oder fehlende Dokumentation zu Herkunft, Merkmalen und Auswahl der Trainingsdaten sowie zu den getroffenen Modellierungsentscheidungen erschwert die Bewertung der…
Betroffene Technologien
Scoring und Klassifikation
Normbezug
ISO/IEC 42001 Kapitel 8.2-8.7 EU AI Act (Verordnung (EU) 2024/1689) Artikel 10
Letzte Aktualisierung 30. August 2026 Details
Hoch
DAX-GOV-PLA-001 Governance

Unvollständige Risiko- und Zieldefinition bei der Planung von KI-Plattformen

Bei der Einführung und Planung von allgemeinen KI-Plattformen werden Risiken, Anforderungen und strategische Ziele nicht ausreichend systematisch erhoben und dokumentiert. Dies kann…
Betroffene Technologien
Allgemeine KI-Plattformen
Normbezug
ISO/IEC 42001 Kapitel 5-6 NIST AI RMF 1.0 GOVERN
Letzte Aktualisierung 30. August 2026 Details
Hoch
DAX-AIV-001 Governance

Unklare Freigabeprozesse für Wissensquellen in RAG- und Wissenssystemen vor Produktivsetzung

Fehlt ein systematischer, dokumentierter Freigabeprozess für Wissensquellen in Retrieval-Augmented Generation (RAG) oder anderen Wissenssystemen, werden ungeprüfte, fehlerhafte oder unzulässige Quellen produktiv eingesetzt.
Betroffene Technologien
RAG und Wissenssysteme
Normbezug
ISO/IEC 42001 Kapitel 8.7 NIST AI RMF 1.0 GOVERN
Letzte Aktualisierung 30. August 2026 Details
Hoch
DAX-GOV-001 Governance

Unklare Verantwortlichkeit bei KI-Entscheidungen

KI-Systeme werden eingesetzt, ohne dass fachliche, technische und rechtliche Verantwortlichkeiten eindeutig zugeordnet sind.
Betroffene Technologien
Alle KI-Systeme
Normbezug
ISO/IEC 42001 ISO/IEC 27001 DSGVO Erwägungsgrund 75
Letzte Aktualisierung 20. August 2026 Details
Hoch
DAX-GOV-002 Governance

Fehlendes KI-Managementsystem

Die Organisation steuert KI-Systeme nur einzelfallbezogen und ohne konsistentes Managementsystem für Ziele, Rollen, Risiken, Kontrollen und Verbesserungen.
Betroffene Technologien
Alle KI-Systeme
Normbezug
ISO/IEC 42001 ISO/IEC 27001
Letzte Aktualisierung 20. August 2026 Details
Hoch
DAX-GOV-004 Governance

Unzureichende Steuerung externer KI-Anbieter

Externe KI-Anbieter werden ohne ausreichende Prüfung, vertragliche Anforderungen und laufende Überwachung eingesetzt.
Betroffene Technologien
Externe KI-Dienste und SaaS
Normbezug
ISO/IEC 42001 ISO/IEC 27001 ISO/IEC 27701 DSGVO Erwägungsgrund 75
Letzte Aktualisierung 20. August 2026 Details
Mittel
DAX-GOV-42001-004 Governance

Mangelhafte Stakeholder-Beteiligung und Kommunikationsprozesse im KI-Lebenszyklus

Fehlende, unstrukturierte oder zu spät einbezogene Stakeholder führen dazu, dass Risiken, Anforderungen und ethische Aspekte im KI-Lebenszyklus unzureichend adressiert werden. Unklare oder…
Betroffene Technologien
alle
Normbezug
ISO/IEC 42001 SDM DSGVO Erwägungsgrund 75
Letzte Aktualisierung 20. August 2026 Details
Hoch
DAX-GOV-42001-001 Governance

Fehlende KI-Governance und Verantwortlichkeiten

Es gibt keine klaren Rollen, Entscheidungswege oder Regeln für Auswahl, Betrieb, Überwachung und Stilllegung von KI-Systemen.
Betroffene Technologien
Alle KI-Systeme
Normbezug
ISO/IEC 42001 ISO/IEC 23894 ISO/IEC 27001
Letzte Aktualisierung 20. August 2026 Details
Hoch
DAX-GOV-42001-002 Governance

Unzureichende Risikobewertung vor KI-Einsatz

KI-Systeme werden produktiv genutzt, bevor Risiken für Personen, Organisation, Sicherheit, Datenschutz und Compliance strukturiert bewertet wurden.
Betroffene Technologien
Alle KI-Systeme
Normbezug
ISO/IEC 42001 ISO/IEC 23894 DSGVO Erwägungsgrund 75
Letzte Aktualisierung 20. August 2026 Details
Mittel
DAX-GOV-42001-003 Governance

Fehlende Überwachung der KI-Leistung und Wirksamkeit von Maßnahmen

Nach der Einführung wird nicht regelmäßig geprüft, ob KI-Systeme weiterhin korrekt, sicher, fair und im vorgesehenen Zweck funktionieren.
Betroffene Technologien
Produktive KI-Systeme Automatisierte Entscheidung RAG-System
Normbezug
ISO/IEC 42001 ISO/IEC 23894 ISO/IEC 27001
Letzte Aktualisierung 20. August 2026 Details
Hoch
DAX-GOV-003 Governance

Unvollständige KI-Inventarisierung und Risikoklassifizierung

Fehlende oder lückenhafte Inventarisierung und fehlende Risikoklassifizierung von eingesetzten KI-Systemen führen zu Kontroll- und Steuerdefiziten.
Betroffene Technologien
Alle
Normbezug
ISO/IEC 42001ISO/IEC 27001ISO/IEC 27701DSGVO Erwägungsgrund 75
Letzte Aktualisierung 20. August 2026 Details
Mittel
DAX-IGI-001 Governance

Unzureichende Governance bei der Integration von Scoring- und Klassifikationssystemen

Beim Übergang von KI-Scoring- und Klassifikationssystemen in produktive Umgebungen fehlen umfassende Prozesse zur Steuerung, Dokumentation und Verantwortlichkeitszuweisung der Integration.
Betroffene Technologien
Scoring und Klassifikation
Normbezug
ISO/IEC 42001 Kapitel 8.6NIST AI RMF 1.0 Funktion MAP
Letzte Aktualisierung 12. August 2026 Details
Hoch
DAX-AED-002 Governance

Fehlende Validierung ethischer Prinzipien bei der KI-Agentenentwicklung

Im Zuge der Entwicklung und dem Training von KI-Agenten werden ethische Prinzipien wie Fairness, Transparenz oder Verantwortung nicht systematisch geprüft oder nachgewiesen,…
Betroffene Technologien
KI-Agenten und Automatisierung
Normbezug
EU AI Act Kapitel 9ISO/IEC 42001 Kapitel 6.2
Letzte Aktualisierung 12. August 2026 Details
Mittel
DAX-AIG-001 Governance

Risiko inkonsistenter Datenbeschaffungsprozesse bei KI-Plattformen

Inkonsistente oder unzureichend gesteuerte Datenbeschaffungsprozesse führen zu unsicheren oder nicht nachvollziehbaren Datenherkünften im Rahmen des Betriebs allgemeiner KI-Plattformen, was die Qualität und…
Betroffene Technologien
Allgemeine KI-Plattformen
Normbezug
ISO/IEC 42001 Kapitel 8.38.5 NIST AI RMF 1.0 Funktion GOVERN
Letzte Aktualisierung 12. August 2026 Details
Mittel
DAX-GOV-42001-030 Governance

Fehlende Vorgaben für KI-Modellarchivierung und -versionierung

Ohne geregelte Archivierungs- und Versionierungsprozesse für KI-Modelle können Änderungen und Verantwortlichkeiten an Modellen nicht zweifelsfrei nachvollzogen werden.
Betroffene Technologien
alle
Normbezug
ISO/IEC 42001ISO/IEC 27001
Letzte Aktualisierung 4. August 2026 Details
Hoch
DAX-GOV-42001-023 Governance

Unzureichendes Management von Shadow-KI-Anwendungen

Shadow-KI-Anwendungen, die außerhalb der offiziellen IT-Prozesse genutzt werden, können zu unkontrollierten Risiken und Verstößen gegen interne und regulatorische Vorgaben führen.
Betroffene Technologien
alle
Normbezug
ISO/IEC 42001ISO/IEC 27001
Letzte Aktualisierung 31. Juli 2026 Details
Mittel
DAX-GOV-42001-022 Governance

Fehlende Prüfung auf Interessenkonflikte im KI-Entscheidungsprozess

Es erfolgt keine strukturierte Überprüfung, ob bei Stakeholdern oder Entscheidungsträgern, die KI-Modelle beauftragen, bewerten oder betreiben, Interessenkonflikte vorliegen.
Betroffene Technologien
KI-basierte Entscheidungssysteme
Normbezug
ISO/IEC 42001SDM
Letzte Aktualisierung 25. Juli 2026 Details