XAI

Was bedeutet XAI?

Explainable Artificial Intelligence (XAI) umfasst Ansätze, die darauf abzielen, die Entscheidungsprozesse von KI-Systemen transparent und verständlich zu machen. Ziel ist es, dass Nutzer und Entwickler die Gründe für bestimmte Entscheidungen verstehen können, wodurch das Vertrauen in KI-Anwendungen gestärkt und mögliche Bias oder Fehler identifiziert werden können. XAI ist besonders relevant in Bereichen wie Gesundheitswesen, Finanzwesen und Rechtsprechung, wo Entscheidungen weitreichende Konsequenzen haben können.

Warum ist das für Unternehmen wichtig?

Kleine und mittlere Unternehmen (KMUs) profitieren von XAI, indem sie die Akzeptanz und das Vertrauen in KI-Lösungen erhöhen. XAI kann außerdem helfen, regulatorischen Anforderungen zu entsprechen und die Qualität von Datenanalysen und Vorhersagen zu verbessern.

Beispiele

• Einsatz von Entscheidungsbäumen, die die Kriterien für Vorhersagen aufzeigen.
• Visualisierung von neuronalen Netzwerken zur Erklärung ihrer Entscheidungen.
• Erklärung von Kreditentscheidungen durch KI-gestützte Systeme mittels nachvollziehbarer Metriken.

Typische Risiken oder Fehler

• Missverständnisse oder Fehlinterpretationen der Erklärungen können auftreten.
• Es besteht das Risiko, dass Erklärungen die tatsächlichen Entscheidungsprozesse nicht adäquat abbilden.
• Intransparente XAI-Methoden können das Vertrauen in KI untergraben.

Verwandte Begriffe

• Künstliche Intelligenz (KI)
• Algorithmische Fairness
• Transparenz in der KI
• Bias in der KI

Zurück zum Glossar

Passende Gesetzesbezuege

DSGVO Art. 1Gegenstand und ZieleDatenschutz-GrundverordnungDiese Verordnung enthält Vorschriften zum Schutz natürlicher Personen bei der Verarbeitung personenbezogener Daten und zum freien Verkehr solcher Daten. Diese Verordnung schützt die Grundrechte und Grundfreiheiten natürlicher Personen und insbesondere dere...DSGVO Art. 2Sachlicher AnwendungsbereichDatenschutz-GrundverordnungDiese Verordnung gilt für die ganz oder teilweise automatisierte Verarbeitung personenbezogener Daten sowie für die nichtautomatisierte Verarbeitung personenbezogener Daten, die in einem Dateisystem gespeichert sind oder gespeichert werden sollen. Diese Vero...DSGVO Art. 3Räumlicher AnwendungsbereichDatenschutz-GrundverordnungDiese Verordnung findet Anwendung auf die Verarbeitung personenbezogener Daten, soweit diese im Rahmen der Tätigkeiten einer Niederlassung eines Verantwortlichen oder eines Auftragsverarbeiters in der Union erfolgt, unabhängig davon, ob die Verarbeitung in d...DSGVO Art. 4BegriffsbestimmungenDatenschutz-GrundverordnungIm Sinne dieser Verordnung bezeichnet der Ausdruck: „personenbezogene Daten“ alle Informationen, die sich auf eine identifizierte oder identifizierbare natürliche Person (im Folgenden „betroffene Person“) beziehen; als identifizierbar wird eine natürliche Pe...DSGVO Art. 6Rechtmäßigkeit der VerarbeitungDatenschutz-Grundverordnung...überwiegen, insbesondere dann, wenn es sich bei der betroffenen Person um ein Kind handelt. Unterabsatz 1 Buchstabe f gilt nicht für die von Behörden in Erfüllung ihrer Aufgaben vorgenommene Verarbeitung. Die Mitgliedstaaten können spezifischere Bestimmu...DSGVO Art. 8Bedingungen für die Einwilligung eines KindesDatenschutz-Grundverordnung...hstabe a bei einem Angebot von Diensten der Informationsgesellschaft, das einem Kind direkt gemacht wird, so ist die Verarbeitung der personenbezogenen Daten des Kindes rechtmäßig, wenn das Kind das sechzehnte Lebensjahr vollendet hat. 2Hat das Kind noch nic...