Zum Inhalt
DAXAIS – Startseite

KI-Folgenabschätzung

Was bedeutet KI-Folgenabschätzung?

Die KI-Folgenabschätzung ist ein Verfahren zur Bewertung der möglichen Folgen und Risiken von Künstlicher Intelligenz (KI). Diese Einschätzung umfasst sowohl die direkten als auch die langfristigen Konsequenzen, die eine KI-Anwendung auf individueller, gesellschaftlicher und wirtschaftlicher Ebene haben kann. Sie zielt darauf ab, potenzielle negative Auswirkungen frühzeitig zu identifizieren und Maßnahmen zur Minderung dieser Risiken zu implementieren. In der EU sind solche Bewertungen durch die Datenschutz-Grundverordnung (DSGVO) und den Vorschlag für eine KI-Verordnung (AI Act) verstärkt in den Fokus gerückt.

Warum ist das für Unternehmen wichtig?

Für kleine und mittlere Unternehmen ist die KI-Folgenabschätzung wichtig, um Compliance mit Datenschutzgesetzen sicherzustellen und potenzielle Haftungsrisiken zu minimieren. Sie ermöglicht es Unternehmen, verantwortungsbewusst mit KI-Technologien umzugehen und das Vertrauen von Kunden und Partnern zu gewinnen.

Beispiele

  • Bewertung der Auswirkungen eines KI-gestützten Einstellungsverfahrens auf Diversität und Chancengleichheit.
  • Analyse der Risiken von KI-Anwendungen im Gesundheitsbereich, insbesondere im Hinblick auf Patientendaten und -sicherheit.

Typische Risiken oder Fehler

  • Diskriminierung durch algorithmische Voreingenommenheit.
  • Datenschutzverletzungen und Sicherheitsrisiken für personenbezogene Daten.
  • Unzureichende Transparenz in Entscheidungsprozessen durch KI-Systeme.

Verwandte Begriffe

  • DSGVO
  • Algorithmische Verantwortung
  • Ethik in der KI

Zurück zum Glossar

Passende Gesetzesbezuege

DSGVO Art. 1 Gegenstand und Ziele Datenschutz-Grundverordnung Diese Verordnung enthält Vorschriften zum Schutz natürlicher Personen bei der Verarbeitung personenbezogener Daten und zum freien Verkehr solcher Daten. Diese Verordnung schützt die Grundrechte und Grundfreiheiten natürlicher Personen und insbesondere deren Re... DSGVO Art. 2 Sachlicher Anwendungsbereich Datenschutz-Grundverordnung Diese Verordnung gilt für die ganz oder teilweise automatisierte Verarbeitung personenbezogener Daten sowie für die nichtautomatisierte Verarbeitung personenbezogener Daten, die in einem Dateisystem gespeichert sind oder gespeichert werden sollen. Diese Verord... DSGVO Art. 3 Räumlicher Anwendungsbereich Datenschutz-Grundverordnung Diese Verordnung findet Anwendung auf die Verarbeitung personenbezogener Daten, soweit diese im Rahmen der Tätigkeiten einer Niederlassung eines Verantwortlichen oder eines Auftragsverarbeiters in der Union erfolgt, unabhängig davon, ob die Verarbeitung in der... DSGVO Art. 4 Begriffsbestimmungen Datenschutz-Grundverordnung Im Sinne dieser Verordnung bezeichnet der Ausdruck: „personenbezogene Daten“ alle Informationen, die sich auf eine identifizierte oder identifizierbare natürliche Person (im Folgenden „betroffene Person“) beziehen; als identifizierbar wird eine natürliche Pers... KI-VO Art. 1 Gegenstand Verordnung über künstliche Intelligenz (1) Zweck dieser Verordnung ist es, das Funktionieren des Binnenmarkts zu verbessern und die Einführung einer auf den Menschen ausgerichteten und vertrauenswürdigen künstlichen Intelligenz (KI) zu fördern und gleichzeitig ein hohes Schutzniveau in Bezug auf Ge... KI-VO Art. 2 Anwendungsbereich Verordnung über künstliche Intelligenz (1) Diese Verordnung gilt für a)Anbieter, die in der Union KI-Systeme in Verkehr bringen oder in Betrieb nehmen oder KI-Modelle mit allgemeinem Verwendungszweck in Verkehr bringen, unabhängig davon, ob diese Anbieter in der Union oder in einem Drittland nieder...