Hochrisiko-KI

Was bedeutet Hochrisiko-KI?

Hochrisiko-KI bezieht sich auf KI-Anwendungen, die als potenziell gefährlich identifiziert werden, insbesondere wenn sie in sicherheitskritischen Bereichen eingesetzt werden, wie Gesundheit, Verkehr oder Strafverfolgung. Die europäische Datenschutzgrundverordnung und der bevorstehende KI-Regulierungsrahmen definieren spezifische Riskokategorien und stellen Anforderungen an Transparenz, Sicherheitsmaßnahmen und Verantwortlichkeiten.

Warum ist das für Unternehmen wichtig?

Kleine und mittlere Unternehmen (KMU) sollten Hochrisiko-KI-Systeme sorgfältig bewerten, um die Einhaltung der geltenden Vorschriften sicherzustellen und mögliche Haftungsrisiken zu minimieren. Eine transparente Dokumentation und kontinuierliche Risikoanalysen sind für den rechtskonformen Betrieb unerlässlich.

Beispiele

KI-gestützte Diagnosesysteme im Gesundheitswesen
Autonome Fahrzeugsysteme
Algorithmen zur Identitätsprüfung in der Strafverfolgung

Typische Risiken oder Fehler

Verletzung der Privatsphäre von Nutzern
Fehlerhafte Entscheidungen, die zu physischen oder psychischen Schäden führen können
Missbrauch der Technologie für Diskriminierung oder Überwachung

Passende Gesetzesbezuege

KI-VO Art. 1GegenstandVerordnung ueber kuenstliche Intelligenz...ion; b)Verbote bestimmter Praktiken im KI-Bereich; c)besondere Anforderungen an Hochrisiko-KI-Systeme und Pflichten für Akteure in Bezug auf solche Systeme; d)harmonisierte Transparenzvorschriften für bestimmte KI-Systeme; e)harmonisierte Vorschriften für das...KI-VO Art. 2AnwendungsbereichVerordnung ueber kuenstliche Intelligenz...etroffene Personen, die sich in der Union befinden. (2) Für KI-Systeme, die als Hochrisiko-KI-Systeme gemäß Artikel 6 Absatz 1 eingestuft sind und im Zusammenhang mit Produkten stehen, die unter die in Anhang I Abschnitt B aufgeführten Harmonisierungsrechtsvor...KI-VO Art. 3BegriffsbestimmungenVerordnung ueber kuenstliche Intelligenz...ewertet wird, ob die in Titel III Abschnitt 2 festgelegten Anforderungen an ein Hochrisiko-KI-System erfüllt wurden; 21.„Konformitätsbewertungsstelle“ eine Stelle, die Konformitätsbewertungstätigkeiten einschließlich Prüfungen, Zertifizierungen und Inspektione...KI-VO Art. 6Einstufungsvorschriften für Hochrisiko-KI-SystemeVerordnung ueber kuenstliche Intelligenz...annten Produkten in Verkehr gebracht oder in Betrieb genommen wird, gilt es als Hochrisiko-KI-System, wenn die beiden folgenden Bedingungen erfüllt sind: a)das KI-System soll als Sicherheitsbauteil eines unter die in Anhang I aufgeführten Harmonisierungsrechts...KI-VO Art. 64Büro für Künstliche IntelligenzVerordnung ueber kuenstliche Intelligenz(1) Die Kommission entwickelt über das Büro für Künstliche Intelligenz die Sachkenntnis und Fähigkeiten der Union auf dem Gebiet der KI. (2) Die Mitgliedstaaten erleichtern dem Büro für Künstliche Intelligenz die ihm gemäß dieser Verordnung übertragenen Aufgab...KI-VO Art. 65Einrichtung und Struktur des Europäischen Gremiums für Künstliche IntelligenzVerordnung ueber kuenstliche Intelligenz(1) Ein Europäisches Gremium für Künstliche Intelligenz (im Folgenden „KI-Gremium“) wird hiermit eingerichtet. (2) Das KI-Gremium setzt sich aus einem Vertreter je Mitgliedstaat zusammen. Der Europäische Datenschutzbeauftragte nimmt als Beobachter teil. Das Bü...