Zum Inhalt
DAXAIS – Startseite

Hochrisiko-KI

Was bedeutet Hochrisiko-KI?

Hochrisiko-KI bezieht sich auf KI-Anwendungen, die als potenziell gefährlich identifiziert werden, insbesondere wenn sie in sicherheitskritischen Bereichen eingesetzt werden, wie Gesundheit, Verkehr oder Strafverfolgung. Die europäische Datenschutzgrundverordnung und der bevorstehende KI-Regulierungsrahmen definieren spezifische Riskokategorien und stellen Anforderungen an Transparenz, Sicherheitsmaßnahmen und Verantwortlichkeiten.

Warum ist das für Unternehmen wichtig?

Kleine und mittlere Unternehmen (KMU) sollten Hochrisiko-KI-Systeme sorgfältig bewerten, um die Einhaltung der geltenden Vorschriften sicherzustellen und mögliche Haftungsrisiken zu minimieren. Eine transparente Dokumentation und kontinuierliche Risikoanalysen sind für den rechtskonformen Betrieb unerlässlich.

Beispiele

  • KI-gestützte Diagnosesysteme im Gesundheitswesen
  • Autonome Fahrzeugsysteme
  • Algorithmen zur Identitätsprüfung in der Strafverfolgung

Typische Risiken oder Fehler

  • Verletzung der Privatsphäre von Nutzern
  • Fehlerhafte Entscheidungen, die zu physischen oder psychischen Schäden führen können
  • Missbrauch der Technologie für Diskriminierung oder Überwachung

Verwandte Begriffe

  • Künstliche Intelligenz
  • Datenschutz
  • KI-Governance
  • Risikobewertung

Zurück zum Glossar

Passende Gesetzesbezuege

KI-VO Art. 1 Gegenstand Verordnung über künstliche Intelligenz ...ion; b)Verbote bestimmter Praktiken im KI-Bereich; c)besondere Anforderungen an Hochrisiko-KI-Systeme und Pflichten für Akteure in Bezug auf solche Systeme; d)harmonisierte Transparenzvorschriften für bestimmte KI-Systeme; e)harmonisierte Vorschriften für das... KI-VO Art. 2 Anwendungsbereich Verordnung über künstliche Intelligenz ...etroffene Personen, die sich in der Union befinden. (2) Für KI-Systeme, die als Hochrisiko-KI-Systeme gemäß Artikel 6 Absatz 1 eingestuft sind und im Zusammenhang mit Produkten stehen, die unter die in Anhang I Abschnitt B aufgeführten Harmonisierungsrechtsvor... KI-VO Art. 3 Begriffsbestimmungen Verordnung über künstliche Intelligenz ...ewertet wird, ob die in Titel III Abschnitt 2 festgelegten Anforderungen an ein Hochrisiko-KI-System erfüllt wurden; 21.„Konformitätsbewertungsstelle“ eine Stelle, die Konformitätsbewertungstätigkeiten einschließlich Prüfungen, Zertifizierungen und Inspektione... KI-VO Art. 6 Einstufungsvorschriften für Hochrisiko-KI-Systeme Verordnung über künstliche Intelligenz ...annten Produkten in Verkehr gebracht oder in Betrieb genommen wird, gilt es als Hochrisiko-KI-System, wenn die beiden folgenden Bedingungen erfüllt sind: a)das KI-System soll als Sicherheitsbauteil eines unter die in Anhang I aufgeführten Harmonisierungsrechts... KI-VO Art. 4 KI-Kompetenz Verordnung über künstliche Intelligenz Die Anbieter und Betreiber von KI-Systemen ergreifen Maßnahmen, um nach besten Kräften sicherzustellen, dass ihr Personal und andere Personen, die in ihrem Auftrag mit dem Betrieb und der Nutzung von KI-Systemen befasst sind, über ein ausreichendes Maß an KI-K... DSGVO Art. 1 Gegenstand und Ziele Datenschutz-Grundverordnung Diese Verordnung enthält Vorschriften zum Schutz natürlicher Personen bei der Verarbeitung personenbezogener Daten und zum freien Verkehr solcher Daten. Diese Verordnung schützt die Grundrechte und Grundfreiheiten natürlicher Personen und insbesondere deren Re...