High-Risk AI System

Was bedeutet High-Risk AI System?

High-Risk AI Systeme sind laut der EU-Verordnung über Künstliche Intelligenz als Technologien klassifiziert, die ein hohes Risiko für die Sicherheit, Gesundheit oder die Grundrechte von Individuen darstellen. Diese Systeme erfordern eine umfassende Risikoanalyse, regelmäßige Audits und spezielle Anforderungen an die Transparenz, Nachvollziehbarkeit und Programmierung, um negative Auswirkungen auf die Gesellschaft zu minimieren.

Warum ist das für Unternehmen wichtig?

Für kleine und mittlere Unternehmen ist das Verständnis und die Identifikation von High-Risk AI Systemen entscheidend, um regulatorische Anforderungen zu erfüllen und rechtliche Risiken zu vermeiden. Unternehmen, die solche Systeme implementieren, sollten sich über bestehende Richtlinien und gesetzliche Vorgaben informieren, um Compliance sicherzustellen.

Beispiele

Automatisierte Rekrutierungssysteme
Gesichtserkennungstechnologien
KI-gestützte medizinische Diagnosewerkzeuge
Eindeutige Erkennung in strafrechtlichen Bereichen

Typische Risiken oder Fehler

Diskriminierung und Ungerechtigkeit
Privatsphäreverletzungen
Fehlerhafte Entscheidungen mit schweren Konsequenzen
Missbrauch durch Dritte