Zum Inhalt springen
DEEN

Hochrisiko-KI-System: Bedeutung und Definition

Definition: Als Hochrisiko-KI-System gilt nach Art. 6 KI-VO ein System, das Sicherheitsbauteil eines Produkts nach den Harmonisierungsvorschriften des Anhangs I ist, oder das in einem Bereich des Anhangs III eingesetzt wird, etwa bei Personalauswahl, Bildung, Kreditwürdigkeitsprüfung, kritischer Infrastruktur oder Biometrie.

Ein System nach Anhang III ist ausnahmsweise nicht hochriskant, wenn es kein erhebliches Risiko für Gesundheit, Sicherheit oder Grundrechte birgt, etwa weil es nur eine eng begrenzte Verfahrensaufgabe erfüllt (Art. 6 Abs. 3 KI-VO); bei Profiling natürlicher Personen gilt diese Ausnahme nicht. Durch die Digital-Omnibus-Verordnung (EU) 2026/1744 gelten die Hochrisiko-Pflichten für Systeme nach Anhang III ab 02.12.2027 und für produktbezogene Systeme nach Anhang I ab 02.08.2028. Betreiber von Hochrisiko-KI-Systemen müssen das System entsprechend der Betriebsanleitung verwenden, die menschliche Aufsicht durch kompetente Personen sicherstellen, die Eingabedaten im Rahmen ihrer Kontrolle relevant halten, den Betrieb überwachen und automatisch erzeugte Protokolle mindestens sechs Monate aufbewahren (Art. 26 KI-VO). Arbeitgeber müssen Beschäftigte und deren Vertretungen informieren, bevor sie ein Hochrisiko-System am Arbeitsplatz einsetzen. Bestimmte Betreiber, etwa öffentliche Stellen und Anbieter öffentlicher Dienste, müssen vor dem Einsatz eine Grundrechte-Folgenabschätzung durchführen (Art. 27 KI-VO). Für die Praxis empfiehlt sich frühzeitig eine Bestandsaufnahme aller KI-Systeme mit einer Einstufung nach Risikoklassen. Prüfen Sie frühzeitig, ob Ihr KI-System als Hochrisiko-System einzustufen ist, und planen Sie Dokumentation und Konformitätsbewertung ein. Holen Sie bei Zweifeln rechtlichen Rat ein.

Bedeutung für Sie

Anbieter müssen unter anderem ein Risikomanagement einrichten, Daten-Governance und technische Dokumentation sicherstellen, Protokollierung und menschliche Aufsicht ermöglichen und eine Konformitätsbewertung durchführen. Betreiber treffen eigene Pflichten nach Art. 26 KI-VO.

Mehr dazu: AI Act umsetzen

Rechtsgrundlagen

Häufige Fragen zu Hochrisiko-KI-System

Ist ein KI-Tool zur Bewerberauswahl hochriskant?

KI-Systeme, die für die Einstellung oder Auswahl von Personen bestimmt sind, etwa zum Sichten von Bewerbungen oder zur Bewertung von Kandidaten, sind in Anhang III der KI-Verordnung ausdrücklich genannt. Sie gelten deshalb grundsätzlich als Hochrisiko-Systeme. Ob die Ausnahme für eng begrenzte Verfahrensaufgaben greift, ist im Einzelfall zu prüfen und zu dokumentieren.

Bin ich Anbieter oder Betreiber?

Anbieter ist, wer ein KI-System entwickelt oder entwickeln lässt und unter eigenem Namen in Verkehr bringt. Betreiber ist, wer es in eigener Verantwortung beruflich einsetzt. Wer ein fremdes Hochrisiko-System wesentlich verändert, unter eigenem Namen vermarktet oder seinen Zweck so ändert, dass es hochriskant wird, kann selbst zum Anbieter mit den vollen Anbieterpflichten werden.

Womit sollte ein Unternehmen beginnen?

Mit einem KI-Inventar: Welche Systeme werden eingesetzt, wofür, mit welchen Daten und mit welchem Einfluss auf Entscheidungen über Menschen? Auf dieser Grundlage lässt sich die Risikoklasse bestimmen. Für Hochrisiko-Systeme folgen Verträge mit dem Anbieter, interne Zuständigkeiten für die menschliche Aufsicht, Schulungen und die Planung der Dokumentation.

Allgemeine Information, keine Rechtsberatung im Einzelfall. ITMR Rechtsanwälte PartGmbB.

Weiterführende Inhalte

Rechtsgebiet und Leistung

Im Blog erklärt