Hochrisiko-KI-System: Bedeutung und Definition

Definition: Als Hochrisiko-KI-System gilt nach Art. 6 KI-VO ein System, das Sicherheitsbauteil eines Produkts nach den Harmonisierungsvorschriften des Anhangs I ist, oder das in einem Bereich des Anhangs III eingesetzt wird, etwa bei Personalauswahl, Bildung, Kreditwürdigkeitsprüfung, kritischer Infrastruktur oder Biometrie.

Ein System nach Anhang III ist ausnahmsweise nicht hochriskant, wenn es kein erhebliches Risiko für Gesundheit, Sicherheit oder Grundrechte birgt, etwa weil es nur eine eng begrenzte Verfahrensaufgabe erfüllt (Art. 6 Abs. 3 KI-VO); bei Profiling natürlicher Personen gilt diese Ausnahme nicht. Durch die Digital-Omnibus-Verordnung (EU) 2026/1744 gelten die Hochrisiko-Pflichten für Systeme nach Anhang III ab 02.12.2027 und für produktbezogene Systeme nach Anhang I ab 02.08.2028.

Bedeutung für Sie

Anbieter müssen unter anderem ein Risikomanagement einrichten, Daten-Governance und technische Dokumentation sicherstellen, Protokollierung und menschliche Aufsicht ermöglichen und eine Konformitätsbewertung durchführen. Betreiber treffen eigene Pflichten nach Art. 26 KI-VO.

Mehr dazu: AI Act umsetzen

Rechtsgrundlagen

• Art. 6 KI-VO Normtext Art. 6 KI-VO (amtlicher Text, öffnet neues Fenster) (öffnet in neuem Tab)
• Art. 26 KI-VO Normtext Art. 26 KI-VO (amtlicher Text, öffnet neues Fenster) (öffnet in neuem Tab)
• VO (EU) 2024/1689 Normtext VO (EU) 2024/1689 (amtlicher Text, öffnet neues Fenster) (öffnet in neuem Tab)
• VO (EU) 2026/1744 Normtext VO (EU) 2026/1744 (amtlicher Text, öffnet neues Fenster) (öffnet in neuem Tab)