KI-Verordnung: Erster Bericht zu Verboten und Hochrisiko-KI
IT-Recht & Digitalisierung · KI-Recht
Welche KI wird als Nächstes verboten oder Hochrisiko?
Erster Bericht nach Art. 112 der KI-Verordnung: Die Kommission hat geprüft, ob die Listen zu Verboten und Hochrisiko-KI wachsen müssen. Die Hochrisiko-Liste bleibt, zwei neue Verbote gelten ab dem 2. Dezember 2026.
- Wird meine KI-Anwendung jetzt verboten oder Hochrisiko-KI? Durch den Bericht nicht. Die Kommission schlägt keine Änderung des Anhangs III vor.COM(2026) 234 final, Rn. 44, 45, 61
- Was gilt ab dem 2. Dezember 2026? Verboten sind dann nach Maßgabe des Art. 5 Abs. 1a und 1b KI-Systeme, die intime Darstellungen bestimmbarer Personen ohne deren Zustimmung oder Missbrauchsdarstellungen von Kindern erzeugen. Die Geldbuße reicht bis 35 Millionen Euro oder, wenn höher, 7 Prozent des weltweiten Vorjahresumsatzes. Für KMU gilt der niedrigere Betrag.Art. 5 Abs. 1 Buchst. ba, bb, Abs. 1a, 1b, Art. 99 Abs. 3, 6, Art. 113 Abs. 3 Buchst. a KI-VO
- Welche Anwendungen beobachtet die Kommission weiter? KI-Chatbots zur psychischen Unterstützung, Dark Patterns, KI im Forderungseinzug, politische Desinformation und die Dienste nach Anhang III Nr. 5.COM(2026) 234 final, Rn. 35, 43, 46, 59
- Was ist jetzt zu tun? KI-Anwendungen mit Zweckbestimmung erfassen, gegen Art. 5 und Anhang III prüfen, Ergebnis dokumentieren. Unser Vorgehen: AI Act im Unternehmen umsetzen.
Hilfreich: eine Liste Ihrer KI-Anwendungen mit Zweck und Anbieter.
Erstveröffentlicht am Rechtsstand: Änderungen anzeigen
Was dieser Beitrag praktisch liefert
Vier Arbeitsmittel, jedes mit Sprungziel.
Worum es geht und was gilt
Worum geht es in dem Bericht der EU-Kommission nach Art. 112 Abs. 1 der KI-Verordnung?
Die europäische KI-Verordnung, auch AI Act genannt, ist am 1. August 2024 in Kraft getreten. Sie schafft erstmals einen einheitlichen Rechtsrahmen für den Einsatz künstlicher Intelligenz (KI) in der Europäischen Union. Ziel ist es, die Entwicklung und Nutzung von KI zu fördern und gleichzeitig Menschen, ihre Gesundheit, Sicherheit und Grundrechte sowie demokratische Werte und den Rechtsstaat vor möglichen Risiken durch KI zu schützen.
Nach Art. 112 I KI-VO ist die Kommission verpflichtet, einmal jährlich zu überprüfen, ob eine Änderung der Liste der Hochrisiko-KI-Systeme in Anhang III und der Liste der verbotenen Praktiken in Art. 5 KI-VO erforderlich ist. Im Anschluss daran hat sie dem Europäischen Parlament und dem Rat über die Ergebnisse Bericht zu erstatten. Am 20. Mai 2026 wurde der erste Bericht dieser Art veröffentlicht.
Was gilt: Wer ein KI-System anbietet oder betreibt, das weder unter Art. 5 noch unter Anhang III der KI-Verordnung fällt, bleibt nach dem Bericht vom 20. Mai 2026 außerhalb dieser Listen. Die Kommission schlägt keine Änderung des Anhangs III vor, für Art. 5 stellte sie eine mögliche Lücke bei KI-Systemen fest, die Missbrauchsdarstellungen von Kindern oder nicht einvernehmliche intime Inhalte erzeugen. Der Gesetzgeber hat diese Lücke mit der Verordnung (EU) 2026/1744 geschlossen, die beiden neuen Verbote gelten ab dem 2. Dezember 2026. KI-Chatbots zur Selbsthilfe, Dark Patterns, KI im Forderungseinzug und politische Desinformation bleiben unter Beobachtung, ohne Vorschlag für ein Verbot oder eine Einstufung als Hochrisiko-KI. Die Hochrisiko-Pflichten gelten für Anhang III ab dem 2. Dezember 2027 und für Produkte nach Anhang I ab dem 2. August 2028, endgültige Leitlinien zur Einstufung sind bis Ende 2026 angekündigt.
Stand heute: Was seit dem Bericht geschehen ist
Sechs Stationen ordnen den Bericht zeitlich ein.
7. bis 20. Mai 2026: Politische Einigung auf zwei neue Verbote (7. Mai), Leitlinienentwurf zur Einstufung (19. Mai), Bericht nach Art. 112 Abs. 1 KI-VO (20. Mai).
27. Juli 2026: Die Verordnung (EU) 2026/1744 tritt in Kraft, verschiebt die Hochrisiko-Pflichten und ergänzt Art. 5 um zwei Verbote.
29. Juli 2026: Das KI-MIG tritt in Kraft, die Bundesnetzagentur wird Marktüberwachungsbehörde.
2. August 2026: Die KI-Verordnung gilt allgemein, auch Art. 50 und die Vorschriften zur Durchsetzung.
2. Dezember 2026: Die beiden neuen Verbote gelten ab diesem Tag.
Offen: Endgültige Leitlinien sind bis Ende 2026 angekündigt, die nächste Bewertung nach Art. 112 steht laut Bericht 2026 an. Beides liegt noch nicht vor.
COM(2026) 234 final, Rn. 7, 63
Verordnung (EU) 2026/1744, Art. 4, Art. 5 und 113 KI-VO
Begriffe
Hochrisiko-KI (High-Risk AI):
Darunter versteht man Künstliche Intelligenz, die aufgrund ihres Einsatzbereichs erhebliche Gefahren für die Sicherheit, Gesundheit oder die Grundrechte von Menschen birgt. Nach der KI-Verordnung sind diese Systeme nicht verboten, dürfen aber nur unter strengen Auflagen betrieben werden. Bevor solche KI-Systeme in Betrieb genommen werden, müssen Anbieter und Betreiber strikte Vorgaben erfüllen. Für diese KI gilt Art. 6 KI-VO iVm Anhang I und III.
(1) Ungeachtet dessen, ob ein KI-System unabhängig von den unter den Buchstaben a und b genannten Produkten in Verkehr gebracht oder in Betrieb genommen wird, gilt es als Hochrisiko-KI-System, wenn die beiden folgenden Bedingungen erfüllt sind:
a) das KI-System soll als Sicherheitsbauteil eines unter die in Anhang I aufgeführten Harmonisierungsrechtsvorschriften der Union fallenden Produkts verwendet werden oder das KI-System ist selbst ein solches Produkt
b) das Produkt, dessen Sicherheitsbauteil gemäß Buchstabe a das KI-System ist, oder das KI-System selbst als Produkt muss einer Konformitätsbewertung durch Dritte im Hinblick auf das Inverkehrbringen oder die Inbetriebnahme dieses Produkts gemäß den in Anhang I aufgeführten Harmonisierungsrechtsvorschriften der Union unterzogen werden.
(2) Zusätzlich zu den in Absatz 1 genannten Hochrisiko-KI-Systemen gelten die in Anhang III genannten KI-Systeme als hochriskant.
Produktbezogene Hochrisiko-KI:
KI-Systeme, die als Produkt oder als Sicherheitskomponente in einem Produkt von Art. 6 I KI-VO iVm Anhang I erfasst sind. Für Produkte nach Absatz 1 gilt eine Schonfrist bis zum 2. August 2028. Nach Ablauf dieser Frist sind die Anbieter verpflichtet, die entsprechenden Anforderungen einzuhalten.
Beispiel:
Ein Beispiel für produktbezogene Hochrisiko-KI ist ein KI-System (eines Medizinprodukteherstellers), das in ein Diagnosegerät integriert wird und sicherheitsrelevante Funktionen wie die Auswertung von Röntgenaufnahmen unterstützt. Als Hersteller des Medizinprodukts gilt er als Anbieter des KI-Systems und ist dafür verantwortlich, dass die KI-Komponente die Anforderungen der KI-Verordnung erfüllt.
Anbieter, Produkthersteller und die zwei Abschnitte des Anhangs I
Anbieter ist, wer ein KI-System entwickelt oder entwickeln lässt und es unter eigenem Namen in Verkehr bringt oder in Betrieb nimmt. Bei Sicherheitsbauteilen von Produkten nach Anhang I Abschnitt A gilt der Produkthersteller unter den Voraussetzungen des Art. 25 Abs. 3 als Anbieter. Dazu gehören Medizinprodukte, Spielzeug und Aufzüge.
Anders liegt es bei Produkten nach Anhang I Abschnitt B, etwa Kraftfahrzeugen und Luftfahrzeugen. Für KI-Systeme in solchen Produkten gelten nach Art. 2 Abs. 2 KI-VO nur Art. 6 Abs. 1, Art. 60a und die Art. 102 bis 112. Die Anforderungen an Hochrisiko-KI kommen dort aus dem Produktrecht des Sektors. Die Verordnung (EU) 2026/1744 hat auch die Maschinenverordnung von Abschnitt A nach Abschnitt B verschoben.
Art. 2 Abs. 2, Art. 3 Nr. 3, Art. 25 Abs. 3, Anhang I Abschnitte A und B KI-VOVerordnung (EU) 2026/1744, Erwägungsgrund 42Eigenständige Hochrisiko-KI:
KI-Systeme, die von Art. 6 II KI-VO iVm Anhang III erfasst sind. Die strengen Verpflichtungen für KI-Systeme nach Artikel 6 Absatz 2 greifen ab dem 2. Dezember 2027.
Beispiel:
Ein Softwareunternehmen entwickelt ein KI-System zur automatisierten Bewerberauswahl und stellt dieses Unternehmen zur Nutzung bereit. Das Softwareunternehmen ist Anbieter des KI-Systems und muss sicherstellen, dass die Anforderungen der KI-Verordnung eingehalten werden.
Die Bewerberauswahl ist ein Anwendungsfall des Anhangs III Nr. 4 Buchst. a KI-VO. Arbeitgeber, die ein solches System einsetzen, sind Betreiber und haben ab dem 2. Dezember 2027 eigene Pflichten.Anhang III Nr. 4 Buchst. a, Art. 3 Nr. 4, Art. 26, Art. 113 Abs. 3 Buchst. c Ziff. i KI-VO
Verbotene KI:
KI-Systeme, die vom Katalog des Art. 5 KI-VO erfasst sind. Einzelne Verbote kennen eng begrenzte Ausnahmen, etwa Art. 5 I lit. h KI-VO für die biometrische Echtzeit-Fernidentifizierung zur Verfolgung der in Anhang II aufgelisteten Straftaten. Art. 5 KI-VO gilt seit dem 2. Februar 2025, die Vorschriften für seine Durchsetzung gelten seit dem 2. August 2026.
Beispiel:
Ein Softwareunternehmen entwickelt ein KI-System zur Emotionserkennung am Arbeitsplatz, das Gesichtsausdrücke, Körperbewegungen und andere biometrische Merkmale von Beschäftigten analysiert, um deren emotionale Verfassung zu bewerten. Das Unternehmen stellt das System Arbeitgebern zur Überwachung und Bewertung von Beschäftigten bereit und tritt dabei als Anbieter des KI-Systems auf. Der Einsatz eines solchen Systems zur Bewertung von Beschäftigten kann nach Art. 5 I lit. f KI-VO verboten sein.
(1) Folgende Praktiken im KI-Bereich sind verboten:
a) das Inverkehrbringen, die Inbetriebnahme oder die Verwendung eines KI-Systems, das Techniken der unterschwelligen Beeinflussung außerhalb des Bewusstseins einer Person oder absichtlich manipulative oder täuschende Techniken mit dem Ziel oder der Wirkung einsetzt, das Verhalten einer Person oder einer Gruppe von Personen wesentlich zu verändern, indem ihre Fähigkeit, eine fundierte Entscheidung zu treffen, deutlich beeinträchtigt wird, wodurch sie veranlasst wird, eine Entscheidung zu treffen, die sie andernfalls nicht getroffen hätte, und zwar in einer Weise, die dieser Person, einer anderen Person oder einer Gruppe von Personen erheblichen Schaden zufügt oder mit hinreichender Wahrscheinlichkeit zufügen wird.
b) das Inverkehrbringen, die Inbetriebnahme oder die Verwendung eines KI-Systems, das eine Vulnerabilität oder Schutzbedürftigkeit einer natürlichen Person oder einer bestimmten Gruppe von Personen aufgrund ihres Alters, einer Behinderung oder einer bestimmten sozialen oder wirtschaftlichen Situation mit dem Ziel oder der Wirkung ausnutzt, das Verhalten dieser Person oder einer dieser Gruppe angehörenden Person in einer Weise wesentlich zu verändern, die dieser Person oder einer anderen Person erheblichen Schaden zufügt oder mit hinreichender Wahrscheinlichkeit zufügen wird […]
f) das Inverkehrbringen, die Inbetriebnahme für diesen spezifischen Zweck oder die Verwendung von KI-Systemen zur Ableitung von Emotionen einer natürlichen Person am Arbeitsplatz und in Bildungseinrichtungen, es sei denn, die Verwendung des KI-Systems soll aus medizinischen Gründen oder Sicherheitsgründen eingeführt oder auf den Markt gebracht werden […]
Neu seit dem Bericht: zwei weitere Verbote ab dem 2. Dezember 2026
Der Bericht prüfte, ob KI-Systeme für Nackt- und sexuelle Deepfakes echter Personen schon unter Art. 5 Abs. 1 Buchst. a oder b fallen. Die Kommission verneinte das, weil solche Systeme die Opfer nicht zu einem schädlichen Verhalten bewegen, und stellte eine mögliche Regelungslücke fest.Kommission, Bericht vom 20. Mai 2026, COM(2026) 234 final, Rn. 57, 61
Eine Reaktion auf den Bericht ist das neue Recht nicht. Parlament und Rat hatten sich schon am 7. Mai 2026 politisch auf beide Verbote geeinigt, also vor dem Bericht.Kommission, Veröffentlichungsseite zum Bericht Die Verordnung (EU) 2026/1744 fügt zwei Buchstaben in Art. 5 Abs. 1 ein und verweist auf die laufende Überprüfung nach Art. 112 Abs. 1.Verordnung (EU) 2026/1744, Erwägungsgründe 10 bis 14
ba) das Inverkehrbringen, die Inbetriebnahme oder die Verwendung eines KI-Systems, das realistische Bild-, Video-, Ton- oder ähnliche Inhalte erzeugt oder manipuliert, in denen intime Körperteile einer bestimmbaren natürlichen Person dargestellt werden oder eine an eindeutig sexuellen Handlungen beteiligte bestimmbare Person dargestellt wird, ohne dass die betreffende Person eine aus freien Stücken erfolgende, spezifische, aufgeklärte, eindeutige und ausdrückliche Zustimmung zu dieser Erzeugung oder Manipulation erteilt hat
bb) das Inverkehrbringen, die Inbetriebnahme oder die Verwendung eines KI-Systems, das Material oder Darbietungen im Sinne von Artikel 2 Buchstaben c und e der Richtlinie 2011/93/EU erzeugt oder manipuliert, es sei denn, nach nationalem Recht gilt das „unrechtmäßige“ Verhalten als gerechtfertigt
Für Anbieter greift das Verbot nach Art. 5 Abs. 1a nur in zwei Fällen. Der erste liegt vor, wenn die Erzeugung solcher Inhalte die Zweckbestimmung des Systems ist. Der zweite liegt vor, wenn sie ohne erhebliche technische Änderungen ein absehbares und reproduzierbares Ergebnis ist und zumutbare und angemessene Schutzvorkehrungen fehlen. Gemeint sind technische Sicherheitsmaßnahmen und andere Vorkehrungen, die absehbaren Missbrauch zuverlässig verhindern und gemeldeten Missbrauch korrigieren. Betreiber verstoßen nur, wenn sie das System zu diesem Zweck verwenden. Eine Bearbeitung gilt nach Art. 5 Abs. 1b nicht als Manipulation, wenn sie weder die Sichtbarkeit intimer Körperteile erhöht noch die Art der dargestellten sexuellen Handlungen verändert.Art. 5 Abs. 1a, 1b KI-VO
Die Geldbuße reicht bis 35 Millionen Euro oder bei Unternehmen bis 7 Prozent des weltweiten Vorjahresumsatzes, je nachdem, welcher Betrag höher ist. Für kleine und mittlere Unternehmen einschließlich Start-ups gilt der niedrigere Betrag. In Deutschland verhängen die Marktüberwachungsbehörden die Geldbuße für ihren Bereich. Wo allein das Büro für Künstliche Intelligenz zuständig ist, liegt die Durchsetzung bei der Kommission.Art. 75 Abs. 1, Art. 99 Abs. 3, 6 KI-VO§§ 16, 17 KI-MIG
Die Änderungen im Einzelnen behandelt unser Beitrag Digital Omnibus zur KI: Was am AI Act verändert wird. Die Rechte der Abgebildeten stehen im Beitrag Deepfakes: Persönlichkeitsrecht und Takedown.
Prüfungsmaßstab
Es bestehen rechtliche Kriterien, anhand derer geprüft werden kann, ob eine Anpassung der Verbotsliste des Art. 5 KI-VO und der Liste der Hochrisiko-KI-Systeme in Anhang III erforderlich ist.
(1) Die Kommission prüft nach Inkrafttreten dieser Verordnung und bis zum Ende der Befugnisübertragung gemäß Artikel 97 einmal jährlich, ob eine Änderung der Liste in Anhang III und der Liste der verbotenen Praktiken im KI-Bereich gemäß Artikel 5 erforderlich ist. Die Kommission übermittelt die Ergebnisse dieser Bewertung dem Europäischen Parlament und dem Rat.
Was der Bericht prüft
- Die Liste der verbotenen Praktiken in Art. 5 KI-VO (Rn. 5, 11 bis 14).
- Die Anwendungsfälle eigenständiger Hochrisiko-KI in Anhang III (Rn. 5, 16 bis 22).
- Vorschläge der Mitgliedstaaten und von 547 Antwortenden sowie 3.791 gemeldete Vorfälle (Rn. 26, 39, 50).
Was er nicht prüft
- KI in Produkten nach Anhang I, sie ist nicht Gegenstand des Berichts (Rn. 17).
- Die acht Bereiche des Anhangs III selbst. Darüber berichtet die Kommission bis zum 2. August 2028 nach Art. 112 Abs. 2 (Rn. 5).
- Die Einstufungsregel des Art. 6 und den Straftatenkatalog des Anhangs II.
Kommission, Bericht vom 20. Mai 2026, COM(2026) 234 final, Rn. 5, 10 bis 22
Art. 5 KI-VO:
Wenn neue KI-Praktiken entstehen, die die Werte der Union oder die in der Charta der Grundrechte der Europäischen Union (GRCh) verankerten Grundrechte beeinträchtigen und bislang nicht von der Liste der verbotenen Praktiken nach Art. 5 KI-VO erfasst sind und wenn trotz anderer einschlägiger EU-Rechtsvorschriften noch Regelungslücken bestehen, kann die Verbotsliste des Art. 5 KI-VO erweitert werden. Vgl. hierzu Erwägungsgrund 28 der KI-Verordnung.
Die beiden Bedingungen lösen nach dem Bericht nur die Prüfung aus. Art. 5 selbst kann die Kommission nicht ändern, dafür braucht es ein Gesetzgebungsverfahren. Stellt sie Änderungsbedarf fest, legt sie das Ergebnis Parlament und Rat vor und prüft einen Legislativvorschlag. Auch die Verbote für intime Deepfakes und Missbrauchsdarstellungen sind durch eine Änderungsverordnung entstanden, die Verordnung (EU) 2026/1744.Kommission, Bericht vom 20. Mai 2026, COM(2026) 234 final, Rn. 13, 14
Art. 6 II KI-VO iVm Anhang III:
Eigenständige KI-Systeme können als neue Hochrisiko-KI eingestuft werden, wenn die in Art. 7 I, II KI-VO festgelegten Voraussetzungen erfüllt sind. Für eine entsprechende Einstufung muss ein KI-System in einem der in Anhang III aufgeführten Bereiche eingesetzt werden und ein Risiko aufweisen, das dem Risiko der in Anhang III aufgeführten Hochrisiko-KI-Systeme gleicht oder dieses übersteigt. Gleichzeitig können KI-Systeme gemäß Art. 7 III KI-VO auch wieder aus der Liste gestrichen werden.
(1) Die Kommission ist befugt, gemäß Artikel 97 delegierte Rechtsakte zur Änderung von Anhang III durch Hinzufügung oder Änderung von Anwendungsfällen für Hochrisiko-KI-Systeme zu erlassen, die beide der folgenden Bedingungen erfüllen:
a) Die KI-Systeme sollen in einem der in Anhang III aufgeführten Bereiche eingesetzt werden
b) die KI-Systeme bergen ein Risiko der Schädigung in Bezug auf die Gesundheit und Sicherheit oder haben nachteilige Auswirkungen auf die Grundrechte und dieses Risiko gleicht dem Risiko der Schädigung oder den nachteiligen Auswirkungen, das bzw. die von den in Anhang III bereits genannten Hochrisiko-KI-Systemen ausgeht bzw. ausgehen, oder übersteigt diese.
(3) Die Kommission ist befugt, gemäß Artikel 97 delegierte Rechtsakte zur Änderung der Liste in Anhang III zu erlassen, um Hochrisiko-KI-Systeme zu streichen, die beide der folgenden Bedingungen erfüllen:
a) Das betreffende Hochrisiko-KI-System weist unter Berücksichtigung der in Absatz 2 aufgeführten Kriterien keine erheblichen Risiken mehr für die Grundrechte, Gesundheit oder Sicherheit auf
b) durch die Streichung wird das allgemeine Schutzniveau in Bezug auf Gesundheit, Sicherheit und Grundrechte im Rahmen des Unionsrechts nicht gesenkt.
Maßgeblich ist nach dem Bericht, ob von einem KI-System „ein nachweisbares und vergleichbares Risiko“ ausgeht.
Kommission, Bericht vom 20. Mai 2026, COM(2026) 234 final, Rn. 21
Ein vergleichbares Risiko allein reicht also nicht. Das System muss zusätzlich in einem der acht Bereiche des Anhangs III eingesetzt werden. Technische Neuheit oder öffentliches Interesse genügen für die Aufnahme nicht. Für neue Bereiche wäre eine Änderung der Verordnung nötig.Kommission, Bericht vom 20. Mai 2026, COM(2026) 234 final, Rn. 19 bis 21
Methodik der Bewertung
Zur Gewährleistung eines umfassenden und evidenzbasierten Ansatzes auf Grundlage empirischer Nachweise über durch KI-Systeme verursachte Schäden wertet die Kommission einschlägige Datenbanken zu KI-Vorfällen aus und konsultiert zugleich die Mitgliedstaaten sowie Interessenträger. Insgesamt gingen 547 Antworten von Interessenträgern ein, darunter von Unternehmen, Einzelpersonen und Hochschulen. Die wichtigste Datenbank war der „AI Incidents and Hazards Monitor“ der OECD. Bei dieser Datenbank handelt es sich um ein unentgeltliches und quelloffenes Projekt zur Indexierung der Schäden oder Beinaheschäden, die bisher durch den Einsatz von KI-Systemen in der realen Welt eingetreten sind.
| Quelle | Umfang | Ergebnis |
|---|---|---|
| Konsultation der Interessenträger | 6. Juni bis 18. Juli 2025, 547 Antworten | 409 für Organisationen, darunter 150 Unternehmen und 93 Verbände, 138 von Einzelpersonen (Rn. 38, 39, Fußnote 14) |
| Vorschläge zu Verboten | etwas mehr als 10 Prozent der Antwortenden | schlugen zusätzliche Verbote vor, die übrigen hielten die Liste für ausreichend oder äußerten sich nicht (Rn. 40, Fußnoten 15, 16) |
| Vorschläge zu Anhang III | rund 20 Prozent der Antwortenden | schlugen neue oder erweiterte Anwendungsfälle oder neue Bereiche vor (Rn. 44, Fußnote 22) |
| Mitgliedstaaten | vier Sitzungen der Untergruppen des KI-Gremiums im Mai und Juni 2025 | neun schriftliche Erklärungen zu Art. 5, sieben zu Anhang III, je ohne Änderungsbedarf (Rn. 26, 27, 31, Fußnote 7) |
| Vorfälle im Monitor der OECD | 3.791 Meldungen vom 1. Januar 2024 bis 31. Mai 2025 | fast die Hälfte außerhalb der KI-Verordnung oder durch anderes Unionsrecht abgedeckt, etwa 10 Prozent bei Produkten nach Anhang I (Rn. 50, 53) |
| Näher geprüfte Vorfälle | etwa 30 Prozent der Meldungen | davon etwa zwei Drittel mit Bezug zu Art. 5 und ein Drittel mit Bezug zu Anhang III (Rn. 54) |
Kommission, Bericht vom 20. Mai 2026, COM(2026) 234 final, Rn. 26 bis 54
OECD, AI Incidents and Hazards Monitor, und MIT, AI Risk Repository, nach dem Bericht
Die Kommission weist selbst auf die Grenzen der Vorfalldaten hin: Die Datenbanken enthalten keine vollständigen und überprüften Informationen, viele Vorfälle stammen nicht aus Europa. Sie verwendet deshalb Größenordnungen statt genauer Anteile.Kommission, Bericht vom 20. Mai 2026, COM(2026) 234 final, Rn. 47, 49
Meinungsverschiedenheiten
Zwischen der Kommission, den Mitgliedstaaten und den Interessenträgern bestehen unterschiedliche Positionen im Hinblick auf die Anpassung des Artikels 5 der KI-VO sowie des Anhangs III. Die Mitgliedstaaten befanden, dass derzeit nur wenige konkrete Daten oder Analysen vorliegen, die eine Überarbeitung der Verbotsliste des Art. 5 KI-VO rechtfertigen würden. Da seit dem Geltungsbeginn erst so wenig Zeit verstrichen ist, mangelt es derzeit an praktischen Erfahrungen und konkreten Anwendungsfällen, auf deren Grundlage sich die Wirksamkeit der KI-Verordnung bewerten lässt. Die meisten Mitgliedstaaten hielten es daher für verfrüht, Änderungen an der derzeitigen Liste in Anhang III vorzunehmen. Während eine erhebliche Zahl von Interessenträgern die derzeitige Liste des Art. 5 KI-VO für ausreichend hielt, schlugen andere vor, zusätzliche Verbote aufzunehmen. Zudem sah die Mehrzahl der Interessenträger keinen Bedarf, einen der derzeitigen Anwendungsfälle aus Anhang III zu streichen.
Zwei Mitgliedstaaten äußerten Bedenken zu einzelnen Anwendungsfällen, mit denen die folgenden Abschnitte beginnen.Kommission, Bericht vom 20. Mai 2026, COM(2026) 234 final, Rn. 32, 33
1. Regulierung von KI-Chatbots zur Selbsthilfe (Therapie)
Mitgliedstaat:
KI-Chatbots zur Selbsthilfe (Therapie) sind KI-gestützte digitale Assistenten, die darauf ausgelegt sind, Nutzern über Konversationsschnittstellen Unterstützung im Bereich der psychischen Gesundheit und emotionale Orientierung zu bieten. Sie beeinflussen Entscheidungen von Nutzern im Zusammenhang mit der psychischen Gesundheit, und es ist möglich, dass dabei sensible personenbezogene Daten verarbeitet werden. Daher besteht das Risiko, dass sich die Unterstützung und emotionale Orientierung, die solche Chatbots bieten, negativ auf die psychische Gesundheit des Einzelnen auswirken könnten. Vor diesem Hintergrund warf ein Mitgliedstaat die Frage auf, ob solche Systeme als Hochrisiko-KI-Systeme eingestuft werden sollten.
Kommission:
Nach der Kommission fallen die schädlichsten KI-Chatbots zur Selbsthilfe möglicherweise bereits unter die in Artikel 5 Absatz 1 Buchstaben a und b der KI-VO festgelegten Verbote. Was die Einstufung anderer KI-Chatbots zur Selbsthilfe als Hochrisiko-KI-Systeme betrifft, so konnten die meisten dieser KI-Systeme keinem der derzeit in Anhang III aufgeführten Anwendungsfälle zugeordnet werden, mit einigen spezifischen Ausnahmen, die bereits von Anwendungsfällen erfasst sind.
Einordnung: was neben Anhang III zu prüfen ist
- Wird der Chatbot mit dem Anspruch vermarktet, bei psychischen Erkrankungen zu helfen oder durch therapeutische Interventionen zu führen, fällt er nach dem Bericht wahrscheinlich unter die Verordnung über Medizinprodukte (Rn. 35, Fußnote 11).
- Erkennt der Chatbot Emotionen anhand biometrischer Daten, etwa Stimme oder Mimik, ist er nach Anhang III Nr. 1 Buchst. c KI-VO grundsätzlich Hochrisiko-KI (Fußnote 12). Eine Ausnahme setzt Art. 6 Abs. 3 voraus und scheidet bei Profiling aus. Die Definition in Art. 3 Nr. 39 KI-VO setzt biometrische Daten voraus. Wer allein eingegebenen Text auswertet, fällt nach dem Wortlaut nicht darunter.
- Seit dem 2. August 2026 müssen Anbieter dafür sorgen, dass Nutzer über die Interaktion mit einem KI-System informiert werden, sofern das nicht offensichtlich ist, Art. 50 Abs. 1 KI-VO. Die Kommission will erst prüfen, wie diese Pflicht wirkt, bevor sie Anhang III ändert (Rn. 35).
- KI-Gefährten nennt der Bericht gesondert. Interessenträger haben für sie Verbote und eine Einstufung als Hochrisiko-KI angeregt, die Kommission beobachtet die Entwicklung (Rn. 46).
Einschätzung von Jean Paul P. Bohne, LL.M., MM Für Anbieter hängt die Einstufung vor allem an der Zweckbestimmung und an den Werbeaussagen. Wer Heilung oder Therapie verspricht, fällt zusätzlich unter das Medizinprodukterecht. Muss eine Benannte Stelle das Produkt bewerten, ist das KI-System zugleich Hochrisiko-KI nach Art. 6 Abs. 1 KI-VO.
Kommission, Bericht vom 20. Mai 2026, COM(2026) 234 final, Rn. 34, 35, 46, Fußnoten 11, 12 Art. 3 Nr. 39, Art. 6 Abs. 1, 3, Art. 50 Abs. 1, Anhang III Nr. 1 Buchst. c KI-VO2. KI-gestütztes personalisiertes Lernen
Auch der Einsatz von KI-Systemen für personalisiertes Lernen rückte in den Fokus der Kommission. Die Kommission kam zu dem Schluss, dass KI-Systeme für das Selbstlernen (eigenständiges Lernen) in den meisten Fällen keine Risiken bergen, die denen der in Anhang III der KI-Verordnung aufgeführten KI-Systeme gleichkommen oder diese übersteigen. Insbesondere gibt es kaum empirische Belege für ein hohes Risiko einer Schädigung im Zusammenhang mit solchen Systemen, und es wurden keine Vorfälle im Zusammenhang mit diesen Systemen bekannt.
Die Aussage betrifft das Selbstlernen und Lernmaterialien dafür. Für andere Formen des personalisierten Lernens verweist die Kommission auf ihre Leitlinien. Hochrisiko-KI bleiben nach Anhang III Nr. 3 KI-VO Systeme, die über Zugang und Zulassung entscheiden, Lernergebnisse bewerten oder Prüfungen überwachen.Kommission, Bericht vom 20. Mai 2026, COM(2026) 234 final, Rn. 36 Anhang III Nr. 3 KI-VO
3. Dark Patterns
Interessenträger:
Mehrere Interessenträger warfen bei der Verbotsliste des Art. 5 KI-VO die Frage auf, wie KI-Systeme einzustufen sind, die den Einsatz von Dark Patterns oder suchterzeugendem Design ermöglichen. Dark Patterns sind Tricks in der Gestaltung von Webseiten, Apps oder digitalen Diensten, die Menschen dazu bringen sollen, etwas zu tun, was sie vielleicht eigentlich nicht wollten. Dabei wird die Oberfläche so gestaltet, dass eine bestimmte Entscheidung wahrscheinlicher wird.
Beispiel:
Ein kostenloses Probeabo kann man schnell starten, aber die Kündigung ist kompliziert.
Kommission:
Nach derzeitiger Einschätzung der Kommission sind die schädlichsten Fälle solcher Praktiken bereits von den bestehenden Verboten erfasst, insbesondere den in Artikel 5 Absatz 1 Buchstaben a und b der KI-Verordnung aufgeführten Verboten.
Neben Art. 5 KI-VO nennt die Kommission die Richtlinie über unlautere Geschäftspraktiken und das Gesetz über digitale Dienste, die unabhängig vom Einsatz von KI gelten. Beide greifen nur in ihrem Anwendungsbereich. Das Verbot manipulativer Oberflächen in Art. 25 des Gesetzes über digitale Dienste richtet sich an Anbieter von Online-Plattformen. Es tritt zurück, soweit die Richtlinie über unlautere Geschäftspraktiken oder die Datenschutz-Grundverordnung die Praktik erfassen. Sie will beobachten, ob dieser Schutz ausreicht, wenn KI-Systeme Dark Patterns und suchterzeugendes Design ermöglichen. Den Begriff erläutert unser Glossar unter Dark Patterns.Kommission, Bericht vom 20. Mai 2026, COM(2026) 234 final, Rn. 43, Fußnoten 19, 20, 26Art. 25 Abs. 1, 2 Verordnung (EU) 2022/2065
4. KI-Systeme, die bei der Eintreibung und Vollstreckung von Forderungen verwendet werden
Interessenträger:
Einige Interessenträger schlugen vor, KI-Systeme, die bei der Eintreibung und Vollstreckung von Forderungen verwendet werden, als hochriskant einzustufen, und wiesen darauf hin, dass sie zunehmend von Anbietern von Energie-, Telekommunikations- und Finanzdienstleistungen genutzt werden.
Kommission:
Solche KI-Systeme könnten möglicherweise unter den Bereich von Anhang III Nummern 5 oder 8 der KI-Verordnung fallen. Diese Systeme werden von der Kommission weiter überwacht, um festzustellen, wie intensiv sie eingesetzt werden und welche Schäden entstehen können, insbesondere in Bezug auf schutzbedürftige Verbraucher.
Anhang III Nr. 5 erfasst bisher unter anderem die Kreditwürdigkeitsprüfung und Bonitätsbewertung natürlicher Personen, Nr. 8 die Rechtspflege. Ein eigener Anwendungsfall für den Forderungseinzug fehlt. Für beaufsichtigte Finanzunternehmen ist in Deutschland die Bundesanstalt für Finanzdienstleistungsaufsicht Marktüberwachungsbehörde, soweit das KI-System in direktem Zusammenhang mit einer regulierten Finanztätigkeit steht.Anhang III Nr. 5 Buchst. b, Nr. 8 KI-VO§ 2 Abs. 3 KI-MIG Einschätzung von Jean Paul P. Bohne, LL.M., MM Wer Schuldner mit KI bewertet oder priorisiert, sollte die Nähe zur Bonitätsbewertung schon jetzt prüfen und dokumentieren.
5. Desinformationskampagnen
Zwischen dem 1. Januar 2024 und dem 31. Mai 2025 wurden im AI Incidents and Hazards Monitor der OECD insgesamt 3.791 Vorfälle erfasst. Im Bericht heißt es dazu:
Der einschlägige Anwendungsfall steht in Anhang III Nr. 8 Buchst. b KI-VO. Er erfasst KI-Systeme, die bestimmungsgemäß das Ergebnis einer Wahl oder eines Referendums oder das Wahlverhalten beeinflussen sollen. Die Pflicht, Deepfakes offenzulegen, gilt nach Art. 50 Abs. 4 KI-VO seit dem 2. August 2026. Einzelheiten stehen im Beitrag Art. 50 AI Act: Transparenzpflichten.Art. 50 Abs. 4, Anhang III Nr. 8 Buchst. b KI-VO
Der Beitrag behandelt bis hierher fünf Einzelfragen. Der Bericht enthält weitere Befunde, die für Anbieter und Betreiber dieselbe Bedeutung haben.
| Anwendung | Befund der Kommission | Stand am 19. November 2026 |
|---|---|---|
| Nackt- und sexuelle Deepfakes, Missbrauchsdarstellungen von Kindern | Nicht von Art. 5 Abs. 1 Buchst. a oder b erfasst, mögliche Regelungslücke (Rn. 57, 61). | Seit 27. Juli 2026 Art. 5 Abs. 1 Buchst. ba und bb, gilt ab 2. Dezember 2026. |
| KI zur Begünstigung von Betrug und Finanzbetrug | Kann unter Art. 5 Abs. 1 Buchst. a und b fallen, wenn ein erheblicher finanzieller Schaden und ein plausibler Ursachenzusammenhang vorliegen (Rn. 57). | Keine Änderung. Die Kommission beobachtet die Auslegung in den Mitgliedstaaten. |
| Emotionserkennung außerhalb von Arbeitsplatz und Bildung, etwa bei Migration | Hochrisiko-KI nach Anhang III Nr. 1, kein unmittelbarer Änderungsbedarf bei Art. 5 (Rn. 43). | Für die weitere Prüfung vorgemerkt. |
| Sozialleistungen, Mieterprüfung, weitere Versicherungen, Notfallmaßnahmen | Lücken in Anhang III Nr. 5 gerügt, Klärung in den Leitlinien, genaue Überwachung durch das Büro für Künstliche Intelligenz (Rn. 46). | Leitlinien liegen im Entwurf vor. |
| Kritische Infrastruktur über Sicherheitsbauteile hinaus | Ausweitung von Anhang III Nr. 2 vorgeschlagen, weitere Überwachung nötig (Rn. 46). | Keine Änderung. |
| KI zur Entwicklung oder Verbreitung von Schadsoftware | Risiken scheinen durch das Cybersicherheitsrecht der Union ausreichend abgedeckt (Rn. 30). | Weitere Überwachung. |
| Behördliche Genehmigungen wie Führerschein oder Waffenschein | Kaum Belege für eine Einstufung nach den Kriterien des Art. 7 (Rn. 37). | Weitere Überwachung. |
| Verkehrskameras und Überwachung von Menschenmengen | Kein Risiko, das dem der gelisteten Systeme der Strafverfolgung gleicht (Rn. 58, Fußnote 37). | Keine Änderung des Anhangs III. |
Kommission, Bericht vom 20. Mai 2026, COM(2026) 234 final, Rn. 30, 37, 43, 46, 57, 58, 61
Fristen und Stichtage
Der Beitrag nennt bis hierher drei Stichtage. Die Tabelle stellt sie in den Zeitplan der KI-Verordnung nach der Verordnung (EU) 2026/1744.
| Datum | Was ab dann gilt | Wer betroffen ist | Stand | Fundstelle |
|---|---|---|---|---|
| 2. Februar 2025 | Kapitel I und II mit den Verboten des Art. 5, ohne die Buchstaben ba und bb | Anbieter und Betreiber aller KI-Systeme | gilt seit | Art. 113 Abs. 3 Buchst. a KI-VO |
| 2. August 2025 | Sanktionen nach Kapitel XII ohne Art. 101 und Pflichten für KI-Modelle mit allgemeinem Verwendungszweck nach Kapitel V | Mitgliedstaaten, Anbieter solcher Modelle | gilt seit | Art. 113 Abs. 3 Buchst. b KI-VO |
| 27. Juli 2026 | Verordnung (EU) 2026/1744 in Kraft: Art. 5 ergänzt, Hochrisiko-Stichtage verschoben | alle Akteure der KI-Verordnung | gilt seit | Art. 4 Verordnung (EU) 2026/1744 |
| 2. August 2026 | Allgemeiner Geltungsbeginn der KI-Verordnung, darunter die Transparenzpflichten nach Art. 50 und die Marktüberwachung | Anbieter und Betreiber | gilt seit | Art. 113 Abs. 2 KI-VO |
| 2. Dezember 2026 | Verbote für KI-Systeme, die nicht einvernehmliche intime Inhalte oder Missbrauchsdarstellungen von Kindern erzeugen, nach Maßgabe des Art. 5 Abs. 1a und 1b | Anbieter und Betreiber von KI-Systemen für Bild, Video und Ton | gilt ab | Art. 5 Abs. 1 Buchst. ba, bb, Abs. 1a, 1b, Art. 113 Abs. 3 Buchst. a KI-VO |
| 2. Dezember 2026 | Ende der Übergangsfrist für die maschinenlesbare Kennzeichnung bei Systemen, die vor dem 2. August 2026 in Verkehr gebracht wurden | Anbieter von KI-Systemen, die synthetische Inhalte erzeugen | gilt ab | Art. 111 Abs. 4, Art. 50 Abs. 2 KI-VO |
| 2. Dezember 2027 | Pflichten nach Kapitel III Abschnitte 1 bis 3 für Hochrisiko-KI nach Art. 6 Abs. 2 und Anhang III | Anbieter, Betreiber, Einführer und Händler solcher Systeme | gilt ab | Art. 113 Abs. 3 Buchst. c Ziff. i KI-VO |
| 2. August 2028 | Pflichten für Hochrisiko-KI in Produkten nach Art. 6 Abs. 1 und Anhang I, Bericht der Kommission zu den Bereichen des Anhangs III | Anbieter und Produkthersteller, Kommission | gilt ab | Art. 113 Abs. 3 Buchst. c Ziff. ii, Art. 112 Abs. 2 KI-VO |
| 2. August 2030 | Frist für Bestandssysteme, die für Behörden bestimmt sind: Anbieter und Betreiber erfüllen die Anforderungen bis zu diesem Tag | Anbieter und Betreiber von Behördensystemen im Bestand | gilt ab | Art. 111 Abs. 2 Satz 2 KI-VO |
Für Bestandssysteme gilt eine Sonderregel. Hochrisiko-KI-Systeme, die vor dem jeweiligen Stichtag in Verkehr gebracht oder in Betrieb genommen wurden, fallen nur unter die Verordnung, wenn sie danach in ihrer Konzeption erheblich verändert werden. Für Systeme, die für Behörden bestimmt sind, endet die Frist am 2. August 2030. Komponenten der IT-Großsysteme nach Anhang X haben eine eigene Frist bis zum 31. Dezember 2030. Die Verbote des Art. 5 gelten auch für Bestandssysteme.Art. 111 Abs. 1, 2 KI-VO
Art. 111, 112, 113 KI-VO in der konsolidierten Fassung vom 27. Juli 2026
Verordnung (EU) 2026/1744, Art. 4
Was der Bericht für Ihre Branche bedeutet
Einschätzung von Jean Paul P. Bohne, LL.M., MM Die rechte Spalte gibt seine Empfehlung wieder, die mittlere den Inhalt von Bericht und Verordnung.
| Branche | Betroffen, wenn | Was jetzt zu tun ist |
|---|---|---|
| Chatbots, Coaching- und Wellbeing-Apps | der Chatbot psychische Unterstützung oder emotionale Orientierung bietet (Rn. 34, 35, 46). | Zweckbestimmung und Werbeaussagen prüfen, Emotionserkennung anhand biometrischer Daten als Hochrisiko-Funktion behandeln, KI-Hinweis nach Art. 50 Abs. 1 einbauen. |
| Bildungsanbieter und Lernplattformen | KI über Zugang entscheidet, Lernergebnisse bewertet oder Prüfungen überwacht (Anhang III Nr. 3). Reines Selbstlernen ist nach dem Bericht in den meisten Fällen nicht vergleichbar riskant (Rn. 36). | Lernhilfe und Bewertung technisch und vertraglich trennen, Einstufung je Funktion dokumentieren. |
| E-Commerce und Marketing | KI Oberflächen so steuert, dass Nutzer zu ungewollten Entscheidungen gedrängt werden (Rn. 43). | Gestaltung gegen Art. 5 Abs. 1 Buchst. a und b, das Lauterkeitsrecht und bei Online-Plattformen das Gesetz über digitale Dienste prüfen, Kündigungswege einbeziehen. |
| Inkasso, Energie, Telekommunikation, Finanzdienstleister | KI bei der Eintreibung und Vollstreckung von Forderungen eingesetzt wird (Rn. 46). | Nähe zur Bonitätsbewertung nach Anhang III Nr. 5 Buchst. b prüfen, Umgang mit schutzbedürftigen Verbrauchern festlegen. |
| Anbieter von Bild-, Video- und Stimmgeneratoren | das System intime Darstellungen bestimmbarer Personen erzeugen kann (Art. 5 Abs. 1 Buchst. ba, Abs. 1a). | Bis 2. Dezember 2026 technische und sonstige Schutzvorkehrungen, Meldewege für Missbrauch und Nutzungsbedingungen prüfen. |
| Personalsoftware und Arbeitgeber | KI Bewerber auswählt oder Beschäftigte bewertet (Anhang III Nr. 4). Emotionserkennung am Arbeitsplatz ist nach Art. 5 Abs. 1 Buchst. f verboten, außer aus medizinischen Gründen oder Sicherheitsgründen. | Emotionsanalyse beenden, soweit keine Ausnahme greift, und für Auswahlsysteme die Pflichten ab 2. Dezember 2027 vorbereiten. |
Kommission, Bericht vom 20. Mai 2026, COM(2026) 234 final, Rn. 34 bis 36, 43, 46
Art. 5 Abs. 1 Buchst. a, b, ba, f, Abs. 1a, Art. 50 Abs. 1, Anhang III Nr. 3, 4, 5 KI-VO
Fazit
Anbieter von KI-Systemen werden in den kommenden Jahren zunehmend verpflichtet sein, die Vorgaben der KI-Verordnung einzuhalten. Unionsbürgerinnen und Unionsbürger sind den Risiken des Einsatzes künstlicher Intelligenz damit nicht schutzlos ausgeliefert. Die Stärkung dieses Bewusstseins wird auch in den kommenden Jahrzehnten von zentraler Bedeutung sein.
Was aus dem Bericht nicht folgt
- Keine Entwarnung für nicht gelistete Anwendungen. Die Prüfung findet jährlich statt, die Kommission hat für mehrere Anwendungen eine weitere Überwachung angekündigt (Rn. 61 bis 64).
- Keine Aussage zu KI in Produkten nach Anhang I und zu den Bereichen des Anhangs III (Rn. 5, 17).
- Kein Aufschub für geltende Pflichten. Die Verbote des Art. 5 gelten seit dem 2. Februar 2025, die Transparenzpflichten des Art. 50 seit dem 2. August 2026.
- Keine Freigabe nach anderem Recht. Art. 5 Abs. 8 KI-VO lässt Verbote unberührt, die sich aus anderen Rechtsvorschriften der Union ergeben (Rn. 12).
- Keine bindende Auslegung. Der Bericht gibt die Bewertung der Kommission wieder, über die Anwendung im Einzelfall entscheiden Marktüberwachungsbehörden und Gerichte.
Einschätzung von Jean Paul P. Bohne, LL.M., MM Aus Bericht und Verordnung ergeben sich für Anbieter und Betreiber fünf Schritte. Sie ersetzen keine Prüfung im Einzelfall.
- KI-Anwendungen erfassen. Jedes System mit Zweckbestimmung, Anbieter, Einsatzbereich und betroffenen Personen in einer Liste führen. Die Einstufung als Hochrisiko-KI richtet sich nach der Zweckbestimmung, bei den Verboten zählen auch konkrete Verwendung und Funktionsweise.
- Verbote prüfen. Jede Anwendung gegen Art. 5 Abs. 1 KI-VO prüfen. Anbieter von Bild-, Video- und Stimmgeneratoren beziehen die Buchstaben ba und bb bis zum 2. Dezember 2026 ein.
- Einstufung dokumentieren. Für jede Anwendung festhalten, ob sie unter Art. 6 Abs. 1 oder unter Anhang III fällt. Die Ausnahme des Art. 6 Abs. 3 verlangt eine der vier dort genannten Bedingungen und scheidet bei Profiling aus. Anbieter, die sich darauf stützen, dokumentieren das nach Art. 6 Abs. 4 vor dem Inverkehrbringen.
- Transparenz herstellen. Die jeweils einschlägige Pflicht des Art. 50 KI-VO umsetzen: Hinweis auf die KI-Interaktion bei Chatbots, maschinenlesbare Markierung synthetischer Inhalte, Information der Betroffenen bei Emotionserkennung, Offenlegung von Deepfakes. Verpflichtete und Ausnahmen unterscheiden sich je Absatz. Die Pflichten gelten seit dem 2. August 2026, für die maschinenlesbare Markierung älterer Systeme endet die Übergangsfrist am 2. Dezember 2026.
- Beobachtungsliste führen. Anwendungen aus den Bereichen dieses Beitrags vormerken und bei jedem Jahresbericht sowie bei Erlass der Leitlinien erneut prüfen.
Art. 5, Art. 6 Abs. 3 und 4, Art. 50 KI-VO
Eine erste Einordnung Ihrer Anwendung liefert unser AI-Act-Check für KI-Anwendungen.
Häufige Fragen zum Bericht nach Art. 112 KI-VO
Zehn Fragen aus der Beratung. Jede Antwort beruht auf einem Abschnitt dieses Beitrags.
Was ist der Bericht nach Art. 112 Abs. 1 der KI-Verordnung?
Die Europäische Kommission prüft einmal jährlich, ob die Liste der Hochrisiko-KI-Systeme in Anhang III und die Liste der verbotenen Praktiken in Art. 5 der KI-Verordnung geändert werden müssen. Das Ergebnis übermittelt sie dem Europäischen Parlament und dem Rat. Der erste Bericht stammt vom 20. Mai 2026 und führt das Aktenzeichen COM(2026) 234 final.
Hat die Kommission neue Hochrisiko-KI-Systeme vorgeschlagen?
Nein. Der Bericht schlägt keine Änderung des Anhangs III vor. Die meisten Mitgliedstaaten hielten Änderungen für verfrüht, weil die Hochrisiko-Pflichten noch nicht gelten und die Leitlinien zur Einstufung ausstanden. Für mehrere Anwendungen hat die Kommission aber eine weitere Überwachung angekündigt, darunter KI-Chatbots zur psychischen Unterstützung und KI im Forderungseinzug.
Welche KI-Praktiken sind seit dem Bericht neu verboten?
Die Verordnung (EU) 2026/1744 hat Art. 5 der KI-Verordnung um zwei Verbote ergänzt. Erfasst sind KI-Systeme, die realistische intime Darstellungen bestimmbarer Personen ohne deren ausdrückliche Zustimmung erzeugen oder manipulieren, und KI-Systeme, die Missbrauchsdarstellungen von Kindern erzeugen oder manipulieren. Beide Verbote gelten ab dem 2. Dezember 2026. Für Anbieter greifen sie nur unter den Voraussetzungen des Art. 5 Abs. 1a und 1b, die bloße technische Möglichkeit genügt nicht.
Ab wann gelten die Pflichten für Hochrisiko-KI?
Für eigenständige Hochrisiko-KI-Systeme nach Art. 6 Abs. 2 und Anhang III gelten die Pflichten ab dem 2. Dezember 2027. Für KI-Systeme in Produkten nach Art. 6 Abs. 1 und Anhang I gelten sie ab dem 2. August 2028. Das folgt aus Art. 113 der KI-Verordnung in der Fassung der Verordnung (EU) 2026/1744. Für Systeme, die schon vorher in Verkehr waren, gelten die Pflichten nach Art. 111 Abs. 2 nur bei erheblicher Änderung der Konzeption, mit Sonderfristen für Behördensysteme und IT-Großsysteme.
Sind KI-Chatbots zur psychischen Unterstützung Hochrisiko-KI?
Nach dem Bericht in der Regel nicht. Die meisten dieser Chatbots ließen sich keinem Anwendungsfall des Anhangs III zuordnen. Anders ist es, wenn der Chatbot Emotionen anhand biometrischer Daten wie Stimme oder Mimik erkennt, dann greift grundsätzlich Anhang III Nr. 1 Buchst. c. Wird er mit einem medizinischen Zweck vermarktet, kann er zusätzlich Medizinprodukt und dann Hochrisiko-KI nach Art. 6 Abs. 1 sein. Die schädlichsten Systeme können unter die Verbote des Art. 5 Abs. 1 Buchst. a und b fallen.
Sind Dark Patterns nach der KI-Verordnung verboten?
In ihren schädlichsten Formen, wenn alle Voraussetzungen des Art. 5 Abs. 1 Buchst. a oder b vorliegen. Nach Einschätzung der Kommission erfassen diese Verbote der Manipulation und der Ausnutzung von Schutzbedürftigkeit die schädlichsten Fälle. Daneben gelten je nach Anwendungsbereich die Richtlinie über unlautere Geschäftspraktiken und das Gesetz über digitale Dienste, unabhängig davon, ob KI eingesetzt wird. Eine Erweiterung des Art. 5 hat die Kommission nicht vorgeschlagen, sie beobachtet die Entwicklung.
Ist KI im Forderungseinzug Hochrisiko-KI?
Das ist offen. Einige Interessenträger haben die Einstufung vorgeschlagen, weil Anbieter von Energie, Telekommunikation und Finanzdienstleistungen solche Systeme zunehmend nutzen. Die Kommission hält es für möglich, dass sie unter die Bereiche des Anhangs III Nr. 5 oder Nr. 8 fallen, und überwacht Einsatz und Schäden weiter. Eine Entscheidung hat sie nicht getroffen.
Wie kann die Liste der Hochrisiko-KI geändert werden?
Anhang III kann die Kommission durch delegierten Rechtsakt nach Art. 7 der KI-Verordnung ändern. Ein neuer Anwendungsfall muss in einem der acht Bereiche des Anhangs III liegen und ein Risiko bergen, das dem der gelisteten Systeme gleicht oder es übersteigt. Parlament und Rat können Einwände erheben. Die Verbotsliste des Art. 5 lässt sich dagegen nur im Gesetzgebungsverfahren ändern.
Wann kommt der nächste Bericht?
Die Prüfung findet einmal jährlich statt, solange die Kommission zum Erlass delegierter Rechtsakte ermächtigt ist. Nach dem ersten Bericht steht die nächste Bewertung im Jahr 2026 an, die Ergebnisse will die Kommission veröffentlichen (Rn. 63). Einen Termin nennt sie nicht. Ein zweiter Bericht ist bis zum 19. November 2026 nicht bekannt. Über die Bereiche des Anhangs III berichtet die Kommission gesondert bis zum 2. August 2028.
Wer überwacht die KI-Verordnung in Deutschland?
Seit dem 29. Juli 2026 die Bundesnetzagentur als Marktüberwachungsbehörde, zentrale Anlaufstelle und Beschwerdestelle (§§ 2, 6, 8 KI-MIG). Für Produkte nach Anhang I Abschnitt A bleiben die bisherigen Marktüberwachungsbehörden zuständig, für beaufsichtigte Finanzunternehmen die Bundesanstalt für Finanzdienstleistungsaufsicht, für Mediendienste die nach Landesrecht zuständige Behörde. Allein das Büro für Künstliche Intelligenz der Kommission überwacht mit Ausnahmen KI-Systeme, die auf einem eigenen KI-Modell mit allgemeinem Verwendungszweck des Anbieters beruhen, und KI in sehr großen Online-Plattformen (Art. 75 Abs. 1 KI-VO).
Begriffe
- Anbieter
- Person oder Stelle, die ein KI-System entwickelt oder entwickeln lässt und es unter eigenem Namen oder eigener Handelsmarke in Verkehr bringt oder in Betrieb nimmt, Art. 3 Nr. 3 KI-VO. Bei Sicherheitsbauteilen von Produkten nach Anhang I Abschnitt A gilt der Produkthersteller als Anbieter, Art. 25 Abs. 3 KI-VO.
- Betreiber
- Person oder Stelle, die ein KI-System in eigener Verantwortung verwendet, außer im Rahmen einer persönlichen und nicht beruflichen Tätigkeit, Art. 3 Nr. 4 KI-VO.
- Hochrisiko-KI-System
- KI-System, das Sicherheitsbauteil eines Produkts nach Anhang I oder selbst ein solches Produkt ist und einer Konformitätsbewertung durch Dritte unterliegt, oder das in Anhang III genannt ist, Art. 6 Abs. 1 und 2 KI-VO.
- Verbotene Praktik
- Einsatz von KI, den Art. 5 Abs. 1 KI-VO untersagt, etwa manipulative Techniken, Ausnutzung von Schutzbedürftigkeit, soziale Bewertung oder Emotionserkennung am Arbeitsplatz. Seit der Verordnung (EU) 2026/1744 umfasst die Liste zehn Buchstaben.
- Anhang III
- Liste der eigenständigen Hochrisiko-KI in acht Bereichen, von Biometrie über Bildung und Beschäftigung bis zu Rechtspflege und demokratischen Prozessen. Die Kommission kann Anwendungsfälle durch delegierten Rechtsakt hinzufügen, ändern oder streichen.
- Delegierter Rechtsakt
- Rechtsakt der Kommission, mit dem sie auf Grundlage einer Ermächtigung nicht wesentliche Teile einer Verordnung ändert, hier Anhang III nach Art. 7 und 97 KI-VO. Er tritt nur in Kraft, wenn Parlament und Rat keine Einwände erheben.
Quellen
- Europäische Kommission, Bericht an das Europäische Parlament und den Rat gemäß Artikel 112 Absatz 1 der Verordnung (EU) 2024/1689 über die Notwendigkeit, die Liste der verbotenen Praktiken im KI-Bereich und der in Anhang III aufgeführten Hochrisiko-KI-Systeme zu überprüfen, COM(2026) 234 final, Brüssel, 20. Mai 2026, Rn. 1 bis 65 mit Fußnoten 1 bis 39, eur-lex.europa.eu (öffnet in neuem Tab), abgerufen am 19.11.2026.
- Verordnung (EU) 2024/1689 des Europäischen Parlaments und des Rates vom 13. Juni 2024 zur Festlegung harmonisierter Vorschriften für künstliche Intelligenz (KI-Verordnung), ABl. L, 2024/1689, 12.7.2024, in der konsolidierten Fassung vom 27. Juli 2026, Art. 2, 3, 5, 6, 7, 25, 26, 50, 75, 97, 99, 111, 112, 113 und Anhänge I bis III, eur-lex.europa.eu (öffnet in neuem Tab), abgerufen am 19.11.2026.
- Verordnung (EU) 2026/1744 des Europäischen Parlaments und des Rates vom 8. Juli 2026 zur Änderung der Verordnungen (EU) 2024/1689, (EU) 2018/1139 und (EU) 2023/1230 im Hinblick auf die Vereinfachung der Umsetzung harmonisierter Vorschriften für künstliche Intelligenz (Digital-Omnibus-Verordnung zur KI), ABl. L, 2026/1744, 24.7.2026, Erwägungsgründe 10 bis 14, Art. 1 und Art. 4, in Kraft seit 27. Juli 2026, eur-lex.europa.eu (öffnet in neuem Tab), abgerufen am 19.11.2026.
- Europäische Kommission, Entwurf von Leitlinien für die Einstufung von Hochrisiko-KI-Systemen nach Art. 6 der KI-Verordnung, drei Teile (allgemeine Grundsätze, Anhang I, Anhang III), veröffentlicht am 19. Mai 2026, Konsultation bis 23. Juli 2026, Annahme der endgültigen Leitlinien bis Ende 2026 angekündigt, Entwurf (öffnet in neuem Tab) und Konsultation (öffnet in neuem Tab) auf digital-strategy.ec.europa.eu, abgerufen am 19.11.2026.
- Europäische Kommission, Bericht über die Überprüfung von Verboten und Hochrisiko-KI, Veröffentlichungsseite vom 22. Mai 2026, digital-strategy.ec.europa.eu (öffnet in neuem Tab), abgerufen am 19.11.2026.
- Gesetz zur Durchführung der Verordnung über künstliche Intelligenz vom 22. Juli 2026, BGBl. 2026 I Nr. 223 vom 28. Juli 2026, Art. 1: Gesetz zur Marktüberwachung und Innovationsförderung von künstlicher Intelligenz (KI-MIG), §§ 2, 6, 8, 15 bis 17, in Kraft seit 29. Juli 2026, recht.bund.de (öffnet in neuem Tab), dazu Bundesnetzagentur, Pressemitteilung vom 29. Juli 2026, Bundesnetzagentur übernimmt zentrale Rolle bei der Umsetzung der KI-Verordnung, bundesnetzagentur.de (öffnet in neuem Tab), abgerufen am 19.11.2026.
- Europäische Kommission, Leitlinien zu verbotenen Praktiken der künstlichen Intelligenz, Februar 2025, wiedergegeben nach dem Bericht vom 20. Mai 2026, Rn. 7 mit Fußnoten 3 und 5.
- OECD, AI Incidents and Hazards Monitor, und Massachusetts Institute of Technology, AI Risk Repository, Auswertung für den Zeitraum 1. Januar 2024 bis 31. Mai 2025, wiedergegeben nach dem Bericht vom 20. Mai 2026, Rn. 48 bis 54 mit Fußnoten 28 bis 34.
- Verordnung (EU) 2017/745 über Medizinprodukte, Richtlinie 2005/29/EG über unlautere Geschäftspraktiken, Verordnung (EU) 2022/2065 (Gesetz über digitale Dienste), Verordnung (EU) 2024/900 über die Transparenz und das Targeting politischer Werbung und Richtlinie 2011/93/EU, wiedergegeben nach dem Bericht vom 20. Mai 2026, Fußnoten 11, 19, 20, 26 und 38, und nach Art. 5 Abs. 1 Buchst. bb der KI-Verordnung. Art. 25 der Verordnung (EU) 2022/2065 nach ABl. L 277 vom 27.10.2022, S. 1.
Die Randnummern und Fußnoten des Berichts folgen der deutschen Fassung des Dokuments COM(2026) 234 final. Das längere Zitat zu den Desinformationskampagnen stimmt wörtlich mit Rn. 59 überein, die Fußnotenzeichen sind ausgelassen. Die Normkarten folgen der konsolidierten Fassung der KI-Verordnung vom 27. Juli 2026, Semikola am Ende von Buchstaben sind weggelassen, Auslassungen mit […] gekennzeichnet. Verbindlich ist die Fassung des Amtsblatts. Leitlinien, Datenbanken und weitere Rechtsakte sind so wiedergegeben, wie der Bericht sie anführt. Für die nächste Bewertung nennt der Bericht das Jahr 2026 (Rn. 63), die Veröffentlichungsseite der Kommission ordnet die Ergebnisse der Leitlinien-Konsultation der Überprüfung des Folgejahres zu. Ein Termin folgt daraus nicht. Endgültige Leitlinien zur Einstufung und ein zweiter Bericht nach Art. 112 Abs. 1 sind bis zum Rechtsstand nicht bekannt.
- KI-Verordnung (AI Act): Rollen, Risikoklassen und Pflichten
- Digital Omnibus zur KI: neue Fristen und neue Verbote
- Transparenzpflichten nach Art. 50 der KI-Verordnung
- KI-Compliance: Einstufung, Dokumentation und Schulung
- KI-Recht bei ITMR: Beratung zu KI-Verordnung und KI-Verträgen
- Glossar: Hochrisiko-KI kurz erklärt
Özkan Seven ist Wissenschaftlicher Mitarbeiter der ITMR Rechtsanwälte PartGmbB in Düsseldorf und Rechtsreferendar am Landgericht Essen. Seine Schwerpunkte bei ITMR liegen im IT-Recht, im Datenschutzrecht und im KI-Recht sowie im Urheberrecht und im E-Commerce. Die im Beitrag als solche gekennzeichneten Einschätzungen stammen von Jean Paul P. Bohne, LL.M., MM, Rechtsanwalt und Partner, Fachanwalt für IT-Recht und Fachanwalt für Urheber- und Medienrecht.
Zitiervorschlag: Seven, KI-Verordnung: Erster Bericht zu Verboten und Hochrisiko-KI, ITMR Rechtsanwälte, 19. November 2026, itmr-legal.de/blog/ki-verordnung-bericht-verbote-hochrisiko-ki.
Änderungsprotokoll
19. November 2026 · Erstveröffentlichung Erstfassung zum Bericht der Kommission vom 20. Mai 2026 nach Art. 112 Abs. 1 der KI-Verordnung, mit dem Rechtsstand nach der Verordnung (EU) 2026/1744.
Inhalt
- Auf einen Blick
- Was dieser Beitrag praktisch liefert
- Worum es geht und was gilt
- Was seit dem Bericht geschehen ist
- Begriffe
- Prüfungsmaßstab
- Methodik der Bewertung
- Meinungsverschiedenheiten
- Fristen und Stichtage
- Was der Bericht für Ihre Branche bedeutet
- Fazit
- Häufige Fragen zum Bericht nach Art. 112 KI-VO
- Begriffe
- Quellen
- Änderungsprotokoll
- Wie ITMR solche Fälle führt
Rechtsstand: . Der Beitrag gibt die Rechtslage zum genannten Datum wieder. Der Bericht der Kommission stammt vom 20. Mai 2026 und bindet weder Behörden noch Gerichte. Ob ein KI-System verboten oder hochriskant ist, hängt von Zweckbestimmung, konkreter Verwendung, Funktionsweise und den Voraussetzungen des jeweiligen Tatbestands ab. Die Verbote nach Art. 5 Abs. 1 Buchst. ba und bb KI-VO gelten ab dem 2. Dezember 2026.
Wie ITMR solche Fälle führt
Drei Ausgangslagen aus der Beratung zur KI-Verordnung und was in jeder von ihnen zuerst geschieht.
Wir erfassen mit Ihnen Zweckbestimmung und Einsatzbereich, prüfen Art. 6 und Anhang III und halten das Ergebnis so fest, dass es einer Nachfrage der Behörde standhält.
Geprüft werden die neuen Verbote, die Schutzvorkehrungen gegen Missbrauch und die Pflichten nach Art. 50. Nutzungsbedingungen und Meldewege passen wir an.
Wir prüfen Gestaltung und Werbeaussagen gegen die Verbote der Manipulation, das Lauterkeitsrecht und die Transparenzpflichten und regeln die Rollen mit Ihrem Anbieter vertraglich.
Erst die Zweckbestimmung, dann die Liste
Ob ein KI-System verboten oder hochriskant ist, hängt vor allem an Zweckbestimmung, konkreter Verwendung und Funktionsweise. Wer sie sauber beschreibt, kann jede Änderung der Listen in kurzer Zeit nachvollziehen.
Zum Leistungsumfang siehe AI Act umsetzen und KI-Compliance.