Begriffsdefinition des KI-Systems (12. Erwägungsgrund)

Da jede juristische wissenschaftliche Untersuchung zunächst voraussetzt, dass der Untersuchungsgegenstand definiert ist, wird zunächst der Erwägungsgrund vorgestellt, in denen der Begriff des KI-Systems definiert ist. Auf die weiteren Begriffsbestimmungen und die entsprechenden Erwägungsgründe wird auf dieser Projektseite später noch eingegangen werden. 

12. Erwägungsgrund – Begriff „KI-System“

Dass es einer klaren Definition des Begriffs „KI-System“ bedarf, wird im 12. Erwägungsgrund (https://ai-act-law.eu/de/erwg/12/) klargestellt. Klargestellt ist auch, dass sich KI-Systeme von herkömmlichen Softwaresystemen und Programmierungsansätzen abgrenzen und sich nicht auf Systeme beziehen sollte, die auf ausschließlich von natürlichen Personen definierten Regeln für das automatische Ausführen von Operationen beruhen. Ein wesentliches Merkmal, so der Erwägungsgrund, ist die Fähigkeit abzuleiten. Der Erwägungsgrund teilt hierzu mit:

„Diese Fähigkeit bezieht sich auf den Prozess der Erzeugung von Ausgaben, wie Vorhersagen, Inhalte, Empfehlungen oder Entscheidungen, die physische und digitale Umgebungen beeinflussen können, sowie auf die Fähigkeit von KI Systemen, Modelle oder Algorithmen oder beides aus Eingaben oder Daten abzuleiten. Zu den Techniken, die während der Gestaltung eines KI Systems das Ableiten ermöglichen, gehören Ansätze für maschinelles Lernen, wobei aus Daten gelernt wird, wie bestimmte Ziele erreicht werden können, sowie logik- und wissensgestützte Konzepte, wobei aus kodierten Informationen oder symbolischen Darstellungen der zu lösenden Aufgabe abgeleitet wird. Die Fähigkeit eines KI Systems, abzuleiten, geht über die einfache Datenverarbeitung hinaus, indem Lern-, Schlussfolgerungs- und Modellierungsprozesse ermöglicht werden. Die Bezeichnung „maschinenbasiert“ bezieht sich auf die Tatsache, dass KI Systeme von Maschinen betrieben werden. Durch die Bezugnahme auf explizite oder implizite Ziele wird betont, dass KI Systeme gemäß explizit festgelegten Zielen oder gemäß impliziten Zielen arbeiten können.“

Die von dem Erwägungsgrund genannte und beschriebene Fähigkeit abzuleiten, also das maschinelle Lernen, bedeutet, dass das System in der Lage ist, Muster und Korrelationen in großen Datensätzen zu finden, diese zu analysieren und so Vorhersagen zu treffen. Mit fortwährender Nutzung wird das System sich immer weiter verbessern und – auch mit der zunehmenden Verfügbarkeit von Daten – immer präziser (Wendt/Wendt, AI Act, § 2 S. 33). 

Hier ist bereits erkennbar, dass ein vollständig vorprogrammiertes System, welches eingegebene Daten nur noch eine implementierte Kalkulation durchlaufen lässt, nicht mit KI gemeint ist – vielmehr geht es um Systeme, dessen Programmierung nicht im Detail vorgegeben ist, sodass es die konkrete Handlungsstrategie noch erlernen muss (s.a. Kment/Borchert, KI und Algorithmen, Kapitel 2, Rn. 16). Eine Definition, die sich hieraus ergibt, lautet, dass es sich bei KI-Systemen um „lernfähige algorithmusbasierte Systeme mit der Fähigkeit zur intrinsischen Problemlösung durch selbstadaptive Schlussfolgerungen aus ihrer Datenbasis ohne detaillierte menschliche Vorgaben“ handelt (Kment/Borchert, a.a.O., Rn. 17; Creifelds Rechtswörterbuch, 24. Ed. 2020). Diese Definition fand sich bereits 2020 im Creifelds Rechtswörterbuch. Der 12. Erwägungsgrund kommt zu einem ähnlichen Ergebnis, heißt es dort weiter: 

„KI Systeme sind mit verschiedenen Graden der Autonomie ausgestattet, was bedeutet, dass sie bis zu einem gewissen Grad unabhängig von menschlichem Zutun agieren und in der Lage sind, ohne menschliches Eingreifen zu arbeiten. Die Anpassungsfähigkeit, die ein KI System nach Inbetriebnahme aufweisen könnte, bezieht sich auf seine Lernfähigkeit, durch sie es sich während seiner Verwendung verändern kann.“

Die diesbezügliche – teils auch ältere – Literatur und der 12. Erwägungsgrund stimmen also bei der Definition von KI-Systemen in zwei weiteren wesentlichen Punkten überein: 

• KI-Systeme im Sinne der Verordnung sind in unterschiedlichen Grad autonom
• KI-Systeme sind anpassungsfähig. 

Gefordert wird also ein maschinengestütztes System mit der Fähigkeit abzuleiten, das im gewissen Maße autonom und anpassungsfähig ist.

Wenig überraschend ist im Ergebnis die finale Begriffsbestimmung, die sich in Art. 3 Nr. 1 KI-VO findet:

Für die Zwecke dieser Verordnung bezeichnet der Ausdruck „KI System“ ein maschinengestütztes System, das für einen im unterschiedlichem Grade autonomen Betrieb ausgelegt ist und das nach seiner Betriebsaufnahme anpassungsfähig sein kann und das aus den erhaltenen Eingaben für explizite oder implizite Ziele ableitet, wie Ausgaben wie etwa Vorhersagen, Inhalte, Empfehlungen oder Entscheidungen erstellt werden, die physische oder virtuelle Umgebungen beeinflussen können.

In der Fachliteratur wird derzeit herausgearbeitet, wie extensiv oder einschränkend der Begriff KI-System zu verstehen ist. Keppeler/Thomas empfehlen jedenfalls zu einer weiten Auslegung in der beratenden Tätigkeit mit dem von Biallaß übernommenen Hinweis: „Wer sich unsicher ist, ob er es mit einem KI-System zu tun hat, hat es im Zweifel mit einem KI-System zu tun.“ (Keppeler, Lutz/Thomas, Georg, Definition von KI in der KI-VO, 320 (324)).

Literatur

Keppeler, Lutz/Thomas, Georg, Definition von KI in der KI-VO: Abgrenzung zu herkömmlicher Software in der Praxis. In: itrb IT-Rechtsberater, Heft 12/24, 24. Jahrgang, Seiten 320-324.

Kment, Martin/Borchert, Sophie, Künstliche Intelligenz und Algorithmen in der Rechtsanwendung, München, 2022 (zit. als. Kment/Borchert, KI und Algorithmen).

Wendt, Janine/Wendt, Domenik H., Das neue Recht der Künstlichen Intelligenz, Artificial Intelligence Act (AI Act), Baden-Baden, 2024 (zit. als Wendt/Wendt, AI Act)