KI-Verordnung (AI Act): Was Sie wissen müssen

Was ist wichtig?

Am 21. Mai 2024 haben die 27 EU-Mitgliedsstaaten das erste KI-Gesetz weltweit erlassen, in welchem der Einsatz künstlicher Intelligenz in der Europäischen Union geregelt wird. Diese neuen Regelungen stellen eine Wende im technologischen Sektor dar, indem sie einerseits Innovation und Wettbewerbsfähigkeit innerhalb der EU fördern und gleichzeitig die Grundrechte von Bürgern vor Missbrauch durch Hochrisiko-KI-Systeme schützen.

Was ist Künstliche Intelligenz (KI)?

Eine künstliche Intelligenz ist ein programmiertes System, welches in der Lage ist, menschenähnliches Verhalten, sowie Denkmuster zu kopieren und nachzuahmen. Dadurch ist es möglich, dass Aufgaben, welche normalerweise von Menschen erledigt werden müssen von KI-Systemen übernommen werden. Eine KI ist so beispielsweise in der Lage ihre Umwelt und damit verbundene Probleme wahrzunehmen und eine Lösung vorzuschlagen, sowie ihre alten Handlungen zu analysieren und anzupassen.

Was sind Hochrisiko-Systeme?

Durch die stetige Weiterentwicklung von KI-Systemen und ihre Einbindung in unseren Arbeitsalltag sind sogenannte Hochrisiko-Systeme entstanden. Dies bezeichnet KI-Programme, welche in sensiblen Bereichen genutzt werden und so eine Gefahr für die Umwelt, Sicherheit und Demokratie unseres Rechtsstaats darstellen können. Dazu zählen gemäß Anhang III der EU KI-Verordnung unter anderem KI-Systeme, welche „biometrische Daten nutzen, als Sicherheitskomponenten bei der Verwaltung und dem Betrieb kritischer digitaler Infrastrukturen, im Straßenverkehr oder bei der Wasser-, Gas-Wärme- oder Stromversorgung eingesetzt werden sollen, im Bereich der allgemeinen und beruflichen Bildung eingesetzt werden, sowie KI-Systeme, die dazu bestimmt sind, von oder im Namen von Strafverfolgungsbehörden oder von Organen, Einrichtungen, Ämtern oder Agenturen der Union zur Unterstützung von Strafverfolgungsbehörden oder in deren Namen verwendet zu werden, um das Risiko zu bewerten, dass eine natürliche Person Opfer einer Straftat wird.“

Um diese sensiblen Daten zu schützen, legt die KI-Verordnung der EU bestimmte Regeln fest.

Zunächst müssen Nutzer von KI-Systemen über ein Qualitätsmanagementsystem verfügen, welches eine Strategie für die Einhaltung der Vorschriften vorweist. Außerdem muss ein Risikomanagementsystem eingeführt werden, welches die „Ermittlung und Analyse der bekannten und der vernünftigerweise vorhersehbaren Risiken, die das AI-System mit hohem Risiko für die Gesundheit, die Sicherheit oder die Grundrechte darstellen kann“ (Artikel 9 EU AI-Act).

Ein weiterer, zu beachtender Aspekt, der in Artikel 9 der EU KI-Verordnung dargestellt wird ist die „Abschätzung und Bewertung der Risiken, die entstehen können, wenn das Hochrisiko-KI-System bestimmungsgemäß und unter den Bedingungen einer vernünftigerweise vorhersehbaren Fehlanwendung eingesetzt wird“ (Art. 9 EU KI-Verordnung).

Zusätzlich dazu müssen Hochrisiko-Systeme regelmäßig überwacht und bewertet werden, damit sichergestellt werden kann, dass sie weiterhin den gesetzlichen Anforderungen entsprechen.

Verbotene Anwendungen und Strafen bei Nichteinhaltung

Neben den ungefährlichen Anwendungen und den Hochrisiko-Systemen weist der AI-Act auch auf KI-Anwendungen hin, die komplett verboten sind. Dazu zählen die Programme, welche als unvereinbar mit den Grundwerten und Rechten der Europäischen Union eingestuft werden und eine Gefahr für die Sicherheit und Demokratie in einem Land darstellen.

Darunter versteht man beispielsweise den Gebrauch von sozialen Punkte Systemen durch öffentliche Behörden, bei welchen die Bürger aufgrund ihres Sozialverhaltens und persönlicher Eigenschaften bewertet werden, sowie jegliche Art von manipulativer KI, die „unterschwellige Techniken [nutzt], die sich dem Bewusstsein einer Person entziehen, oder absichtlich manipulative oder täuschende Techniken einsetzt, mit dem Ziel oder der Wirkung, das Verhalten einer Person oder einer Personengruppe dadurch wesentlich zu beeinflussen“ (Art. 5 EU KI-Verordnung).

Der Gebrauch von Biometrischer Echtzeit-Fernüberwachung im öffentlichen Raum ist gem. Artikel 5 EU KI-Verordnung strengstens untersagt und nur unter bestimmten Bedingungen zulässig, wie beispielsweise zur gezielte Suche nach bestimmten Opfern von Entführung, Menschenhandel oder sexueller Ausbeutung von Menschen sowie die Suche nach vermissten Personen.

Um sicherzustellen, dass die Bestimmungen der KI-Verordnung eingehalten werden und die Nutzer die gesetzlichen Vorgaben ernst nehmen, gibt es bei Verstößen gegen das Gesetz erhebliche Strafen in Form von Geldbußen.

Unternehmen, die gegen die Vorschriften verstoßen, können mit Bußgeldern von bis zu 3 % ihres weltweiten Gesamtjahresumsatzes im vorangegangenen Geschäftsjahr oder 15 000 000 EUR verhängen, je nachdem, welcher Betrag höher ist, wenn die Kommission feststellt, dass der Anbieter vorsätzlich oder fahrlässig gehandelt hat.

Transparenzförderungsmaßnahmen und Verpflichtungen

Um die Transparenz von KI-Systemen zu fördern, schreibt die KI-Verordnung verschiedene Maßnahmen vor, welche versichern, dass Nutzer von KI darüber informiert werden, dass sie mit einem KI System interagieren. Außerdem müssen die Anbieter von KI-Systemen, die synthetische Audio-, Bild-, Video- oder Textinhalte erzeugen, sicherstellen, dass die Ausgaben des KI-Systems in einem maschinenlesbaren Format gekennzeichnet sind und als künstlich erzeugt oder manipuliert erkannt werden können.

Eine Ausnahme von diesen Vorgaben ist dann gegeben, wenn die Verwendung der KI zur Aufdeckung, Verhütung, Ermittlung oder Verfolgung von Straftaten gesetzlich zugelassen ist.

Maßnahmen zur Förderung von Innovation

Die KI-Verordnung enthält auch Maßnahmen zur Förderung von Innovation und Wettbewerbsfähigkeit, sowie zur Erleichterung der Entwicklung von KI-Systemen, sowie der Beschleunigung des Zugangs zum Unionsmarkt für KI-Systeme.

So genannte „KI-sandboxes“ (Regulierungssandkästen) ermöglichen es Unternehmen, KI-Technologien in einem kontrollierten Umfeld zu testen und weiterzuentwickeln, ohne sofort strengen regulatorischen Anforderungen zu unterliegen. Diese Testräume werden bei Bedarf von der Kommission durch „technische Unterstützung, Beratung und Instrumente für die Einrichtung und den Betrieb von KI-Sandkästen“ unterstützt (Artikel 57 EU KI-Verordnung).

Diese Regulierungssandkästen verfolgen unter anderem die Ziele, die Rechtssicherheit in den Mitgliedsstaaten zu verbessern, den Austausch bewährter Verfahren durch Zusammenarbeit mit den an der KI-Sandbox beteiligten Behörden zu unterstützen und einen Beitrag zum faktengestützten Lernen zu leisten.

Die KI-Verordnung der Europäischen Union ist ein bedeutender Schritt zur Schaffung eines sicheren und vertrauenswürdigen Rahmens für die Nutzung von KI-Technologien. Durch diese klaren Vorschriften und strengen Verpflichtungen für Hochrisiko-Systeme, sowie die Förderung von Transparenz und Maßnahmen zur Unterstützung von Innovation stellt die Verordnung sicher, dass die Entwicklung und Nutzung von KI sowohl sicher als auch zukunftsorientiert erfolgt.