Nach 36 Stunden Verhandlungen verständigten sich Vertreter des EU-Parlaments und EU-Ministerrats am Freitag, den 9. Dezember 2023 auf den „AI Act“, welcher den Umgang mit künstlicher Intelligenz regeln soll. Damit bildet der AI Act das erste KI-Gesetz der Welt und soll laut Roberta Metsola, der Präsidentin des Europäischen Parlaments, Nachahmer finden.
Das Gesetz wurde im April 2021 von der EU-Kommission vorgeschlagen.
Es soll eine transparente und verantwortliche Entwicklung und Anwendung von KI in der EU sicherstellen. Hierbei soll die Sicherheit, sowie die Grundrechte von natürlichen und juristischen Personen geschützt werden.
KI-Modelle sollen in verschiedene Risikogruppen eingeteilt werden. Diese sind unterteilt in 1. Verboten, 2. Hochrisiko, 3. Eingeschränktes Risiko und 4. Minimales Risiko. Dies hängt von dem Bereich ab, in welchem die KI operiert und wie das KI-System funktioniert bzw. die Rechenleistung, die zum Training dieser genutzt wurde. Als risikoreiche Anwendung zählt KI, die in kritischer Infrastruktur agiert, wie beispielsweise dem Gesundheitswesen.
Sogenannte „Hochrisiko KI-Systeme“ sollen klaren Verpflichtungen folgen, die Missbrauch verhindern und Sicherheitsrisiken minimieren. Darunter fallen Modelle, die mit großen Datenmengen trainiert worden sind, höhere Leistung erbringen und systemische Risiken bringen.
Damit soll ein Kompromiss gefunden werden, Entwickler großer KI-Modelle Verpflichtungen aufzuerlegen und kleine Start-Ups nicht zu behindern. Je höher die Einstufung in das Risikosystem, desto strikter sind die Vorgaben, an die sich die Entwickler halten müssen.
Entwickler müssen nun „technische Dokumentationen“ erstellen, wodurch Informationen über Trainings- und Testverfahren gegeben wird.
Texte, Bilder und Töne, die durch KI entstanden sind, sollen als solche kenntlich gemacht werden und mit einem Watermark versehen werden.
KI zur Gesichtserkennung im öffentlichen Raum soll nur gegen konkrete Verdächtige im Zusammenhang mit schweren Straftaten erlaubt sein. Dazu zählen Straftaten, auf die eine Mindeststrafe von drei Jahren Freiheitsstrafe besteht. Auch ist dies nur nach richterlicher Genehmigung zulässig. Entgegen Frankreichs Forderung KI-Gesichtserkennung zur Sicherheitsgewährleistung der Olympischen Spiele 2024 zu nutzen, darf die KI-Gesichtserkennung kaum präventiv eingesetzt werden. Dies ist nur unter höheren Anforderungen zur Verhinderung konkreter gegenwärtiger terroristischer Bedrohung und Lokalisierung und Identifizierung einer verdächtigen Person zulässig oder zum Auffinden der Opfer von Menschenhandel.
KI-Unternehmer sollen eine detaillierte Zusammenfassung der Inhalte bereitstellen, die sie für das Trainieren ihrer Modelle benutzen. Damit tritt die EU der Gefahr entgegen, dass urheberrechtlich geschützte Werke von Künstlern zum Training der KI-Modelle benutzt werden, obwohl diese dem nicht zugestimmt haben.
Die Einhaltung des EU-Urheberrechts soll hierdurch kontrolliert werden können.
Gänzlich verboten ist zukünftig die Erstellung von Gesichtsdatenbanken durch ungezieltes Auslesen von Fotos aus dem Internet, Social- Scoring-Systeme, kognitive Verhaltensmanipulation und Erstellung biometrischer Kategorisierungssysteme, die auf sensiblen Daten wie politischer Überzeugung basieren.
Damit sind nicht nur Anbieter von KI-Systemen vom AI Act betroffen, sondern auch Nutzer der KI-Systeme, so auch Privatpersonen.
Zur Regulierung wird eine KI-Behörde innerhalb der Kommission eingerichtet mit Unterabteilungen in den einzelnen Mitgliedsstaaten. Im Europäischen Ausschuss kommen Vertreter der nationalen Behörden, die für die Überwachung der KI-Systeme verantwortlich sind, zusammen, um eine einheitliche Anwendung der Rechtsvorschriften zu garantieren.
Bürger sollen Beschwerden einreichen können und Auskunft über die Entscheidungen erhalten.
Bei Verstoß gegen die in der Verordnung festgelegten Pflichten, werden Bußgelder verhängt, welche je nach Art, Schwere und Dauer variieren.
Nun müssen das Europaparlament und die Mitgliedsstaaten dem Vorhaben noch zustimmen.
"AI / KI Act der EU - Gesetz über künstliche Intelligenz"