Schon sehr bald, nämlich ab dem 02.02.2025 gilt Artikel (Art.) 4 der KI-Verordnung (KI-VO), welcher Teil eines großen Gesamtpakets ist (hierzu mehr: https://www.itmr-legal.de/ki-verordnung/). Welche Pflichten treffen Sie nun, wie sind diese zu erfüllen und was erwartet Sie?
Die KI-VO trat am 01.08.2024 in Kraft, wird aber phasenweise umgesetzt und gilt in der EU unmittelbar. Art. 113 lit. a) KI-VO sieht vor, dass Art. 4 KI-VO im Rahmen des Kapitel I und II KI-VO ab dem 02.02.2025 gilt.
Art. 4 KI-VO gibt vor:
„Die Anbieter und Betreiber von KI‑Systemen ergreifen Maßnahmen, um nach besten Kräften sicherzustellen, dass ihr Personal und andere Personen, die in ihrem Auftrag mit dem Betrieb und der Nutzung von KI‑Systemen befasst sind, über ein ausreichendes Maß an KI‑Kompetenz verfügen, wobei ihre technischen Kenntnisse, ihre Erfahrung, ihre Ausbildung und Schulung und der Kontext, in dem die KI‑Systeme eingesetzt werden sollen, sowie die Personen oder Personengruppen, bei denen die KI‑Systeme eingesetzt werden sollen, zu berücksichtigen sind.“
Damit richtet sich das Gesetz an Anbieter und Betreiber von KI-Technologien, nicht an Angestellte oder Private. Dazu zählen neben Entwicklern und Vertreibern von KI-Systemen auch Arbeitgeber, die in ihrem Unternehmen fremdentwickelte KI-Systeme in eigener Verantwortung nutzen. Diese haben innerhalb einer Organisationspflicht dafür Sorge zu tragen, dass den Angestellten sog. KI-Kompetenz vermittelt wird. Diese Pflicht betrifft sowohl natürliche als auch juristische Personen, auch Behörden oder sonstige Stellen.
Der Begriff KI-Kompetenz ist in Art. 3 Nr. 56 KI-VO näher definiert, nach welchem
„die Fähigkeiten, die Kenntnisse und das Verständnis, die es Anbietern, Betreibern und Betroffenen unter Berücksichtigung ihrer jeweiligen Rechte und Pflichten im Rahmen dieser Verordnung ermöglichen, KI-Systeme sachkundig einzusetzen sowie sich der Chancen und Risiken von KI und möglicher Schäden, die sie verursachen kann, bewusst zu werden“.
Dies bezieht sich nach Art. 4 KI-VO auf den konkreten Kontext, in dem KI-Systeme eingesetzt werden und die Personen bzw. Personengruppen, die sie einsetzen bzw. deren Kenntnisstand. Es wird hierbei anders als in Art. 5 KI-VO nicht in Risikogruppen der KI-Systeme eingeteilt. Zu den Kompetenzanforderungen gehören neben technischem Wissen, ein Bewusstsein für Risiken und Chancen, sowie ein rechtliches und ethisches Verständnis der Beschäftigten.
Der Inhalt dieser Pflicht richtet sich nach den Ressourcen des Unternehmens und dessen technologischen Möglichkeiten.
Zu den Maßnahmen können interne Richtlinien und Standards zählen, welche den Mitarbeitern Orientierung bieten. Es ist wichtig, dass Arbeitnehmer wissen, was bei der KI-Nutzung zu beachten ist, um rechtliche Verstöße zu vermeiden.
Auch regelmäßige Fortbildungen und Schulungen, sowie Workshops sind naheliegend, um der stetigen Weiterentwicklung von KI-Systemen, deren Einsatz und deren folgender gesetzlichen Regulierung gerecht zu werden. Dabei können diese auch von Externen geführt werden, was den Vorteil einer Zertifizierung haben kann. Der Umfang der Schulungen kann an die Vorkenntnisse der einzelnen Mitarbeiter, als auch den Einsatz der KI innerhalb des Unternehmens gekoppelt sein.
Die Einbettung von KI-Compliance in bereits bestehende Compliance-Strukturen erscheint hierbei insgesamt vorteilhaft.
Wichtig zu wissen:
Art. 4 KI-VO sieht keine Strafen oder Bußgelder vor. Solche sind auch nicht anderweitig in Art. 99 ff. KI-VO geregelt. Jedoch kann Art. 4 KI-VO in Haftungsprozessen eine Rolle spielen. Ein Unterlassen einer gebotenen Maßnahme könnte etwa als Sorgfaltspflichtverletzung gewertet werden.
In arbeitsrechtlicher Hinsicht könnten Arbeitnehmer Ansprüche auf Schulungsmaßnahmen und Verschaffung von KI-Kompetenzen gegenüber ihrem Arbeitgeber haben.
Betroffene Unternehmen ist deshalb zu empfehlen, zu handeln und die Frage zu beantworten, wie die Umsetzung der VO in ihrem Unternehmen konkret aussehen sollte, um einen verantwortungsvollen Umgang mit KI sicherzustellen und nunmehr phasenweise geltenden Vorgaben der KI-VO nachzukommen.
"KI-Verordnung (AI Act): Es wird ernst - welche Pflichten treffen Unternehmer?"