Haftung für KI-Systeme: Bedeutung und Definition

Definition: Verursacht ein KI-System einen Schaden, etwa durch eine falsche Empfehlung oder eine fehlerhafte automatische Steuerung, stellt sich die Frage, wer dafür einsteht: Hersteller, Anbieter, Betreiber oder Nutzer. Ein eigenes KI-Haftungsgesetz gibt es bislang nicht; es gelten die allgemeinen Regeln.

Vertraglich haftet, wer eine Pflicht schuldhaft verletzt (§ 280 BGB); Fehler eines eingesetzten KI-Systems werden dem Verwender dabei regelmäßig wie eigene zugerechnet. Deliktisch haftet, wer fahrlässig geschützte Rechtsgüter verletzt (§ 823 BGB). Die neue Produkthaftungsrichtlinie (RL (EU) 2024/2853) bezieht Software und KI-Systeme ausdrücklich in die verschuldensunabhängige Herstellerhaftung ein und erleichtert den Nachweis von Fehler und Ursächlichkeit. Die Pflichten der KI-Verordnung, etwa für Hochrisiko-Systeme (Art. 16, 26 KI-VO), können als Sorgfaltsmaßstab herangezogen werden. Den Entwurf einer gesonderten KI-Haftungsrichtlinie hat die EU-Kommission zurückgezogen.

Bedeutung für Sie

Die Haftung richtet sich nach Vertrag, Delikt und Produkthaftung. Klären Sie in Verträgen mit KI-Anbietern, wer für fehlerhafte Ergebnisse einsteht, und dokumentieren Sie, wie Sie KI-Ergebnisse vor der Verwendung prüfen.

Mehr dazu: Künstliche Intelligenz

Rechtsgrundlagen

• § 280 BGB Normtext § 280 BGB (amtlicher Text, öffnet neues Fenster) (öffnet in neuem Tab) 3 Urteile zu § 280 BGB
• § 823 BGB Normtext § 823 BGB (amtlicher Text, öffnet neues Fenster) (öffnet in neuem Tab) 29 Urteile zu § 823 BGB
• RL (EU) 2024/2853 Normtext RL (EU) 2024/2853 (amtlicher Text, öffnet neues Fenster) (öffnet in neuem Tab)
• Art. 26 KI-VO Normtext Art. 26 KI-VO (amtlicher Text, öffnet neues Fenster) (öffnet in neuem Tab)