Die KI-Verordnung reguliert die Herstellung und den Einsatz von KI. Sie ist das erste Gesetz weltweit, das sich mit KI beschäftigt. Die KI-Verordnung wurde über Jahre diskutiert und immer wieder verändert. Kritiker der Verordnung sagen, dass die europäische Wirtschaft massive wirtschaftlichen Nachteile durch eine Überregulierung erleide.

Ziel ist es Grundrechte, Demokratie, Rechtsstaatlichkeit und ökologische Nachhaltigkeit vor KIs mit hohem Risiko zu schützen.

In der KI-Verordnung  werden Pflichten für die Entwicklung und die Anwendung von KI definiert und nach Risiko eingestuft (unannehmbare Risiken, erhöhte Risiken, begrenztes Risiko, geringste Risken).

Je nach Verstoß und Größe des Unternehmens sind Bußgelder in Millionenhöhe möglich.

Beispiele:

• Nutzer, die ChatGPT privat einsetzen --> nein
• Arbeitgeber, die offenes ChatGPT für Mitarbeiter zulassen --> nein, evtl. wird es dazu aber später Verhaltenskodizies geben
• Arbeitgeber, die eine KI intern einbinden --> prüfen, die Anwendung in eine der 4 Risikoklassen fällt

Zusammenfassung der wichtigsten Inhalte der Verordnung und Link auf einen „Compliance-Checker“

• Zusammenfassung der Europäischen Kommission

• Wissenswertes für Händler

Mögliche Rechtsgrundlagen:

• § 823 BGB
• KI-Verordnung
• KI-Haftungsrichtlinie
• Produkt-Sicherheitsverordnung
• Produkt-Haftungsrichtlinie

• 823 BGB - Schadensersatzpflicht

(1)Wer vorsätzlich oder fahrlässig das Leben, den Körper, die Gesundheit, die Freiheit, das Eigentum oder ein sonstiges Recht eines anderen widerrechtlich verletzt, ist dem anderen zum Ersatz des daraus entstehenden Schadens verpflichtet.

Voraussetzung für einen Anspruch aus § 823 BGB

1. Rechts(guts)verletzung

2. Verletzerverhalten

3. Haftungsbegründende Kausalität

4. Rechtswidrigkeit

5. Verschulden

Problem beim Einsatz von KI ist v.a. 3. und 5. Alle  Voraussetzungen sind vom Anspruchsteller im Zivilprozess nachzuweisen.

Zivilrechtlicher Schadenersatz aus der KI-Verordnung:

Die KI-verordnung enthält keine gesonderten Schadenersatznormen. Ein Verstoß gegen ein Regulierungsgesetz kann aber zu Beweiserleichterungen im Schadenersatzprozess nach § 823 BGB führen (à siehe dort)

Zudem enthält Art. 4 der KI-VO eine eigene Beweiserleichterung:  

Was geht vor: Werbeaussagen oder Regelungen in den AGB?

Beispiel:

Es wird mit Einsatzbeispielen geworben, die es erforderlich machen würden, dass korrekter Output seitens der KI-Anwendung erfolgt.

In den Terms of Use (Nutzungsbedingungen) ist unter „Content“ und „Accuracy“ jedoch festgehalten, dass Outputs in manchen Fällen falsch sind.

Was geht dann hier vor?

Die Mängelrechte nach z.B. §§ 434 BGB – oder die Einschränkung der Leistung in den AGB?

Ein Sachmangel kann vorliegen, wenn die Voraussetzungen nach dem Bürgerliches Gesetzbuch (BGB) - § 434 Sachmangel betroffen sind. 

• Wird bei KI-Services ein mangelhafter Output ausgeliefert, kann das für den Hersteller von KI-Systemen zur Mängelhaftung führen. Entscheidend ist die Produktbeschreibung bzw. die Abweichung davon.
• Bejaht man einen Sachmangel, kann der Käufer/Mieter seine Mängelrechte geltend machen (bei Kauf: Nachbesserung, Nachlieferung, Minderung, Rücktritt, Schadensersatz; bei Miete v.a. Minderung und Schadensersatz)
• In AGB können keine inhaltlichen Einschränkungen der Sache, die man verkauft, vorgenommen werden, vgl. § 305 ff. BGB, v.a. aber § 308 Ziff. 4 BGB
  
  Fazit:
• In AGB darf keine Leistungseinschränkung vorgenommen werden. Werbeaussagen gehen also vor und eine Abweichung davon kann einen Sachmangel begründen.

Artikel 4 - Widerlegbare Vermutung eines ursächlichen Zusammenhangs im Fall eines Verschuldens

(1)Vorbehaltlich der in diesem Artikel festgelegten Anforderungen vermuten die nationalen Gerichte für die Zwecke der Anwendung der Haftungsvorschriften auf einen Schadensersatzanspruch einen ursächlichen Zusammenhang zwischen dem Verschulden des Beklagten und dem vom KI-System hervorgebrachten Ergebnis oder aber der Tatsache, dass das KI-System kein Ergebnis hervorgebracht hat, wenn alle folgenden Bedingungen erfüllt sind:

a)Der Kläger hat nachgewiesen oder das Gericht vermutet gemäß Artikel 3 Absatz 5, dass ein Verschulden seitens des Beklagten oder einer Person, für deren Verhalten der Beklagte verantwortlich ist, vorliegt, da gegen eine im Unionsrecht oder im nationalen Recht festgelegte Sorgfaltspflicht, deren unmittelbarer Zweck darin besteht, den eingetretenen Schaden zu verhindern, verstoßen wurde;

b)es kann auf der Grundlage der Umstände des Falls nach vernünftigem Ermessen davon ausgegangen werden, dass das Verschulden das vom KI-System hervorgebrachte Ergebnis oder die Tatsache, dass das KI-System kein Ergebnis hervorgebracht hat, beeinflusst hat;

c)der Kläger hat nachgewiesen, dass das vom KI-System hervorgebrachte Ergebnis oder aber die Tatsache, dass das KI-System kein Ergebnis hervorgebracht hat, zu dem Schaden geführt hat.

Schadenersatz aus der KI-Haftungsrichtlinie (Entwurf):

Alle nichtvertraglichen Schäden durch Systeme künstlicher Intelligenz sollen hier verschuldensabhängig erfasst werden.

• Offenlegungspflichten der Betreiber von KI-Systemen: Geschädigter kann Offenlegung relevanter Beweise fordern.
• Beweislastumkehr: unter bestimmten Voraussetzungen wird ein Kausalzusammenhang zwischen dem Verschulden des Beklagten und dem Schaden durch das KI-System (widerleglich) vermutet.

ProduktsicherheitsVO (Entwurf):

Hier soll der gesetzliche Rahmen für die Sicherheit von Non-Food-Produkten für Verbraucher aktualisiert werden und der Rechtsrahmen an die spezifischen Herausforderungen neuer Technologien und Geschäftsmodelle angepasst werden.

• Sehr breiter Anwendungsbereich, soll auch für Software und Hardware im Allgemeinen gelten
• Eigenes Gewährleistungsregime in Planung:

  “Without prejudice to other remedies that may be offered by the economic operator, it shall offer to the consumer the   choice between at least two of the following remedies: a) repair of the recalled product; b) replacement of the recalled   product with a safe one of the same type and at least the same value and quality; c) adequate refund of the value of the   recalled product, provided that the amount of the refund shall be at least equal to the price paid by the consumer.”

• Das Gesetz wäre wahrscheinlich ein Schutzgesetz nach § 823 Abs. 2 BGB, so dass hier die volle zivilrechtliche Haftung abgeleitet werden kann.

Produkthaftungsrichtlinie (--> ProdukthaftungsG)

24.1.2024: Europäischer Rat veröffentlicht nach Trilogverhandlungen ProdHaftRL 2024 (ersetzt ProdHaftRL 1985); tritt voraussichtlich noch 2024 in Kraft.

Ziel: Anpassung der alten Richtlinie an das digitale Zeitalter.

• Künftig soll neben Software auch KI in den Anwendungsbereich des Produkthaftungsgesetzes fallen
• Somit haften Hersteller von Software und KI verschuldensunabhängig für deren Fehler.
• Auch Fulfillment-Dienstleister und Online Plattformen haften für fehlerhafte Produkte.
• Zudem müssen Hersteller dafür sorgen, dass relevante Sicherheitsupdates vorliegen.

Ergebnis:

Über die Beweiserleichterungen in den KI-Normen und die verschuldensunabhängige Haftung der Produkt-Haftungsrichtlinie werden vor allem den Herstellern von KI erhebliche Haftungsrisiken auferlegt. Sollte die ProduktsicherheitsVO in der vorliegenden Fassung kommen, gäbe es eine umfassende zivilrechtliche Haftung, einschließlich eines Gewährleistungsregimes für Softwareprodukte.

Stand: April 2024