Haftung von Unternehmen bei Nutzung von Künstlicher Intelligenz (KI)

Vereinfacht erklärt funktioniert KI wie folgt. Zunächst wird die KI mit einer Unmenge von Daten gefüttert. Aus diesen Daten lernt oder besser trainiert die KI anhand bestimmter Algorithmen bei welcher Ursache welche Auswirkung sich am wahrscheinlichsten ereignen wird. Bei einer entsprechenden Anfrage wird dann die wahrscheinlichste Auswirkung, welche sich aus den bisher angelernten Daten ergibt, als Ergebnis präsentiert. Die KI weiß also nicht, was richtig oder falsch ist. Sie arbeitet allein mit Wahrscheinlichkeiten auf Grundlage der bei ihr bestehenden Informationslage. Diese Vorhersagen verbessern sich daher mit zunehmendem Training der KI.

Schadensfälle durch KI sind in vielfacher Hinsicht möglich. Insbesondere bei ihrer Nutzung im Internet kann es zu Verstößen gegen das Urheberrecht oder gegen das allgemeine Persönlichkeitsrecht von Dritten durch falsche Tatsachenbehauptungen kommen.

Aber auch bei der internen Verwendung im Unternehmen können durch Fehlsteuerungen, welche durch die KI ausgelöst werden unterschiedlichste Schäden entstehen. So können beispielsweise KI gesteuerte Roboter aufgrund von Fehlsteuerungen Schäden an Personen oder Material verursachen. Aber auch rein finanzielle Schäden durch KI-generierte Prognoseentscheidungen sind möglich.

So geschehen auch bei einem Finanzunternehmen, welches ein KI-Softwareprogramm zur automatisierten Erstellung von Finanzprognosen einsetzte, um auf dieser Grundlage Investitionsgeschäfte zu tätigen. Weil die KI jedoch fehlerhafte Finanzprognosen erstellte, erlitt das Unternehmen einen erheblichen finanziellen Schaden. Das Unternehmen nahm hierfür den Geschäftsführer in die Haftung. Das OLG Frankfurt hat im Juni 2024 hierzu eine wichtige Entscheidung im Hinblick auf die Fragen der Haftung getroffen.

Die Frage, wer für Fehler der KI haftet, richtet sich nach den allgemeinen Maßstäben des BGB. Demnach haftet zunächst der Verwender der KI. Das gilt auch dann, wenn die KI selbst automatisierte Entscheidungen trifft, welche zu einem Schadensfall führen. Denn die Verwender der KI haben eine Überprüfungs- und Überwachungspflicht. Man spricht auch von sogenannten „Verkehrssicherungspflichten“.

Das heißt konkret, wer KI einsetzt, der muss auch stetig davon ausgehen, dass diese Fehler macht. Deshalb ist eine stetige Überwachung notwendig. Der Geschäftsführer konnte sich in dem vom OLG Frankfurt entschiedenen Fall nicht mit dem Argument, dass die KI eigenständige Entscheidungen getroffen habe, von der Haftung befreien.

Diese Frage wird derzeit unter Juristen massiv diskutiert. Während die eine Seite eine Haftung nach dem Produkthaftungsgesetz ablehnen, weil KI-Software nicht als Produkt angesehen werden könne, geht die Gegenseite vom genauen Gegenteil aus und bejaht daher eine Haftung.

Eine Rechtsprechung zu dieser Frage besteht jedoch aktuell noch nicht.

Diese aktuell diskutierte Frage dürfte sich ohnehin in naher Zukunft erledigen, denn in der EU wird aktuell die Produkthaftungsrichtlinie überarbeitet. Im Rahmen dieser Überarbeitung wird nun Software und damit auch KI ausdrücklich als vom Produkthaftungsgesetz erfasst eingestuft. Sobald diese in Kraft ist, haften auch Hersteller von KI-Software für bestimmte vom Gesetz geregelte Schäden.

Unternehmen, die KI einsetzen sollten sich nicht blind auf diese Verlassen. Vielmehr sollten umgehend entsprechende Sicherungs- und Überprüfungsmechanismen implementiert werden, um Schadensfälle zu vermeiden oder zumindest zu minimieren. Insbesondere drei Maßnahmen sind hierzu akut angezeigt:

• Implementierung einer menschlichen Kontrollinstanz für Hochrisikofragen.
• Durchführung regelmäßiger Überprüfungen der KI sowie deren Protokollierung.
• Überarbeitung und Anpassung bestehender Verträge zur Frage der Haftung für Fehler der KI.