Neues KI-Gesetz: Das müssen Arbeitgeber im Umgang mit künstlicher Intelligenz wissen

Der Einsatz von Künstlicher Intelligenz am Arbeitsplatz ist derzeit in vielen Betrieben ein heiß diskutiertes Thema. Neu hinzu kommt jetzt das am 13. April 2024 verabschiedete KI-Gesetz des Europäischen Parlaments (AI Act), das weitreichende Auswirkungen auf die Nutzung von solchen Systemen in Betrieben mit sich bringt. Doch was müssen Arbeitgeber infolge des KI-Gesetzes nun beachten? Welche Systeme sind verboten? Und welche Möglichkeiten haben Arbeitgeber, KI-Systeme in Betrieben einzusetzen? Wir beantworten Ihre Fragen in unserer Zusammenfassung.

Was will das neue KI-Gesetz?

Das Europaparlament hat sich auf schärfere Regeln beim Einsatz von Künstlicher Intelligenz verständigt. Der KI-Regelkatalog, der zuvor bereits den Rat passierte, soll den grundsätzlichen Rechtsrahmen vorgeben, um zusammen mit bereits bestehenden Gesetzen auf nationaler Ebene einen rechtssicheren Umgang mit KI-Tools zu ermöglichen. Bei einem KI-System handelt es sich dabei um ein maschinengestütztes System, das zu Teilen autonom betrieben werden und darüber hinaus Anpassungsfähigkeit zeigen kann. Werden Ziele in das System eingegeben, kann dieses daraus ableiten, wie es Ergebnisse, Vorhersagen und Inhalte erzeugen kann, auf deren Basis die physische oder virtuelle Umgebung beeinflusst wird.

Was denken Erwerbstätige über KI-Systeme in Betrieben?

Laut einer aktuellen Umfrage von Bitkom Research befürworten Erwerbstätige KI-Systeme in Unternehmen allen voran wegen der Zukunftsfähigkeit des Unternehmens, Arbeitszeitersparnis und der Vermeidung menschlicher Fehler. Gefahr sehen Erwerbstätige allen voran im Wegfall von Arbeitsplätzen und der unklaren Verantwortung bei Fehlern.

Für wen gilt das KI-Gesetz?

Das Gesetz gilt grundsätzlich für alle Unternehmen mit Sitz in der EU, die KI-Systeme nutzen. Achtung: Auch wenn Betreiber außerhalb der EU ihren Standort haben, aber der Einsatz von KI in der EU erfolgt, gilt das Gesetz! Das KI-Gesetz wird voraussichtlich im Jahr 2026 eingeführt, sodass KI-Systeme, die schon zu einem früheren Zeitpunkt zum Einsatz kommen, an die Vorschriften angepasst werden müssen.

Welche KI-Systeme sind untersagt?

Bestimmte KI-Anwendungen verbietet der AI-Act. Diese werden unter dem Schlagwort unannehmbares Risiko zusammengefasst. Diese gelten als Bedrohung für Menschen. Darunter fallen beispielsweise sog. Soziales Scoring, wonach Menschen auf Grundlage von Verhalten, sozioökonomischem Status und persönlichen Merkmalen klassifiziert werden. Auch die biometrische Identifizierung und Kategorisierung natürlicher Personen verbietet das neue KI-Gesetz. Biometrische Echtzeit-Fernidentifizierungssysteme wie beispielsweise Gesichtserkennung ist nur in Ausnahmen beispielsweise für Strafverfolgung erlaubt.

KI-Systeme im täglichen Betrieb – was muss beachtet werden?

Die neuen Vorschriften legen Pflichten für Anbieter und Nutzer von KI-Systemen fest. Diese richten sich in erster Linie nach dem Risiko, das von dem KI-System ausgehen kann. Welche Regeln im Detail in Unternehmen gelten, hängt zunächst vom eingesetzten KI-System ab. Eine Pflicht besteht darin, die Mitarbeiter in den eingesetzten Systemen zu schulen. Liegt beispielsweise ein Hochrisikosystem vor, sind wesentliche Pflichten für den Betreiber in Art. 26 und 27 begründet. Verlangt werden hier die menschliche Aufsicht und das Einsetzen geeigneter Maßnahmen, die eine Verwendung des Systems nach den Herstelleranweisungen garantieren. In der Praxis ist somit zwingend vorgegeben, dass nur die für den jeweiligen Fall relevanten Daten verwendet und die KI-Systeme menschlich überwacht werden. Vorfälle sind umgehend an Hersteller und zuständige Behörden zu melden. Zudem ist eine Grundrechte-Folgenabschätzung in Bereichen wie Kredit-Scoring sowie Versicherungen vorgesehen, wenn KI-Systeme eingesetzt werden.

Bei Verstößen drohen hohe Geldstrafen

Bei Missachtung der aufgestellten Regelungen drohen hohe Bußgelder. Der Einsatz nicht erlaubter KI-Systeme kann im schlimmsten Fall Strafen bis zu 35 Millionen Euro oder 7 Prozent des weltweiten Umsatzes bedeuten. Auch Verstöße gegen Betreiberpflichten können teuer werden, hier drohen bis zu 15 Millionen Euro oder drei Prozent des weltweiten Umsatzes. Erkennen beispielsweise Mitarbeiter Verstöße, können sie diese der Marktüberwachungsbehörde melden. Mit weitreichenden Befugnissen ausgestattet kann die Behörde Zugang zu sämtlichen Dokumenten über die entsprechenden KI-Systeme verlangen. Darüber hinaus können Mitarbeiter, die mutmaßlich von einer Entscheidung, die mit Hilfe von Hochrisiko-KI getroffen wurde, betroffen sind, Auskunft über die KI verlangen.

Wie dürfen Arbeitgeber KI im Arbeitsalltag einsetzen?

Mittlerweile können KI-Tools in nahezu allen Geschäftsbereichen eines Betriebes zum Einsatz kommen. Allen voran bei standardisierten Aufgaben und Abläufen sind KI-Systeme mittlerweile verbreitet. Dem Arbeitgeber steht hier frei, selbst zu entscheiden, welche zulässigen KI-Instrumente in seinem Betrieb zum Einsatz kommen oder die Nutzung von KI komplett verboten wird. Wird KI im Arbeitsverhältnis genutzt, sind Schulungs- und Weiterbildungsmaßnahmen laut neuem KI-Gesetz und Arbeitsschutzgesetz Pflicht. Eine besondere Ausnahme im Arbeitsalltag gilt bei KI-Systemen, die im Personalmanagement und zur Auswahl geeigneter Bewerber eingesetzt werden. Sie gelten laut dem neuen KI-Gesetz als Hochrisikosysteme und müssen dementsprechend so behandelt werden.

Hochrisikosysteme – Wie können Sie Arbeitnehmer und Bewerber benachteiligen?

Eine besonders wichtige Erkenntnis, die auch in Schulungen unbedingt weitergegeben werden sollte, ist, dass KI-Tools allen voran im Bereich des Bewerber-Recruitings diskriminierend handeln können. Bei Hochrisikosystemen zur Auswahl geeigneter Bewerber besteht die konkrete Gefahr, dass Bewerber aufgrund Faktoren wie Herkunft oder des Geschlechts benachteiligt behandelt werden. Das verstößt jedoch klar gegen den Allgemeinen Gleichbehandlungsgrundsatz, der auch bei der Verwendung von KI-Instrumenten uneingeschränkt gilt. Sinnvoll ist es, geltende Richtlinien in das Unternehmen zu integrieren, die im gesamten Betrieb uneingeschränkt gelten und beispielsweise die Verpflichtung zur Einhaltung aller Gesetze, das Bekenntnis zum verantwortungsvollen Umgang mit KI und Datenschutzregelungen umfassen.

Die Rolle des Betriebsrats

Hierbei ist zwischen allgemeinen Zielen und Grundsätzen beim Einsatz Künstlicher Intelligenz und der konkreten Einführung von KI-Instrumenten zu unterscheiden. Bei einfachen Rahmenregelungen zur Anwendung von KI-Instrumenten muss keine Übereinkunft mit dem Betriebsrat getroffen werden. Anders sieht es bei der Einführung konkreter KI-Instrumente aus. Dort stehen dem Betriebsrat nach § 87 Abs. 1 Nr. 6 und 7 Betriebsverfassungsgesetz Mitbestimmungsrechte zu.