Europas KI-Gesetz tritt in Kraft

Das weltweit erste umfassende KI-Gesetz verändert die Art und Weise, wie die Technologie entwickelt, verkauft und genutzt wird.

Ein historischer Moment für das Technologierecht

Am 1. August 2024 trat das Gesetz über künstliche Intelligenz der Europäischen Union in Kraft und war damit das weltweit erste umfassende Gesetz zur Regulierung künstlicher Intelligenz. Mit der Gesetzgebung wird ein risikobasierter Ansatz eingeführt, bei dem KI-Systeme entsprechend dem Grad der Bedrohung, die sie für die Grundrechte darstellen, in vier Kategorien eingeteilt werden. Beamte bezeichneten das Gesetz als einen historischen Versuch, Innovation mit dem Schutz der Bürger in Einklang zu bringen. Sobald die Regeln vollständig angewendet werden, gelten sie für jedes Unternehmen, das KI im EU-Binnenmarkt entwickelt, verkauft oder nutzt.

Ein risikobasierter Rahmen

Das neue Gesetz unterteilt KI-Anwendungen in vier Stufen. Systeme, von denen angenommen wird, dass sie ein inakzeptables Risiko darstellen, werden gänzlich verboten. Hochrisikosysteme, wie sie beispielsweise in medizinischen Geräten oder in der Personalbeschaffung eingesetzt werden, müssen strenge Anforderungen erfüllen, bevor sie eingesetzt werden dürfen. Für Tools mit begrenztem Risiko gelten geringere Transparenzpflichten, während Systeme mit minimalem Risiko, wie etwa Spamfilter, weitgehend unreguliert sind. Befürworter argumentieren, dass diese abgestufte Struktur Klarheit schafft, während Kritiker warnen, dass sie kleinere Unternehmen bei der Einführung neuer Produkte verlangsamen könnte.

Was verboten wird

Die Liste der verbotenen Praktiken ist die erste, die in der Praxis in Kraft tritt. Die Behörden haben Social-Scoring-Systeme verboten, die Bürger anhand ihres Verhaltens bewerten, sowie KI, die die Schwachstellen von Kindern oder behinderten Menschen ausnutzt. Die biometrische Fernidentifizierung in Echtzeit im öffentlichen Raum ist verboten, mit wenigen Ausnahmen für schwere Straftaten. Software zur Emotionserkennung in Schulen und am Arbeitsplatz ist ebenfalls vom Tisch, was Bedenken hinsichtlich Überwachung und Manipulation in alltäglichen Umgebungen widerspiegelt.

Hochrisikogebiet

Von Hochrisikosystemen wird erwartet, dass sie strengen Tests, Dokumentationen und menschlicher Aufsicht unterzogen werden. Unternehmen müssen die Einhaltung durch technische Unterlagen, Risikobewertungen und Qualitätsmanagementsysteme nachweisen. Verursacht ein Produkt Schäden, drohen dem Entwickler Haftungsansprüche nach den EU-Produktsicherheitsvorschriften. Das Gesetz verpflichtet Anbieter außerdem dazu, Hochrisikosysteme in einer öffentlichen Datenbank zu registrieren, um Regulierungsbehörden und Forschern einen klareren Überblick darüber zu geben, wie die Technologie branchenübergreifend eingesetzt wird.

Regeln für allgemeine KI-Modelle

Das Gesetz führt spezifische Bestimmungen für allgemeine KI-Modelle ein, darunter auch große Sprachmodelle wie die Systeme hinter beliebten Chatbots. Entwickler müssen Zusammenfassungen von Trainingsdaten bereitstellen, das Urheberrecht respektieren und mit nationalen Behörden zusammenarbeiten. Unternehmen, deren Modelle einen bestimmten Rechenschwellenwert erreichen, müssen zusätzliche Pflichten erfüllen, darunter die Meldung schwerwiegender Vorfälle und die Durchsetzung von Schutzmaßnahmen gegen systemische Risiken. Das Ziel besteht laut Beamten darin, sicherzustellen, dass die mächtigsten Modelle Wahlen, die öffentliche Gesundheit oder die Finanzstabilität nicht gefährden können.

Durchsetzung und globale Reichweite

Die nationalen Marktüberwachungsbehörden in jedem EU-Land werden sich um die tägliche Durchsetzung kümmern, während ein neues europäisches KI-Büro die schrittweise Einführung koordinieren wird. Die meisten Regeln werden bis Mitte 2026 gelten, einige strengere Verpflichtungen treten später in Kraft. Die Strafen für die schwersten Verstöße können bis zu 35 Millionen Euro oder 7 % des weltweiten Jahresumsatzes betragen, je nachdem, welcher Betrag höher ist. Viele Experten erwarten einen starken Brüsseler Effekt, da ausländische Unternehmen möglicherweise EU-Standards übernehmen, um auf einem der größten Märkte der Welt wettbewerbsfähig zu bleiben.