Europäisches Gesetz zur künstlichen Intelligenz

Stand: 27. Mai 2024

Das neue Gesetz folgt einem risikobasierten Ansatz. Das bedeutet: Je höher die Risiken, die von einem KI-System ausgehen, umso schärfer soll das System künftig reguliert werden. Und es ist ein sogenanntes „horizontales“ Gesetz – das heißt, es gilt nicht nur für bestimmte Anwendungen wie z.B. für autonomes Fahren, sondern für alle Branchen.

Vier Risikoklassen sieht das Gesetz vor: KI-Systeme mit unannehmbarem Risiko fallen in die höchste Risikoklasse und werden in der EU verboten. Hierunter fallen z.B. soziale Bewertungssysteme (englisch: social scoring) und manipulative KI. Der größte Teil des neuen Gesetzes befasst sich mit KI-Systemen mit hohem Risiko, die reguliert werden. Beispiele sind KI-Systeme, die „als Sicherheitsbauteile im Rahmen der Verwaltung und des Betriebs kritischer digitaler Infrastruktur, des Straßenverkehrs oder der Wasser-, Gas-, Wärme- oder Stromversorgung verwendet werden sollen.” KI-Systeme mit begrenztem Risiko werden bestimmte Transparenzanforderungen erfüllen müssen. Nutzern des Systems soll mitgeteilt werden, dass sie es mit einem KI-System zu tun haben, und nicht mit einem Menschen. Dies wird z.B. ChatBots betreffen. KI-Systeme mit minimalem Risiko oder ohne Risiko schließlich dürfen frei verwendet werden. In diese Kategorie fallen etwa Spamfilter oder KI-Effekte in Videospielen.

Vom neuen KI-Gesetz dürften beinah alle Unternehmen betroffen sein. Das Gesetz gilt für

Die nach dem Gesetz zu erfüllenden Pflichten werden für KI-Systeme mit hohem Risiko am höchsten sein und umfassen umfangreichen Dokumentations-, Transparenz- und Überwachungspflichten, einschließlich Risikobewertung und der Verpflichtung zur Einführung eines Risikomanagements.

Der Gesetzestext ist bereits verfügbar. Dennoch ist heute noch schwer abzusehen, ob die befürchteten negativen oder die positiven Auswirkungen des KI-Gesetzes überwiegen werden. Befürchtet werden negative Folgen der regulatorischen Hürden: Die Anforderungen des Gesetzes insbesondere an KI-Systeme der Hochrisiko-Klasse könnten insbesondere für kleine und mittlere Unternehmen (KMU) besonders belastend sein, da sie möglicherweise nicht über die Ressourcen verfügen, um diese Anforderungen zu erfüllen. Dies könnte das Innovationstempo verlangsamen und deutsche KMU gegenüber größeren Unternehmen oder Unternehmen in Ländern mit weniger strengen Vorschriften benachteiligen. Unspezifische Anforderungen und potenziell hohe Strafen bei Nichteinhaltung können zu Unsicherheiten führen, die Unternehmen dazu veranlassen könnten, risikoaverse Entscheidungen zu treffen. Dies könnte die Entwicklung und Einführung neuer KI-Anwendungen hemmen, insbesondere in Bereichen, die als risikoreich gelten.

Andererseits kann das neue Gesetz auch positive Wirkungen entfalten. Mit dem KI-Gesetz soll ein höheres Maß an Vertrauen und Sicherheit in KI-Systeme geschaffen werden, was die Akzeptanz von KI-Lösungen bei Verbrauchern und Geschäftspartnern erhöhen kann. Dies kann deutschen Unternehmen helfen, sich als führende Anbieter vertrauenswürdiger und sicherer KI-Technologie zu positionieren. Das KI-Gesetz sieht die Einrichtung sogenannter regulatorischer Sandkästen vor, die es Unternehmen ermöglichen, neue Technologien unter realen Bedingungen zu testen, ohne sofort alle regulatorischen Anforderungen erfüllen zu müssen. Diese Innovationsanreize könnten insbesondere deutschen Unternehmen helfen, die an der Spitze der technologischen Entwicklung stehen und schnell auf Marktveränderungen reagieren wollen. Durch die Schaffung eines einheitlichen europäischen Rechtsrahmens kann der AI Act dazu beitragen, die Wettbewerbsbedingungen für alle europäischen Unternehmen zu vereinheitlichen. Deutschen Unternehmen, die in mehreren EU-Ländern tätig sind, könnte dies helfen, da sie sich nicht mehr mit einer Vielzahl unterschiedlicher nationaler Regelungen auseinandersetzen müssten.

Um den Nutzen für Unternehmen im Kontext des EU AI Act zu maximieren, ohne die Innovationsfähigkeit zu beeinträchtigen, sollten Unternehmen jetzt einen proaktiven und strategischen Ansatz wählen. Die Einhaltung des KI-Gesetzes sollte nicht als reine Compliance-Aufgabe verstanden werden, sondern als Chance, das Vertrauen von Kunden, Partnern und Regulierungsbehörden zu stärken und sich als Vorreiter in der Entwicklung und Anwendung ethischer und sicherer KI-Technologien zu positionieren.

Unternehmen wird empfohlen, frühzeitig in das Verständnis und die Umsetzung der Anforderungen des KI-Gesetzes zu investieren. Dazu gehört die Entwicklung einer umfassenden Compliance-Strategie, die Schulung von Mitarbeitern und die Etablierung multidisziplinärer Teams, die sowohl technische als auch juristische Expertise vereinen. Die Nutzung regulatorischer Sandkästen und die Förderung von Transparenz können zusätzlich dazu beitragen, Innovationen voranzutreiben und gleichzeitig die rechtlichen Anforderungen zu erfüllen. Letztlich sollten Unternehmen das neue Gesetz als integralen Bestandteil ihrer Innovationstrategie betrachten.

Um die Chancen zu heben, die gut regulierte und damit vertrauenswürdige KI-Systeme mit sich bringen können, wird es entscheidend auf Rechtssicherheit für die Unternehmen ankommen. Mit dem KI-Gesetz allein ist diese aber leider noch nicht gegeben. Viele Detailfragen lässt das Gesetz offen. Sie werden in sekundärer Gesetzgebung, in Leitlinien und Gerichtsurteilen geklärt werden müssen. Dies benötigt Zeit, während gleichzeitig die Technologie in rasantem Tempo weiterentwickelt wird. – Dies könnte sich als die größte Herausforderung für die erfolgreiche Einführung einer sinnvollen KI-Regulierung in Europa erweisen.

Anwendungsbeispiele Künstlicher Intelligenz in regionalen Unternehmen präsentieren wir in unserer Webinar-Reihe „KI für die Wirtschaft“.

Aufzeichnungen der bisherigen Folgen finden Sie in unserer Webinar-Mediathek.

Um künftige Folgen der Reihe nicht zu verpassen, abonnieren Sie am besten unsere Newsletter „Veranstaltungen“ sowie „Innovation & Digitalisierung“.

Ihre Fragen zum KI-Gesetz sowie Hinweise über den Umgang in Ihrem Unternehmen damit richten Sie gern an Dirk Hermsmeyer, Referent im Geschäftsbereich Innovation und Umwelt der IHK zu Lübeck (dirk.hermsmeyer@luebeck.ihk.de, Telefon: 0451-6006-191).