EU-Parlament stimmt AI-Act zu
Das EU-Parlament hat am 13. März der EU-Verordnung für Künstliche Intelligenz zugestimmt. Betroffen sind alle, die KI-Systeme innerhalb der EU entwickeln, anbieten oder nutzen.
Künstliche Intelligenz (KI) ist sehr vielfältig und überall dort einsetzbar, wo viele Daten anfallen und ausgewertet werden können. Der Gesetzesentwurf unterscheidet dabei zwischen verschiedenen Anwendungsbereichen und vier Risikoklassen (unannehmbares, hohes, geringes und minimales Risiko). Dabei sind KI-Systeme mit unannehmbarem Risiko grundsätzlich verboten (Artikel 5 KI-VO-E), für Hochrisiko-KI-Systeme gelten weitreichende Anforderungen wie unter anderem ein umfassendes Qualitäts- und Risikomanagement, das über den gesamten Lebenszyklus fortgeführt werden muss (Artikel 8 und folgende) eine Konzeption beziehungsweise Entwicklung, die eine Protokollierung von Vorgängen und Ereignissen ermöglicht (Artikel 12) und weitere. Zusätzlich soll für Hochrisiko-KI-Systeme eine Gebrauchsanweisung erstellt werden, die präzise, vollständige, korrekte und eindeutige Informationen enthält (Artikel 13). Gefordert werden in diesem Zusammenhang Informationen unter anderem zur Zweckbestimmung, eine Bewertung des Grades an Genauigkeit, Robustheit und Cybersicherheit des KI-Systems. Daneben gelten für KI-Systeme mit spezifischen Manipulationsrisiken aller Risikoklassen bestimmte Transparenzvorgaben. Aus der Verordnung gehen für Systeme mit geringem oder minimalem Risiko aktuell keine speziellen Regulierungen hervor.
Die Verordnung richtet sich im Kern an die KI-Systeme mit hohem Risiko, deren Ausfall und Störung besonders schwerwiegende Folgen für das Leben und die Gesundheit von natürlichen Personen haben kann. Weiter gelten KI-Systeme als hoch-riskant, wenn sie als Produkt oder Produktbestandteil Sicherheitsfunktionen erfüllen (Artikel 6) und deshalb bestimmten Harmonisierungsvorschriften unterliegen (Anhang II KI-VO-E). Anhang III enthält eine Liste von KI-Systemen die ebenfalls als Hochrisiko-KI-Systeme eingestuft werden. Diese Liste darf durch die EU-Kommission auch ständig erweitert werden.
Die Verordnung richtet sich im Kern an die KI-Systeme mit hohem Risiko, deren Ausfall und Störung besonders schwerwiegende Folgen für das Leben und die Gesundheit von natürlichen Personen haben kann. Weiter gelten KI-Systeme als hoch-riskant, wenn sie als Produkt oder Produktbestandteil Sicherheitsfunktionen erfüllen (Artikel 6) und deshalb bestimmten Harmonisierungsvorschriften unterliegen (Anhang II KI-VO-E). Anhang III enthält eine Liste von KI-Systemen die ebenfalls als Hochrisiko-KI-Systeme eingestuft werden. Diese Liste darf durch die EU-Kommission auch ständig erweitert werden.