EU-Parlament: Führend bei KI-Regulierung – aber auch bei der Innovation?
Die Digitalbranche hat zurückhaltend auf die Position der EU-Abgeordneten für eine KI-Verordnung reagiert. Bürgerrechtler begrüßen die geplanten roten Linien.
(Bild: Urban Images/Shutterstock.com)
Die EU werde bei der Regulierung Künstlicher Intelligenz (KI) führend werden, ist sich Boniface de Champris, Leiter Politik beim europäischen Ableger des IT-Verbands Computer & Communications Industry Association (CCIA), nach dem Beschluss der Linie des EU-Parlaments für die sich in Arbeit befindliche KI-Verordnung der Gemeinschaft sicher. Ob dies künftig auch für KI-Innovationen gelte, "ist abzuwarten". Europas neue Regeln für die Schlüsseltechnik müssten "klar definierten Risiken wirksam begegnen", gleichzeitig aber Entwicklern genügend Flexibilität lassen, um "KI-Anwendungen zum Nutzen aller" bereitzustellen.
Das sieht die CCIA mit der Position, mit der die EU-Abgeordneten jetzt in die Verhandlungen über einen finalen Kompromiss mit dem EU-Ministerrat und der Kommission gehen, nicht in jedem Fall gegeben. Die jüngsten Änderungsanträge der Volksvertreter weiteten die strengen Anforderungen für Hochrisikofälle auf viele nützliche KI-Anwendungen aus, die nur sehr begrenzte oder gar keine Gefahren bergen. Überbordende Auflagen belasteten Entwickler und verlangsamten letztlich die Innovation. Es werde schwerer, "Europa zu einem Technologie-Inkubator" zu machen.
Zu viele Hochrisikofälle?
In die gleiche Kerbe haut Achim Berg, Präsident des Digitalverbands Bitkom: Er findet den zugrunde gelegten risikobasierten Ansatz "gut und richtig". Nur für den KI-Einsatz im Hochrisiko-Bereich gälten strenge Anforderungen, um die Systeme "sicher und vertrauenswürdig" zu gestalten. "Wenn aber fast jede zweite KI-Anwendung diesem Hochrisikobereich zugeordnet würde, würde das den Ansatz ad absurdum führen." Es müsse zudem klar und eindeutig abgegrenzt werden, "für wen welche Auflagen gelten, ansonsten entsteht zusätzliche Rechtsunsicherheit".
Zur Umsetzung der KI-Verordnung "braucht man Aufsichts- und Marktüberwachungsstrukturen ebenso wie Reallabore als Experimentier-Räume", gibt Berg ferner zu bedenken. Letztlich müsse die Politik auf der europäischen Zielgeraden sicherstellen, dass der sogenannte AI Act kein KI-Verhinderungsgesetz werde, sondern die Entwicklung beschleunige.
Maßgeblich für die Einordnung des Risikos soll laut dem Parlament nicht mehr allein sein, in welchem Bereich die KI eingesetzt werde, erläutert Sebastian Cording, Partner der Wirtschaftskanzlei CMS. Einbezogen würde nun auch, "was die konkreten Anwendungsgebiete der KI sind" und welche Gefahren mit diesen verbunden sind. Der Wunsch, KI-Systeme sinnvoll zu regulieren und die EU zugleich als führenden Player in diesem Bereich zu etablieren, sei "eine riesige Herausforderung". Der IT-Anwalt sieht es als völlig offen an, ob das Gesetz diese Ziele "auch nur annähernd erreichen wird." Ein erster und wichtiger Schritt in Richtung Transparenz sei aber, dass Verbraucher jederzeit wissen sollen, "ob sie gerade mit einem Menschen oder einer KI kommunizieren".
Freie Software ausgenommen
Ramona Pop, Vorständin des Bundesverbands der Verbraucherzentralen (vzbv), lobte, dass das Parlament Vorschriften für KI-Basismodelle aufgenommen habe: "Denn auf diesen basieren Anwendungen wie ChatGPT, die ein hohes Risiko zur Irreführung bergen." Wichtig sei, Verbrauchern "individuelle Betroffenenrechte, wie ein Recht auf Erklärung, gegenüber KI-Betreibern" einzuräumen. Nur dann können sie sich gegen unfaire Behandlungen wehren. Der EU-Verbraucherschutzverband BEUC monierte im Gegensatz zur IT-Wirtschaft: Das "Parlament hat den Grundsatz untergraben, dass Hochrisikosysteme bestimmte Verpflichtungen erfüllen müssen". Es räume Entwicklern zu viel Ermessensspielraum bei der Entscheidung ein, ob ihre Technik hochriskant sei.
Die Free Software Foundation Europe (FSFE) freut sich, dass gemeinnützige Organisationen und kleine Freie-Software-Projekte von den Vorschriften weitgehend ausgenommen werden sollen. Von einem deutlichen Signal, dass die Volksvertreter der Schutz "unserer Rechte auf ein freies und würdevolles Leben im öffentlichen Raum wichtiger als private Profite und falsche Behauptungen von 'Sicherheit' vertreten" haben, spricht Ella Jakubowska von der Bürgerrechtsorganisation European Digital Rights (EDRi). Die Abstimmung habe die roten Linien gegen inakzeptabel schädliche Nutzungen von KI wie Live-Gesichtserkennung und andere biometrische Überwachung bestätigt.
"Es ist bedauerlich, dass die Mehrheit des Hauses auf einem vollständigen Verbot von biometrischen Erkennungssystemen beharrt", beklagt dagegen Axel Voss (CDU), Berichterstatter der konservativen Fraktion der Europäischen Volkspartei (EVP). "Damit verpassen wir eine wichtige Chance. KI kann richtig angewandt bei der Strafverfolgung zu deutlich mehr Sicherheit für die Bevölkerung führen." Der Einsatz KI-gestützter Techniken wie automatisierter Gesichtserkennung soll laut dem Beschluss aber im Nachgang zur Fahndung nach Tätern bei schweren Straftaten mit gerichtlicher Anordnung zulässig sein. Die EVP wollte in Überwachungsfragen in letzter Minute nachschärfen.
"Gleichgewicht zwischen Regulierung und Innovation"
Berichterstatterin Svenja Hahn (FDP) wertet das Ergebnis als starkes Zeichen "für die Verhandlungen mit den Mitgliedstaaten, dass das Parlament für Bürgerrechte einsteht und ein Verbot der biometrischen Überwachung im öffentlichen Raum fordert". Die EU werde mit dem Ansatz zu einem "Hotspot für Forschung und Innovation" im KI-Sektor. In keinem einzigen Fall habe biometrische Echtzeit-Überwachung einen Terroranschlag verhindern können, wie Befürworter des Ansatzes glauben machen wollten, betonte Patrick Breyer (Piratenpartei).
"Im Großen und Ganzen spiegelt der gefundene Kompromiss ein vernünftiges Gleichgewicht zwischen verantwortungsvoller Regulierung und angemessenen Innovationsanreizen", meint auch Sergey Lagodinsky, Verhandler der Grünen. Es sei ein Erfolg, dass das Parlament eine verpflichtende Folgenabschätzung für die Grundrechte – aber etwa auch für Klimaauswirkungen – fordere. "Die Zeit drängt, die Technik entwickelt sich rasant fort", mahnt Tabea Rößner, Grünen-Mitglied im Digitalausschuss des Bundestags: "Bis die KI-Verordnung in die Praxis geht, sollten daher unbedingt Wege einer sinnvollen Selbstregulierung, wie der geplante EU-KI-Kodex, umgesetzt werden." Angesichts vieler offener Fragen rund um die anstehende Massenadaption von Basismodellen bringt sie auch eine kontinuierliche Risikoüberwachung durch unabhängige Experten ins Spiel.
(mki)
