EU-Abgeordnete: ChatGPT & Co. sollen besonders streng reguliert werden

Die federführenden Ausschüsse im EU-Parlament nähern sich einer gemeinsamen Position zur geplanten Verordnung für Künstliche Intelligenz (KI) weiter an und kommen in die Schlussphase ihrer Beratungen. Dabei zeichnet sich immer deutlicher ab, dass die Abgeordneten spezielle Vorgaben für ChatGPT, DALL-E, Stable Diffusion, Midjourney und ähnliche vergleichbar neue Anwendungen machen wollen, nachdem dies anfangs umstritten war. Das Konzept dafür stehe nun im Großen und Ganzen, schreibt das Online-Portal "Euractiv". Die Parlamentarier wollen demnach zwischen allgemeiner KI und sogenannten Basismodellen unterscheiden sowie für letztere strengere Regeln einführen.

Den in den neuen Änderungsanträgen verwendeten Begriff "Foundation Model" hat das Institut für menschenzentrierte KI der Stanford-Universität geprägt. Darunter versteht man ein KI-Modell, das auf einer umfangreichen Menge nicht-kategorisierter Daten im großen Stil trainiert wurde, auf eine allgemeine Ausgabe ausgelegt ist und an ein breites Spektrum nachgelagerter, unterschiedlicher Aufgaben angepasst werden kann. Dies trifft etwa auf die Sprachmodelle zu, die hinter ChatGPT stehen, sowie Blaupausen für Bildgeneratoren.

Erhebliche Pflichten für KI-Anbieter

Bevor ein solches Basismodell verfügbar gemacht wird, verlangen die Abgeordneten dem Bericht zufolge, dass Anbieter wie OpenAI eine Reihe von Anforderungen erfüllen. Dazu gehörten die Prüfung und Abmilderung vorhersehbarer Risiken für Gesundheit, Sicherheit, Grundrechte, Umwelt, Demokratie und Rechtsstaatlichkeit unter Einbeziehung unabhängiger Experten. Die verbleibenden nicht abwendbaren Gefahren und die Gründe, warum sie nicht behandelt wurden, sollen dokumentiert werden. Ferner müssten die Hersteller ihre Trainingsdaten weitgehend offenlegen, damit Experten vor allem die Nachhaltigkeit der Quellen, mögliche Verzerrungen und geeignete Abhilfen prüfen können.

"Foundation Models" sollen laut "Euractiv" auch während ihrer gesamten Laufzeit ein angemessenes Niveau an Leistung, Interpretierbarkeit, Korrigierbarkeit, Sicherheit und IT-Security aufweisen. Zu diesem Zweck müssten wiederum unabhängige Sachverständige zugezogen werden für dokumentierte Analysen und umfangreiche Tests. Zudem wolle der EU-Mitgesetzgeber, dass die Anbieter von Basismodellen ein Qualitätsmanagementsystem einführen, um die entsprechenden Dokumente bis zu zehn Jahre lang bereitzustellen. Auch die Pflicht zur Registrierung in einer EU-Datenbank ist vorgesehen. Das mit der Verordnung geplante Amt für KI soll die Aufgabe erhalten, einen Dialog mit den Herstellern von Basismodellen über ihre Umsetzungsbemühungen zu führen und Hinweise zum Energieverbrauch im Zusammenhang mit dem Training dieser Modelle zu geben. Ferner müssten die Anbieter die erforderliche Rechenleistung und die Trainingszeit offenlegen.

Strengere Regeln für ChatGPT und Co.

Auf noch schärfere Vorschriften drängen die Abgeordneten für Basismodelle, die in die Kategorie der generativen KI fallen. Das sind Systeme wie ChatGPT, die neue Texte, Bilder, Musik oder Videos auf Basis vorhandener, oft urheberrechtlich geschützter Werke auf Basis der grundlegenden Modelle generieren. Diese müssten weitere Transparenzauflagen erfüllen und angemessene Sicherheitsvorkehrungen gegen die Erzeugung von Inhalten treffen, die gegen EU-Recht verstoßen. Außerdem sollen generative KI-Modelle "eine Zusammenfassung öffentlich zugänglich machen, in der die Verwendung von urheberrechtlich geschützten Trainingsdaten offengelegt wird". Urhebern und Verwertern könnte dies ermöglichen, Lizenzgebühren oder Tantiemen zu verlangen. Erst am Mittwoch forderte ein Bündnis von Verbänden aus der Kulturbranche und Gewerkschaften, generative KI "entlang ihrer gesamten Entstehungskette" sofort zu regulieren.

(mki)