C2PA: OpenAI integriert Metadaten in generierte Bilder

OpenAI nutzt künftig C2PA. Das ist ein offener Standard, um Medien digital zu kennzeichnen. In den Metadaten ist dann etwa die Herkunft verifiziert. Der Standard steckt bereits in Kameras mehrerer Hersteller. Auch Meta nutzt C2PA für seinen Bildgenerator.

Die Änderung betrifft alle Bilder, die über ChatGPT im Web und über die API von Dall-E 3, sowie auf mobilen Geräten, generiert werden. Sie greift ab dem 12. Februar 2024. "C2PA ist nicht nur für KI-generierte Bilder geeignet – der gleiche Standard wird auch von Kameraherstellern, Nachrichtenorganisationen und anderen übernommen, um die Quelle und den Verlauf (oder die Herkunft) von Medieninhalten zu zertifizieren", schreibt OpenAI in einem Blogbeitrag. C2PA steht für Coalition for Content Provenance and Authenticity, die wiederum der CAI (Content Authenticity Initiative) untergeordnet ist. Dieser Initiative gehören Adobe, Canon, Microsoft, aber auch die New York Times und ehemals Twitter sowie viele weitere an. Unter der C2PA werden Standardspezifikationen entwickelt.

Metadaten und Wasserzeichen sind keine Allheilmittel

Allerdings gibt auch OpenAI zu, dass Metadaten kein "Allheilmittel" sind, um die Herkunft eines Bildes zu bestätigen. Sie können leicht entfernt werden – absichtlich oder sogar aus Versehen. Beispielsweise würden alle Social-Media-Plattformen in der Regel Metadaten automatisch löschen, sobald Medien auf den Plattformen hochgeladen werden. Klar auch, dass beispielsweise Screenshots von Bildern keine Metadaten übernehmen. Dennoch schreibt OpenAI: "Wir glauben, dass die Einführung dieser Methoden zur Feststellung der Herkunft und die Ermutigung der Nutzer, diese Signale zu erkennen, der Schlüssel zur Erhöhung der Vertrauenswürdigkeit digitaler Informationen sind." C2PA und die CAI hatten ursprünglich auch nicht zum Ziel, die Echtheit von Bilder über die Metadaten zu verifizieren, sondern an der Echtheit zweifeln zu lassen, sollten die Metadaten fehlen.

Zunächst betrifft die Einführung von C2PA nur Bilder. Text oder Audio kann noch nicht in einer solchen Form gekennzeichnet werden. Das gehört zu den Kritikpunkten am AI Act, der es vorsieht, dass KI-generierte Inhalte mit Wasserzeichen markiert werden müssen – sofern das möglich ist, technisch und finanziell. Die Anbieter scheinen sich zunächst auf die Metdaten als eine Art Ersatz für Wasserzeichen zu einigen. Texte lassen sich besonders schwer mit Wasserzeichen anreichern.

Durch C2PA ändert sich die Größe einer Datei. OpenAI gibt ein paar Beispiele: 3.1 MB werden zu 3.2 MB bei einem PNG, das durch die API generiert wird. Das sei ein Anstieg um etwa drei Prozent. In den Metadaten steht konkret der zusammenfassende Text: "Dieses Bild wurde mit einem KI-Werkzeug generiert." Darunter sind weitere Informationen zu finden, mit welchem Tool und Anbieter, hier also Dall-E 3 über die OpenAI-API, das Bild erstellt wurde.

Ist ein Bild über ChatGPT oder Dall-E 3 direkt generiert worden, kommen als Information noch etwa hinzu, wann das Bild erstellt wurde sowie eventuelle Formatänderungen.

(emw)