DALL-E 3: Bilder bekommen Wasserzeichen von OpenAI verpasst
Wer den Bildgenerator DALL-E 3 von OpenAI nutzt, wird von jetzt an nur noch mit Wasserzeichen vermerkte Bilder generieren können. Vonseiten OpenAI wird gesagt, Wasserzeichen seien zwar nicht perfekt, ihr Vermerk in den Bildmetadaten helfen aber, Vertrauen in digitale Informationen zu schaffen.
Herkunftsnachweis: Vermerk in Bildmetadaten
Immer mehr Unternehmen unterstützen den offenen technischen Standard „Coalition for Content Provenance and Authenticity” (C2PA) und so hat sich auch OpenAI für diesen Schritt entschieden. Die C2PA-Norm ermöglicht Verlagen, Unternehmen und anderen Metadaten in Medien einzubetten, um deren Herkunft und zugehörige Informationen zu verifizieren. C2PA kann dabei nicht nur von KI-Anbietern genutzt werden, sondern zum Beispiel auch von Kameraherstellern und Nachrichtenorganisationen.
Laut OpenAI werden die neuen C2PA-Wasserzeichen ab sofort in sämtlichen Bildern erscheinen, die auf der ChatGPT-Website und in der API für das DALL-E 3-Modell generiert werden. Ab 12. Februar 2024 soll auch Bildmaterial, das über ChatGPT-Anwendungen auf dem Smartphone hergestellt wird, C2PA-Metadaten erhalten.
So sehen die Metadaten aus
Sowohl über DALL-E als auch über ChatGPT gefertigte Bilder bekommen eine unsichtbare Metadatenkomponente. Auch Nutzer:innen ohne ausgereifte IT-Kenntnisse sollen über Websites wie „Content Credentials Verify” ganz einfach nachvollziehen können, woher ein Bild stammt. Dafür muss das entsprechende Bildmaterial hochgeladen werden und schon spuckt das Tool die Herkunft, zum Beispiel welches KI-Tool zur Erstellung des Inhalts verwendet wurde, aus – sofern die Metadaten nicht entfernt wurden. Auch das Erstellungsdatum des Bildes wird dabei angezeigt. Momentan können nur statische Bilder mit dem Wasserzeichen versehen werden, nicht aber Videos oder Texte.
Neue Wasserzeichen kommen mit Vor- und Nachteilen
Den Angaben von OpenAI nach sollen die Wasserzeichen-Metadaten die produzierten Bildern weder in der Qualität noch in der Ladezeit einschränken. Allerdings wird die Bildgröße zukünftig bei einigen Aufgaben leicht erhöht. Unternehmen wie Adobe und Microsoft unterstützen den Einsatz von Content-Credentials-Wasserzeichens wie den C2PA-Standard und arbeiten an Lösungen, um KI-generierte Inhalte innerhalb ihrer eigenen Anwendungen zu kennzeichnen. So hat Meta vor kurzem angekündigt, KI-generierte Inhalte auf seinen Social-Media-Plattformen mit Tags zu versehen.
Aber die Medaille hat auch eine Kehrseite: Wasserzeichen alleine reichen nicht aus, um Fehlinformationen zu verhindern. OpenAI weist darauf hin, dass die Metadaten von C2PA „leicht entfernt werden können”, sei es versehentlich oder absichtlich. Zum einen entfernen die meisten Social-Media-Plattformen die Metadaten von Bildern nach dem Posten von Inhalten. Zum anderen werden die Wasserzeichen auf Screenshots des Bildmaterials nicht sichtbar sein. Dennoch setzt OpenAI durch die Integration der C2PA-Norm einen wichtigen Schritt in die richtige Richtung, um das Vertrauen in digitale KI-produzierte Inhalte zu erhöhen und Nutzer:innen Anhaltspunkte über die Herkunft des Bidlamterials zu liefern.
