OpenAI baut ab sofort zwei Echtheitssignale in jedes generierte Bild ein. Wer mit ChatGPT, Codex oder der OpenAI-API ein Bild erzeugt, bekommt darin C2PA-Metadaten und ein unsichtbares SynthID-Wasserzeichen. Beide Verfahren sollen belegen, dass ein Bild von einer Maschine stammt.
C2PA steht für Coalition for Content Provenance and Authenticity. Das Verfahren hängt kryptografisch signierte Herkunftsdaten an die Datei: wer das Bild erzeugt hat, mit welchem Werkzeug, welche Bearbeitungen folgten. Solche Metadaten lassen sich aber entfernen oder gehen beim Hochladen verloren. Deshalb kommt SynthID dazu, eine von Google DeepMind entwickelte Technik, die ein Signal direkt in die Pixel schreibt. Es übersteht Screenshots und Formatwechsel. Obendrauf gibt es ein öffentliches Tool namens Verify. Man lädt ein Bild hoch, das Tool prüft auf SynthID-Wasserzeichen und C2PA-Manifest und meldet, ob das Bild aus einem OpenAI-Werkzeug stammt.
Für Nutzer ist das wichtig, weil sich ein KI-Bild am Bild selbst kaum noch erkennen lässt. Die alten Merkmale wie sechs Finger oder verschmolzene Gelenke führen längst in die Irre. Ein maschinenlesbarer Herkunftsnachweis verschiebt die Prüfung weg vom genauen Hinsehen, hin zu Werkzeugen. Verlässlich wird das aber erst, wenn viele Anbieter mitmachen und Plattformen die Signale auch auslesen.
Eine Einschränkung bleibt. Verify erkennt bisher nur OpenAI-Inhalte. Bilder aus Midjourney, Stable Diffusion oder anderen Bildgeneratoren bleiben außen vor. OpenAI kündigt an, das Tool später über die eigene Produktwelt hinaus zu öffnen. Bis dahin ist es ein Baustein, kein vollständiger Schutz.
Quellen
- OpenAI: Advancing content provenance for a safer, more transparent AI ecosystem
- PetaPixel: OpenAI Gets Serious About Detecting Fake Images
- C2PA: OpenAI Joins C2PA Steering Committee
Ähnliche News
- OpenAI fusioniert die Teams von ChatGPT, Codex und API
- OpenAI rüstet ChatGPT für Krisengespräche nach
- OpenAI baut Codex in die ChatGPT-Mobile-App ein
Diese Meldung wurde mit Unterstützung von Claude (Anthropic) recherchiert und verfasst. Inhaltliche Fehler sind möglich. Die verlinkten Quellen ermöglichen eine eigene Prüfung. Fachbegriffe erläutert das Glossar.