SynthID: Google-Tool erkennt per KI generierte Bilder

Google hat ein neues Tool namens SynthID vorgestellt. Es soll helfen, mit künstlicher Intelligenz generierte Bilder von Bildern zu unterscheiden, die von Menschen erstellt wurden.

Entwickelt wurde SynthID von Googles DeepMind-Team. Es fügt KI-generierten Bildern ein nicht wahrnehmbares digitales Wasserzeichen hinzu – vergleichbar mit einer Signatur. Dasselbe Tool kann später diese Wasserzeichen erkennen. Laut Google bleibt das Wasserzeichen auch erhalten, falls ein Bild durch das Hinzufügen von Filtern oder durch Komprimieren oder das Ändern von Farben bearbeitet wurde.

SynthID künftig auch für Drittanbieter

Um diese Aufgaben zu erfüllen, haben die Entwickler zwei Deep-Learning-Modelle kombiniert. Das eine fügt das vom menschlichen Auge nicht wahrnehmbare Wasserzeichen hinzu, das andere identifiziert die mit dem Wasserzeichen versehenen Bilder.

Ein Nachteil ist, dass SynthID bisher nur Bilder erkennen kann, die mit Googles Text-zu-Bild-Tool Imagen erstellt wurden. Allerdings bietet Google anderen Unternehmen die Möglichkeit, SynthID in ihre generativen KI-Tools zu implementieren, was dessen Reichweite erhöhen würde.

Bisher ist SynthID allerdings nur für Vertex-KI-Kunden verfügbar, die Imagen verwenden. Google DeepMind kündigte jedoch an, das Tool bald auch in anderen Google-Produkten und für Drittanbieter verfügbar zu machen.