Text-to-image – Wenn aus Worten Bilder werden

Täuschend echte Bilder und Videos von Politiker:innen oder Prominenten, Fake-Szenarios und zuletzt Propaganda im Ukraine-Krieg – Deepfakes tauchen immer wieder in den sozialen Netzwerken auf und Expert:innen äussern schon länger die Sorge, dass die Technologie in Wahlkämpfen oder Konflikten bald eine zentrale Rolle spielen könnte. Vorhandene Medien können so geändert werden, dass neue Botschaften gesendet oder einzelnen Personen nie getätigte Aussagen in den Mund gelegt werden.

Mit Text-to-Image-Verfahren wie Stable Diffusion oder Dall-E ist eine neue Art von Werkzeugen entstanden, deren Möglichkeiten sogar noch weiter reichen. Ermöglicht durch umfangreiche Trainingsdaten erzeugt eine Maschine Bilder, deren Inhalt von einem Text vorgegeben wird. Das Informatik-Magazin hat kürzlich einen Artikel veröffentlicht, in dem ein Bildforensiker genauer erklärt, was die Technologie kann und was (noch) nicht.

Laut dem Experten steht das Text-to-Image Verfahren noch relativ am Anfang. Durch Fehler beim Erstellen der Bilder wie beispielsweise zu viele Finger an einer Hand lassen sich die Bilder oft sogar von Auge als synthetisch erkennen. Auch aus technischer Sicht gibt es mehrere Ansätze zur Erkennung der Bilder, da zumindest bei einem Teil der Verfahren ein digitales Wasserzeichen Rückschlüsse auf die Herkunft erlaubt. Ist dies nicht der Fall, müssen kompliziertere Methoden wie Multimedia-Forensik eingesetzt werden. Auch eine Steganalyse – die ursprünglich zum Erkennen von versteckten Nachrichten in Bildern angewendet wurde – oder Kameraballistik können helfen.

Das Informatik-Magazin weist aber darauf hin, dass sich Experten trotz forensischen Untersuchungen irren können, weshalb eine Infrastruktur aufgebaut werden sollte, die Originale anhand einer Kette von Nachweisen immer referenziert – dies zieht aber einen hohen organisatorischen Aufwand mit sich. Bis es soweit ist, sollten Social Media Nutzer:innen deshalb Vorsicht walten lassen.

Hier finden Sie den ganzen Artikel: https://inf.gi.de/01/wenn-aus-worten-bilder-werden