Deepfakes

Betrug auf Knopfdruck

Auf das Gesicht eines Mannes wird ein schwarz-weißes Muster projeziert.
Fotografie und Film haben ihr Glaubwürdigkeitsvorsprung gegenüber dem Wort verloren, meint Roberto Simanowski. © IMAGO / Landmark Media / IMAGO / Steve Bealing / Landmark Media
Ein Einwurf von Roberto Simanowski |
Der Papst in der Disco, die Kapitulation der Ukraine als Video-Clip: Sogenannte Deepfakes wirken oft täuschend echt. Wenn wir den Bildern nicht mehr trauen können, hat das weitreichende Folgen, sagt der Medienphilosoph Roberto Simanowski
Harrison Ford war recht zufrieden mit seiner Verjüngung im neuesten Indiana-Jones-Film. 25 Minuten lang erscheint der 81-jährige Star-Schauspieler, als sei er noch nicht einmal 40.
Klar, die Visual-Effects-Technologie, die das ermöglicht, kann nur das Gesicht des Schauspielers verjüngen; rennen und springen muss der dann schon selbst. Aber das gelingt dem agilen Ford recht gut. Insofern gleichen die technischen Effekte Fords Erscheinung nur dem Alter an, in dem er sich fühlt.

Gefragt in Pornografie und Politik

Fällt Fords Verjüngung schon unter Deepfake, wie Fotos, Audios und Videos heißen, die mittels künstlicher Intelligenz generiert oder manipulier wurden – Fotos, die den Papst in der Disco zeigen, oder Videos, in denen Wolodymyr Selenskyj die ukrainischen Soldaten aufruft, sich zu ergeben?
Deepfakes sind nicht nur in der Filmindustrie gefragt. Sie sind begehrt auch und noch viel mehr für politische Manipulationen, in der Pornografie und für kriminelle Handlungen. Denn wer die Stimme des Enkels hat, kann nicht nur die schwerhörige Oma zur SOS-Überweisung eines höheren Geldbetrages veranlassen.

Die KI zerstört die Aura des Dokumentarischen

Zugleich sind Deepfakes ein Beispiel dafür, dass technischer Fortschritt manchmal seine eigenen Erfolge wieder zunichtemacht. Die KI zerstört die Aura des Dokumentarischen, mit dem die technischen Aufnahmemedien Fotografie und Video einst das subjektive Aufschreibemedium Text entmachtet hatten.
Wir alle kennen das: Beschreiben drei Menschen den gleichen Raum oder die gleiche Situation, kommen drei verschiedene Ergebnisse heraus. Halten sie die gleiche Szene mit der Kamera fest, werden sich die Aufnahmen höchstens im Winkel und in der Beleuchtung unterscheiden. Auf allen aber wird man die gleichen Objekte in der gleichen Anordnung sehen, einschließlich der eingerollten Katze im Hintergrund, die der Fotografin gar nicht aufgefallen war.
Denn bei der technischen Reproduktion der Welt wird das sichtbar, was sich vor der Kamera befindet, egal ob es vom Menschen hinter ihr registriert wurde. Dieses Wahrheitsversprechen an der Wahrnehmung des menschlichen Auges vorbei, war der erkenntnistheoretische Gewinn von Foto und Film gegenüber dem Wort.
Klar, dieser Glaubwürdigkeitsvorsprung ist spätestens seit dem Wechsel der Fotografie vom analogen zum digitalen Verfahren brüchig. So sprach man schon vor einem Vierteljahrhundert vom „zweifelhaften Foto“ und vom „post-fotografischen“ Zeitalter.

Eine völlig neue Dimension

Digitale Bearbeitungsmittel (Photoshop, Instagramfilter) taten ein Übriges, um diesen Zweifel am Foto zu nähren, der mit KI eine völlig neue Dimension erhält: Jetzt lässt sich der Betrug auf Knopfdruck durchführen, sekundenschnell – und ohne jegliche technische Begabung.
Denn es sind Sprachbefehle, die auf KI-Anwendungen wie OpenAIs „Dall-E“ oder Runways „Gen-2“ eingegeben werden, um Deepfakes zu generieren. „Zeig einen Astronauten auf dem Mond auf einem Pferd“ zum Beispiel, oder: „Gib allen Menschen auf dem Video einen Hut und dem Hund auch!“ Und schon laufen Hunde mit Hut herum. Entsprechend lautet der Werbespruch von Runways: „If you can say it, now you can see it“ – was sich sagen lässt, kann man nun auch sehen.

Zurück im 19. Jahrhundert

Wahrnehmungstechnisch befinden wir uns wieder im 19. Jahrhundert. Im vor-fotografischen Zeitalter. Die Welt, die damals schwarz auf weiß bekundet wurde, war nicht, was sie objektiv war, sondern wie man sie subjektiv sah. Vielleicht fehlte die Katze im Hintergrund, vielleicht gab es Hunde mit Hut.
So ist es heute wieder. Nur dass die Hunde mit Hut nicht beschrieben, sondern gezeigt werden. Als seien sie wirklich vor der Kamera herumgelaufen. Dabei sind sie nicht mehr als das Resultat einer Willensbekundung. Die Geschichte kehrt durch den technischen Fortschritt in ein früheres Stadium ihrer selbst zurück. Das Wort, so die Pointe der Medien- und Schöpfungsgeschichte, steht wieder am Anfang aller Dinge.

Roberto Simanowski ist Kultur- und Medienwissenschaftler und lebt nach Professuren an der Brown University in Providence, der Universität Basel und der City University of Hong Kong als Medienberater und Buchautor in Berlin und Rio de Janeiro. Zu seinen Veröffentlichungen zum Digitalisierungsprozess gehören „Facebook-Gesellschaft“ (Matthes & Seitz 2016) und „The Death Algorithm and Other Digital Dilemmas“ (MIT Press 2018).

Mehr zum Thema