Zwei Tage vor der slowakischen Parlamentswahl im September 2023 wurde auf Facebook eine Audioaufnahme verbreitet, in der Michal Šimečka, der Vorsitzende der liberalen Partei “Progressive Slowakei”, über seine Wahlfälschungen sprach. Die Stimme des Politikers war ein Deepfake, will heißen: vollständig KI-generiert.

Aufgrund eines ungeschriebenen Gesetzes, das Medien und Politikern in den 48 Stunden vor der Wahl einen Maulkorb auferlegt, blieb der Beitrag jedoch weitgehend unwidersprochen. Die prorussische Partei – der direkte Gegner Šimečkas – konnte von der Manipulation profitieren und gewann die äußerst knappe Wahl. Es ist nicht auszuschließen, dass der Deepfake den Ausschlag gegeben hat.

Deepfakes haben das Potenzial, das Vertrauen der Bürger zu untergraben und demokratische Prozesse zu gefährden, weshalb ein Deepfake-Verbot in Betracht gezogen werden muss.

Ein solches Verbot lässt sich auch in einer liberalen Demokratie durchaus begründen: Es schränkt zwar die Kommunikationsfreiheit ein, doch das Recht auf freie Meinungsäußerung wird nicht angetastet. Denn wer manipulative Deepfakes erstellt und in Umlauf bringt, glaubt gerade nicht an deren Inhalt und äußert also keine ihm eigene Meinung. Er weiß, dass das Dargestellte nicht der Realität entspricht, und verbreitet es trotzdem.

Die meisten Gesetzesvorschläge zu Deepfakes zielen darauf ab, direkt geschädigte Personen wie Šimečka zu schützen. Sie ignorieren jedoch die Schädigung all derer, die im Deepfake nicht vorkommen: Šimečkas Partei, die getäuschten slowakischen Bürger und die Demokratie insgesamt. Wer mit Deepfakes Minderheiten oder soziale Bewegungen verunglimpft – etwa durch die Darstellung von Ereignissen, die nie stattgefunden haben –, wer Parteien diskreditiert oder Wähler anderweitig manipuliert, dürfte dies straffrei tun. Dies scheint uns unangemessen.

Der politische Diskurs kann als Markt der gesellschaftlichen Ideen gesehen werden. Weshalb sollte es auf diesem Markt erlaubt sein, im großen Stil zu täuschen, während vorsätzliche Falschangaben beim Verkauf von Kühlschränken oder Gebrauchtwagen geahndet werden? Die Bürger haben individuell und kollektiv – als Demokratie – ein Recht darauf, nicht über politisch relevante Sachverhalte getäuscht zu werden.

Individuell wollen wir in unserer Autonomie respektiert werden und es vermeiden, aus falschen Überzeugungen zu handeln – etwa eine Partei zu wählen, die wir nicht gewählt hätten, wären wir nicht getäuscht worden. Auf kollektiver Ebene erfordert es die gemeinsame Wahrheits- und Kompromisssuche, dass der Diskurs nicht manipuliert wird.

Im Bundesstaat Kalifornien hat diese Argumentation bereits Wirkung gezeigt. Dort galt von 2019 bis 2023 ein temporäres, nun zu erneuerndes Gesetz, das Deepfake-Darstellungen politischer Kandidaten während 60 Tagen vor einer Wahl verbot. Das Gesetz bezog sich nicht nur auf die Absicht, den Ruf eines Kandidaten zu schädigen, sondern explizit auch auf die Absicht, die Wähler zu täuschen.

Die Gesetzesinitiative der deutschen Bundesländer geht weniger weit als das kalifornische Pendant. Wie die meisten Gesetzesvorschläge zu Deepfakes will sie die Persönlichkeitsrechte schützen, die durch Deepfakes verletzt werden.

Das wäre ein Schritt in die richtige Richtung, den der Bundestag möglichst bald gehen sollte. Doch das vorgeschlagene Verbot muss ausgedehnt werden. Minderheiten, soziale Gruppen aller Art, Parteien und die Demokratie insgesamt sind ebenfalls vor manipulativen Deepfakes zu schützen.

Selbstredend ist bei der Umsetzung eines Deepfake-Verbots auf die Verhältnismäßigkeit zu achten und im Zweifel für den Angeklagten zu entscheiden. Wer einen Deepfake bloß likt oder teilt, sollte sich nicht strafbar machen. Es geht darum, jenen Akteuren das Handwerk zu legen, die Deepfakes produzieren und massenkommunikativ verbreiten. Ihre Freiheit muss dort enden, wo die freie, demokratische Meinungsbildung der anderen beginnt.