Löschen, aushalten, gegenhalten
![Belgium, Brussels, 18 february 2016, Illustration about the haressment on social networks Reporters / STG PUBLICATIONxINxGERxSUIxAUTxHUNxONLY MariexVanxdenxMeersschaut Belgium Brussels 18 February 2016 Illustration About The ON Social Networks Reporters Stg PUBLICATIONxINxGERxSUIxAUTxHUNxONLY MariexVanxdenxMeersschaut Belgium, Brussels, 18 february 2016, Illustration about the haressment on social networks Reporters / STG PUBLICATIONxINxGERxSUIxAUTxHUNxONLY MariexVanxdenxMeersschaut Belgium Brussels 18 February 2016 Illustration About The ON Social Networks Reporters Stg PUBLICATIONxINxGERxSUIxAUTxHUNxONLY MariexVanxdenxMeersschaut](https://bilder.deutschlandfunk.de/FI/LE/_d/60/FILE_d60ea7a49ffa2f8bb2771244f7ee8d5f/imago69515234hg-jpg-102-1920x1080.jpg)
Beschimpfungen, Verleumdungen, Gewaltfantasien: Hasskommentare sind inzwischen allgegenwärtig im Internet. Doch wie viel Sanktion ist erlaubt? Wie viel Aushalten erfordert die Meinungsfreiheit? Muss sich unsere Gesellschaft im Internet erst noch zivilisieren – und wenn ja: wie?
"Die Leute verlieren durch das Internet ein Stück weit Empathie-Fähigkeit."
"Die Atmosphäre hat sich in der Tat verändert. Es ist wirklich sehr viel rauer geworden."
"In der Regel waren es einfach nur wüste Beleidigungen als Volksverräterin oder als Schlampe und dass ich mal vergewaltigt werden sollte."
"Die Folgen von Hate Speech sind massiv. Betroffene geben an, dass sie lieber körperliche Gewalt erfahren würden als psychische Gewalt."
"Ja, es war einfach blinde Wut, Empörung und Hass."
Beschimpfungen, Verleumdungen, Gewaltfantasien - der digitale Mob in den sozialen Netzwerken kennt keine Hemmungen. Besonders beliebt als Zielobjekt: die so genannte Lügenpresse. Also auch wir hier im Deutschlandfunk Kultur. Manfred Hilling aus der Online-Redaktion:
"Da müssen nur Stichworte fallen wie AfD, Russland, das ist oft ein Reizwort, da tauchen sofort bestimmte Leute auf, sondern ihre Statements in einer sehr aggressiven Art und Weise ab und erwürgen damit auch sofort eine Diskussion, die auftauchen könnte."
Hilling moderiert die Kommentare in den sozialen Netzwerken des Senders. Nur eine kleine Minderheit der User wird ausfällig, betont er - die allerdings ist unerbittlich.
"Die Positionen sind da von vornherein klar, die Leute gehen nicht – und das ist nicht nur auf Facebook oder auf anderen Plattformen so - mit einer offenen Haltung rein, sondern die haben ihre feste Meinung, ihre feste Haltung und die wollen sie da einfach mal los werden."
Mit solchen Internetnutzern hat auch Katharina Schenk Bekanntschaft gemacht. Sie ist Juso-Vorsitzende in Sachsen und Stadträtin in Leipzig. Anders als Manfred Hilling, der die Kommentare "nur" moderiert, wurde sie ganz persönlich angegriffen. Im Winter hatte Schenk eine Spendenaktion organisiert, Weihnachtskugeln verkauft mit dem Motto "Refugees Welcome". Fotos davon hat sie auf Facebook gepostet – und dann ging's los.
"Da wurden Bilder geteilt, wo massakrierte Frauen drauf waren, da wurde dann geschrieben, dass wir die Islamisten ins Land holen, Bilder von abgehackten Köpfen oder auch der Wunsch, dass meine Tochter vergewaltigt werden sollte, die übrigens ein zehn Monate altes Baby ist – insofern sieht man mal wie perfide diese Leute sind."
Katharina Schenk hat nicht lange gefackelt und die Polizei eingeschaltet. Sie wirkt wie jemand, der sich nicht einschüchtern lässt. Und doch ist da auch diese Ohnmacht.
"Als frisch gebackene Mutter bin ich natürlich einfach nur sprachlos, dass jemand sich so etwas wünschen kann, und ich zweifle in dem Moment, ob ich mit so jemandem in einer Stadt, in einem Land gemeinsam leben möchte. Als Politikerin fragt man sich eben, ist es überhaupt möglich, diese Leute noch mal zu erreichen? Kann man sich mit jemandem an einen Tisch setzen und vernünftig reden, - das wird ja immer gefordert, Dialog -, der so etwas einem wünscht?"
Hate Speech ist psychische Gewalt
Katharina Schenk und Manfred Hilling stehen hier für viele – sehr viele – die im Netz mit groben Ausfälligkeiten und Angriffen konfrontiert werden. Fast jeder zweite Internetnutzer in Deutschland hat schon einmal Hasskommentare gelesen. Jeder neunte wurde selbst beschimpft oder bedroht, so eine Umfrage des IT-Verbands Bitkom.
"Problematisch ist, dass Hate Speech häufig in Wellenform kommt – also die so genannten Shitstorms, die sich dann in Massen von Kommentaren zu bestimmten Zeitpunkten entladen – wenn z.B. jemand was veröffentlicht hat oder so. Die überfordern einfach die Bewältigungsressourcen der Betroffenen massiv und hinterlassen etwas, das vergleichbar ist mit einem psychischen Trauma. Und es gibt durchaus auch post-traumatische Belastungsstörungen infolge solcher Shitstorms."
Dorothee Scholz ist Psychologin. Spezialisiert auf die Beratung von Hate-Speech-Opfern. NGOs, Behörden, Journalisten und Politiker melden sich bei ihr. Die Anfragen seien zuletzt explodiert, sagt sie.
![Frau vor einem Bildschirm mit Facebook-Logo Frau vor einem Bildschirm mit Facebook-Logo](https://bilder.deutschlandfunk.de/FI/LE/_4/ad/FILE_4ad2fc46b5c96772c21c7733d9d6572a/imago77464936h-jpg-100-1280xauto.jpg)
Frauen, die sich aktiv und selbstbewusst im Internet äußern, werden oft mit Hassbotschaften konfrontiert und sexistisch beleidigt.© imago / epd
Der digitale Hass ist aber nicht nur für den Einzelnen eine Belastung. Er ruiniert auch noch etwas ganz anderes – immer dann, wenn aufgebrachte User im Netz ihre Wut ablassen auf die Flüchtlinge oder auch die Politiker.
"Wenn es sich auf bestimmte Menschengruppen bezieht, werden diese Gruppen durch solche Hasswellen auch ein Stück weit entmenschlicht, was gesamtgesellschaftlich dann eher dazu beiträgt, eine Distanz aufzubauen zu diesen Gruppen und auch echte Gewalt für legitimer zu halten, weil empathische Prozesse nur stattfinden, wenn wir uns identifizieren können mit dem anderen."
Die verbale Verrohung bereitet wohl oft den Weg für eine ganz reale Enthemmung. Ein Blick in die jüngste Kriminalstatistik: Politisch motivierte Straftaten haben im vergangenen Jahr deutlich zugenommen. In der islamistischen Szene, vor allem aber im rechten Spektrum. Angriffe auf Politiker nehmen ebenfalls zu. Mehr als 800 Fälle gab es 2016, laut Angaben aus dem Innenministerium.
Bundesregierung droht Netzwerken mit hohen Bußgeldern
Sicher haben diese Zahlen verschiedene Ursachen. Trotzdem trägt die Stimmung in den sozialen Netzwerken dazu bei, das Klima in Teilen der Gesellschaft anzuheizen. Für die Politik ein Problem, vor allem, wenn bald gewählt wird.
"Ja, meine Damen und Herren, die Meinungsfreiheit schützt in einer lebendigen Demokratie auch abstoßende und hässliche Äußerungen, aber die Meinungsfreiheit endet da, wo das Strafrecht beginnt. Für strafbare Hetze und Verleumdungen darf auch in den sozialen Netzwerken genauso wenig Platz sein, wie auf der Straße."
Im Frühjahr im Bundesjustizministerium in Berlin. Heiko Maas hat die Hauptstadtpresse geladen. Der Justizminister erklärt, wie er gegen die Hetze im Netz vorgehen will.
"Wir müssen den Druck auf die sozialen Netzwerke erhöhen. Um die Unternehmen bei der Löschung strafbarer Inhalte noch stärker in die Pflicht zu nehmen und dafür brauchen wir gesetzliche Regelungen."
Schon 2015 hatte Heiko Maas eine Arbeitsgruppe geschaffen, mit Facebook, Google und Twitter darüber gesprochen, wie sich Hassbotschaften im Netz bekämpfen lassen. Viel heraus kam dabei nicht. Mit dem Netzwerkdurchsetzungsgesetz (NetzDG) will er das ändern. Es verordnet den Plattformen konsequent zu löschen: Offensichtlich strafbare Inhalte binnen 24 Stunden, sonstige rechtswidrige Inhalte innerhalb von sieben Tagen.
![Bundesjustizminister Heiko Maas (SPD) Bundesjustizminister Heiko Maas (SPD)](https://bilder.deutschlandfunk.de/FI/LE/_7/c4/FILE_7c4c30af8cdc10f57f4ead93bc056eb1/65762024-jpg-102-1280xauto.jpg)
Bundesjustizminister Heiko Maas (SPD)© picture alliance/dpa/Bernd von Jutrczenka
"Ein Verstoß dagegen, ein Verstoß gegen diese Organisationspflichten, die wir damit normieren, kann mit einer Geldbuße von bis zu fünf Millionen Euro gegenüber den Verantwortlichen des Unternehmens und mit bis zu 50 Millionen gegenüber dem Unternehmen selbst geahndet werden."
Furcht vor Zensur durch Facebook und Co.
Rechtswidrige Inhalte dürfen nicht die Runde machen, da stimmt wohl jeder zu. Nur: Was ist rechtswidrig und was nicht? Bei einer Holocaust-Lüge ist das schnell geklärt, doch so einfach ist es meist nicht. Viele Äußerungen bewegen sich in einem juristischen Graubereich.
"Man sieht beispielsweise an dem Böhmermann-Gedicht, bei dem professionelle Juristen Wochen gebraucht haben, um tatsächlich mal zu analysieren: Ist das eine Straftat oder ist das Ganze von der Kunst- und Meinungsfreiheit gedeckt? Und solche Beispiele gibt es zu Hauf."
Volker Tripp ist politischer Geschäftsführer beim Verein Digitale Gesellschaft, der sich für Bürgerrechte im Netz einsetzt – und empört darüber, was sich das Justizministerium hier ausgedacht hat.
"Nach dem Netzwerkdurchsetzungsgesetz sollen jetzt also irgendwelche Mitarbeiter von Social-Media-Unternehmen, die im Zweifel keine juristische Schulung haben, beurteilen, ob irgendeine Äußerung in einem sozialen Netzwerk jetzt eine solche Straftat darstellt, noch dazu, ob sie eine offensichtliche Straftat darstellt."
Wenn man die Plattformen unter Androhung von Strafen zwinge, binnen kurzer Frist über solche Fällen zu entscheiden – dann, sagt Volker Tripp, sei klar, wo das hinführe:
"Das bedeutet eben, ein Social-Media-Unternehmen wird sich immer sagen, um kein Bußgeld zu riskieren, im Zweifel lösche ich lieber möglichst schnell einen bestimmten Inhalt, als dass ich ihn online lasse. Das heißt also durch dieses Gesetz wird quasi eine Löschpraxis befördert, die so nach dem Motto im Zweifel für das Löschen und damit im Zweifel gegen die Meinungsfreiheit ausfällt."
Breiter Widerstand gegen das NetzDG
Der Widerstand gegen das NetzDG ist riesig. Wirtschaftsverbände, Journalisten, NGOs, Digitalvereine und viele Juristen – sie alle warnen eindringlich: Wenn dieses Gesetz durchkommt, dann entscheidet Facebook mit, was gesagt werden darf und was nicht.
Gemeinsam haben die Kritiker des Netzwerkdurchsetzungsgesetzes einen Aufruf verfasst: Die Deklaration für die Meinungsfreiheit. Was strafbar ist und was nicht, soll immer noch die Justiz entscheiden, heißt es darin. Und: Es brauche mehr Geld und Personal für die Strafverfolger. Aber kein neues Gesetz.
Kritik am NetzDG kommt aber auch aus den Koalitionsfraktionen, sowohl in Maas' eigener Partei, der SPD, als auch vom konservativen Koalitionspartner, der CDU. Die will vor allem,
"klarer definieren, was offensichtlich rechtswidrig ist, was unter diese 24-Stunden-Regel fällt, das müssen dann Dinge sein, die wirklich eindeutig und zweifelsfrei erkennbar sind und wo es auch keine Auslegungsfragen gibt",
sagt der netzpolitische Sprecher der Union, Thomas Jarzombek.
"Das Zweite ist, dass diejenigen, die am Ende da sitzen und die Entscheidung treffen, was gelöscht werden soll und was nicht - dass das nicht Mitarbeiter von Facebook und Co. sind, sondern, dass das unabhängige Leute sind, wie man das auch beispielsweise aus dem Jugendschutz kennt, wo man Selbstkontrollen hat, die einer staatlichen Regulierung unterliegen."
Staatliche Regulierung? Genauso schlimm sei das, sagen Kritiker, dies führe womöglich zu einer Art Ministerium für Wahrheit. Dass der Staat und auch die Medien zensieren – diesen Vorwurf erheben Internet-Hetzer ohnehin schon jetzt. Ein Dilemma, sagt Online-Redakteur Manfred Hilling, denn eine strikte Löschpraxis spiele solchen Leuten zusätzlich in die Hände.
"Die Meinung dieses Nutzers habe ich dadurch in keinster Weise auch nur beeinflusst, sondern er fühlt sich unter Umständen nur noch dadurch bestätigt, dass er gelöscht wird, wenn er jetzt beim nächsten Mal wieder von Zensur oder Lügenpresse schwafelt. Es wäre infam sich einzubilden, man könnte wirklich die Hardcore-Hater auch nur erreichen."
Hetzern mit Argumenten widersprechen
Strafbare Hasskommentare sind allerdings ohnehin nur eine Seite der Medaille. Auf der anderen wabert eine unüberschaubare Flut an Äußerungen, die zwar unerträglich sind – aber trotzdem nicht strafbar. Wie damit umgehen?
"Hi! Vielleicht habt Ihr es schon mitbekommen – mehrere YouTuber machen bei der Aktion YouGeHa mit, also YouTuber gegen Hass. Bei dieser Aktion geht es um Ausgrenzung und Intoleranz zum Beispiel gegenüber Ausländern, Homosexuellen oder Behinderten."
Die Hetze nicht unkommentiert lassen, sondern widersprechen und dagegen argumentieren – eine Strategie, für die es inzwischen viele Beispiele gibt. Etwa die Aktion YouGeHa, eine digitale Antwort auf Intoleranz im Netz. Oder das No-Hate-Speech-Movement, eine internationale Kampagne, initiiert vom Europa-Rat.
"Es gibt kein Recht, jemanden zu beleidigen, zu hetzen, zu bedrohen, denn Hass ist keine Meinung. Nicht mal im Internet. Wir müssen laut werden, sagen, was Sache ist. Laut und freundlich. Wie das geht? Steht auch im Netz."
Auf Facebook organisieren sich seit etwas einem halben Jahr Zehntausend in der Gruppe IchBinHier – eine Bewegung, die für eine bessere Diskussionskultur in den sozialen Netzwerken eintritt. Gleichzeitig sind NGOs und Vereine aktiv mit diversen Projekten gegen Intoleranz in Netz, darunter die Amadeu-Antonio-Stiftung.
"Die Politik sollte dafür sorgen, Strukturen schaffen, dass eben solche Systeme gefördert werden, weil das letztendlich nicht nur dafür gut, dass es auf Facebook schöner ist, sondern das ist wichtig für unsere Debattenkultur im Land. Und die ist halt völlig marode."
Der Regierung fehlt eine Gesamtstrategie
Johannes Baldauf ist Netz-Experte bei der Stiftung. Er und seine Kollegen arbeiten seit Jahren an Strategien gegen Extremismus im Internet. Die Regierung dürfe sich nicht nur auf Löschquoten konzentrieren, sagt er, sondern müsse endlich eine umfassende Strategie entwickeln.
"Es ist verständlich, dass im Justizministerium diese Verengung vorgenommen wird, aber das führt eben dazu, dass man eigentlich sehr, sehr schnell das eigentliche Problem aus dem Blick verloren hat. Eigentlich müssen wir darüber sprechen, dass wir ein großes Problem mit menschenverachtenden Haltungen in unserer Gesellschaft haben, Rassismus, Sexismus, Antisemitismus."
Natürlich ist die Regierung hier nicht untätig. Im Rahmen des Bundesprogramms "Demokratie leben!" fördert sie Akteure, die sich gegen Online-Hass engagieren.
Johannes Baldauf meint, die Regierung sollte auch mit den Netzwerken kooperieren – sowie die Amadeu-Antonio-Stiftung es tut. Für ihre Projekte erhält die Stiftung, wie viele andere NGOs, auch Gelder von Facebook und Google für Werbeanzeigen auf den Plattformen.* Man müsse die Plattformen als Partner sehen, glaubt Baldauf.
"Tut man aber nicht, weil man schon eine sehr vorgefertigte Meinung hat: Unternehmen sind halt böse. Und alles, was die tun ist scheinheilig, und das ist schwierig. Ich finde, eben weil diese Plattformen eine extrem wichtige Rolle in unserem Alltag spielen, haben sie natürlich eine gesamtgesellschaftliche Verantwortung. Dementsprechend finde ich es sehr wichtig, wenn Unternehmen sich finanziell und logistisch einfach an demokratiefördernder Arbeit beteiligen."
Kampagnen der sozialen Netzwerke
Partner sein im Kampf gegen den Hass - das bringen die sozialen Netzwerke längst selbst ins Spiel. Denn natürlich wissen auch Facebook und Co., dass die Hetze auf ihren Plattformen sie angreifbar macht, juristisch wie moralisch. Deshalb wird nun im großen Stil Verantwortung gezeigt – mit Netz-Kampagnen gegen Hate Speech.
![Eine Computertaste mit der Aufschrift "hass" und dem Schatten eines Paragraphen-Zeichens darüber Eine Computertaste mit der Aufschrift "hass" und dem Schatten eines Paragraphen-Zeichens darüber](https://bilder.deutschlandfunk.de/FI/LE/_5/bb/FILE_5bb965ee2941fd5a767898f6e96b7788/imago66333974h-g-jpg-100-1280xauto.jpg)
Die sozialen Netzwerke starten selbst Kampagnen gegen Hate Speech - denn Hetze auf ihren Plattformen macht sie angreifbar.© imago / Christian Ohde
Facebook etwa hat letztes Jahr die "Initiative für Zivilcourage online" gestartet. Rund eine Million Euro gibt das Netzwerk dafür aus und finanziert europäische NGOs, die sich gegen Online-Hass engagieren. Kritiker sprechen trotzdem von einer PR-Aktion, einem Feigenblatt angesichts der hohen Unternehmensgewinne.
Auch die Google-Tochter YouTube fährt seit dem vergangenen Jahr eine große Kampagne gegen Hate Speech, die Initiative NichtEgal. Mehr als 20 bekannte YouTube-Stars hat das Unternehmen dafür angeheuert, im Netz fordern sie dazu auf, nicht wegzuschauen bei digitaler Intoleranz.
"Egal ist: Wenn man zu bequem oder zu faul ist."
"Egal ist: gleichgültig."
"Egal ist: Hasskommentare ignorieren.
"Aber es ist nicht egal, dass Du damit jemanden verletzt."
Nicht jeder von ihnen war selbst immer ein Vorbild für guten Ton im Netz. Doch die Stars der Szene wollen den Kontakt zur Zielgruppe herstellen – den jungen Internetnutzern.
Dazu kommen Video-Workshops in der analogen Welt – und zwar an Schulen. Ziel sei es, erklärt die Plattform auf der Website zur ihrer Kampagne, "tausende Schüler in ganz Deutschland zu Experten für Toleranz und Demokratie im Netz" auszubilden.
Der Ansatz der YouTube-Kampagne: Die Schüler sollen Stellung beziehen gegen Hass und Intoleranz – in Form von selbstgedrehten Videos. Wer noch nicht weiß, wie man das macht, der bekommt es gelehrt von älteren Schülern, die eigens für die Kampagne zu Mentoren ausgebildet wurden.
"Was habt Ihr denn hier jetzt aufgenommen? Erzähl mal."
"Wir stellen gerade eine Szene nach, wie ich gemobbt werden, also zum Thema Mobbing."
"Wir sind dabei, bei #NichtEgal, das ist ein YouTube-Projekt, wir wollen hier ein bisschen aufklären, dass man Mobbing nicht tut und so. Ist nichts Gutes – und wie gesagt, folgt mir!"
Digitale Bildung steht nicht im Lehrplan
Kritiker werfen YouTube vor, es gehe hier nicht nur darum, Schüler zu digitaler Toleranz zu motivieren, sondern auch um Imagepflege, um die Gewinnung und Bindung junger Nutzer. Das Unternehmen dagegen verweist auf Lücken im Bildungssystem, die man helfen wolle zu schließen. Sabine Frank, Leiterin für Verbraucher- und Jugendschutz beim deutschen Unternehmenszweig des Internetriesen Google, zu dem Youtube gehört:
"Wir müssen sehr früh anfangen, dass Menschen sich Gedanken machen: Wie wollen wir eigentlich leben und was sind die Werte? Und wir haben aber festgestellt, dass genau zu diesem Thema Hass im Netz - was bedeutet uns Demokratie, wie kommunizieren wir darüber - eben es noch keine Ausbildungsbausteine sozusagen gibt."
Wertevermittlung mit Hilfe eines Internetkonzerns? Die Pädagogen vom Verein Cybermobbing Prävention, die Partner der Kampagne sind, waren zunächst nicht ganz sicher, ob das der richtige Weg ist – haben sich dann aber dafür entschieden.
"Wir sind ja nicht von dem Unternehmen angestellt, sondern das ist unsere tägliche Arbeit, insofern haben wir auch sehr viel Freiraum, wie wir das gestalten. Wir haben natürlich vieles vorgegeben gekriegt. Aber wir waren an der pädagogischen Erarbeitung des Konzepts mit dran beteiligt. Sonst wäre das überhaupt nicht möglich",
sagt Pädagoge Philipp Behar-Kremer über die YouTube-Kampagne. Und sein Kollege Oliver Gende fügt noch hinzu:
"Ich fände es wünschenswert, wenn die Politik sich vielleicht einfach mal überlegt, dass das auch Bestandteil des Lehrplans sein sollte. Das finde ich superwichtig. Und da muss ich ganz ehrlich sagen, da gehe ich dann lieber auch den Vertrag mit einem großen Konzern ein, um zu versuchen, dass dieses Thema Rassismus, Anfeindungen im Netz, dass dagegen etwas getan wird - bis die Politik da auch wirklich einschreitet und da was tut."
Wachsende Abhängigkeit von den Plattformen
Wo aber führt das hin, wenn die Politik hier zu wenig oder auch nur zu langsam agiert? Die sozialen Netzwerke können ihr beim Kampf gegen die Hetze im Netz sicher helfen. Ihre demonstrative Sorge um das Wohl der Gesellschaft dürfe man aber auch nicht überschätzen, warnt der Chefredakteur des Blogs Netzpolitik, Markus Beckedahl:
"Jetzt wo die Kritik an diesen ganzen Auswüchsen, die wir sehen, immer größer wird, auch am Verhalten von diesen Plattformen, versucht man sich so ein bisschen an der Wand stehend dadurch zu retten, dass man Corporate Social Responsibility, also Unternehmensverantwortung zeigt, indem man Bildungsangebote schafft. Daran ist erstmal nichts Schlechtes. Andererseits könnte man auch sagen, wenn diese Plattformen hier endlich mal Steuern zahlen würden, dann könnten wir als Gesellschaft selbst diese Bildungsangebote machen und müssten uns nicht abhängig machen bei diesen privaten Betreibern. Eigentlich ist es eine staatliche Aufgabe und nicht die von Plattformen praktiziert werden sollte."
Für Beckedahl zeigt sich an diesem Beispiel auch, in welche Richtung sich der Einfluss der Netzwerke grundsätzlich entwickelt:
"Wir haben leider das Problem, dass wir uns als Gesellschaft immer mehr abhängig machen von einzelnen Plattformen, die ihren Sitz woanders haben, in anderen Ländern, die uns ihre Regeln, ihre Strukturen auferlegen und wo große Teile der Gesellschaft mittlerweile diese privatisierten Öffentlichkeiten nutzen, um zu kommunizieren aber auch um politisch in unserer Gesellschaft an Debatten teilzunehmen."
Wie die sozialen Netzwerke die Kommunikation aber strukturieren, nach welchen Prinzipien ihre Algorithmen funktionieren – darüber erhält man kaum Informationen. Das macht es schwer zu beurteilen, wie stark sie Debatten verschärfen oder verzerren. Dass sie die Wahrnehmung der User inhaltlich lenken, liegt jedoch auf der Hand.
"Wenn man jetzt ein eher rechtsdenkender, islamfeindlicher AfD-Wähler ist und auf Facebook sich für dementsprechende Seiten interessiert, dann bekommt man in der Regel halt nicht die Inhalte der taz in seiner Timeline angezeigt, sondern genau die anderen, die auch so was posten und die in so einer Glaubenswelt sind . Es gibt Anzeichen dafür, dass man halt durch diese Algorithmen bestärkt wird in seinen Ansichten, weil man das Gefühl hat, dass alle anderen, mit denen man kommuniziert, ähnlich denken und auch eine kleine Minderheit auf einmal zumindest psychologisch das Gefühl entwickelt, man wäre die schweigende Mehrheit."
Stimmungsmache durch geschickte Propaganda
Gefährlich wird es, wenn Stimmungsmache dazukommt. Denn die sozialen Netzwerke werden auch gezielt als Propaganda-Instrument genutzt. Eines, das viele geschickt einsetzen und so den Boden bereiten für jene Empörung, die sich dann in Beleidigungen und Angriffen Ausbruch verschafft.
"Den Kern des heutigen Abends bildet für mich eine Sammlung von Videos aus dem Internet, soziale Medien, Facebook, Twitter, Sie kennen das ja wahrscheinlich alles…"
Der Theaterregisseur Arne Vogelgesang untersucht seit Jahren, wie das Internet für Propaganda genutzt wird.
"...also ganz normale besorgte Bürger, die sagen, dass sie sagen, was alle denken, was sie wollen, dass alle denken, was sie sagen."
Im Theater Dortmund zeigt er das Stück "Flammende Köpfe" – ein Multimedia-Reigen mit dutzenden Video-Statements jener "besorgten Bürger".
"So, Frau Merkel, fangen wir bei Ihnen gleich an, wa? Sie sagen, sie wollen den Menschen helfen, die unseres Schutzes bedürfen? Fangen Sie doch mal mit dem deutschen Volk an! Wie viele Frauen sollen hier noch vergewaltigt werden? Wie viele Kinder sollen hier noch vergewaltigt werden?"
Zum Beispiel von einer Frau um die 30, die auf ihrem Facebook-Profil regelmäßig gegen "das System" hetzt. Dafür gibt sie sich allerdings als die Kunstfigur "Giftzahn" aus. Ein Trick, den solche Akteure oft benutzen, sagt Vogelgesang.
"Also dass man sagt, ich mach hier Satire, um sich abzusichern. Dass man sagt, ich mach hier Kunst. Ich spreche nicht selbst, sondern hier spricht nur eine Kunstfigur und die stellt eine politische Meinung dar, aber das ist gar nicht unbedingt meine. Ich würde so was nie sagen, meine Kunstfigur sagt es schon. Damit schafft man sich auch viel Freiraum und so ein bisschen eine Grauzone, in der man nicht so schnell belangt werden kann."
Arne Vogelgesang hat im Lauf der Jahre hunderte Propaganda-Auftritte ausgewertet und archiviert. Hasskommentare schreiben diese Akteure eher selten, hat er beobachtet. Vielmehr bereiten sie dafür gezielt den Boden.
"Es kotzt mich an. Ein Terroranschlag passiert, noch ein anderer Terroranschlag passiert. Irgendwelche Flüchtlinge, irgendwelche Migranten begehen irgendwelche Verbrechen."
"Sie wandeln eine bestimmte Ohnmachtserfahrung, mit der sich sehr viele Leute identifizieren können, in Souveränität um und sagen: Ich lass mir das nicht länger gefallen, ich bin die Person, die 'Nein' sagt, ich bin das Vorbild für die Revolution, die jetzt beginnen soll. Und das finden dann alle auch erst mal toll, die das sehen – also diejenigen, die politisch auf dieser Linie mit sind – und sagen, ja, genau! Und haben ein bisschen was von diesem Gefühl halt auch."
Zwiespältige Rolle der Algorithmen
Und die Algorithmen der sozialen Netzwerke füttern solche Gefühle oft weiter an. Denn vorgeschlagene Inhalte sollen dem User gefallen, was nicht ins Meinungsbild passt, wird meist weggefiltert. So können Meinungs-Ghettos entstehen, die sich stetig verfestigen.
"Und dann ist es natürlich auch so, dass dieser Effekt davon, dass, wer am lautesten schreit, am meisten wahrgenommen wird, am meisten Aufmerksamkeit kriegt, der potenziert sich. Das ist ein Lernprozess und dieser Lernprozess wird verstärkt durch diese Architekturen, glaube ich, weil dann auch nicht sofort jemand anderes daneben steht und sagt, ja, ist ja egal, halt mal den Ball flach, trink einfach noch ein Bier und dann gehen wir wieder nach Hause, ist vergessen. Sondern stattdessen stehen plötzlich 20 Leute um Dich herum, die Dich anfeuern."
Menschenfeindliche Milieus und Empörungswellen – es gab sie schon immer. Doch das Affekt-Business der sozialen Medien kann Aufschaukelungs-Dynamiken in Gang setzen, die sich schwer überschauen und noch schwerer kontrollieren lassen.
![Ein junger Mann sitzt am 03.03.2017 in Frankfurt am Main (Hessen) in einer S-Bahn und benutzt dabei sein Smartphone. Ein junger Mann sitzt am 03.03.2017 in Frankfurt am Main (Hessen) in einer S-Bahn und benutzt dabei sein Smartphone.](https://bilder.deutschlandfunk.de/FI/LE/_6/4d/FILE_64dbdc0e6a13e1761cd822e502dd14b2/smartphone-dpa-jpg-100-1280xauto.jpg)
Im Internet verbreiten sich Verschwörungstheorien und Hass© dpa / picture-alliance / Hauke-Christian Dittrich
"Die Algorithmen sind da. Die Frage für mich ist dann eher: Wie schaffen wir es die Algorithmen so zu nutzen, dass etwas Gutes dabei rumkommt? Okay, wir sehen, es gibt einen verstärkenden Effekt. Aber dann ist die Frage: Wenn es diesen Algorithmus gibt, wie können wir uns selber diese Echokammern zu Nutze machen?",
sagt Johannes Baldauf von der Amadeu-Antonio-Stiftung. Die Funktionsweise der sozialen Netzwerke - für ihn keine Einbahnstraße, sondern auch eine Möglichkeit, Stimmen, die für Toleranz eintreten, Schub zu verleihen.
Die Bereitschaft, selbst seine Stimme zu erheben, ist indes noch überschaubar: Nur etwas 14 Prozent der Nutzer reagieren auf Fremdenhass im Netz mit Gegenrede, so eine repräsentative Umfrage des Verbands der Internet-Wirtschaft Eco. Kraft, Zeit und auch Mut sind nötig, um Online-Hetzern zu widersprechen – und all das, hat nicht jeder.
Diskursfähigkeit auf dem Prüfstand
Argumentieren, aushalten, löschen – wie umgehen mit der Hetze im Internet. Wir müssen unsere Diskursfähigkeit neu vermessen, sagt Netzaktivist Markus Beckedahl:
"Da fehlen uns vielleicht noch die Umgangsformen in unserer Gesellschaft. Wie gehen wir damit um, also wie lösen wir den Konflikt, wie wir es im analogen Leben vielleicht auch schon gelöst haben. Es gibt selten auf der Straße Situationen, wo man sich von anderen bedroht fühlt, viel weniger als im Internet, weil wir uns als Gesellschaft – als Gesellschaften - analog zivilisiert haben über viel Jahre, Jahrzehnte. Möglicherweise sind wir erst in so einem Zivilisationsprozess im digitalen Zeitalter."
Doch lassen sich die Prinzipien, die in analogen Debattenräumen Geltung besitzen, eins zu eins übertragen in die digitale Welt? Regisseur Arne Vogelgesang dagegen ist skeptisch, ob tatsächlich wir es sind, die das alles am Ende entscheiden.
"So Plattformen wie Facebook oder YouTube, das sind Experimentierwiesen für Milliarden von Menschen weltweit, die erst mal darauf ausgerichtet sind, Profit für die Unternehmen, die sie erzeugen oder die Werbetreibenden zu generieren, darauf basieren die Algorithmen. Was die an Effekten haben auf die Kommunikation der Menschen, was das für Effekte hat auf die Realität des Umgangs miteinander, davon haben wir überhaupt keine Ahnung. Wir wissen nicht, was da passiert. Die friedliche Zivilgesellschaft, die wir uns so vorstellen und dort glauben, bewahren zu können, die wird mit diesen Strukturen nicht funktionieren."
(abr)
(*) Anmerkung der Redaktion: In einer älteren Version hieß es nur: "Für ihre Projekte erhält die Stiftung auch Gelder von Facebook und Google." Um Missverständnisse zu vermeiden, haben wir die entsprechende Stelle konkretisiert.