„Wir müssen etwas gegen die Online-Hochburgen der Radikalisierung tun!“

Die rechtsextremen Attentäter in Halle, Christchurch und Poway haben alternative Internet-Plattformen genutzt, um ihre Anschläge live zu übertragen. Welche Bedeutung diese Plattformen für die Verbreitung von Rechtsextremismus haben und welche Gegenmaßnahmen möglich sind, zeigt eine von der Robert Bosch Stiftung geförderte Studie des Institute for Strategic Dialogue (ISD). Autorin Julia Ebner erklärt, wie rechtsextreme Inhalte im Netz wirksam eingeschränkt werden können.

Alexandra Wolters | Februar 2020
Julia Ebner / Bildnachweis: Foto: Institute for Strategic Dialogue
Foto: Institute for Strategic Dialogue

Julia Ebner arbeitet für das Londoner Institute for Strategic Dialogue (ISD) und ist auf die Themen Rechtsextremismus, wechselseitige Radikalisierung und Terrorismusprävention spezialisiert. Dabei hat sie auch die Netzkommunikation Rechtsradikaler im Blick. Zu Ebners jüngsten Veröffentlichungen gehören die Bücher „Radikalisierungsmaschinen: Wie Extremisten die neuen Technologien nutzen und uns manipulieren“ (2019) und „Going Dark: The Secret Social Lives of Extremists“ (2020).

Was sind aus Ihrer Sicht die wichtigsten Erkenntnisse der Studie über rechtsextreme Akteure auf Online-Plattformen?

Zunächst einmal haben wir festgestellt, dass unter den von uns untersuchten alternativen Plattformen der Messenger-Dienst Telegram, das soziale Netzwerk VK, die Twitter-Alternative Gab sowie die YouTube-Alternative Bitchute die größte Rolle für die Mobilisierung von deutschsprachigen rechtsextremen Bewegungen und Aktivisten einnehmen. Das deckt sich stark mit den bevorzugten Plattformen von der englischsprachigen Alt-Right. Viele der von uns analysierten Posts verbreiten auf verschiedene Art und Weise rechtextreme Ideologien und Verschwörungstheorien. Auch wenn sie nicht explizit zur Gewalt aufrufen, können sie mit ihren Inhalten zur Radikalisierung von Nutzern beitragen sowie zu extremistischen Gewalttaten und Terrorismus inspirieren. Das macht sie gefährlich.

Wie stößt man im Netz auf die im Vergleich zu Facebook und YouTube kleineren, alternativen Plattformen mit rechtsextremen Inhalten? 

Es ist erschreckend, wie unglaublich leicht es ist, auf diese Plattformen zu kommen. Sie befinden sich im für alle zugänglichen Surface Web – und nicht wie man vielleicht erwarten könnte im Darknet. Viele rechtsextreme Influencer haben bereits auf den großen Plattformen eine prominente Präsenz. Von dort leiten sie ihre Sympathisanten weiter auf alternative Plattformen mit rechtsextremen Inhalten oder teilen Links, die die Nutzer dorthin führen können. Dabei gibt es einerseits alternative Plattformen, die für ultralibertäre Zwecke und eindeutig für rechtsextreme Inhalte gemacht wurden und entsprechende Nutzer anziehen. Aber es gibt auch Plattformen, die ursprünglich für ganz andere Zwecke gebaut wurden, zum Beispiel für Gaming. Sie wurden von rechtsextremen Nutzern gekapert und für deren Zwecke instrumentalisiert. Diese Kanäle sehen auf den ersten Blick nach wie vor wie Spiele-Angebote aus, verbreiten aber beispielsweise Falsch-Meldungen und rechtsextreme Ideologien.

Sperrungen sind durchaus sinnvoll, müssen aber nachvollziehbar sein

Wie wirken sich Account-Sperrungen rechtsextremer Akteure auf den großen Plattformen wie Facebook aus? Und wie sinnvoll sind sie?

Wir haben in den letzten Jahren beobachtet, dass es eine Migration zu den kleineren Plattformen gibt, wenn Accounts auf den größeren Plattformen geschlossen werden. In der Studie konnten wir aber feststellen, dass diese Migration in deutlich kleinerem Ausmaß stattfindet. Auf den alternativen Plattformen haben es die rechtsextremen Akteure viel schwerer, eine größere Menge an Followern zu generieren. Die Sperrung von Accounts rechtsextremer Gruppen schränkt die Verbreitung ihrer Inhalte und deren Reichweite erheblich ein. Sperrungen sind insgesamt also durchaus sinnvoll, müssen aber nachvollziehbar begründet sein. Man darf dabei die möglichen negativen Konsequenzen nicht übersehen. Denn Sperrungen können auch zu noch mehr Frustration und Verschwörungstheorien beitragen.

Wie können die rechtsextremen Inhalte und Radikalisierungsversuche auf alternativen Plattformen bekämpft werden?

Um zu verhindern, dass sich Menschen über die alternativen Plattformen radikalisieren und diese als Bühne nutzen, so wie wir es zum Beispiel bei den Attentätern in Halle und Christchurch gesehen haben, brauchen wir neue Interventionsmodelle mit Deradikalisierungsprogrammen. Wie zum Beispiel das ISD-Pilotprojekt Counter Conversations. Dabei treten unter anderem Aussteiger rechtsextremer Gruppen und Opfer von Terroranschlägen mit Nutzern in Kontakt, die zum Beispiel rechtsextreme Inhalte gepostet haben. Wir haben festgestellt, dass es online und zunächst anonym durchaus eine Bereitschaft gibt, auf solche Deradikalisierungsmaßnahmen einzusteigen.

Das ist eine eindeutige Gefahr für unsere Demokratie

Die Motivation der Nutzer auf den von uns untersuchten Plattformen war sehr unterschiedlich – vom allgemeinen Fremdenhass und Antisemitismus über den Wunsch, den politischen Diskurs beeinflussen zu können bis hin zu Spaß und Entertainment. Entsprechend unterschiedlich müssten die Interventionen und Maßnahmen für diese Plattformen und deren Nutzer aussehen. Das Netzwerkdurchsetzungsgesetz (NetzDG) greift, selbst wenn es eine Erweiterung auf kleinere Plattformen gäbe, aus meiner Sicht zu kurz, da es auf die Entfernung eindeutig illegaler Inhalte beschränkt ist. Viele Posts mit Verschwörungstheorien und extremen Ideologien befinden sich aber in einer Art Grauzone – und sind nach geltendem Gesetz legal.

Welche weiteren Maßnahmen müssten also von Seiten der Politik, Gesellschaft und Unternehmen dringend angegangen werden? 

Betreibern von gekaperten alternativen Plattformen fehlt es oft an Möglichkeiten, sich gegen die „Übernahme“ von rechtsextremen Akteuren zu wehren. Dafür bräuchten wir mehr Kooperationen zwischen den großen und alternativen Plattformen. Wir empfehlen eine Zusammenarbeit der Betreiber, bei der die alternativen Plattformen von den technischen Möglichkeiten der Großen profitieren, wie Identifikations- und Entfernungsmechanismen gewaltvoller Posts. Auf sicherheitspolitischer Ebene müssen Frühwarnsysteme entwickelt werden, um Gewaltaufrufe, konkrete Bedrohungen und geplante Terroranschläge auf alternativen Plattformen rechtzeitig erfassen zu können. Das kann beispielsweise über Algorithmen zur Spracherkennung passieren. Wichtig ist außerdem eine Aufklärung über die rechtsextremen Akteure im Netz, mit welchen Methoden diese arbeiten und welche Radikalisierungsgefahren von ihnen für die Nutzer ausgehen. Dafür brauchen wir passende Bildungsangebote vor allem für Lehrer, Eltern und Jugendarbeiter. 

Was wird passieren, wenn wir die rechtsextremen Aktivitäten auf alternativen Plattformen nicht erfolgreich bekämpfen können? 

Wir müssen etwas gegen die Online-Hochburgen der Radikalisierung tun, damit sich Anschläge wie in Halle, Christchurch und El Paso nicht wiederholen. Auch wenn bereits einzelne Plattformen wie 8chan vom Netz genommen wurden, gibt es derzeit genug Alternativen, die zu Gewalttaten inspirieren können. Außerdem wächst die Gefahr der längerfristigen politischen Beeinflussung. Es könnten Kampagnen verbreitet werden, die sich zum Beispiel auf den politischen Online-Diskurs und auch auf das Verhalten bei Wahlen auswirken könnten. Das ist eine eindeutige Gefahr für unsere Demokratie.

Die Studie

Das Online-Ökosystem rechtsextremer Akteure

Ergebnisse eines Forschungsprojekts des Institute for Strategic Dialogue (ISD) über das Online-Ökosystem...

Aktuell

Das könnte Sie auch interessieren

Digital trifft sozial

Digitalisierung spielt auch in gemeinnützigen Organisationen eine immer wichtigere Rolle. Wir zeigen drei Beispiele aus unserer Förderinitiative "DigitalDabei!".

Weiterlesen

Fünfzehn Schulen für den Deutschen Schulpreis 2020 nominiert

Die Finalisten des Deutschen Schulpreises 2020 stehen fest: Sie dürfen sich Hoffnung auf den Hauptpreis machen.

Weiterlesen

Auswirkungen der Corona-Pandemie auf unsere Arbeit

Mit ihren Maßnahmen möchte die Stiftung dazu beitragen, die Gesundheit aller zu schützen und die Ausbreitung des Virus einzugrenzen.

Weiterlesen