Fluchtwege. Wie das Netzwerkdurchsetzungsgesetz auf etablierten sozialen Medien durch die Verlinkung zu alternativen Plattformen umgangen wird

Veröffentlichung: 28. Juli 2021
Autor:Innen: Dominik Hammer, Paula Matlach, Lea Gerster & Till Baaken

Für diese Studie wurde das Onlinemilieu rechtsradikaler und rechtsextremer Akteur:innen im Hinblick auf die Verlinkung zu alternativen Plattformen untersucht. Ziel der Analyse war es, den breiteren Kosmos der Online-Plattformen zu erschließen, die von rechtsextremen und rechtsradikalen Akteur:innen genutzt werden.

Da die etablierten sozialen Medien wie Facebook, Instagram, Twitter und YouTube aufgrund zunehmender (Selbst-)Regulierung illegale und extremistische Inhalte immer mehr entfernen, sehen sich viele rechtsextreme und rechtsradikale Akteur:innen dazu gezwungen, auf alternative Plattformen auszuweichen. Um ihren Abonnent:innen auf den etablierten Plattformen zu zeigen, wo ihre Inhalte inzwischen aufzufinden sind, verlinken viele dieser Akteur:innen auf alternative Plattformen. Diese Dynamik ist problematisch, da sich die Diskurse demokratiefeindlicher Aktivist:innen so jenseits der öffentlichen Debatten und transparenter Strukturen abspielen und diese ungestört und unwidersprochen Aktionen planen, ihre Netzwerke ausbauen und Hetze verbreiten können. Durch Linkanalyse von einer Stichprobe an Posts auf Facebook, Instagram, Twitter und YouTube kommt diese Studie zu folgenden Ergebnissen:

  • Auf den etablierten Plattformen der sozialen Medien befinden sich weiterhin rechtsextreme und rechtsradikale Akteur:innen, die ihre Inhalte verbreiten. Manche dieser Akteur:innen nutzen die etablierten Plattformen als »Eintrittsorte«, um hier auf alternative Plattformen zu verweisen und so andere Nutzer:innen in diese weniger regulierte Medienlandschaft weiterzuleiten. Um einer Löschung oder dem Deplatforming zu entgehen, passen solche Akteur:innen die Inhalte ihrer Posts auf die jeweilige Plattform an. So veröffentlichen sie auf den etablierten Medien »weichere« Inhalte, die oft auf dog-whistling beruhen, und kommunizieren auf den alternativen Plattformen direkter.

  • Derzeit hat sich noch keine alternative Plattform klar als Favorit durchgesetzt. Dies bedeutet, dass die einzelnen Akteure in den Onlinesubkulturen der extremen und der radikalen Rechten auf den alternativen Plattformen vorerst eine geringe Reichweite besitzen. Eine Ausnahme bildet der Messenger-Dienst Telegram. Diesem kommt innerhalb der analysierten Links zu alternativen Plattformen eine herausragende Bedeutung zu.

Einige Entwicklungen in der Online-Aktivität rechtsextremer und rechtsradikaler Akteur:innen stellen Sicherheitsbehörden und Forschende vor besondere Herausforderungen.

  • Die Studie zeigt, dass insbesondere alternative audiovisuelle Plattformen große Beliebtheit unter den analysierten Akteur:innen genießen. Inhalte auf audiovisuellen Plattformen sind aufgrund ihrer Datenstruktur schwieriger zu analysieren als textbasierte Inhalte.

  • Eine weitere Herausforderung stellt der sogenannte Fleeting Content dar – also Inhalte, die nur kurzfristig verfügbar sind und normalerweise nicht im Nachhinein abgespeichert werden (z.B. Livestreams oder Instagram-Stories). Aufgrund mangelnder Nachvollziehbarkeit ist es für Plattformen schwierig, diese Inhalte effektiv zu moderieren. Es gab in der analysierten Stichprobe bereits Anzeichen dafür, dass Nutzer:innen diese Lücke erkannt haben und aktiv nutzen, um extreme Inhalte unbehelligt zu teilen.

Dominik Hammer ist Research Manager beim ISD. Er befasst sich mit der Analyse rechtsradikaler und rechtsextremer Onlineaktivitäten. Seine Interessengebiete sind Demokratietheorie, die Stärkung demokratischer Praxis sowie die Analyse antidemokratischer Bewegungen. Vor seiner Arbeit beim ISD war Dominik Hammer in der universitären Forschung und Lehre und in der Erwachsenenbildung tätig.

Paula Matlach ist Research Associate beim ISD. Sie untersucht die Verbreitung von Desinformation und Propaganda im deutschen und englischen Sprachraum. Zuvor arbeitete sie anderthalb Jahre als Referentin beim NATO Strategic Communications Centre of Excellence, wo sie unter anderem Artikel zu den Themen Netzregulierung und ausländische Einflussnahme veröffentlichte.

Lea Gerster ist Analystin beim ISD. Sie befasst sich mit der Verbreitung von extremistischen Ideologien, Desinformation und Verschwörungsmythen im deutschen und englischen Sprachraum. Zuvor arbeitete sie zwei Jahre im Bereich der digitalen Extremismusbekämpfung bei Think Tanks und Beratungsfirmen in London. Sie ist Co-Autorin der ISD Forschungsberichte »Krise und Kontrollverlust“ und »Überdosis Desinformation: Die Vertrauenskrise – Impfskepsis und Impfgegnerschaft in der COVID-19-Pandemie

Till Baaken ist Senior Manager beim ISD. Er beschäftigt sich mit Rechtsextremismus und Islamismus sowie mit Desinformationen und Verschwörungsmythen im deutschen und englischen Sprachraum. Er hat unter anderem Artikel für das Journal for Deradicalisation und das International Journal of Conflict and Violence verfasst und zu mehreren Büchern und Handbüchern zum Thema Radikalisierung und Deradikalisierung beigetragen. Zuvor arbeitete er im Bereich der Extremismusbekämpfung und Deradikalisierung in Deutschland. Er ist Co-Autor des ISD Forschungsberichts »Überdosis Desinformation: Die Vertrauenskrise – Impfskepsis und Impfgegnerschaft in der COVID-19-Pandemie«.

Herausgeberische Verantwortung: Huberta von Voss, Executive Director ISD Germany

Der vorliegende Bericht ist im Rahmen des vom Bundesministerium der Justiz und für Verbraucherschutz (BMJV) geförderten Projektes »Radikalisierung in rechtsextremen Onlinesubkulturen entgegentreten« entstanden. Die inhaltliche Verantwortung liegt ausschließlich bei ISD Germany.

Download

The Business of Hate: Bankrolling Bigotry in Germany and the Online Funding of Hate Groups

The Institute for Strategic Dialogue (ISD) and the Global Disinformation Index (GDI) have published a new study which shows how 17 known German far right groups and actors allegedly use online funding services to fund their activities. These services include companies like Mastercard, Paypal, Giropay and WooCommerce). More than half of these online funding services have Terms of Service (ToS) that should prohibit their use by such sites.