Im digitalen Labyrinth – Rechtsextreme Strategien der Dezentralisierung im Netz und mögliche Gegenmaßnahmen

Authors: Dominik Hammer, Lea Gerster & Christian Schwieter
Published: 1 February 2023

Als Antwort auf die vermehrte Löschung rechtsextremer Inhalte und verschwörungsideologischer Accounts auf YouTube & Co. wandern einschlägige Akteur:innen auf dezentrale Videodienste wie Odysee und PeerTube ab. Was bedeutet das für den Kampf gegen Rechtsextremismus im Netz?

Der vorliegende Bericht stellt die zentralen Erkenntnisse des vom Bundesministerium der Justiz geförderten Projektes »Radikalisierung in rechtsextremen Onlinesubkulturen entgegentreten« aus dem Jahr 2022 vor. Insbesondere werden die unterschiedlichen ideologischen und weltanschaulichen Grundlagen der Videodienste Odysee und PeerTube vergleichend analysiert. Der Bericht liefert zudem mögliche Ansätze zur (Selbst)-Regulierung und Moderation dezentraler Plattformen.

Die zentralen Erkenntnisse im Überblick:

• Keine der beiden untersuchten Plattformen bzw. Software ist selbst rechtsextrem. Die dezentrale Architektur der untersuchten Videodienste macht diese jedoch für Rechtsextreme attraktiv, die auf größeren Social-Media-Plattformen gesperrt sind. Auf Odysee können sie ihre Inhalte monetarisieren und diese kaum löschbar dezentral speichern. Mit Hilfe von PeerTube haben Rechtsextreme die Möglichkeit, eigene Plattformen (sog. Instanzen) zu erstellen, die sie alleine kontrollieren können. Die dort verbreiteten Inhalte lassen sich dann nur noch durch Abschalten der zu den Instanzen zugehörigen Server vom Netz nehmen.
• Sowohl in einer auf Odysee durchgeführten Inhaltsanalyse, als auch in der Analyse ausgewählter PeerTube-Instanzen waren Videos zu aktuellen Themen dominant. Videos des rechtsextremen und verschwörungsideologischen Onlinemilieus thematisierten hier vor allem Covid-19 und die Maßnahmen zur Pandemiebekämpfung, aktuelle geopolitische Entwicklungen wie die russische Invasion der Ukraine sowie verschiedene Verschwörungsnarrative.
• Sowohl auf Odysee als auch auf einigen untersuchten PeerTube-Instanzen fanden sich zum Untersuchungszeitraum gewaltverherrlichende und illegale Inhalte. Dazu gehörte Holocaustleugnung, aber auch Videos wie die Livestreams des Buffalo-Attentäters und von Personen, die den Anschlag vom 14. Mai 2022 leugneten, ihn ›humoristisch‹ aufbereiteten oder andere Desinformationen über den Anschlag verbreiteten, ebenso wie den Livestream des rechtsextremistischen Terroranschlags von Christchurch 2019.

Moderation und Regulierung

• In Hinblick auf Odysee stellt sich die Frage, in welchem Umfang das Netzwerkdurchsetzungsgesetz (NetzDG) Anwendung findet, da die Plattform vermutlich nicht die Zahl von zwei Millionen Nutzer:innen in Deutschland erreichen wird. Auch fällt Odysee mit großer Wahrscheinlichkeit momentan nicht unter die Definition des EU Digital Services Act (DSA) einer sehr großen Plattform (eng. Very Large Online Platform, VLOP), wird aber trotzdem den Verpflichtungen für geschäftlich- betriebene Online-Plattformen nachkommen müssen. Ähnliche Fragen zur Regulierung stellen sich in Hinblick auf einzelne PeerTube-Instanzen. Der konkrete rechtliche Status von PeerTube-Instanzen stellt Regulierungsbemühungen vor Herausforderungen, da nicht immer klar ist, ob diese Plattformen tatsächlich den Kriterien eines sozialen Netzwerks im Sinne des NetzDG bzw. einer Online-Plattform im Sinne des DSA entsprechen.
• Während auf Odysee plattformeigene Meldewege für illegale Inhalte bestehen, ist das bei PeerTube-Plattformen meist nicht der Fall. Inhaltsmoderation im Fediverse wird hier eher zu einer Aufgabe der Community, die extremistische Instanzen beispielsweise isolieren kann, um deren Reichweiten einzuschränken. Hier könnten von der PeerTube-Community entwickelte Plugins genutzt werden, um einzelnen Administrator:innen den Umgang mit extremistischen Inhalten und den Compliance-Verpflichtungen zu erleichtern, die der DSA ab 2024 vorsieht.

Herausgeberische Verantwortung: Huberta von Voss, Executive Director ISD Germany

Der vorliegende Bericht ist im Rahmen des vom Bundesministerium der Justiz (BMJ) geförderten Projektes »Radikalisierung in rechtsextremen Online-Subkulturen entgegentreten« entstanden. Die inhaltliche Verantwortung liegt ausschließlich bei ISD Germany.