Deutschsprachige antisemitische Kommentare auf YouTube

22/02/2022

von Julia Smirnova und Cooper Gatewood
Hannah Winter hat zu diesem Dispatch beigetragen.

_________________________________________________________________________________

Die COVID-19-Pandemie hat zu einem Anstieg von Hassrede und antisemitischen Narrativengegen jüdische Menschen im Internet geführt. Allein im Jahr 2020 wurden 2.351 antisemitische Straftaten in Deutschland registriert, was eine Zunahme von 16 % gegenüber dem Vorjahr und die höchste Zahl seit Beginn der Aufzeichnungen im Jahr 2001 bedeutet. Während des Bundestagswahlkampfes 2021 sind 38 antisemitischen Vorfälle vom Bundesverband der Recherche- und Informationsstellen Antisemitismus (RIAS) registriert worden, wie  das Beschmieren von Wahlplakaten mit antisemitischen Zeichen und Parolen.

Forschende und Vertretende der Zivilgesellschaft, darunter der Präsident des Jüdischen Weltkongresses, Ronald Lauder, haben die Pandemie als einen der Haupttreiber des Antisemitismus in Deutschland ausgemacht. Dies wurde auch durch eine frühere ISD-Analyse bestätigt, die einen dreizehnfachen Anstieg der deutschsprachigen antisemitischen Kommentare zwischen Januar 2020 und März 2021 auf Facebook, Twitter und Telegram belegt. Dieses Dispatch richtet seine Aufmerksamkeit auf YouTube und untersucht Videos, die Hassrede gegen jüdische Menschen durch antisemitische Kommentare anziehen die unter die  Videos gepostet worden sind.

Wichtigste Ergebnisse

0,3 % der Kommentare aus dem Datensatz, die im Rahmen dieser Untersuchung ausgewertet wurde, bezogen sich auf das Judentum oder jüdische Menschen. Antisemitische Kommentare machten lediglich 0,07% des gesamtem Datensatzes aus. Kommentare, die einen direkten Bezug auf das Judentum oder jüdische Menschen hatten, waren jedoch in ihrer Aussage zu 19% antisemitisch. Videos, die sich auf Verschwörungsmythen im Allgemeinen bezogen, riefen mit hoher Wahrscheinlichkeit antisemitische Kommentare hervor, selbst wenn sie nicht ausdrücklich jüdische Menschen erwähnten. Antisemitische Kommentare enthielten u.a. Holocaust-Leugnungen, COVID-19-bezogene Narrative, in denen behauptet wurde, Juden hätten die Pandemie verursacht, klassische antisemitische Tropen jüdischer Dominanz sowie israelbezogenen Antisemitismus, der Parallelen zwischen Israel und dem Nazi-Regime zog.

Das vielleicht interessanteste Ergebnis betrifft Videos mit Bezug zu COVID-19. Obwohl sich auf der Liste der Schlüsselwörter zur Identifizierung von Videos, die antisemitische Kommentare anziehen könnten, keine Wörter mit Bezug auf die COVID-19-Pandemie befanden, machten Videos mit COVID-19-Bezug die Mehrheit der zehn Videos (7/10) mit der höchsten Anzahl antisemitischer Kommentare aus.

Besonders hervorzuheben ist, dass viele dieser Videos selbst keine Erwähnung jüdischer Menschen oder antisemitische Inhalte enthielten. Vielmehr wurden sie identifiziert, weil die API von YouTube Suchergebnisse liefert, die mit dem Schlüsselwort assoziiert sind.

Methodik: Datenerhebung und Klassifizierung

Das Forschungsteam des ISD begann mit der Erfassung aller YouTube-Videos, die zwischen dem 1. Juli 2021 und dem 27. September 2021 veröffentlicht und mit einer Liste von deutschen Schlüsselwörtern (hauptsächlich antisemitische Ausdrücke) assoziiert wurden, bei denen davon ausgegangen wurde, dass sie antisemitische Kommentare hervorrufen könnten. Anschließend wurden  alle deutschsprachigen Kommentare gesammelt, die zwischen dem 1. Juli 2021 und dem 2. November 2021 zu diesen Videos gepostet wurden. Der endgültige Datensatz bestand aus 197.933 Kommentaren zu 2.465 Videos.

Diese Kommentare wurden durch einen Algorithmus, der von ISD-Analyst:innen trainiert wurde, automatisch als antisemitisch oder nicht antisemitisch eingestuft. Dabei ist die im ISD-Dispatch „Anwendung eines Algorithmus zur Erkennung von deutschsprachigen antisemitischen Inhalten auf YouTube“ beschriebene Pipeline verwendet worden. Sie umfasst die Annotation von Schlüsselwörtern und eine Reihe von drei Algorithmen, die zur Erkennung antisemitischer Ausdrücke trainiert woden sind Insgesamt wurden 699 Kommentare mit Bezug auf jüdische Menschen oder auf das Judentum identifiziert und 205 Kommentare als potenziell antisemitisch eingestuft.

Diese als potenziell antisemitische eingestuften Kommentare wurden manuell anhand der Antisemitismus-Definition und der Beispiele der International Holocaust Remembrance Alliance (IHRA) überprüft, die besagt:

„Antisemitismus ist eine bestimmte Wahrnehmung von Jüdinnen und Juden, die sich als Hass gegenüber Jüdinnen und Juden ausdrücken kann. Der Antisemitismus richtet sich in Wort oder Tat gegen jüdische oder nichtjüdische Einzelpersonen und/oder deren Eigentum sowie gegen jüdische Gemeindeinstitutionen oder religiöse Einrichtungen.“

Der Zweck war es, die wichtigsten Narrative und Tropen in antisemitischen Inhalten zu ermitteln und alle Quellen von falsch positiven Ergebnissen zu identifizieren. Damit sind Inhalte gemeint, die möglicherweise vom Algorithmus fälschlicherweise als antisemitisch eingestuft worden sind.

Nach einer manuellen Überprüfung wurden 72 Kommentare als falsch-positiv identifiziert, so dass 133 antisemitische Kommentare im Datensatz verblieben. Somit waren 0,07 % des gesamten Datensatzes und 19 % der Kommentare, die sich auf jüdische Menschen oder das Judentum bezogen, antisemitisch.

Worum ging es in den Videos mit den meisten antisemitischen Kommentaren?

Die zehn Videos mit den meisten antisemitischen Kommentaren wurden vollständig angesehen und manuell bewertet, um ihr Hauptthema zu bestimmen. In der ursprünglichen Liste der Top-Ten-Videos sind die Kommentare zu zweien als falsch positiv eingestuft und diese Videos daraufhin aus der Liste entfernt worden. Stattdessen wurden die Videos mit den nächsthöheren Zahlen an relevanten Kommentaren analysiert. Die Anzahl der antisemitischen Kommentare zu jedem Video lag zwischen vier und 15.

Das am meisten angeklickte Video, das auch das Video mit den meisten antisemitischen Kommentaren war, hatte zum Zeitpunkt der Analyse (10. Februar 2022) mehr als 990.000 Aufrufe und insgesamt 11.902 Kommentare. 15 dieser Kommentare, also 0,1 %, waren antisemitisch. Das Video wurde von einer großen deutschen Tageszeitung hochgeladen und behandelt die COVID-19-Beschränkungen in Deutschland. Obwohl das Video keine Erwähnung von jüdischen Menschen oder von Antisemitismus enthielt, zog es dennoch antisemitische Kommentare mit verschwörungsideologischem Charakter an (siehe Beispiele in den Screenshots unten).

COVID-19 und die Verharmlosung des Holocaust

Sieben der zehn Videos mit den meisten antisemitischen Kommentaren befassten sich mit der COVID-19-Pandemie. Ähnlich wie bei dem oben beschriebenen Video enthielten einige davon weder Erwähnungen von jüdischen Menschen noch antisemitische Ausdrücke, zogen aber dennoch hasserfüllte Kommentare gegen jüdische Menschen an.

Unter den Videos, die antisemitische Inhalte enthielten, verglich eines die Behandlung ungeimpfter Menschen in Deutschland mit der Behandlung jüdischer Menschen während des Holocaust. Solche Vergleiche sind unter COVID-19-Skeptikern:innen in Deutschland beliebt geworden. Manche von ihnen gingen so weit, bei Protesten gegen Pandemie-Beschränkungen gelbe Davidstern-Abzeichen zu tragen – gleich der millionenfachen Stigmatisierung von Juden durch Nazis während der Hitler-Zeit – mit der Aufschrift „Ungeimpft“.

Der Vergleich der gefühlten Stigmatisierung derjenigen, die sich nicht an die Pandemie-Beschränkungen halten, mit der Stigmatisierung der jüdischen Bevölkerung während der Nazizeit leistet der Verharmlosung der Gräueltaten des Holocaust Vorschub. Dr. Felix Klein, der Beauftragte der Bundesregierung für jüdisches Leben in Deutschland und den Kampf gegen Antisemitismus, hat im Dezember eine öffentliche Erklärung dazu abgegeben, in der er diesen Vergleich als eine Form der Volksverhetzung bezeichnete.

Rechtlich gesehen befinden sich solche Vergleiche in einer Grauzone. Deutsche Gerichte haben jedoch begonnen, strafrechtlich gegen Fälle vorzugehen, in denen es um die Verharmlosung des Holocaust geht – einschließlich der missbräuchlichen Verwendung des Davidsterns. Die Stadt München hat die Verwendung von Davidsternen bei Protesten gegen COVID-19-bezogene Einschränkungen gänzlich verboten.

Verschwörungstheorien – uralte Behauptungen über die jüdische „Weltherrschaft“

Zwei weitere Videos über die COVID-19-Pandemie bezogen sich auch auf Verschwörungserzählungen. In einem der Videos wurde die „Great Reset“-Verschwörungserzählung erwähnt, die besagt, dass sich finstere, mächtige Gruppen vereint haben, die Pandemie auszulösen, um so ihre Pläne für eine globale Umstrukturierung voranzutreiben. In dem Video wurde behauptet, das dass Young Global Leaders-Programm des Weltwirtschaftsforums einen globalen Einfluss ausübe.

Ein anderes Video enthielt einen Verweis auf die „Neue Weltordnung“-Verschwörungserzählung. In  der wird allgemein behauptet dass sich die globalen Eliten heimlich verschwören, um souveräne Nationalstaaten durch eine tyrannische Weltregierung zu ersetzen, die die Welt mit einer globalistischen Agenda regieren wird. Auch wenn in keinem dieser beiden Beiträge ausdrücklich jüdische Menschen erwähnt wurden, zogen diese antisemitische Kommentare über angebliche jüdische Verschwörungen an.

Antisemitische Narrative und Tropen in Videokommentaren

Die Analyst:innen stellten fest, dass antisemitische Inhalte in Videokommentaren sowohl klassische als auch neuartige COVID-19-bezogene antisemitische Narrative enthielten, wobei letztere bereits in früheren ISD-Forschungen identifiziert wurden.

Die Verfasser der Kommentare stellten die COVID-19-Pandemie als eine globale Verschwörung und als „Maskenball“ dar, die von „Zionisten“ oder jüdischen Personen wie den Rothschilds (einer einflussreichen jüdischen Bankendynastie) bzw. George Soros organisiert worden ist. In mehreren Kommentaren, die auf die „Great Reset“-Verschwörungserzählung anspielten, behaupteten Nutzer fälschlicherweise, Klaus Schwab, der Gründer und geschäftsführende Vorsitzende des Weltwirtschaftsforums, sei mit den Rothschilds verwandt. In einem anderen Kommentar wurde unterstellt, dass eine zionistische oder „chasarische“ Verschwörung der Neuen Weltordnung hinter der COVID-19-Pandemie stecke.

Klassische antisemitische Narrative, in denen behauptet wird, dass Juden die Welt kontrollieren oder sich zur Weltherrschaft verschwören, tauchten in dem Datensatz häufig auf. Mehrere Kommentare enthielten Behauptungen, George Soros kontrolliere oder finanziere die deutsche Bundeskanzlerin Angela Merkel, die deutschen Grünen, die deutsche Polizei, Linksradikale in Deutschland, die Medien oder Nichtregierungsorganisationen. In anderen Kommentaren wurde fälschlicherweise behauptet, Merkel sei jüdisch (aschkenasisch) oder „Marionette einer zionistischen Verschwörung“. Es wurde auch behauptet, dass jüdische Menschen oder die Rothschilds für die beiden Weltkriege verantwortlich seien.

Darüber hinaus identifizierte das Team des ISD antisemitische Inhalte, die den Holocaust leugneten oder verharmlosten –  entweder durch die Behauptung, es handele sich um eine US-amerikanische Verschwörung, eine Wortwahl wie „angebliche Opfer des Naziregimes“ oder die Bezeichnung des Holocaust als „Vogelschiss“ (eine Anspielung auf einen Kommentar des AfD-Politikers Alexander Gauland, der die Naziverbrechen verharmloste). Der Datensatz enthielt zahlreiche Beispiele für israelbezogenen Antisemitismus, in denen die Gründung des Staates Israel mit dem Nationalsozialismus verglichen oder andere, unpassende Parallelen zwischen Israel und dem Nazi-Regime gezogen wurden.

Während einige der Kommentare, insbesondere diejenigen, die den Holocaust leugnen, nach deutschem Recht gesetzeswidrig sind, liegt ein erheblicher Teil wohl in einer rechtlichen Grauzone. Obwohl diese Kommentare potenziell rechtlich zulässig sind, sind sie dennoch schädlich – ein Problem, das bei früheren ISD-Untersuchungen zu anderen Social-Media-Plattformen festgestellt wurde.

Ausblick

Diese Untersuchung zeigt, dass verschiedene Arten von Antisemitismus, einschließlich potenziell illegaler Äußerungen auf der Plattform präsent sind, trotz der Bemühungen von YouTube, solche Inhalte zu bekämpfen. Die Tatsache, dass antisemitische Kommentare unter Videos gepostet wurden, die keine Erwähnungen von jüdischen Menschen enthielten, deutet auf eine weite Verbreitung antisemitischer Ideen und Tropen in der Gesellschaft hin. Die absolute Gesamtzahl antisemitischer Kommentare war eher gering, doch der Anteil der als antisemitisch eingestuften Kommentare über jüdische Personen war mit 19 % erheblich.

Soziale Medienplattformen sollten Wege finden, um mit potenziell legalen, aber schädlichen Inhalten umzugehen. Moderator:innen und Nutzer:innen sollten darin geschult werden, verschiedene Arten von Antisemitismus und kodierter Sprache zu erkennen, insbesondere im Zusammenhang mit der COVID-19-Pandemie.

Limitationen und Hauptquellen für falsch positive Ergebnisse

Diese Untersuchung hatte zwei wesentliche Limitationen. Erstens ist es aufgrund der Tatsache, dass die YouTube-API keine massenhafte Erfassung von Kommentaren ermöglicht, fast unmöglich, eine repräsentative Stichprobe deutschsprachiger Kommentare zu definieren. Die ISD-Stichprobe von Videos wurde anhand einer Liste von Schlüsselwörtern gesammelt, was bedeutet, dass alle Videos, die nicht mit den ausgewählten Schlüsselwörtern assoziiert sind, nicht in den Datensatz aufgenommen wurden. Durch den stichwortbasierten Ansatz konnten jedoch Videos und Kommentare auf der gesamten Plattform unabhängig von den Kanälen erfassen werden. Dadurch wurden mögliche Verzerrungen vermieden, die durch die manuelle Auswahl von Kanälen entstehen könnten. Außerdem liefert die YouTube-API Suchergebnisse, die mit Schlüsselwörtern assoziiert sind, obwohl es nicht völlig transparent ist, wie diese Assoziation hergestellt wird. Dieser Mangel an Klarheit stellt eine allgemeine Einschränkung für diese Art von Forschung auf der Plattform dar.

Die zweite Limitation ist typisch für die Verarbeitung natürlicher Sprache (Natural Language Processing, NLP). Kein NLP-Algorithmus ist zu 100 Prozent genau, was bedeutet, dass der endgültige Datensatz immer eine gewisse Anzahl von falsch positiven Ergebnissen enthält. Bei der manuellen Überprüfung des verwendeten Datensatzes stellten die Analyst:innen fest, dass es für den Algorithmus schwierig war, Kommentare korrekt zu klassifizieren, wenn diese Ironie enthielten oder nur über das Thema Antisemitismus diskutierten. In einem Fall wurden zu einem Video, in dem Verschwörungsideologien kritisiert wurden, zahlreiche Kommentare von Nutzern erfasst, obwohl sich diese nur über Menschen, die an antisemitische Verschwörungen glaubten, lustig machten. Ironie und Sarkasmus ist  mit automatisierten Ansätzen bekanntermaßen schwer beizukommen und richtig zu interpretieren.