News Feed, Reels & »Für Dich«: Wie algorithmische Ranking-Praktiken unser Online-Umfeld beeinflussen und schützen könnten
Authors: Sara Bundtzen
Published: 9 December 2022
Angesichts der zunehmenden Menge an Inhalten und Formaten bei gleichbleibender Aufmerksamkeitsspanne sind viele Online-Plattformen von umgekehrt chronologischen Feeds zu algorithmischen Ranking-Systemen übergegangen. Diese sollen den Nutzer:innen nicht mehr die aktuellsten, sondern die vermeintlich für sie „interessantesten“ Inhalte anzeigen. Als „interessant“ werden dabei in der Regel die Inhalte eingestuft, die den höchsten prognostizierten Wert für ein Unternehmen haben – beispielsweise, weil sie die Nutzungsdauer der Nutzer:innen auf einer Plattform verlängern.
Algorithmische Ranking-Systeme treffen automatische Entscheidungen beispielsweise darüber, welche Inhalte im Feed oder in den Suchergebnissen bevorzugt bzw. herabgestuft werden, mit wem man sich vernetzen und wem oder welchen Seiten man folgen soll.
In diesem Bericht werden der Einsatz algorithmischer Ranking-Praktiken sowie deren Auswirkungen auf Online-Diskurse untersucht. Er befasst sich mit dem sogenannten „Engagement-Problem“ sowie anderen algorithmischen Phänomenen und wie diese die Verbreitung schädlicher oder grenzwertiger Inhalte verstärken und dabei Vorurteile und Diskriminierung festigen können. Angesichts einer lückenhaften Wissensbasis mit Blick auf die gesellschaftliche Gesamtwirkung der eingesetzten algorithmischen Ranking-Systeme zeigt der vorliegende Bericht die methodischen und epistemischen Herausforderungen auf, die mit der Auditierung von Algorithmen verbunden sind.
Mit Blick auf mögliche Interventionen werden Vor- und Nachteile neuer Ansätze untersucht. Es werden eine stärkere Selbstbestimmung der Nutzer:innen, der Einsatz von sogenannter Middleware, sowie die Entwicklung „qualitätsorientierter“ und „brückenbildender“ Ranking-Algorithmen diskutiert. Berücksichtigt werden verschiedene Fallstudien, die sowohl bekannte Branchenpraktiken zur Selbstregulierung als auch von liberal-demokratischen Staaten geplante Regulierungsvorhaben umfassen.
Sara Bundtzen ist Analystin beim ISD Germany. Sie erforscht die Verbreitung von Desinformation und Informationsmanipulation durch staatliche und nichtstaatliche Akteur:innen im deutschen und englischen Sprachraum. Im Rahmen des Digital Policy Lab (DPL) unterstützt Sara Bundtzen die digitalpolitische Arbeit des ISD und untersucht Vorschläge zur Bekämpfung von Desinformation, Einflusskampagnen, Hassrede und extremistischen Inhalten.