Wie Algorithmen politische Sprachkritik filtern

Vielen Nutzern sozialer Netzwerke ist das Phänomen vertraut: Man veröffentlicht einen Beitrag, der sich kritisch mit aktuellen politischen Entwicklungen auseinandersetzt – und die Reichweite bleibt aus. Der Post verschwindet in den Tiefen des Feeds. Was oft als gezielte politische Zensur wahrgenommen wird, erweist sich bei genauerer Betrachtung häufig als strukturelles Problem automatisierter Inhaltsmoderation. Ein aktuelles Beispiel liefert ein Beitrag auf der Plattform Threads.

Der Fall: Ein kritischer Beitrag und seine Reichweite

Am 2. November 2026 veröffentlichte der Nutzer schiller.arnold folgenden Text:

„Die arme unterdrückte Herrenrasse darf nicht mehr Drecksausländer sagen und muss das migrantische Milieu erfinden. Aber hey Sprachverschiebung der Faschisten funktioniert der Bundesinnenminister hat das jetzt in seinen Sprachgebrauch übernommen. Und sie kriechen in eure Köpfe.“

Die sichtbaren Statistiken waren auffällig gering: Innerhalb von 24 Stunden lediglich vier Aufrufe und drei Betrachter. Die Verlaufskurve lag weit unter dem sonstigen Durchschnitt des Accounts. Ob der Beitrag tatsächlich von den Empfehlungsmechanismen der Plattform aktiv zurückgehalten wurde, lässt sich von außen nicht abschließend beweisen. Möglich sind auch geringe Followerzahlen, Timing, generelle Algorithmus-Schwankungen oder fehlende frühe Interaktion. Dennoch legt die Diskrepanz nahe, dass der Inhalt nicht in die Entdeckungs-Feeds gelangte.

Inhaltlich handelt es sich um eine pointierte, satirisch überspitzte Kritik: Der Autor nimmt die Verwendung des Begriffs „migrantisches Milieu“ durch Bundesinnenminister Alexander Dobrindt (CSU) und andere Unionspolitiker nach den Ausschreitungen im Anschluss an die „GenZ regelt“-Proteste Ende Oktober/Anfang November 2026 auf. Dobrindt hatte von „gewaltbereiten linken Gruppen und Chaoten aus dem migrantischen Milieu“ bzw. „migrantischen Chaoten“ gesprochen und damit scharfe Kritik ausgelöst [4]. Der Autor beschreibt damit einen Prozess, den die Politikwissenschaft als Sprachverschiebung bezeichnet: Begriffe, die zuvor vor allem im rechten Spektrum prominent waren und teilweise von offizieller Seite zurückgewiesen wurden, tauchen nun im Regierungsvokabular auf. Um den Kontrast zu verdeutlichen, greift er auf extreme, historische Kampfbegriffe zurück.

Die Technik: Warum Maschinen den Kontext verlieren

Moderne Moderationssysteme von Plattformen wie Meta (Facebook, Instagram, Threads) kombinieren Keyword-Filter, maschinelles Lernen und zunehmend Large Language Models (LLMs) [1]. Sie erkennen Wörter und Muster zuverlässiger als Absichten, Ironie oder satirische Absicht.

Für Menschen ist den Unterschied zwischen dem Gebrauch eines Wortes (als Beleidigung) und seiner Erwähnung (als Zitat, Analyse oder Kritik) selbstverständlich. Automatisierte Systeme haben damit Schwierigkeiten. Sie sehen die Zeichenfolgen „Herrenrasse“ und „Drecksausländer“ – Begriffe, die auf internen Sperrlisten stehen – und stufen den Inhalt häufig als Hassrede ein, ohne den zitierenden oder kritischen Kontext zu erfassen.

Die mögliche Folge ist keine Löschung, sondern „Reduced Distribution“ (reduzierte Verteilung): Der Beitrag wird aus Empfehlungsfeeds, Suchergebnissen und Entdeckungsbereichen ausgeschlossen und bleibt vor allem für bestehende Follower sichtbar. Meta dokumentiert diesen Mechanismus in seinen Recommendation Guidelines [2]. Auch wenn die Systeme in den letzten Jahren durch LLMs kontextsensitiver geworden sind und Satire-Ausnahmen in den Community Standards verankert wurden, bleiben Fehleinschätzungen bei Ironie, Analyse und kodierter Sprache häufig.

Das Fatale: Die Plattform trifft damit nicht nur die Verwender problematischer Sprache, sondern auch diejenigen, die sie kritisieren. Um Sprachverschiebung zu benennen, müssen die alten und neuen Begriffe oft erst ausgesprochen werden – und genau das kann den Filter auslösen.

Der Teufelskreis der Dog Whistles

Der Fall illustriert einen bekannten Mechanismus, den Akteure am Rand des politischen Spektrums nutzen. Extremisten und Populisten wissen um die Existenz von Keyword-Filtern. Offene Parolen führen rasch zu Sperren. Deshalb prägen sie neue, zunächst harmlos klingende Begriffe – sogenannte Dog Whistles (codierte Sprache, die für Eingeweihte klar, für Außenstehende unauffällig wirkt) [3].

Der Ablauf sieht vereinfacht so aus:

  • Ein neuer Begriff (etwa „migrantisches Milieu“) wird geprägt oder popularisiert.
  • Er steht noch nicht auf den Blacklists und passiert die Filter.
  • Durch Wiederholung – auch durch etablierte Politiker – wird er normalisiert.
  • Kritiker wollen die Verschiebung benennen und greifen dazu auf die älteren, offenen Begriffe zurück, um den Kontrast zu zeigen.
  • Das automatische System schlägt an und reduziert die Reichweite der Kritik.
  • Der neue Begriff bleibt weitgehend unhinterfragt im Diskurs.

Die Sicherheitsmaßnahme der Plattform erschwert damit die kritische Auseinandersetzung mit der Entstehung und Wirkung bestimmter Rhetorik. Das System bestraft die Analyse problematischer Sprache und begünstigt indirekt diejenigen, die ihre Formulierungen laufend anpassen.

Fazit: Eine strukturelle Herausforderung

Was hier geschieht, ist keine staatliche Zensur im Sinne des Grundgesetzes. Es ist die Ausübung des virtuellen Hausrechts privater Konzerne, die Werbung, Nutzererfahrung und Reputation schützen wollen. Die Auswirkungen auf den öffentlichen Diskurs sind dennoch erheblich.

Wir haben Systeme geschaffen, die moralische und rechtliche Urteile fällen sollen, aber strukturell Schwierigkeiten haben, Ironie, Satire und politische Analyse zu erkennen. Indem sie bestimmte Wörter und Formulierungen prioritär unterdrücken, erschweren sie die Debatte über genau diese Wörter und Formulierungen. Die kritische Auseinandersetzung wird behindert, während angepasste, codierte Sprache leichter durch die Maschen schlüpft.

Der Diskurs bleibt auf der Strecke – nicht weil jemand bewusst eine bestimmte politische Richtung zensiert, sondern weil die Technik den Kontext verliert.

Fußnoten und Quellen

  1. Moderationssysteme: Meta setzt eine Kombination aus Keyword-Filtern, Machine-Learning-Klassifikatoren und LLMs ein. Kontext, Absicht und Satire bleiben fehleranfällig (Meta Community Standards / Hate Speech Policy; Oversight-Board-Empfehlungen zu Satire und Kontext).
  2. Reduced Distribution: Dokumentierter Mechanismus von Meta. Inhalte werden aus Empfehlungsfeeds genommen, ohne gelöscht zu werden (Meta Recommendation Guidelines; Berichte zu Threads und „reduced reach“).
  3. Dog Whistles: Politikwissenschaftlicher Begriff für codierte Sprache. Siehe u. a. Ian Haney López, Dog Whistle Politics, sowie Arbeiten zu Euphemismen und rechtspopulistischer Rhetorik.
  4. Zum aktuellen Anlass:
PolitikGesellschaftWissen

Dir gefällt, was Arnold Schiller schreibt?

Dann unterstütze Arnold Schiller jetzt direkt: