Trusted Flaggers: Die letzte Schlacht um die Meinungsmacht im Internet hat begonnen

Klaus Müller, der Präsident der Bundesnetzagentur meldete Anfang des Monats auf seiner hauseigenen Website:

„Mit der Zulassung des ersten Trusted Flaggers setzen wir die europäischen Regelungen in Deutschland konsequent um. Plattformen sind verpflichtet, auf Meldungen von Trusted Flaggern sofort zu reagieren. Illegale Inhalte, Hass und Fake News können sehr schnell und ohne bürokratische Hürde entfernt werden. Das hilft, das Internet sicherer zu machen.“

Die Bundesnetzagentur von Klaus Müller untersteht dem Wirtschaftsministerium unter Robert Habeck. In seiner Agentur sind etwa 3.000 Mitarbeiter beschäftigt. Vor einem Vierteljahrhundert bestand die ursprüngliche Aufgabe der Behörde zunächst darin, den Wettbewerb in den Netzmärkten zu überwachen. Gegründet wurde die Agentur Ende der 1990er Jahre, als Einfluss und Bedeutung des Internets immer deutlicher wurde. Die Privatisierung der Deutschen Bundespost war hier ein Ausgangspunkt.

Aber was genau sind diese „Trusted Flaggers“ (dt. vertrauenswürdige Hinweisgeber)? Hier handelt es sich um Organisationen, denen eine Expertise im Umgang mit bestimmten rechtswidrigen Inhalten (z.B. im Bereich Hate Speech, Urheberrecht, o. ä.) staatlicherseits zugestanden wird.

Sie erhalten besondere Rechte, um angeblich problematische Inhalte in den sozialen Netzwerken zu melden.

Die Bezeichnung „Trusted Flaggers“ wurde von „flagging“ abgeleitet, was im Englischen „markieren“ oder „kennzeichnen“ bedeutet. Wenn ein Nutzer auf einer Plattform problematische Inhalte entdeckt, kann er diese in der Regel „flaggen“ (also melden), um die Plattformbetreiber auf potenzielle Verstöße gegen die Richtlinien aufmerksam zu machen.

Das Portal „Nius“ fragte gestern:

„Welcher Nutzen soll in einem Rechtsstaat davon ausgehen, zahlreiche Institutionen zu einer Art Paralleljustiz zu ermächtigen, ohne dass diese die strengen Regeln des Justizapparates befolgen müssen? Und wie kann auf diese Weise die Neutralität gewahrt werden?“

Die Neureglung basiert auf dem Digital Services Act (DSA). Man hat sich ein paar Jahre Zeit gelassen, die Empörung sacken zu lassen um sieben Jahre später die finale Eskalationsstufe zu zünden.

Auf EU-Gesetzen basierende Regelungen sollen Plattformen noch stärker in Haftung für die Inhalte ihrer Nutzer nehmen. X, Facebook, Youtube und Co sollen gezwungen werden, angeblich rechtswidrige Inhalte zu entfernen. Verdächtige Inhalte werden neuerdings auch über Trusted Flagger gemeldet, deren Meldungen von den Betreibern der Sozialen Medien bevorzugt behandelt werden müssen.

Jetzt gibt es längst eine wachsende Zahl an Nutzern der sozialen Medien, die insbesondere Facebook den Rücken gekehrt haben und überwiegend nur noch auf X oder Telegram unterwegs sind. Das liegt vor allem daran, weil es solche nichtstaatlichen Meldeorganisationen längst gibt. So arbeiten Correctiv oder etwa Bertelsmann (Arvato) für Facebook und melden angebliche Verstöße, die zu Löschungen oder Reichweiteneinschränkungen führen. Fast jeder aktive Facebook-Teilnehmer hat diese Erfahrung schon gemacht, oft verbunden mit einem Gefühl der Ohnmacht, ungerecht behandelt worden zu sein.

Der Unterschied zwischen den neuen Trusted Flaggers und der Rolle, die Organisationen wie Correctiv oder Bertelsmann bisher im Rahmen der Moderation von Facebook-Inhalten spielen, liegt hauptsächlich in der rechtlichen Grundlage, auf der sie basieren:

Die Trusted Flaggers (Vertrauenswürdige Melder) sind Teil der Regulierung durch die EU, insbesondere im Rahmen des Digital Services Act (DSA). Diese Trusted Flaggers sind staatlich autorisierte Organisationen. Sie arbeiten offiziell im Auftrag der Bundesregierung (Regulierungsbehörden).

Die Arbeit von Correctiv und Bertelsmann (Arvato) für Facebook basiert demgegenüber nicht auf einer gesetzlichen Grundlage. Es handelt sich hier um private Vereinbarungen ohne direkte Verbindung zu einem staatlichen Regulierungsrahmen. Aber von Freiwilligkeit kann auch hier keine Rede sein, vielmehr wurden die Internetkonzerne im Vorfeld massiv genötigt, sich freiwillig zu kümmern. Die Trusted Flaggers sind hier nur eine weitere Eskalationsstufe.

Was Correctiv und Bertelsmann (Arvato) bisher machen, ist die angebliche Überprüfung von Fakten, die aber nicht zwangsläufig illegal sind. Hier soll ohne eine eigentliche Rechtsgrundlage die Verbreitung von angeblich falschen Informationen eingeschränkt werden. Etwa Correctiv behauptet nach wie vor, Nachrichten auf ihren Wahrheitsgehalt hin zu überprüfen und nicht politisch zu agieren.

Trusted Flaggers wiederum sollen sich auf illegale Inhalte konzentrieren, die gegen Gesetze verstoßen, wie etwa Hassrede, Aufruf zu Gewalt, terroristische Inhalte oder Kinderpornografie. Sie sollen Plattformen „unterstützen“, solche Inhalte schnell zu entfernen, um die Einhaltung der Gesetze zu gewährleisten.

In dem Zusammenhang von Interesse ist auch der Einsatz Künstlicher Intelligenz (KI) verbunden mit der Frage, ob eine Meldung von Nutzern überhaupt noch notwendig sein muss oder die Trusted Flaggers Beiträge in den sozialen Medien zukünftig digitalisiert von KI durchleuchten lassen.

Die Gefahr eines Missbrauchs durch die Bundesregierung ist offensichtlich. Insbesondere in autoritären oder semiautoritären Staaten besteht die Gefahr, dass solche Tools zur Überwachung oder gezielten Einschränkung der Meinungsfreiheit verwendet werden könnten.

Regierungen könnten ihre Rolle als Trusted Flagger nutzen, um Inhalte zu melden, die nicht gegen die Richtlinien der Plattformen verstoßen, sondern politisch unerwünscht sind. Die Unternehmen der sozialen Medien löschen die gemeldeten angeblichen Verstöße, weil sie aufwendige Auseinandersetzungen mit den staatlich eingesetzten Trusted Flaggers scheuen. Im Resultat bedeutet das eine stillschweigende Akzeptanz von Zensur.

Trusted Flagger-Programme weiten die Kontrolle über Online-Inhalte aus, ohne dass dies offen sichtbar wird. Es ist für den betroffene Nutzer nicht erkennbar, warum ein bestimmter Inhalt entfernt wurde oder wer ihn gemeldet hat. Hier agiert die Regierung und hat sich gleichzeitig von jeder öffentlichen Rechenschaftspflicht befreit.

Ein weiteres Problem ist eine selektive Anwendung: Die Bundesregierung kann so Lautäußerungen von Oppositionellen melden und bei regierungsfreundlichen Akteuren ein Auge zudrücken, das Ergebnis ist ein Ungleichgewicht bei der Moderation.

In demokratischen Staaten sollte die Rolle der Regierung als Trusted Flagger unter der Kontrolle des Parlaments und der Öffentlichkeit stehen, um Missbrauch zu verhindern.

Das Netzwerkdurchsetzungsgesetz (NetzDG) von 2017 verpflichtet Plattformen wie Facebook, Twitter oder YouTube bereits dazu, eindeutig rechtswidrige Inhalte innerhalb von 24 Stunden nach einer Meldung zu entfernen oder zu sperren. Bei komplexeren Fällen haben sie bis zu sieben Tage Zeit. Bei Missachtung drohen hohe Geldstrafen.

Nicht zu vergessen, dass das Bundeskriminalamt (BKA) und weitere Behörden längst eine relevante Rolle als “Trusted Flagger” bei der Überwachung von Inhalten im Netz spielen. Sie melden etwa terroristische Propaganda oder Aufrufe zu Gewalt. Diese Behörden arbeiten in bestimmten Fällen mit Plattformen zusammen, um strafbare Inhalte schneller zu identifizieren. Weiß man nun um die politisch kontaminierten Geheimdienste, kann man sich ausmalen, wie in diesem Dunkelbereich längst gegen die Opposition agiert wird.

Auf EU-Ebene hat Deutschland gemeinsam mit weiteren Mitgliedsstaaten bereits ein Trusted Flagger-Programm zur Bekämpfung von terroristischer Propaganda und extremistischen Inhalten im Netz entwickelt. Deutsche Sicherheitsbehörden sind dabei aktiv beteiligt.

Die enge Zusammenarbeit von Plattformen mit staatlichen Akteuren führt zu einer Form der indirekten Zensur insbesondere dann, wenn kritische oder politische Inhalte betroffen sind. Trusted Flagger-Programme erheben ausgewählte Akteure zu digitalen Wächtern über das, was gesagt werden darf und was nicht. Eine Handvoll „Vertrauenswürdiger“ („Trusted“) entscheidet über das digitale Rederecht aller Deutschen.

Die Plattformen übergeben die Verantwortung für die Zensur im digitalen Raum an eine Elite von Akteuren, die nach undurchsichtigen Kriterien ausgewählt werden. Es gibt keine Kontrolle, keine öffentliche Rechenschaft und keinen Schutz vor Fehlentscheidungen und Missbrauch. Alle Entscheidungen über Löschungen und Sperrungen fallen hinter den verschlossenen Türen multinationaler Konzerne und staatlicher Akteure.

Das ist die Etablierung einer unsichtbaren Zensurinfrastruktur fernab jedweder demokratischer Kontrolle. Der Staat selbst wird zum Zensor, was über ihn geschrieben werden darf. Die Allianz zwischen Bundesregierung und Plattform wird zur unmittelbaren Gefahr für die Meinungsfreiheit.

Besonders bedenklicher wird es hier, wenn staatliche Institutionen in diese Programme eingebunden sind. Behörden wie das Bundeskriminalamt oder Einrichtungen wie Jugendschutz.net agieren als Trusted Flagger. Wo hört hier der Schutz der Bürger auf und wo beginnt staatlich gelenkte Zensur? Einmal eingerichtete Zensurmechanismen sind nur schwer wieder rückgängig zu machen – die Tür zur staatlichen Kontrolle des digitalen Diskurses ist weit geöffnet. Ohne klare Regeln und ohne öffentliche Kontrolle werden Tür und Tor für ein System der willkürlichen Zensur geöffnet.

Das ist das Ende der Vision eines Internets als Raum der freien Rede, als Marktplatz der Ideen, an dem jede Wortmeldung Gehör finden kann.

Die vielleicht wichtigste Erkenntnis: Die Angst vor strafrechtlichen Konsequenzen und hohen Bußgeldern, wie sie durch das Netzwerkdurchsetzungsgesetz (NetzDG) drohen, führt dazu, dass Plattformen zunehmend präventiv löschen. Der sogenannte “Overblocking”-Effekt setzt ein: Inhalte werden nicht mehr nur gelöscht, weil sie illegal sind, sondern weil sie vielleicht illegal sein könnten.

Das ist das Ende einer pluralistischen Gesellschaft die es explizit erlaubt, auch kontroverse, unbequeme und provokante Ansichten zu äußern. Doch staatlich kontrollierte Trusted Flagger-Programme wird die Freiheit systematisch untergraben. Die langfristigen Folgen dieser Entwicklung sind katastrophal. Was bleibt, ist eine digitalisierte Öffentlichkeit, in der Meinungsfreiheit zu einem bloßen Lippenbekenntnis verkommt. Nur jene, die in das vorgefertigte Narrativ passen, erhalten eine Plattform – alle anderen werden durch die unsichtbare Hand der Trusted Flagger zum Schweigen gebracht.

Trusted Flagger-Programme bedeuten eine willkürliche Zensur durch eine kleine Elite von der Bundesregierung abhängiger Akteure. Transparenz, Rechenschaftspflicht und der Schutz der Meinungsfreiheit müssen stattdessen wieder in den Mittelpunkt jeder Diskussion über die Moderation von Inhalten im Netz gerückt werden. Nur so kann noch verhindert werden, dass das Internet zu einem Werkzeug der Unterdrückung und Zensur wird.