Social-Media-Plattformen wie Facebook und Instagram sind verpflichtet, rechtswidrige Inhalte zu löschen, ebenso wie Hassrede, Desinformation oder Gewaltverherrlichung. Bei besonders schwerwiegenden Verstößen kann ein Account gesperrt werden. So weit, so gut. Die Prozesse, die zu einer Sperre führen, laufen allerdings komplett automatisiert ab, werden also nicht von menschlichen Mitarbeitenden geprüft. Im Fall einer Facebook-Sperre erhalten die Betroffenen eine Mail von Meta, aus der der konkrete Grund für die Sperre oft nicht hervorgeht. Ohne juristischen Beistand hat man als Privatperson kaum Möglichkeiten, sich zu wehren. Die Berliner Gesellschaft für Freiheitsrechte unterstützt Betroffene bei internen Beschwerden, bei Schlichtungsverfahren und – in strategisch relevanten Fällen – auch vor Gericht. theycallitkleinparis hat mit dem Juristen Jürgen Bering von der GFF gesprochen.
Als gemeinnütziger Verein nutzt ihr strategische Gerichtsverfahren und juristische Interventionen, um Demokratie und Zivilgesellschaft zu fördern, Überwachung und digitale Durchleuchtung zu begrenzen und für alle Menschen gleiche Rechte und soziale Teilhabe durchzusetzen. Wie kann das konkret aussehen, kannst du das mal an zwei, drei Beispielen aus deinem Schwerpunkt-Bereich „Freiheit im digitalen Zeitalter“ erläutern?
Gerne. Wir schauen uns gezielt strukturelle Probleme im digitalen Raum an – also Situationen, in denen viele Menschen von Grundrechtsverletzungen betroffen sind, aber kaum jemand juristisch dagegen vorgeht, etwa weil das Wissen, der Zugang oder die finanziellen Mittel fehlen. Bei digitalen Themen geht es dann häufig um Überwachungsmöglichkeiten.
So haben wir zuletzt zwei Verfassungsbeschwerden eingereicht: In der ersten geht es um die Frage, inwieweit Polizeibehörden künstliche Intelligenz einsetzen dürfen, um neue Erkenntnisse über Menschen zu gewinnen. Es geht um gläserne Bürger:innen, Vorhersagen über potenzielle Straftäter:innen – und um das hohe Risiko von Diskriminierung. Die Datensammlungen sind dabei oft extrem umfangreich und betreffen auch Geschädigte, Zeug:innen und Anzeigeerstatter:innen. Jede:r kann plötzlich als verdächtig gelten – allein, weil ein Algorithmus ihn oder sie auswählt.
Im zweiten Verfahren unterstützen wir eine Person, die eine Demonstration beobachtet und eine Polizeiaktion mit dem Handy gefilmt hat. Daraufhin wurde ihr das Telefon abgenommen und erst nach längerer Zeit zurückgegeben. In der Zwischenzeit wurde es vollständig ausgewertet – inklusive der Erstellung eines Persönlichkeitsprofils. Das ist kein Einzelfall: Immer häufiger warnen Demonstrationsveranstalter:innen davor, überhaupt ein Handy mitzubringen.
Daneben setzen wir uns beim Center for User Rights für die Rechte von Nutzer:innen gegenüber großen Techunternehmen wie Meta und Google ein – etwa gegen willkürliche Sperrungen. Die Filmwerkstatt Düsseldorf wurde zum Beispiel gesperrt, mutmaßlich auf Basis einer algorithmischen Fehlentscheidung. Das Problem: Oft prüft kein Mensch die Entscheidung, und die Betroffenen bleiben monatelang oder sogar dauerhaft ausgeschlossen – selbst bei offensichtlichen Fehlern.
Außerdem unterstützen wir Wissenschaftler:innen, die mehr über Risiken großer Plattformen herausfinden wollen, aber die ihnen zustehenden Daten nicht erhalten – obwohl das Gesetz solche Zugänge ausdrücklich vorsieht.
Wie finanziert ihr eure Arbeit?
Unsere Arbeit wird durch Spenden und Fördermitgliedschaften getragen. Viele Projekte finanzieren wir zudem über Stiftungen. Wichtig ist uns dabei: Wir nehmen keine staatlichen Mittel an – nur so können wir unabhängig agieren.
Wie viele Menschen arbeiten für die GFF?
Insgesamt sind wir ein Team von rund 40 Personen – darunter Jurist:innen, Kommunikationsexpert:innen, Fundraiser:innen und Verwaltungsmitarbeitende. Dazu kommen Referendar:innen und Praktikant:innen. Unsere juristische Arbeit ist oft teamübergreifend und entsteht häufig im engen Austausch mit externen Partner:innen, NGOs, Wissenschaftler:innen oder betroffenen Personen.
Du bist Volljurist und leitest seit September 2024 das Center for User Rights sowie seit Mai 2025 den Schwerpunkt „Freiheit im digitalen Zeitalter“. Insofern würde ich gerne mit dir über ein Problem sprechen, das mich vor Kurzem selbst betroffen hat: die Sperrung von Social-Media-Accounts. Aus welchen – legitimen – Gründen kann eine solche Sperrung erfolgen?
Plattformen wie Facebook und Instagram sind verpflichtet, rechtswidrige Inhalte zu löschen. Bei wiederholten oder besonders schweren Verstößen kann auch ein Account gesperrt werden. Darüber hinaus dürfen Plattformen Accounts sperren, wenn sie gegen ihre eigenen Regeln – also die sogenannten Gemeinschaftsstandards – verstoßen. Das betrifft etwa Hassrede, Desinformation oder Gewaltverherrlichung. Aber: Auch private Unternehmen müssen sich an geltendes Recht halten. Eine Sperrung muss nachvollziehbar, verhältnismäßig und transparent sein. Leider sehen wir da noch viele Defizite – insbesondere bei automatisierten Entscheidungen und fehlender Begründung.
Es gibt unterschiedliche Formen von Sperren. Manche User:innen können zwei Wochen lang selbst nichts posten, aber trotzdem noch das verfolgen, was auf anderen Accounts passiert. Andere werden komplett gesperrt, sodass sie sich mit ihren Zugangsdaten gar nicht mehr einloggen können. Gibt es eigentlich eine Art „Strafenkatalog“, aus dem hervorgeht, was bei welchem Verstoß gegen die Facebook-Regeln droht?
Meta hat interne Eskalationsstufen – von der Löschung einzelner Inhalte über temporäre Funktionseinschränkungen bis zur vollständigen Deaktivierung von Accounts. Teile davon finden sich in Transparenzberichten, aber insgesamt ist das System intransparent und inkonsistent. Oft ist nicht erkennbar, welcher Verstoß welche Konsequenz hat.
Wie werden die Betroffenen über die Sperre informiert? Laut einem Gerichtsurteil des Landgerichts Düsseldorf, auf den konkreten Fall kommen wir später noch zu sprechen, ist die Sperrung einer Facebook-Seite ohne Angabe von Gründen rechtswidrig. Zudem muss Nutzer:innen, bevor sie gegebenenfalls gesperrt werden, die Möglichkeit eingeräumt werden, sich zu dem Vorwurf äußern. Wird das in der Praxis so gehandhabt?
Seit Beginn unseres Verfahrens hat die EU mit dem Digital Services Act (DSA) eine neue gesetzliche Grundlage geschaffen. Er verpflichtet Plattformen, Nutzer:innen über den Grund für eine Maßnahme zu informieren – und ihnen die Möglichkeit zur Stellungnahme zu geben. Darauf konnten wir uns zwar in unserem Verfahren noch nicht direkt berufen, auch die deutsche Rechtsprechung hatte aber vergleichbare Anforderungen aufgestellt.
In der Praxis kommt es aber auch nach dem DSA nicht zu den nötigen Benachrichtigungen. Viele Nutzer:innen bekommen bei einer Sperre lediglich einen Einzeiler: „Verstoß gegen Gemeinschaftsstandards“. Warum genau – unklar. Selbst bei näheren Beschreibungen hat man dann den Vorwurf „Hassrede“, aber nicht genau, weshalb der Post darunterfallen soll. Mittlerweile gibt es zwar Möglichkeiten, sich bei der Plattform zu beschweren, die dann noch einmal überprüft, aber auch das passiert häufig automatisiert, ohne dass ein Mensch darüber schaut.
Welche Möglichkeiten haben User:innen, gegen eine Sperre vorzugehen? Zu welchem Vorgehen würdest Menschen raten, die von einer Sperre betroffen sind, die aber nicht über die finanziellen Mittel verfügen, einen Anwalt zu beauftragen?
Der erste Schritt: Screenshots sichern, Kommunikation mit der Plattform dokumentieren und eine interne Beschwerde über das Konto einreichen. Das ist zwar formal eine „Beschwerde“, geht aber nur an die Plattform selbst – mit oft begrenzter Wirkung.
Als GFF können wir Nutzer:innen in bestimmten Fällen dabei vertreten, was die Plattform verpflichtet, schneller zu reagieren. Auch das ist natürlich kostenlos. Zudem gibt es neue Möglichkeiten der außergerichtlichen Streitbeilegung über anerkannte Schlichtungsstellen. Diese sind ebenfalls kostenlos. Sie haben zwar keine bindende Wirkung, führen aber oft dazu, dass sich die Plattform überhaupt erst ernsthaft mit dem Fall befasst. Eine Übersicht dieser Stellen gibt es auf der Website der Europäischen Kommission. Wir empfehlen, sich frühzeitig an sie zu wenden – auch parallel zur internen Beschwerde.
Wie könnt ihr als GFF Betroffene unterstützen? Wie geht ihr vor?
Wir unterstützen Betroffene bei internen Beschwerden, bei Schlichtungsverfahren und – in strategisch relevanten Fällen – auch vor Gericht. Dabei übernehmen wir die Kosten.
Konkret sprechen wir mit den Betroffenen, klären über Rechte auf und prüfen gemeinsam, welches Vorgehen sinnvoll ist. Ein wichtiges Kriterium für Gerichtsverfahren ist, ob der Fall über den Einzelfall hinaus Bedeutung hat – also rechtliche Klarheit für viele schaffen kann.
Wie viele derartige Fälle bearbeitest du momentan? Und wie entwickeln sich die Fallzahlen bei dir?
Derzeit führen wir ein laufendes Gerichtsverfahren gegen Meta. Daneben betreuen wir sechs Beschwerdeverfahren bei Behörden – etwa wegen unzureichender Begründungen, fehlender Wahlfreiheit bei algorithmischen Feeds oder politischer Mikro-Targeting-Werbung. Letzteres ist besonders problematisch, weil es gezielte Manipulationen ermöglicht.
Interne Beschwerden gegenüber den Plattformen selbst wegen Moderationsentscheidungen laufen nur eine Handvoll, was aber daran liegt, dass diese eigentlich schnell zu entscheiden sind.
Insgesamt steigt die Zahl der Fälle – leider auch, weil Plattformen teils schlechter statt besser werden. Einerseits wird zunehmend ein US-amerikanisches Verständnis von „Free Speech“ vertreten, sodass Hassrede seltener gelöscht wird. Gleichzeitig werden marginalisierte Personen überproportional oft gesperrt.
Wie hoch ist eure Erfolgsquote?
Formell betrachtet gewinnen wir deutlich mehr Verfahren, als wir verlieren. Auch bei Teilerfolgen erzielen wir oft wichtige rechtliche Klarstellungen. In einem Verfahren zum Zugang zu Forschungsdaten haben wir zwar formal verloren – das Gericht hat aber festgestellt, dass solche Klagen in Deutschland verhandelt werden dürfen. Das war für uns zentral.
Bei internen Beschwerden haben wir bislang keinen Fall erlebt, bei dem eine Plattform unsere Beschwerde abgelehnt hat. Das liegt auch daran, dass wir vorher sorgfältig prüfen – und sich bei uns zum Glück keine Personen melden, die Hass verbreiten.
Wie gut kannst du die Erfolgsaussichten eines Einzelfalls im Vorfeld einschätzen?
Wir prüfen jeden Fall sorgfältig – juristisch, strategisch, gesellschaftlich. Aber Plattformrecht ist ein junges Feld, vieles ist noch ungeklärt. Besonders wichtig ist oft die Frage, ob in Deutschland überhaupt geklagt werden kann. Bei internen Beschwerden ist es häufig einfacher: Viele Sperren sind eindeutig falsch – dann ist schnell klar, dass ein Algorithmus fälschlich zugeschlagen hat.
Die Zahl der Facebook-Nutzer:innen in Deutschland beträgt 32 Millionen Menschen (Stand: Mai 2023), mehr als jeder dritte Deutsche nutzt das Netzwerk. Meta kann es also gar nicht leisten, sämtliche Regelverstöße durch Mitarbeitende prüfen zu lassen. Die Prozesse, die zu einer Sperrung führen, sind also zunächst komplett automatisiert. So war es beispielsweise auch bei mir. Auf jede Mail, die ich an Meta schickte, kam postwendend eine automatisierte Antwort, die natürlich nicht auf meinen konkreten Fall einging. Sonst passierte nichts. An welchem Punkt greifen eurer Erfahrung nach Menschen ein und schauen sich einen konkreten Fall an?
In der Regel erst, wenn sich Betroffene mehrfach beschweren, wenn der Fall mediale Aufmerksamkeit bekommt oder wenn sie über Organisationen wie uns auftreten. Das ist problematisch, weil es nicht vom Inhalt, sondern von der Sichtbarkeit abhängt.
Ihr habt auch die Düsseldorfer Filmwerkstatt unterstützt. Im Dezember 2021 löschte Facebook die Seite der Filmwerkstatt Düsseldorf. Dagegen habt ihr gemeinsam mit der Kanzlei Hausfeld Klage am Landgericht Düsseldorf eingereicht und im Juli 2024 gewonnen. Nach Metas Berufung bestätigte das Oberlandesgericht Düsseldorf im April 2025 das Urteil und erklärte die Sperrung durch Facebook für rechtswidrig. Wie lange hat der Fall euch beschäftigt?
Der Fall hat uns über dreieinhalb Jahre begleitet – eine lange, intensive Zeit. Meta ließ sich von einer großen Wirtschaftskanzlei vertreten, mit seitenlangen Schriftsätzen, die teilweise wenig neue Substanz hatten, aber viel Aufwand verursachten. Da waren wir der Kanzlei Hausfeld sehr für die Unterstützung dankbar.
Wer hat die Kosten für das Verfahren getragen?
Die GFF hat alle Kosten getragen – für die Filmwerkstatt war das Verfahren kostenlos, auch im Falle einer Niederlage.
Die Filmwerkstatt Düsseldorf konnte ihren Facebook-Account mehrere Jahre nicht nutzen. Musste Meta für den dadurch entstandenen Schaden eigentlich eine Entschädigung zahlen?
Schadensersatz gab es in diesem Fall nicht. Gerichtsentscheidungen dazu waren in Deutschland recht widersprüchlich, aber wir hoffen, dass sich das mit dem DSA ändert. Derzeit lohnt es sich für Plattformen wirtschaftlich, eher zu wenig zu moderieren – denn die wenigen Gerichtsverfahren lassen sich leicht verschmerzen.
Meta hat in dem Fall zunächst einen Vergleich angeboten. Aber eure Strategie sah vor, dass das Ganze vor Gericht geht. Ihr wolltet einen Präzedenzfall schaffen. Warum war euch das so wichtig? Und inwiefern kommt es betroffenen User:innen zugute?
Wir streben Grundsatzurteile an – Vergleiche verhindern oft die öffentliche Auseinandersetzung, vor allem, wenn sie mit Verschwiegenheitspflichten verbunden sind. Natürlich entscheiden am Ende die Kläger:innen, ob sie sich vergleichen wollen – das ist ihr gutes Recht. Im Fall der Filmwerkstatt stand aber auch sie hinter dem Ziel, ein Zeichen zu setzen.
Abschließende Frage: Als GFF nutzt ihr natürlich auch Social-Media-Kanäle, darunter Instagram und YouTube. Facebook ist nicht dabei. Aus welchem Grund?
Wir stehen hier im Spannungsfeld zwischen Reichweite und Haltung. Wir waren früher auf Facebook, haben die Seite aber bewusst geschlossen – wegen der Rolle der Plattform und weil sie für unser Zielpublikum an Relevanz verloren hat. Ähnlich war es mit X, ehemals Twitter, das wir ebenfalls verlassen haben. Wir wollen glaubwürdig bleiben – auch gegenüber den Plattformen, die wir kritisieren.
Jürgen Bering ist Volljurist. Er arbeitet seit 2021 bei der GFF und leitet seit September 2024 das Center for User Rights sowie seit Mai 2025 den Schwerpunkt „Freiheit im digitalen Zeitalter“.
Die Gesellschaft für Freiheitsrechte e.V. (GFF) wurde 2015 mit Sitz in Berlin gegründet. Gemeinsam mit über 4.000 Fördermitgliedern und an die 30 ehrenamtlichen Vereinsmitgliedern aus Wissenschaft, Zivilgesellschaft und Gesellschaft verteidigt sie die Grund- und Menschenrechte mit rechtlichen Mitteln. Die GFF finanziert sich durch Beiträge ihrer Fördermitglieder und Spenden. Dementsprechend nimmt sie keinerlei staatlichen Gelder entgegen und bewahrt so parteipolitische Unabhängigkeit.
