Facebook erklärt jetzt so genau wie nie, was verboten ist – und wirft noch mehr Fragen auf

Warum löscht Facebook manche Beiträge und andere nicht? Warum werden manchmal Kunstwerke mit oberkörperfreien Frauenfiguren entfernt, während rechtsextreme Nutzer täglich Hass und Hetze verbreiten können? Um solche Fragen zu beantworten, hat der Konzern jetzt erstmals sein riesiges Regelwerk, ins Netz gestellt – auch auf Deutsch.

Die Regeln entsprechen den internen Richtlinien, die auch Facebook-Mitarbeiter heranziehen, wenn sie etwa gemeldete Beiträge überprüfen müssen, wie der Konzern in einem Blogbeitrag erklärt. Wortgenau hat Facebook seine Richtlinien aber nicht veröffentlicht. Weiter unten heißt es, die Regeln "spiegeln" die internen Richtlinien "nahezu identisch wieder".

Im Jahr 2016 hat die Süddeutsche Zeitung erstmals ausführlich darüber berichtet, nach welchen Regeln deutsche Facebook-Prüfer gemeldete Beiträge untersuchen. Im Jahr 2017 veröffentlichte der Guardian Ausschnitte aus Facebooks bis dahin geheimen Regelwerk. Ab jetzt lässt sich der Konzern nun auch offiziell in die Karten schauen. "Was wir heute teilen, ist nicht neu; es spiegelt Standards wider, die bereits seit langem gelten", teilt Facebook mit.

Die Offenlegung der Regeln kommt zu einer Zeit, in der Facebook wie noch nie unter politischem Druck steht. Facebook-Chef Mark Zuckerberg musste sich vor dem US-Kongress für den Vertrauensbruch rund um Cambridge-Analytica stundenlang vor laufenden Kameras befragen lassen. Längst überlegen andere Länder, Facebooks Löschroutinen nach dem Vorbild des deutschen NetzDG schärfer zu kontrollieren. Und in Europa wird die Datenschutzgrundverordnung (DSVGO) ab Mai Facebook weniger erlauben als zuvor.

Wer sich durch Facebooks ausführliche Liste an Verboten wühlt, merkt schnell: Der Konzern steht vor einem großen Dilemma. Das Regelwerk ist einerseits zu ausführlich und andererseits: nicht ausführlich genug. Zum einen müssen die Regeln offen formuliert sein, sonst könnten sich Propagandisten, Hetzer und Trolle geschickt um die Verbote herumwinden. Zum anderen liegt bei den offenen formulierten Regeln auf der Hand: Sie sind viel zu allgemein gehalten, um jemals umfassend kontrolliert zu werden. Selbst friedliche Nutzer werden Probleme damit haben, sich an alle Vorschriften zu halten.

Problematisch sind etwa Facebooks Richtlinien zu sogenannten Hassorganisationen (Kapitel I, Abschnitt 2). Facebook meint damit, einfach ausgedrückt, Zusammenschlüsse von mehr als drei Menschen, die andere wegen unter anderem Religion, Herkunft, Geschlecht, sexueller Orientierung oder schweren Krankheiten angreifen – beispielsweise durch ihre Aussagen. Solche Organisationen dürfen laut Facebook nicht im Netzwerk vertreten sein. Die offen islamfeindliche Organisation Pegida zum Beispiel ist aber trotzdem auf Facebook vertreten.

Würde Facebook seine Richtlinien zu sogenannten Hassorganisationen wörtlich nehmen, müsste der Konzern nicht nur Hassbotschaften entfernen, sondern auch die dahinterstehenden Facebookseiten. Das würde eine hoch problematische Debatte um Redefreiheit und gesellschaftliche Teilhabe im Netz auslösen.

Ähnlich problematisch ist Facebooks neu veröffentlichte Definition von Hassrede. Facebook meint damit "direkte Angriffe auf Personen aufgrund sogenannter geschützter Merkmale", darunter "ethnische Zugehörigkeit, nationale Herkunft, religiöse Zugehörigkeit, sexuelle Orientierung". Bei den konkreten Beispielen für solche Hassrede nennt Facebook aber auch Ausdrücke wie: "Ich mag xyz nicht", "hässlich", "dumm", "Idiot", "Trittbrettfahrer", "billig" (Kapitel III, Abschnitt 12). Da sind wohl sogar in Kindergärten stärkere Schimpfwörter im Umlauf.

Würde Facebook demnach auch Sätze wie: "Ich mag Frauen nicht" oder: "Griechen sind dumm?" als löschenswerte Hassrede einstufen und konsequent verfolgen? Das klingt eher unrealistisch.

Auch eher alltägliche Sticheleien sind laut Gemeinschaftsstandards verboten. Nutzer dürfen andere Privatpersonen etwa nicht mit "leblosen Objekten" vergleichen (Kapitel II, Abschnitt 9). Ob das auch Äußerungen betrifft wie: "Mein Klassenlehrer ist so einfühlsam wie eine Raufasertapete"? Sogar die Angabe eines falschen Geburtsdatums verstößt gegen die Richtlinien (Kapitel IV, Abschnitt 17).

Bei anderen Themen sind die ausführlichen Gemeinschaftsstandards durchaus erhellend, wenn auch nicht unbedingt befriedigend. Wer selbst schonmal auf Facebook bedroht oder angefeindet wurde, fragt sich gewiss, warum manche verletzende Beiträge einfach nicht gelöscht werden. Facebook erklärt das jetzt genauer. Damit eine Drohung auf Facebook verboten ist, muss sie dem Konzern zufolge "glaubwürdig" sein. (Kapitel I, Abschnitt 1)

Ebenfalls auf Motherboard: Zu Besuch in der chinesischen Bitcoin-Mine

Ein einfaches "Ich töte dich" könnte wohl nicht genug sein für eine Löschung, wie aus den Gemeinschaftsstandards hervorgeht. Die Drohung müsse demnach ein genaueres Ziel haben – etwa eine "Person", einen "Ort", die "Erwähnung einer spezifischen Waffe" oder eine "vollständige Adresse". Facebook erklärt damit präzise, warum manche als bedrohlich empfundenen Beiträge wohl nicht entfernt werden. Andererseits bedeutet das: Ein feindseliger Nutzer könnte unter Umständen ungehindert Angst und Schrecken verbreiten, solange er nicht ausdrücklich schreibt: "Ich werde Max Mustermann am morgigen Dienstag vorm Supermarkt in der Straße X mit einem Hammer verprügeln".

Im Allgemeinen wirken Facebook Gemeinschaftsstandards wie ein ambitionierter und zugleich unausgegorener Verhaltenskodex – für die Menschheit. Aus den Regeln spricht der vielleicht unmögliche Versuch, die negativen Seiten menschlicher Kommunikation zu erfassen und zu bewerten: Außer Hass und Gewalt gibt es darin auch Regeln zur Darstellung von Brustwarzen, Tierkämpfen, Medikamenten und sogar zu allgemein "taktlosen" Inhalten. Es geht in Facebooks Regelwerk nicht nur darum, wie sich die Besucherinnen irgendeiner Online-Plattform verhalten sollten – sondern darum, wie die digitale Gesellschaft auf dem größten sozialen Netzwerk der Welt reguliert wird.

Fest steht, ihren tatsächlichen Wert entfalten die Gemeinschaftsstandards erst, wenn sie – ähnlich wie bei Gesetzen – auch tatsächlich angewandt werden. Für Gesetze braucht es aber Anwälte und Richterinnen und teils jahrelange Prozesse, denen wiederum aufwendige Ermittlungen vorangehen. Im Fall der Gemeinschaftsstandards ist Facebook allerdings Gesetzgeber, Polizei, Anwalt und Richter zugleich.

Der Konzern gesteht in seiner Pressemitteilung ein: "Unsere Richtlinien sind nur so gut wie ihre Durchsetzung – und die ist nicht perfekt." Es sieht aber nicht danach aus, als wollte Facebook die Durchsetzung der Regeln strukturell hinterfragen. Zu Beginn der Gemeinschaftsstandards heißt es nämlich: "In manchen Fällen, in denen wir mehr Kontext haben, treffen wir daher eine Entscheidung, die auf dem Geist der Richtlinie und nicht ihrem Wortlaut basiert." Ausführliches Regelwerk hin oder her: Am Ende behält Facebook die Deutungshoheit darüber, wie es seine eigenen Richtlinien im Einzelfall interpretiert und ob die Entscheidungen im "Geiste" der Community-Standards sind.

Folgt Sebastian auf Twitter und Motherboard auf Facebook, Instagram und Snapchat