Warum Facebook Videos von Suizidversuchen nicht immer löscht

Bei Facebook müssen sich 4.500 sogenannte Content-Moderatoren für etwas mehr als den Mindestlohn durch den Müll wühlen, der dort zwischen Urlaubsfotos, News und Wohnungsangeboten herumliegt: Kinderpornografie, Missbrauch, Hass, Gewalt. Bald sollen noch 3.000 weitere Stellen dazu kommen.

Doch was nach welchen Kriterien gelöscht wird, darüber rätselten die zwei Milliarden Nutzer der Plattform bislang – vor allem, wenn sie selbst etwas melden, das trotz Facebooks Ziel einer "sicheren und einladenden Umgebung für alle" nach einer freundlichen Abfuhr-Nachricht einfach online bleibt. Die britische Zeitung The Guardian bringt nun mehr Transparenz in das Netzwerk. Sie hat gestern Abend Hunderte von internen Dokumenten veröffentlicht, die die Löschregeln bei Facebook genauer beschreiben. Zwischen den vielen, teils missverständlichen Guidelines zum Umgang mit Drohungen oder gewaltverherrlichenden Inhalten, gibt es eine Anweisung, die zunächst sehr falsch klingt: Videos, in denen sich Personen selbst verletzen oder sich sogar versuchen umzubringen, sollen nicht automatisch gelöscht werden.

Folgt Motherboard auf Facebook, Instagram, Snapchat und Twitter

Dabei werden gerade solche Videos zunehmend zum Problem auf Facebook oder werden zumindest als solches erkannt, das zeigt eine Facebook-interne Untersuchung: In einem zweiwöchigen Testzeitraum meldeten Löschteams im vergangenen Jahr 4.531 solcher Vorfälle an ihre Chefs, schreibt der Guardian. In diesem Jahr waren es schon 5.016 oder sogar 5.431 Fälle in jeweils zwei untersuchten Wochen. Dass die Mitarbeiter nach diversen Skandalen zu Beginn des Jahres ganz besonders für solche Fälle sensibilisiert wurden, liegt nahe – Zuckerberg hatte es in einem offenen Brief angekündigt.

Das Ergebnis: Moderatoren werden angehalten, Fälle von livegestreamter Selbstverletzung an ihren Vorgesetzten zu melden statt sie sofort zu löschen. "Es gibt immer mehr Videos auf Facebook, darunter sind auch Suizide. Wir möchten hilfsbedürftige Menschen, die versuchen, sich das Leben zu nehmen, nicht zensieren oder bestrafen", heißt es in einer Regeländerung für Moderatoren. Solange Menschen mit dem Video-Urheber interagieren können, solle das Video online bleiben. Facebook bezieht sich dabei auf den Rat von "Experten", die zu diesem Vorgehen geraten hätten. Das Unternehmen versuche in besonders akuten Fällen, Kontakt zu Behörden aufzunehmen, die dann überprüfen sollen, ob es den Nutzern gut geht. Facebooks wichtigster Strategiewechsel ist also ein Übergriff in die analoge Welt.

Die genauen Regeln, die Facebook aufgestellt hat, wirken also erstmal absurd und willkürlich – doch sie sind wohl die beste Lösung, die sich ein Unternehmen mit zwei Milliarden Nutzern als Rote Linie bisher überlegen konnte:

• Ankündigungen, sich in fünf Tagen oder weiter in der Zukunft das Leben zu nehmen, sollen ignoriert werden
• Suizidabsichten in Hashtags oder Emoticons sollen ignoriert werden
• Angekündigte Methoden, die vermutlich nicht zum Suizid führen, sollen ebenfalls ignoriert werden
• Versucht jemand, sich in einem Livestream das Leben zu nehmen, versuche Facebook, Kontakt zu Behörden aufzunehmen, die nach dem Rechten sehen sollen
• Haben die Videos einen Nachrichtenwert oder sind Teil einer breiteren öffentlichen Debatte, können sie unter Umständen online bleiben
• Zeigen Videos tatsächlich einen Suizid, sollen sie auch dann gelöscht werden, wenn sie zuvor von Nutzern geteilt wurden, um auf einen Notfall aufmerksam zu machen

"Selbstverletzende Inhalte werden als Hilfeschrei gepostet, und die Löschung könnte verhindern, dass dieser Hilfeschrei auch ankommt", heißt es in den Regeln.

Das kann funktionieren, wenn dieser Hilfeschrei tatsächlich auf ein Publikum stößt, das genügend Zuspruch, Hilfe und Trost spendet. Tatsächlich zeigten Fälle in der Vergangenheit, dass diese Strategie auch auf grausame Weise nach hinten losgehen kann: Die Distanz und die Unmittelbarkeit, die durch Live-Videos hergestellt wird, löst bei Menschen Affekte und Effekte aus, die sich nur schwer vorhersagen lassen.

Es ist der Versuch, auf einem schmalen Grat zu balancieren: Zwischen der Möglichkeit, Nutzern Hilfe und Zuspruch zukommen zu lassen und der Gefahr, dass sich Nachahmer finden. Denn Forschungsergebnisse legen nahe, dass sehr detaillierte Darstellungen und Berichte über genaue Umstände eines Selbstmordes instabile Personen unter Umständen ermutigen könnten, sich ebenfalls das Leben zu nehmen.

Für das wissenschaftlich belegte Nachahmungsproblem hat sich Facebook mit der Löschung von tatsächlich erfolgten Selbstmorden ebenfalls eine Regel aufgestellt. Aber im Falle eines Mannes aus Cleveland, der in einem Facebook-Livestream erst einen Rentner auf offener Straße und schließlich sich selbst erschoss, griff diese Methode jedenfalls nicht: Das Video war auch nach seinem Tod auf der Plattform zu sehen – und das, obwohl er seine Taten ankündigte.

Letztlich sind die geleakten Arbeitsanweisungen trotz eines gestiegenen Problembewusstseins auch ein Spiegel des Ideals der Selbstverantwortung, auf die Facebook gegenüber seinen Nutzern immer wieder pocht: "Wenn wir selbstverletzende Inhalte von Facebook löschen, hindern wir Nutzer eventuell daran, echte Hilfe aus der echten Welt in Anspruch zu nehmen", heißt es. Man kann diesen Regeln zustimmen oder sie ablehnen – klar ist aber: Erst seit gestern können wir uns überhaupt eine Meinung dazu bilden und auf Facebook einwirken, besser zu werden.

Wenn du Suizidgedanken hast oder jemanden kennst, der solche Gedanken hat, sprich mit anderen Menschen darüber! Du kannst die Telefonseelsorge rund um die Uhr unter der Nummer 0800 - 1110111 erreichen. Hilfsangebote sind auch anonym bundesweit verfügbar, eine gute Übersicht gibt es auf der Seite der Deutschen Gesellschaft für Suizidprävention .