#TooSexyForTumblr: Nutzer fassen nicht, was der Tumblr-Algorithmus alles für Pornografie hält

Einhörner und Brathähnchen? Das ist nichts für Kinder unter 18 Jahren! Tumblr will ab jetzt NSWF-Inhalte filtern – und stellt sich dabei reichlich blöd an.

|
Dez. 5 2018, 2:24pm

Bild: Screenshots | Twitter | Tumblr | Collage: Motherboard

"Erwachsenen-Inhalte werden auf Tumblr ab sofort nicht mehr erlaubt sein". Diese Nachricht haben alle Tumblr-Nutzer jüngst beim Login auf der Blog-Plattform gesehen. Dahinter stehen neue Richtlinien der Plattform, die ab dem 17. Dezember gelten werden. Während Nutzerinnen und Nutzer den Untergang von Fandom- und LGBTQ-Communitys auf Tumblr beklagen, beginnt der neue Algorithmus schon damit, angeblich anstößige Inhalte zu markieren.

Offenbar sind die Algorithmen von Tumblr mehr als übereifrig, wenn es darum geht, "Erwachsenen-Inhalte" zu finden. Inzwischen befürchten Nutzende nicht nur, dass Tumblr-Seiten für den offenen Austausch über sexuelle Themen dem Filter zum Opfer fallen. Auch offenkundig jugendfreie Bilder werden derzeit wohl als bedenklich markiert, wie zahlreiche Screenshots zeigen. Unter dem Hashtag #TooSexyForTumblr teilen Nutzerinnen und Nutzer die absurdesten Beispiele. So wurde offenbar ein Nachrichtenartikel über den US-Demokraten Joe Biden markiert – natürlich ist er auf dem Bild voll bekleidet. "Ich schätze, Joe Biden ist zu sexy für Tumblr", heißt es in dem dazu gehörigen Tweet.

Auch ein kotzendes Comic-Einhorn, eine Schuhputzmaschine, ein Flamingo-Schwimmring und ein eingeschweißtes Brathähnchen scheinen dem Algorithmus verdächtig vorgekommen zu sein, wie verschiedene Screenshots auf Twitter zeigen sollen. Der verifizierte Twitter-Account der Juristin Sarah Burstein aus Oklahoma präsentierte Screenshots, die zeigen, wie gezeichnete Entwürfe für Kleiderbügel, Schuhe und ein Nackenkissen von Tumblr beanstandet wurden. Offenbar werden die Beanstandungen von Tumblr zurückgenommen, wenn sich Nutzer beschweren, heißt es weiter. "Es ist nervig, dass ich buchstäblich alle meine Beiträge durchsuchen musste, um die Beanstandungen zu finden", heißt es in einem Tweet von Burstein. "Nicht cool, Tumblr, nicht cool".

Auf Nachfrage von Motherboard verwies ein Tumblr-Sprecher lediglich auf einen Blogpost, in dem die verschärften Nutzungsbedingungen erklärt werden, sowie auf das entsprechende Statement von Tumblr-Chef Jeff D'Onofrios.

Im Blogpost wird beschrieben, dass Beiträge sowohl durch einen Algorithmus als auch durch das Moderatoren-Team geflaggt würden. Dieses Team soll nun ausgebaut werden, um pornografische Inhalten so schnell wie möglich von der Plattform zu entfernen.

Ein rohes Hühnchen wird als adult content auf Tumblr eingestuft
Image: ThisIsntHappiness/Tumblr

D'Onofrio räumt in seinem Statement ein, dass der Algorithmus noch nicht einwandfrei funktioniere und dass man damit rechnen müsse, dass Inhalte falsch bewertet werden. Es sei nicht immer einfach, zu unterscheiden, ob es sich um Pornografie, einen politischen Protest oder einfach ein Foto von Michelangelos David handele, schrieb er. "Wir verlassen uns auf automatisierte Tools, die die Inhalte erkennen, und auf Menschen, die das System trainieren und überprüfen."

Viele Nutzerinnen zeigen sich dennoch überrascht, welche Beiträge inzwischen beanstandet wurden. Die auf sozialen Medien veröffentlichen Screenshots haben nämlich offenkundig auch nichts mit "politischem Protest" oder "Michelangelos David" zu tun.


Auf VICE: Wie sich 'Sailor Moon' in eine Zuflucht für Queer-Kids der 90er verwandelt hat


Ganz neu sind Probleme wie diese aber nicht: Schon andere Plattformen hätten die automatisierte Moderation anfangs gründlich vergeigt, sagt etwa die Aktivistin für Bürgerrechte, Jillian York, von der Electronic Frontier Foundation. "Microsoft Bing nutzte anfangs ein so primitives Tool, dass Begriffe wie 'Hähnchenbrust' und 'Brustkrebs' bei der SafeSearch herausgefiltert wurden", schildert York in einer E-Mail an Motherboard.

Wie radikal Tumblrs Keuschheits-Algrorithmus offenbar die Plattform durchforstet, zeigt das Beispiel eines Motherboard-Artikels über Tumblrs neue Richtlinien, den wir am 4. Dezember verfasst haben. Bebildert ist der Artikel mit einer von uns zum Teil verpixelten Illustration, die aktuell auf Tumblr zu finden sind. "Ich hab deinen Artikel gerade auf Tumblr verlinkt", schrieb uns die Nutzerin Vaysh, die wir für den Artikel interviewt hatten, am selben Tag. "Und schwupps, wurde er als adult content geflaggt. Wenn es nicht so traurig wäre, müsste ich jetzt echt lachen."

Folgt Motherboard auf Facebook, Instagram, Snapchat und Twitter