Quantcast
Die Wahl auf Motherboard

Was hinter den Bots steckt, die die 31 geheimen AfD-Gruppen gesteuert haben

Die spektakuläre Übernahme-Aktion von der PARTEI gegen AfD-Gruppen zeigt, wie leicht sich mit Social Bots Propaganda machen lässt – und dass es ganz ohne Menschen auch nicht geht.

Theresa Locker

Theresa Locker

Screenshot: Facebook/Shahak Shapira 

Die AfD will also klagen, nachdem ein Team um Shahak Shapira 31 geschlossene Facebook-Gruppen infiltriert hat, in denen insgesamt 180.000 Anhänger der Partei monatelang mit Pro-AfD-Content versorgt wurden.

Gegen wen oder was die AfD Strafanzeige erheben will, ist noch nicht ganz klar. Denn die Unterwanderung der Facebook-Gruppen war kein "Hack" im technischen Sinne, wie jetzt von einigen rechten Blogs und AfD-Mitgliedern behauptet wird, sondern feinstes, legales Social Engineering.

Elf Monate lang infiltrierte Shapiras Team mit eigens angelegten Facebook-Accounts die Gruppen – bis die Mitgliederprofile der PARTEI dort schließlich so beliebt wurden, dass sie zu Moderatoren und schließlich zu Admins aufstiegen. In einem Video erklärt Shapira den verdutzten Mitgliedern, dass ihre liebsten AfD-Gruppen sowieso ursprünglich alle von Social Bots gegründet wurden: "Verstehen Sie? Sie wurden von Robotern verarscht."

Wahlkampf mit Social Bots oder nicht? Die AfD ist sich nicht ganz einig

Die Aktion ist für die AfD ein Problem. Und zwar nicht nur, weil ihrer treuen Anhänger durch die feindliche Übernahme von Shapiras Team aus einer gemütlichen rechten Hetzer-Ecke vertrieben wurden – sondern vor allem, weil die AfD noch vor Monaten energisch abstritt, irgendetwas mit Manipulation auf Social Media zu tun zu haben.

Die Partei werde natürlich keine Social Bots einsetzen, die auf Seiten Dritter im Namen der AfD automatisiert posten oder ähnliches", sagte Bundesvorstand Alice Weidel der Nachrichtenagentur Reuters im Oktober 2016 – nachdem sie kurz zuvor das Gegenteil behauptet hatte. Die Botschaft sollte wohl sein: Niemals würde die AfD faule Tricks nutzen, um größer zu erscheinen, als sie ist.

Die Definition, was ein Bot ist und was nicht, ist manchmal fließend

Bei den meisten Diskussionen um Bots ging in den letzten Monaten begrifflich oft vieles durcheinander. Der Begriff Social Bots fällt schnell, wenn es um Manipulation in Sozialen Netzwerken geht – dabei stecken automatische Programme längst nicht hinter jeder Fälschung und Desinformationskampagne. Es gibt wichtige technische Unterschiede zwischen Social Bots, Fake Accounts, Zweit-Accounts oder gar Trollen, die noch einmal eine andere Rolle spielen.

Die wohl einfachste Form der Zweit- oder Falschidentität auf Facebook ist ein Fake-Profil, also ein Konto unter einem ausgedachten Namen. Zwar werden in Hackerforen Programme verkauft, die massenhaft Accounts erstellen und mit Bild- und Textmaterial befüllen, doch nach einer kurzen Zeit wird das Netzwerk den Accountinhaber um eine Verifizierung bitten. Wenn dies ausbleibt, löscht Facebook den Account womöglich. Sollen Fake-Accounts unter falschem Namen weiter bestehen, ist es vielversprechender, sie zumindest in Teilen von Menschen erstellen und verwalten zu lassen.

Ein Social Bot dagegen ist ein mehr oder weniger durch Programme und Skripte gesteuertes Fake-Konto, das automatisiert Aufgaben und Interaktionen in Sozialen Medien nach voreingestellten Kriterien übernehmen kann. So gibt es zum Beispiel Dutzende fragwürdige Programme zum sogenannten Content-Farming, die einen Account bekannter machen oder als Posting-Schleuder dienen können: "Face Dominator" etwa kann nicht nur selbstständig Inhalte posten und Likes verteilen, sondern findet auch ohne menschliche Hilfe potentielle Freunde nach vorher eingestellten Kriterien. "Contentsuite" sucht und überwacht sogar fremde Inhalte bestimmter Themen, und reagiert automatisiert auf diese. So wird ein Konto zum Bot und "arbeitet" ganz von allein.

Während sie den ganzen Tag lang im Auftrag einer Partei Links und Likes verteilen, können Facebook-Bots allerdings auch in Teilen von Menschen gesteuert werden, um weniger Verdacht zu erregen. Denn für überzeugende Semantik gibt es – zum Glück – noch kein Programm; das weiß jeder, der schon mal an der Dummheit eines Chatbots verzweifelt ist. Ein erstes Indiz für einen automatisierten Account ist daher die Unfähigkeit, wirklich wie ein Mensch zu antworten.

Die "Hyperaktiven Sieben" sind schon früher als Bots aufgefallen

Wie wahrscheinlich ist es also, dass die AfD-Gruppen vor der Übernahme durch Shapiras Team von Bots gesteuert wurden? Um die Frage zu beantworten, muss man etwas in die Vergangenheit gehen.

Wie aus Facebook-Screenshots hervorgeht, die uns von Shapiras Team zugeschickt wurden, waren die Administratoren der 31 übernommenen Gruppen noch am 27. Januar 2017 immer dieselben: Sieben mutmaßliche Fake-Profile, die auch die FAZ schon im Februar als potentielles Botnetz aus Pro-AfD-Accounts identifiziert hat.

Über Jahre haben sie sich gegenseitig reposted, ihre Fotos geteilt und waren extrem fleißig darin, AfD-News zu verbreiten, in einfachen Worten zu kommentieren und zu liken. Diese sieben hyperaktiven Facebook-Profile sind mittlerweile verschwunden. Warum sie gelöscht wurden, ist unklar. Dass es zwischen den sieben Accounts jedoch einen Zusammenhang gibt, zeigt exemplarisch ein Screenshot aus dem Herbst 2016.

Darauf ist zu sehen, wie die mutmaßlichen Fake-Profile auf ihre eigenen Inhalte reagieren: "Hammer Foto"; kommentiert ein Account der "Hyperaktiven Sieben" ein Bild des anderen, "heute im Fitneßstudio aufgenommen? Kann euren Blech-Umkleideschrank erkennen". Doch eine kurze Recherche eines Bloggers vom Januar 2017 zeigt: Das Bild mit dem muskulösen Mann ist ein Stockfoto.

Screen Shot 2017-09-06 at 15.50.11.JPG


Bild: Screenshot Facebook via klauskevin.wordpress.com

Es ist unwahrscheinlich, dass alle diese Kommentare von einem Chatbot geschrieben wurden. Viel wahrscheinlicher ist, dass hier jemand zentral die Fake-Accounts steuert und recht plump den Eindruck erwecken möchte, es handele sich bei "Axel Schönhaupt" um einen echten Menschen mit echten politischen Überzeugungen und echten Facebook-Freunden.

Automatisiertes Wachstum: Ohne technische Tricks wäre die AfD-Blase nicht mal ansatzweise so groß

Das Verhalten der Gruppen seit dem Januar dieses Jahres liefert weitere Indizien, dass sie von Bots gesteuert wurden. Dafür müssen wir uns anschauen, wie es die Gruppen geschafft haben, eine solche große Reichweite zu erreichen: Im ersten Schritt müssen die sieben von AfD-Unterstützern erstellten Fake-Profile möglichst viele normale Facebook-Freunde gewinnen. Dazu könnten sie sich über Werbedienstleister Listen mit genau definierten Personengruppen an Facebook-Nutzern, die sie ins Visier nehmen wollen, gekauft haben. Zum Beispiel: weiße Männer zwischen 40 und 60 Jahren – eben die Zielgruppe, die am ehesten auf AfD-Inhalte anspricht. Eine weitere Möglichkeit, sollten die sieben Accounts von einem AfD-Mitglied gesteuert worden sein, wäre die Identifikation von AfD-lern über die E-Mail-Adressen der Parteilisten.

Die mit Heimatgedöns aufgehübschten Profile der "Hyperaktiven Sieben" müssen diese Personen nun ansprechen und versuchen, sie als Freunde zu gewinnen. Auch das geht automatisch mit Hilfe von Programmen, die im Internet für 50 bis 150 Euro verkauft werden. Nur den letzten Schritt, die Annahme der Freundschaftsanfrage, müssen die neuen Freunde selbst in die Hand nehmen.

Im zweiten Schritt erstellen die Menschen hinter den Fake-Strippenziehern mit Namen wie "Norbert Bill", "Susanne Lanowski" oder "Axel Schönhaupt" nun AfD-nahe Gruppen mit Titeln wie "Björn Höcke FanCLUB". Dokumente, die uns vorliegen, bestätigen, dass alle 31 Gruppen tatsächlich von den sieben von der FAZ identifizierten Fake-Profilen im Laufe des Jahres 2016 gegründet wurden.

Screen Shot 2017-09-08 at 13.20.33.JPG

Als nächstes müssen die Strippenzieher ihre neuen Freunde nur noch massenhaft zu den Gruppen hinzufügen. Dank kostenlosen Skripten funktioniert so etwas automatisch. Mit einem einzigen Klick kann man auf einen Schlag alle seine Freunde automatisch zu bestimmten Facebook-Gruppen hinzufügen.

Da das so einfach geht, wurden die meisten Mitglieder und Moderatoren der 31 Gruppen von den sieben Gründungs-Accounts automatisiert hinzugefügt. Angesichts der enormen Größe der Gruppen mit insgesamt 180.000 Mitgliedern erscheint es ebenfalls denkbar, dass dabei auf Programme zurückgegriffen wurde. Tatsächlich schreiben hunderte verblüffte AfD-Fans in den gekaperten Gruppen und in ihre Facebook-Timelines etwas wie "Ich weiß ja auch nicht, wie ich da reinkam, irgendwann hat mich jemand in die Gruppe geholt".

So können die AfD-Bots Gruppen mit Inhalten bombardieren

Auch die Art, wie Inhalte in die Gruppe gepostet werden, legt nahe, dass automatisierte Programme zum Einsatz gekommen sind. Denn es tauchen regelmäßig die gleichen Inhalte innerhalb sehr kurzer Zeit in den unterschiedlichen Gruppen auf: Aus Screenshots im PARTEI-Video geht hervor, dass bis zu zehn Mal pro Minute derselbe Inhalt in mehreren Gruppen gepostet wird. Zwar ist es nicht auszuschließen, dass auch ein Mensch mit schnellem Copy-Paste-Händchen so rasant immer dieselbe Nachricht postet – aber angesichts der Hyperaktivität erscheint das unwahrscheinlich.

In Hackerforen und auf Schwarzmarktboards werden mehrere Dutzend Programme gehandelt, die Inhalte in Gruppen posten können und noch viele andere Aufgaben übernehmen. Ein TrendMicro-Bericht vom Juli gibt einen guten Darknet-Marktüberblick über die vielen technischen Angebote, die der Automatisierung und massenhaften Verbreitung von Inhalten, Zustimmung, Ablehnung oder Fake-Accounts in Sozialen Medien dienen.

Ein Dokument, das uns vorliegt, dokumentiert beispielsweise den Postingverlauf von den Gruppengründern anhand eines Tages: Der mutmaßliche Botnetz-Account "Maria Wagenfeld" setzt binnen 45 Minuten zwischen sechs und sieben Uhr morgens 20 Postings in den verschiedenen Gruppen ab. Ein weiterer Screenshot zeigt sogar, dass mehrere Accounts elfmal pro Minute unkommentierte Links in die Gruppen postet – ebenfalls ein deutlicher Hinweis auf eine Automatisierung.

Screen Shot 2017-09-06 at 16.21.48.JPG


Bild: Shahak Shapiras Team. Mit freundlicher Gehemigung

Screen Shot 2017-09-05 at 11.48.41.JPG

Ohne menschlichen Input geht es nicht – immer dabei ist ein AfD-Mitglied

Auch wenn es erstaunlich viele Programme zur Automatisierung gibt, so können nicht alle Aufgaben auf die Dauer technisch erledigt werden – ganz besonders nicht die Gruppenverwaltung, die sich tatsächlich inhaltlich mit Hetze, Wut und sonstigen Anliegen ihrer Mitglieder auseinandersetzen muss, um keinen Verdacht zu erregen. Wie aus uns vorliegenden Screenshots hervorgeht, wird ein paar Monate nach der Gründung die Moderation der 31 Gruppen von den Fake-Profilen der "Hyperaktiven Sieben" schrittweise an einen echten Menschen übergeben – und zwar an den Account eines ganz realen AfD-Mitglieds.

Denn nicht alle Beteiligten in den Führungsriegen der Gruppen sind gesichtslose Profile mit Stockfotos. Für viele Funktionen werden im Laufe der Zeit immer mehr echte Menschen eingesetzt. Die Verbindung zu einem speziellen Profil ist besonders auffällig: In allen Gruppen war ein gewisser Markus H. aktiv, der auch im Januar bereits als Moderator der größten Pro AfD-Gruppen aufgefallen war. Er ist für die AfD im Kreisverband Tübingen aktiv, hat aber auf unsere Anfrage bislang nicht reagiert.

Nach der Recherche der FAZ wurden in 30 von der Zeitung identifizierten Gruppen die Moderatorenrechte für Markus H. am 26. Januar 2017 abgeschaltet. Aus Screenshots, die uns vorliegen, geht aber hervor, dass Markus H. auch einen Tag später, am 27. Januar, ebenfalls in den 31 AfD-Gruppen die Rolle des Moderator innehat. Es war das mutmaßliche Fake-Profil Susanne Lannowski, das H. zwischen September und November 2016 hinzugefügt und zum Moderator aller Gruppen gemacht hat.

Wer sich die Geschichte der Gruppen ansieht, findet also nicht nur etwas über die Entscheidung "Bot or not" heraus, sondern stellt sich noch eine andere Frage: Steckt die AfD hinter den Gruppen und den Inhalten? Hat die Partei selbst etwas mit den 31 Gruppen zu tun? Oder sind die Inhalte nur besonders AfD-freundlich und auf die Mitglieder zugeschnitten? Auch wenn man das nicht abschließend beantworten kann – es besteht zumindest eine auffällige Nähe und Beziehung zu einzelnen Mitgliedern.

Die Herrin über 31 Gruppen: Administratorin Anne Teska hat den Job im Januar übernommen – von einem "Bekannten"

Hat sich die Gruppe einmal etabliert, steigt das Risiko für den Administrator, anhand der Posting-Geschwindigkeit als Fake-Profil gemeldet oder von Facebook identifiziert zu werden. In der letzten Januarwoche 2017 fand deswegen eine Art Staffelübergabe statt: Das AfD-Mitglied Anne Teska kam ins Spiel und übernahm die Rolle der Administratorin in 31 Gruppen. Ihr Account scheint auf Facebook zu einem echten Menschen zu gehören, sie kommentiert fleißig in Gruppen und laut ihrer eigenen Timeline und scheint auch viele AfD-Mitglieder persönlich zu kennen. Im Mai 2017 kam zudem noch Benjamin Haupt, ebenfalls AfD-Aktiver, dazu und moderierte die Gruppen mit. Sowohl Teska als auch Haupt tauchen auf einer geleakten Liste des Stuttgarter AfD-Parteitags als Teilnehmer auf. Hinter ihren Namen ist ihre AfD-Mitgliedsnummer notiert. Auch auf Facebook treten beide offensiv als AfD-Unterstützer auf.

Nach der vollständigen PARTEI-Übernahme blockierten die neuen Administratoren um Shapira Anne Teska. "Ich sehe die Gruppen gar nicht mehr durch die Blockierung", schreibt sie in einem Facebook-Post.

"Es ging um politische Arbeit dort und nicht um Kenntnisse, was Hacker betrifft. Wir waren mit den Neuaufnahmen vorsichtig, aber Zecken gibt es überall"

Wie aus ihrem öffentlichen Profil hervorgeht, ist Anne Teska neben ihrem AfD-Moderationsjob gleichzeitig noch Mitglied in über 120 verschiedenen Facebook-Gruppen, die sich thematisch mit UFO-Sichtungen, Musik oder Selbstheilungs-Tipps beschäftigen. Dass sie bei diesem Umfang Hilfe bei der vermutlich überfodernden Moderation der 31 AfD-Gruppen gern annahm, ist verständlich.

Das war letztlich der Schlüssel für die Übernahme: Anne Teska stellte sich als schwächstes Glied heraus und ließ sich leicht für etwas Unterstützung von anderen vermeintlichen Pro-AfD-Admins begeistern. Das Angebot des Engagements verhalf den Fake-Profilen, mit denen sich Shapira und sein Team um die Rolle des Admins bewarb, zusätzlich, beliebt zu werden.

Frauke Petry soll von den Gruppen gewusst haben – und "Jana Lauterbach" hat sie aufs Glatteis geführt

Anne Teska wurde "von einem Bekannten", so die FAZ, zum Admin der Gruppen befördert. Selbst erzählt sie diese Geschichte nicht, das macht ihr Mann Gert Teska, der ebenfalls in der AfD im hessischen Bad Dürkheim aktiv ist. Wer also war dieser Bekannte? Möglicherweise jemand, der die ganzen Fake-Profile steuert und für den Fall, dass die automatischen Profile gelöscht wurden, eine Moderations-Nachfolge suchte.


Auch Teska äußert sich gegenüber ihren Facebook-Freunden verblüfft über die Übernahme, die sie "Diebstahl" nennt: Ein Profil unter dem Namen "Jana Lautenberg" habe lange als Moderatorin gearbeitet, bevor sie Anne Teska plötzlich blockte. Seit Sonntag sei ihr Profil laut Teska verschwunden. "Ich war Administrator mit noch anderen", schreibt sie auf ihrer Facebook-Seite und outet sich dabei als nicht ganz so computeraffin. "Es ging um politische Arbeit dort und nicht um Kenntnisse was Hacker betrifft. Wir waren mit den Neuaufnahmen vorsichtig, aber Zecken gibt es überall."

"Jana" war es auch, der Teska in einer Gruppennachricht nicht nur anvertraute, wie schön und schlau Frauke Petry live sei, wie ein Screenshot in Teskas Bekennervideo zeigt. Vor allem hätte sie für ein Treffen mit Teska auch "einen extra Termin wegen den Gruppen" gemacht. Damit bestätigt Teska indirekt, dass Petry persönlich von der Existenz der Gruppen gewusst hat und sie gewürdigt hat. Frauke Petry hat auf unsere Anfrage bislang nicht reagiert.

Die Fake-Profile der "Hyperaktiven Sieben" sind plötzlich verschwunden

Die Profile der sieben mutmaßlichen Bots, die so fleißig Gruppen gegründet, befüllt und bespielt haben, sind aktuell nicht mehr auffindbar. Erst Ende August hatte Facebook bekannt gegeben, zehntausende Fake-Konten gelöscht zu haben, die massenhaft Spam oder Desinformation verbreitet haben. Darunter könnten nun auch die Profile der AfD-Strippenzieher sein. Ebenfalls möglich ist, dass ihr Schöpfer sie selbst gelöscht hat. Facebook äußert sich "nicht zum Status einzelner Accounts", lässt uns ein Sprecher wissen.

Der Hacker und Sprecher des Chaos Computer Clubs unter dem Pseudonym Erdgeist hält den Einsatz von Bots im Gespräch mit Motherboard bei den betreffenden Gruppen für "durchaus plausibel". Für ihn ist die Unterscheidung des Grades der Automatisierung allerdings gar nicht so entscheidend. "Ob jetzt ein Skript benutzt wurde, um in Gruppen zu posten oder ein Mensch sich den ganzen Tag dransetzt und Gruppen mit den immer gleichen Nachrichten bespielt, in die er vorher Mitglieder aus zusammengekauften Werbelisten automatisiert hinzugefügt hat" – beides hält er für eine "Verzerrung und Manipulation, die über das normale menschliche Verhalten auf Sozialen Medien hinausgeht".

In diesem konkreten Fall der 31 Pro-AfD-Gruppen muss das Fazit auf die Frage Bot or Not wohl lauten: Ja, die Gruppenmitglieder wurden zum größten Teil von Robotern verarscht, die die ganze AfD-Blase seit Jahren aufgepumpt haben. Doch ganz ohne menschlichen Input von AfD-Mitgliedern ging es auch nicht.