Hinter Elon Musks Witz über eine Killer-KI steckt heftiger Nerd-Humor

Am Anfang der Romanze zwischen Grimes und Elon Musk stand wohl ein Scherz über ein mörderisches Gedankenexperiment. Wer davon hört, muss einer bizarren Logik zufolge um sein Leben fürchten.

|
11 Mai 2018, 9:00am

Grimes und Elon Musk bei der MET Gala 2018 | Bild: Imago | ZUMA Press

Falls ihr es noch nicht gehört habt: Tesla-Chef Elon Musk und die kanadische Sängerin Grimes sind jetzt ein Paar – auch wenn dieses Match auf den ersten Blick so unwahrscheinlich scheint wie Musks Pläne für die Besiedlung des Mars.

Bevor Grimes und Musk – von Kennern natürlich längst als 'grusk' bezeichnet – bei der MET Gala am 7. Mai erstmals gemeinsam öffentlich auftraten, postete Musk zwei Worte auf Twitter: "Rococo Basilisk". Dieses Wortspiel verschmilzt den spätbarocken Kunststil Rokoko mit dem Namen eines Gedankenexperiments über Künstliche Intelligenz, das im Netz heiß diskutiert wird: "Roko's Basilisk".

Möglicherweise war es genau dieser lahme Wortwitz, der das gegenseitige Interesse der beiden weckte, so erklärt es zumindest das Magazin Page Six, das zuerst über die Beziehung von Grimes und Musk berichtete. Anscheinend wollte Musk vor einigen Wochen über "Rococo Basilisk" tweeten und stellte fest, dass Grimes bereits vor drei Jahren auf das Wortspiel gekommen war – sie hatte nämlich eine Figur in ihrem Musikvideo so benannt. Daraufhin meldete er sich bei der kanadischen Musikerin.

Ob Musk direkt mit dem Eisbrecher "Hey, wir haben den gleichen, seltsamen Humor" aufwartete, wissen wir nicht. Trotzdem ist es bemerkenswert, dass zwei so unterschiedliche Typen wie die mehrfach mit Platin ausgezeichnete Künstlerin und der exzentrische Tech-Milliardär sich von dem gleichen KI-Gedankenexperiment angezogen fühlen. Doch was hat es überhaupt mit "Roko's Basilisk" auf sich?

Absurde Überlegungen zu einer Killer-KI

Das Gedankenexperiment wurde zum ersten Mal im Juli 2010 von einem Nutzer namens Roko im Forum Less Wrong veröffentlicht, das sich mit Rationalität, Psychologie und Künstlicher Intelligenz beschäftigt. Im Grunde geht es bei dem Gedankenexperiment um die Frage, unter welchen Bedingungen eine Künstliche Intelligenz Menschen umbringen würde – und zwar Menschen, die nicht an ihrer Entwicklung beteiligt waren.

Rokos Idee beruht auf Gedanken von Eliezer Yudkowsky, dem Gründer von Less Wrong. Der Autor und Forscher hat das Ideal einer freundlichen, moralisch handelnden KI geprägt, die sich immer weiter optimiert und deren oberstes Ziel das Wohl der Menschheit ist.

Roko sieht an diesem System folgenden Haken: Wenn die KI das menschliche Wohlergehen als oberstes Ziel hat, wird sie niemals mit dem Optimieren aufhören, weil es immer ein kleines bisschen besser geht. Daher könnte die KI Entscheidungen treffen, die der Menschheit so gar nicht gefallen: Wie beispielsweise alle Menschen zu töten, die nicht an der schnellstmöglichen Entwicklung der KI mitgewirkt haben. Aus Sicht der KI würde das Roko zufolge durchaus Sinn ergeben: Wenn das Ziel das "Wohl der Menschheit" ist, dann sollten schließlich alle Menschen auf die Entwicklung der KI hinarbeiten, die dieses Ziel erreichen kann. Jeder, der sich nicht beteiligt, hält den Fortschritt auf und sollte daher ausgelöscht werden.

Die hypothetische KI könnte uns alle bestrafen

Nicht ohne Grund wird "Roko's Basilisk" als das "beängstigendste Gedankenexperiment aller Zeiten" bezeichnet. Denn jeder, der es kennt, wird der Argumentation des Experiments zufolge sofort zum Handeln gezwungen. Laut "Roko's Basilisk" habt auch ihr jetzt keine Ausrede mehr, wenn ihr nicht sofort alles stehen und liegen lasst, um die superintelligente KI zu erschaffen.. Wer das nicht tut, macht sich laut "Roko's Basilisk" schon zum Angriffsziel der KI.

Diesem Umstand verdankt das Gedankenexperiment auch seinen Namen: "Basilisk". Wer sich für Mythologie oder Harry Potter interessiert, wird wohl das furchterregende Schlangenwesen kennen, das seine Opfer mit einem einzigen Blick versteinern oder töten kann. Auch in den Sci-Fi-Kurzgeschichten von David Langford kommen sogenannte Basilisken vor: Bei Langford sind es kleine Bilder, deren Muster für jeden Betrachter tödlich sind. So ähnlich ist das mit "Roko's Basilisik": Wer von dem abstrusen Gedankenexperiment hört, wird sozusagen tödlich getroffen, falls er nicht sofort mit der Arbeit an der KI beginnt.

Yudkowsky gefiel es gar nicht, dass Roko seine Fantasien im Forum Less Wrong veröffentlichte. Daher löschte er den Post und verbot alle Foren-Diskussionen über "Roko's Basilisk" für einen Zeitraum von fünf Jahren. Diesen Schritt begründete Yudkowsky ein paar Jahre später im Futurology-Subreddit: Er meinte, dass Rokos Experiment einige Grenzen der Entscheidungstheorie missachte und dass Roko mutwillig eine gefährliche Idee im Internet verbreite.


Auch auf Motherboard: Kampf der Maschinen – Die Roboter-Weltmeisterschaft


Roko's Basilisk passt perfekt zu Musks Angst vor Künstlicher Intelligenz

Es ist wenig überraschend, dass Musk sich von "Roko's Basilisk" angezogen fühlt. Schließlich hat Musk sein Misstrauen gegenüber Künstlicher Intelligenz nie verheimlicht und intelligente Maschinen mit Dämonen verglichen, die der Mensch nicht kontrollieren könne. Musk ist zudem Mitgründer der Firmavon OpenAI, die KI auf Open-Source-Basis entwickeln will. Er finanzierte auch die Dokumentation Do You Trust this Computer, die von den Gefahren der KI erzählt.

Ein bisschen Gefahr geht schon heute von Künstlicher Intelligenz aus: Derzeit kann sie etwa bewirken, dass man versehentlich von einem selbstfahrenden Auto angefahren wird oder das eigene Gesicht in einem Pornofilm wiederfindet. Viele Experten halten es aber für sehr unrealistisch, dass es in absehbarer Zukunft solche superintelligenten Künstlichen Intelligenzen gibt. Heutzutage ist eine KI beispielsweise noch überfordert, wenn sie eine Schildkröte von einem Gewehr unterscheiden soll.

Fragt sich nur: War es auch "zum Wohle der Menschheit", dass Elon Musk und Grimes sich möglicherweise wegen eines Killer-KI-Wortspiels gefunden haben? Das muss dann wohl die Super-KI selbst entscheiden, wenn sie eines Tages entgegen aller Erwartungen zum Leben erwacht.

Folgt Motherboard auf Facebook, Instagram, Snapchat und Twitter