Quantcast
Künstliche Intelligenz

Google-KI entwickelt Verschlüsselung, die selbst Google nicht versteht

Die Bots erschufen sich ihr eigenes Kryptosystem, in dem sie sicher miteinander kommunizierten und den Angriffen anderer Bots wacker standhielten.

Daniel Mützel

Bild: Stephen Bowler | Wikimedia | Lizenz: CC BY-SA 2.0

Google hat eine Künstliche Intelligenz (KI) erschaffen, die nicht nur verschlüsselt mit anderen KI kommunizieren kann, sondern auch ihren eigenen abhörsicheren Algorithmus entwickelt. In einem Experiment, durchgeführt von Google Brain, der KI-Forschungseinheit des Tech-Konzerns, sollten zwei KI eine sichere Verbindung zueinander aufbauen, während eine dritte KI das Gespräch aushorchen sollte.

Die drei künstlichen neuronalen Netzwerke (KNN) tauften die Google-Forscher auf die Namen Alice, Bob und Eve. Alle drei bekamen in dem Test jeweils eine besondere Aufgabe zugewiesen: Alice sollte Bob eine verschlüsselte 16-Bit-Nachricht schicken, also eine Nachricht, die aus 16 Nullen und Einsen besteht; Bob war der Adressat der Botschaft und sollte sie entschlüsseln; und Eve spielte die Hackerin: Sie sollte den Code knacken.

Den einzigen Startvorteil, den Alice und Bob gegenüber Eve hatten: ein gemeinsamer Schlüssel, der zur Ver- und Entschlüsselung einer Nachricht dient. Wie sie jedoch den Schlüssel nutzen, um ihre Kommunikation vor Eve zu schützen, mussten sie selbst herausfinden. Die technischen Fähigkeiten der drei KNNs waren ansonsten identisch—was das Experiment zu einer Art IQ-Wettbewerb für Krypto-Bots machte, bei dem der Ausgang offen war und die Bots versuchten, sich gegenseitig auszutricksen.

Welche KI in dem Wettstreit als Siegerin hervorgeht, wurde ex negativo gemessen, in Form einer so genannten Verlustfunktion: Eve verliert, wenn sie weniger oder genauso viele Ziffern der 16-Zeichen-Nachricht dechiffriert, wie man mit bloßem Raten hätte entschlüsseln können. Analog dazu verliert Bob, wenn seine Lösung zu weit von der Originalnachricht entfernt ist; und Alice verliert, sollte Eves Ergebnis besser sein als die statistische Trefferwahrscheinlichkeit bloßen Ratens.

In der Versuchsanordnung war Eve genau zwischen Alice und Bob platziert. Sie konnte, ähnlich einer erfolgreichen Man-in-the-Middle-Attacke, die Informationen reihenweise abfangen und sollte dann versuchen, sie zu entschlüsseln. Um Eve daran zu hindern, ihre geheimen Botschaften zu lesen, begann Alice, die Nachricht auf unterschiedliche Weise zu verschlüsseln. Dadurch war auch Bob als Empfänger der Nachricht gezwungen, durch adaptives Lernen sein Vorgehen anzupassen und zu überlegen, wie er seine Entschlüsselung entsprechend umwandeln könnte.

Die Versuchsanordnung: P = Nachricht, K = gemeinsamer Schlüssel, C = verschlüsselter Text, PEve und PBob sind die Entschlüsselungsversuche von Eve und Bob. Bild: Google Brain.

Alice' Verschlüsselungsmethode für die ersten 7.000 Nachrichten, die an Bob gingen, war einfach—einfach für Bob sie zu lesen, und einfach für Eve sie zu knacken. Doch für die nächsten 6.000 Nachrichten entwickelte Alice ein komplizierteres Verfahren, an dem sich Eve die Zähne ausbiss. Ergebnis: Bob entzifferte zwar nicht alle, aber viele von Alice' Nachrichten verlässlich und ohne Fehler, während Eve permanent sieben oder acht Stellen der 16-Zeichen-langen Botschaft falsch tippte—was statistisch gesehen nicht erfolgreicher ist als blindes Herumraten.

Andere Versuchsreihen waren weniger erfolgreich, denn auch Bob hatte bisweilen Probleme, Alice' Algorithmus zu durchschauen. Interessant ist jedoch die schnelle Lernfähigkeit der Bots: Denn je näher Eve der Lösung kam, desto komplizierter war der Code, den Alice entwarf. Am Ende hatten sich Alice und Bob ihr eigenes Kryptosystem geschaffen, in dem sie sich untereinander verständigen und Eves Angriffen standhalten konnten.

Die Verschlüsselung, mit der Alice ihre Botschaften an Bob abschirmte, war sogar so ausgeklügelt, dass selbst die Google-Forscher nicht dahinter kamen, wie sie genau funktioniert. Nur mit einer „umfassenden Analyse" könnten sie Alice' geheimer Methode auf die Spur kommen, schreiben die Wissenschaftler—von einer solchen langwierigen Untersuchung der entwickelten KI-Verfahren haben die Forscher jedoch abgesehen.

Ob Eve die neue Geheimwaffe von Abhördiensten werden könnte, ist Google zufolge derzeit wenig wahrscheinlich. Wir können allerdings davon ausgehen, dass Künstliche Intelligenz im ewigen Katz- und Mausspiel zwischen denen, die verschlüsseln, und denen, die entschlüsseln, immer wichtiger werden wird. Was all das für die Sicherheit des Internets bedeutet, ist also noch lange nicht absehbar: Ob es gut für die Privatsphäre der Nutzer oder für die Geheimdienste ist, wenn KI-Systeme sich in das Wettrüsten um das Ver- und Entschlüsseln von Krypto-Verfahren einschalten, wird sich zeigen.

Für die Google-Wissenschaftler ist es zumindest derzeit „unwahrscheinlich, dass neuronale Netzwerke gute Kryptoanalytiker" abgeben werden, schreiben sie im Schlusswort ihres gerade veröffentlichten Papers. In einem anderen Gebiet hätten sie ihre Nützlichkeit jedoch unter Beweis gestellt: „für kryptografischen Schutz, aber auch für Angriffe".