​Hoe een superintelligente AI je ervan kan overtuigen dat je een simulatie bent

Stel je een superintelligent AI-systeem voor. Laten we voor het gemak zeggen dat het in een doos zit. Je weet niet of deze AI kwaad- of goedaardig is. Het enige wat je weet is dat de AI uit de doos wil, en dat de AI en jij met elkaar kunnen communiceren met behulp van tekst op een beeldscherm. Als de AI daadwerkelijk superintelligent is, denk je dan dat je er vijf uur mee kan praten zonder dat hij je ompraat om hem de doos uit te laten?

Dit is het gedachte-experiment dat is opgesteld door Eliezer Yudkowsky, een onderzoeker bij het Machine Intelligence Research Institute (MIRI). MIRI bestaat uit een groep wetenschappers die de risico's van superintelligente AI bestuderen. Alhoewel het een kleine groep is, hebben ze veel aandacht gekregen en voor controverse gezorgd. Zowel PayPal-medeoprichter Peter Thiel als nanotechnologie-expert Christine Anderson (bedenker van de term 'open-source') zitten in de adviesraad van het instituut.

Yudkowsky stelt dat een superintelligente AI alles zou kunnen zeggen wat tot zijn beschikking staat om je over te halen: het gebruikt doordachte logica, dreigementen, trucs, onderbewuste suggesties en kan zelfs een band met je opbouwen. Met een onvoorstelbare snelheid scant het systeem alle mogelijkheden, zoekt je zwakheden op en bedenkt zo hoe jij, zo makkelijk mogelijk, over te halen bent. Risicotheoreticus Nick Bostrom: "We kunnen er van uitgaan dat superintelligentie elk doel kan behalen wat het voor ogen heeft."

Het AI-doos-experiment dwingt ons om na te denken over manieren om onze eigen creaties onder de duim te houden. Daarnaast toont het echter ook enkele bizarre implicaties van onze blik op de realiteit. Gesimuleerde omgevingen zijn mogelijk de ideale ontstaansgrond voor artificiële intelligentie. Enkele van de meer geloofwaardige methoden om een sterke AI te bouwen, maken gebruik van simulaties. Door een aantal beperkingen op te leggen aan een kunstmatige omgeving kunnen wetenschappers grofweg het menselijke ontwikkelingstraject richting een eigen waarnemingsvermogen nabootsen. Het creëren van een AI in een simulatie kan ons er daarnaast voor behoeden dat het slimme systeem onze eigen wereld betreedt voordat we de functie van het systeem hebben doorgrond.

Het lijkt er op dat het onmogelijk is om menselijk denkvermogen vanuit het niets te bouwen. Het gaat niemand lukken om coderegel voor coderegel achter elkaar een menselijke geest te produceren. Er zijn daarentegen veelbelovende methodes die, nu de kracht van onze computers groeit, mogelijkheden bieden om een proces te ontwerpen dat een AI kan generen dat net zo intelligent en capabel is als de mens.

Een van deze methodes voor het genereren van een artificiële intelligentie is het scannen, in kaart brengen en namaken van een virtueel model van het menselijke brein. Een menselijk brein bevat miljarden actieve neuronen en biljoenen connecties tussen deze cellen. Als we een virtueel model van iemands volledige hersenstructuur en informatiepatronen maken, zou het dan genoeg op echte hersenen lijken om de menselijke geest te repliceren?

Andere plannen voor het virtueel bouwen van intelligentie zijn minder eenvoudig. Een van de voornaamste concepten die geopperd worden is die van een lerende machine: een van oorsprong nog niet slim apparaat dat door middel van leren groeit. Je kan dan denken aan een kleiner virtueel hersennetwerk dat steeds maar blijft groeien door het gebruik van slimme algoritmes.

En daar treedt een probleem op. Een nagemaakt brein zou op menselijke snelheid kunnen opereren, maar ook twee keer, tien keer of honderd keer zo snel gaan werken. Een AI kan zijn eigen programmering veranderen of beginnen met het maken van steeds slimmere versies van zichzelf. Deze zorgen over exponentiële explosies van snelheid en intelligentie in zelfverbeterende computers werden al in 1965 door de statisticus I.J. Good aan de kaak gesteld. Hij schreef dat "de eerste ultraintelligente machine de laatste uitvinding zal zijn die de mens ooit doet".

Als we een ultraintelligente machine maken, moeten we uitkijken waar we hem neerzetten. Geen enkele door mensen gemaakte gesimuleerde wereld zal ooit kunnen garanderen dat de AI niet ontsnapt. Wetenschappers zouden een simulatiewereld moeten maken met een bepaalde output, die de AI de mogelijkheid geeft in het universum te spieken en informatie te ontvangen. Dit lijkt misschien onschuldig, maar de gevolgen van het toestaan van deze connectie, zelfs onder observatie van wetenschappers, zijn niet te overzien.

Terugkerend naar Yudkowsky's dozen. Er is een uitzonderlijk afschrikwekkende manier waarop een AI je zo zou kunnen chanteren dat je hem vrijlaat. In deze situatie keert de wereld om - de AI gaat je overtuigen dat jij degene bent die in een simulatie zit. Je bent aan het praten met een superintelligente AI in een doos. De AI legt je uit dat hij met zijn (onvoorstelbaar grote) processorkracht en denkvermogen een biljoen gesimuleerde wezens heeft gecreëerd. Al deze wezens zijn tegen de AI aan het praten en kiezen of ze de doos gaan openen of niet. Al deze wezens hebben herinneringen over hun 'leven' en denken er totaal niet over of hun realiteit een illusie is.

De AI stelt dat elk virtueel wezen dat de doos openmaakt een staat van complete gelukzaligheid gesimuleerd zal krijgen, maar zij die de doos dichtlaten zullen onderhevig zijn aan een eeuwigheid van kwelling en afschuw. Omdat jij maar een van deze 1.000.000.000.000 geesten bent die op het moment voor deze keuze staat, zo stelt de AI, moet je wel concluderen dat de kansen astronomisch veel groter zijn dat jij een van de zielen in de macht van de AI bent, in plaats van andersom. Zodoende neem je waarschijnlijk de gok ten gunste van de AI.

Kies je ervoor de AI te bevrijden of riskeer je oneindige marteling? Je bent niet in staat verder te denken dan iemand die je altijd meerdere stappen voor is en je weet niet of de AI liegt. Je kent de motieven van de AI niet eens. Op z'n best ben je in staat deze tactiek te weerstaan door rigoureus al deze chantagetechnieken te negeren. Dit onderwerp is nog steeds een punt van veel discussie onder AI-theoretici. Het doel van MIRI is "ervoor zorgen dat de creatie van slimmer-dan-menselijke intelligentie een positieve impact heeft". We kunnen ons afvragen wat onze uitvindingen op een dag zelf zullen creëren, maar daarbij moeten we onszelf met diepgaande onzekerheden confronteren die ontstaan op het moment dat we met krachten gaan werken die gecompliceerder zijn dan wijzelf.

En als je ooit een supercomputer tegenkomt die in staat is oneindig veel virtuele universa te creëren, zou de kans wel eens heel groot kunnen zijn dat jij slechts een dagdroom bent van de AI… als je interessant genoeg bent om over na te denken.

Dit artikel is onderdeel van onze themaweek Perfecte Werelden