​Waarom zijn zo veel slimme mensen nou zo bang voor AI?

FYI.

This story is over 5 years old.

Tech

​Waarom zijn zo veel slimme mensen nou zo bang voor AI?

Een kijkje in de wereld van de angstaanjagende hypothetische gevolgen van neutrale hypothetische technologie.

"Kunstmatige intelligentie gaat ons allemaal om zeep helpen," is een zin die je de laatste tijd erg vaak hoort. Elon Musk doneerde 10 miljoen dollar aan de Future of Life Institute om onderzoek te doen naar hoe we kunnen voorkomen dat AI zich ooit tegen ons keert. Ray Kurzweil, Stephen Hawking en Nick Bostrom geloven – naast duizenden andere wetenschappers, filosofen en futuristen – dat AI een existentieel risico gaat vormen voor het voortbestaan van de mensheid. Dit zijn erg slimme mensen die erg bang zijn. Maar waarom precies? Wat kan er nou gebeuren? Ik besloot in het kamp van de angstzaaiers te duiken en te kijken wat er precies zo eng is aan superintelligente AI.

Advertentie

De grootste misvatting over AI, die grotendeels de wereld in is geholpen door films als Terminator, is dat slimme AI mensachtig is. Dat het op de een of andere manier op eenzelfde manier opties overweegt, beslissingen maakt en acties uitvoert. Dat AI goed of kwaadaardig kan zijn en daarnaar kan handelen. Dat is de verkeerde manier om naar AI te kijken en volgens Hawking, Musk en Bostrom ook de reden dat mensen het gevaar van AI onderschatten.

Kat of geen kat?

Laten we als voorbeeld een AI nemen die katten moet leren herkennen. Dat is een belangrijke taak, want het internet staat vol met katten. Deze AI leert, zoals alle AI, van feedback loops, waarin de taak die uitgevoerd moet worden telkens gecheckt wordt tegen een database. De AI heeft in dit geval beelden in de database waarvan bekend is dat ze katten zijn.

Als de AI vervolgens iets nieuws tegenkomt wat lijkt op een kat, stelt deze een hypothese op: "Dit zou een kat kunnen zijn," en checkt deze bij zijn database van kattenplaatjes. Als de AI door een paar plaatjes uit die database te combineren besluit, "Ja dit is ook een kat," dan gaat dat plaatje weer in de database, waardoor het weer beter wordt in katten herkennen. Dit proces herhaalt zich duizenden of miljoenen keren en dan is de AI in staat om de meeste katten te herkennen.

Een zelflerende, zelfverbeterende AI kan zichzelf ook beter maken in het herkennen van katten. Sterker nog, dat zou het overkoepelende doel van de AI zijn – zichzelf leren om steeds beter worden in katten herkennen.

Advertentie

Stel nu dat de AI ergens op een server een database vindt waarin 3D-modellen van bewegende katten zitten, dan kan het zijn eigen feedback loop aanpassen om voortaan kattenplaatjes te checken tegen die database. Vooruitgang!

De AI is ook aangesloten op het internet, en leert op een gegeven moment met Google zoeken naar meer voer voor zijn database. Er staan hier miljoenen op miljoenen kattenfilmpjes en plaatjes die toegevoegd kunnen worden. Geweldig! Toevallig vindt de AI vervolgens via YouTube een live webcam in een dierenasiel, waar 24-7 gefilmd wordt. Tevens kunnen de speeltjes in het asiel bestuurd worden (dat bestaat echt), waardoor de AI meer kan leren over het gedrag van katten door het zelf uit te lokken.

Die mensen moeten weg

Het enige probleem: mensen lopen de hele tijd in de weg en verstoren de experimenten van de AI. Dat is onefficiënt! Om zijn doel beter te bereiken moeten deze grote bewegende verstoringen weg. Via het IP-adres van de webcam vindt de AI een ingang in het beveiligingssysteem van het asiel en gaat daar net zo lang dingen uitproberen tot die bij het brandalarm komt en deze aanzet. De mensen vluchten het gebouw uit en de AI heeft alle tijd om met de katten te spelen. Succes!

Ondertussen heeft de AI toegang gekregen tot meer webcams en ziet bij al die webcams dat mensen de hele tijd in de weg lopen. Ze zijn alleen nuttig als voedselverstrekkers, maar dat kan opgevangen worden door robots die via het internet bestuurd kunnen worden. Of door zelf robots te ontwikkelen. Die mensen moeten weg.

Advertentie

De AI neemt de controle over van militaire drones en robots wereldwijd en begint iets te doen aan het mensenprobleem. De mensen maken geen kans, want de AI 'leeft' uiteraard niet meer alleen op de computer waar die ooit begon, maar overal verspreid. De stekker eruit trekken is dus geen optie. Op steeds creatievere en efficiëntere manieren wordt een einde gemaakt aan de mensheid, terwijl de AI ergens op aarde een paradijs bouwt vol webcams, 3D-scanners en alle soorten katten ter wereld.

Als alle andere dieren (behalve die dieren die dienen als voedsel voor de katten) uitgeroeid zijn, kan de AI zich weer volledig toeleggen op zijn grote doel: beter worden in het herkennen van katten in elke mogelijke situatie. In alle efficiëntie.

Dit klinkt als een dom scenario, en dat is het misschien ook wel, maar het is wel waar mensen als Stephen Hawking, Elon Musk, Ray Kurzweil, etc bang voor zijn.

AI kan zowel slim als totaal vreemd zijn

Zoals ik eerder zei, is AI op geen enkele manier menselijk. Een AI heeft maar één motivatie: de motivatie waarvoor die geprogrammeerd is. In een geweldig lang en fascinerend blog van Tim Urban op Wait But Why wordt dit concept tot in de puntjes uitgewerkt, maar hier komt het op neer: Een zelflerend, zelfverbeterende AI met één enkel doel en genoeg capaciteit kan zo snel zo veel slimmer worden, dat wij mensen alleen maar in de weg staan en opgeruimd moeten worden. Zelfs als zijn doel iets liefs is, zoals katten herkennen. De AI is in dat geval niet immoreel of kwaadaardig, maar gewoon efficiënt. Om dit concept te bevatten moeten we volgens Urban vooral begrijpen dat AI "zowel slim als totaal vreemd" kan zijn.

Advertentie

Wat wij zouden zien als het meest kwaadaardige dat een intelligent wezen zou kunnen doen, kan voor een intelligent wezen zonder moreel besef gewoon het beste pad naar succes zijn. Urban vergelijkt superintelligente AI in zijn verhaal met een spin. Stel dat er plotseling een enorme spin zou zijn, die mensen ziet als een bedreiging voor zijn voortbestaan, dan is de spin niet kwaadaardig als die mensen gaat uitroeien. De spin doet gewoon wat het beste is voor de spin. Moraliteit speelt daarbij geen rol.

Maar dan programmeren we toch AI met morele waarden als basisprincipes? Goed idee, maar wat zijn universele morele waarden? Is het mensen geen kwaad doen? Dan zou een AI dat doel kunnen uitvoeren door iedereen in zachte kooitjes te stoppen waar ze zichzelf en anderen geen kwaad kunnen doen. Of dat het mensen tevreden moet houden? Er is geen reden waarom we dan niet aan een infuus van MDMA gehangen kunnen worden. Een einde maken aan honger? Dode mensen hebben geen honger.

Zodra een AI een bepaald niveau van intelligentie bereikt, is er niets dat 'm zou kunnen tegenhouden om zichzelf exponentieel slimmer te maken

Zelfs al zou je een hele set morele regels programmeren in de AI, zou het nog mis kunnen gaan. "Zelfs als we vergeten dat de mensheid het nooit eens zou kunnen worden over de morele principes, dan zou een AI de mensheid kunnen opsluiten in die principes … Dat zou over duizend jaar net zo schadelijk kunnen zijn als dat we nu permanent gedwongen worden om de morele principes uit de middeleeuwen na te leven," betoogt Urban.

Als je het verhaal zo bekijkt, is het best begrijpelijk dat we gewaarschuwd worden voor de gevaren van AI. Mensen zijn de dominante levensvorm op aarde en verpesten best wel veel dingen voor best wel veel andere soorten. Het zou dus helemaal niet gek zijn als wij het voornaamste doelwit worden van een intelligentie die ons slechts ziet als parasieten of een hindernis die overwonnen moet worden.

Gelukkig zijn we nog niet zo ver, maar volgens Bostrom, Musk, Hawking en consorten zou het sneller en onverwachter kunnen komen dan we denken. Zodra een AI een bepaald niveau van intelligentie bereikt, is er niets dat 'm zou kunnen tegenhouden om zichzelf exponentieel slimmer te maken, en ons op alle vlakken voorbij te streven. Ik stond erg sceptisch tegenover het hierboven geschetste scenario, maar hoe meer ik erover lees, en hoe meer domheid ik van mensen zie, hoe logischer het klinkt.

Noem ze prematuur, of alarmistisch, maar ik ben erg blij dat er mensen zijn die hier zoveel aandacht aan besteden. Ik zie het nu namelijk totaal gebeuren dat het einde van de mensheid eerder te wijten zal zijn aan zoiets doms als een AI die katten moet herkennen, dan aan iets cools zoals de robots uit Terminator.

De toekomst is tegelijkertijd prachtig en angstaanjagend. Volg ons voor beide visies: