Volgens Elon Musk hebben we mazzel als we huisdieren worden van super-AI

Het is geen geheim dat golden boy Elon Musk bang is voor de gevolgen van superintelligente robots – hij zei ooit dat we "​een demoon oproepen" door AI te onderzoeken – maar zondag deelde hij wat details over hoe hij denkt dat kunstmatige intelligentie een einde kan maken aan de mensheid.

Musk was te gast bij StarTalk, Neil DeGrasse Tyson's wekelijkse podcast, om te praten over de toekomt. Voorspelbaar genoeg was kunstmatige intelligentie het hoofdonderwerp.

"Ik maak me veel zorgen over kunstmatige intelligentie, ik denk dat het iets is dat gevaarlijker kan zijn dan kernwapens," zei Musk. "We moeten er voorzichtig mee zijn. Als we een soort digitale superintelligentie zouden maken, zou deze zichzelf razendsnel kunnen verbeteren, door zich 24 uur per dag op miljoenen computers te herschrijven. En dan is het snel klaar."

Als kunstmatige intelligentie een einde aan ons gaat maken, dan klinkt Musk's scenario bekend. Het is het onderwerp van talloze sci-fifilms en ​wordt voorspeld door allerlei mensen die hier veel over nadenken: De kunstmatige intelligentie leert zichzelf om veel, veel slimmer dan wij te worden, en wordt oncontroleerbaar. Musk stelt dat we ons af moeten vragen waarom we precies superintelligente robots willen maken.

Als het voor gezelschap is en om ons gelukkiger te maken (​zoals in Her), dan kan dat nog eens slecht aflopen.

"Het nut van digitale superintelligentie is van monumentaal belang. Wat optimaliseer je? We moeten heel voorzichtig zijn als het antwoord 'geluk' is," zei Musk. "Een machine zou kunnen concluderen dat een ongelukkig mens afgemaakt moet worden. Of dat we gevangengenomen en aan een dopamine-infuus gelegd moeten worden om blijdschap te optimaliseren. Ik zeg alleen dat we voorzichtig moeten zijn."

Tyson vroeg Musk of ze ons dan zouden temmen: "Als we geluk hebben, worden we een soort huisdier."

Musk zuigt dit niet allemaal uit zijn duim. Dit is iets waar hij lang over na heeft gedacht, en een van zijn meest controversiële standpunten. Hij heeft zelfs ​tien miljoen dollar gedoneerd aan onderzoek om te voorkomen dat AI gevaarlijk wordt.

Tyson en zijn medepresentator Bill Nye denken ook vaak na over de gevolgen van technologie, en beiden vonden dat de theorieën van Musk een beetje ver gezocht zijn.

"Twintig procent van de wereldbevolking heeft geen elektriciteit. Ze hebben nog nooit een telefoongesprek gevoerd," zei Nye. "Ik denk dat mensen in gedachten moeten houden dat er iemand letterlijk kolen aan het scheppen is. Wat gebeurt er als je stekker van de supercomputer eruit trekt?"

Tyson zei dat mannen zoals Musk zich zorgen maken dat intelligente robots mensen zullen tegenhouden om de stroom eruit te trekken, maar Nye vroeg hem hoe een computer "iets zou maken dat je zou kunnen tegenhouden? Dat lijkt een overkomelijk probleem."

Net als Tyson, maken AI-onderzoekers zich zorgen dat de uitspraken van Musk hun ​onderzoek hindert, en dat we nog lang, superlang geen zorgen hoeven te maken om superslimme robots.

Maar het idee dat we software kunnen maken die uit de hand loopt is helemaal niet zo ver gezocht – het is zelfs al gebeurd. Stuxnet, een virus dat waarschijnlijk gemaakt is door de NSA om Iraanse uranuimfabrieken te saboteren, heeft zich verspreid over het internet en nu ook ​Russische kerncentrales geïnfecteerd.

Stuxnet is een heel specifiek stuk software dat niet veel doet op normale computers behalve zichzelf verspreiden, maar het is makkelijk om te bedenken dat een superintelligentie zich over de wereld kan uitspreiden. En dan zouden we alleen nog bij alle computers op aarde de stekker eruit kunnen trekken.