FYI.

This story is over 5 years old.

Tech

Militaire kunstmatige intelligentie wordt de volgende wapenwedloop

Zoltan Istvan, futurist en presidentskandidaat van de Transhumanistische partij, over waarom AI zal leiden tot een wereldwijde wapenwedloop.

​Vergeet het: kunstmatige superintelligentie zal niet gecreëerd worden door bedrijven, universiteiten of door een programmeur met een intelligentie van het niveau Einstein. Hollywoodfilms over kunstmatige intelligentie (AI) zoals Transcendence en Her hebben het publiek misleid. De lancering van de eerste autonome en zelfbewuste AI – een entiteit die velen malen slimmer kan worden dan mensen – is een zaak van internationale en nationale veiligheid. Een ontwikkeling die het landschap van de internationale politiek in een kwestie van weken of zelfs dagen drastisch kan veranderen. Iets wat afhankelijk is van hoe snel AI zichzelf kan upgraden, 's werelds beste code kan hacken en herschrijven en 's werelds meest geavanceerde wapentuig tot zich kan wenden.

Advertentie

In het afgelopen jaar waarschuwden verschillende technologie-experts, waaronder Elon Musk, Stephen Hawking, en Bill Gates voor de creatie van kunstmatige intelligentie. Het idee dat er iets op onze planeet kan ontstaan dat onze hersenen in alle opzichten voorbij streeft is beangstigend. Zal deze creatie zijn makers liefhebben? Zal het de menselijke moraal erkennen? Is het religieus? En zou het vredelievend of oorlogslustig zijn? De vragen zijn oneinig, maar er is één ding wat helder is; als er iets ontstaat dat slimmer is dan wij dan is het voor onze eigen veiligheid het beste als deze entiteit aan onze kant staat.

Laten we dit idee nog een stapje verder doorvoeren; ik ben er zeker van dat AI een thema zal worden dat vol zit met nationalisme en patriotisme. Politici en militaire leidinggevenden van over de hele wereld zullen AI gaan gebruiken voor het land en voor defensie. Het inzetten van AI voor de nationale veiligheid is een overduidelijke stap, een essentieel ingredient voor leiderschap van de toekomst. Het is onvermijdelijk dat er een wereldwijde wapenwedloop om AI staat te beginnen.

Als presidentskandidaat van de Transhumanistische Partij, wind ik er geen doekjes omheen: ik wil ook het liefst dat AI exclusief aan Amerika zal toebehoren. Ik hoop de non-militaire toepassingen en wijsheden van super-intelligentie voor ons voordeel kunnen worden ingezet, op eenzelfde wijze als de technologische innovaties die Amerika de laatste eeuw realiseerde. Je kan je misschien ook wel voorstellen hoe het zou lopen als een land als Noord-Korea, Iran of het autoritaire Rusland zo'n wapen in handen krijgt.

Advertentie

Naties als deze zouden de superintelligente-agent kunnen opdragen om geclassificeerd materiaal van de CIA en de NSA te openbaren, met groot gevaar voor de Amerikaanse nationale veiligheid als gevolg. Wat als AI wordt ingezet om het systeem te hacken dat gekoppeld is aan kernwapens, drones en ander wapentuig? Of ze zouden dit kunnen richten op systemen die gekoppeld zijn aan infrastructuur: stoplichten, het stroomnet, of water controlerende systemen in Europa en Azië. De mogelijke gevolgen hiervan zijn niet te overzien.​

Hieronder vind je een tautologische redenering die ik ontwierp, genaamd het "AI imperatief." Het geeft aan waarom een wapenwedloop rondom AI een aannemelijk onderwerp zal worden:

1) Volgens experts is het mogelijk om een kunstmatige-super-intelligentie te bouwen, volgens hen kan dit in 10 tot 20 jaar bereikt worden

2) Als we aannemen dat we deze entiteit kunnen beheersen, dan zal degene die er als eerste mee komt hoe dan ook de sterkste AI bouwen. Een AI kan namelijk zo ontworpen worden dat het alle andere AI's direct aan zich onderwerpt, of het blokkeert de ontwikkeling van andere AI's direct. De eerste zijn is essentieel in de race om AI (vergelijk het met de eerste zijn in het ontwikkelen van een atoombom, en vervolgens de andere landen kunnen weerhouden van het ontwikkelen hiervan)

3) De overheid die het eerst een AI weet te ontwikkelen zal vrijwel zeker de meest machtige staat op aarde worden.

Advertentie

Uitgaande van dit imperatief, zijn er vier opties voor hoe de wereld zich kan ontwikkelen. De eerste is om AI wereldwijd illegaal te maken, vergelijkbaar aan de ontwikkeling van chemische wapens nu. Mensen en bedrijven zullen dan misschien niet met de ontwikkeling verder gaan, maar de kapitalistische en humanitaire voordelen van AI zijn te groot om deze kans te laten schieten. Een technologie niet ontwikkelen heeft bovendien nooit echt helemaal gewerkt, uiteindelijk zal er altijd iemand openlijk of in het geheim mee bezig zijn, als er winst gemaakt kan worden is het niet te voorkomen.

Een andere mogelijkheid is om als eerste een super-intelligente AI te bouwen. Hier zet ik mijn geld op in, ongeacht welk politieke partij er op dat moment regeert. Het Amerikaanse leger zal waarschijnlijk alle mogelijke (financiële) hulpbronnen inzetten om exclusief over AI te kunnen beschikken. Ik gok dat er duizenden miljarden zullen worden ingezet aan onderzoek naar AI, iets wat geheel losstaat van de nationale schuld, economische omstandigheden of publieke opinie. Daarjaast denk ik dat de ingenieurs, coders en hackers het nieuwe gezicht van het Amerikaanse leger zullen worden. De nieuwe soldaten zullen geeks zijn die 24 uur per dag in een super beveiligde omgeving werken. Denk aan het Manhattan Project, maar dan groter en complexer

Een derde optie is dat AI via een breed internationaal consortium ontwikkeld zal worden – hoewel de ontwikkeling van het kernwapen laat zien dat dit ook niet erg aannemelijk is. Als machtige naties als Rusland en China hun sociale beleid, economische ontwikkelingen en overheidsbeleid op autoritaire wijze blijven uitvoeren, lijkt het niet tot de opties te behoren. Het gaat in dit geval niet over ouderwets teamwork bij het ontdekken van de ruimte, of over burgeroorlogen voorkomen in de derde wereld zoals de VN dat doet. Deze kwestie kent veel minder ruimte voor samenwerking omdat het gaat om de veiligheid en bescherming van onze burgers, families en militaire macht.

De vierde mogelijkheid is volgens mij op de lange termijn onvermijdelijk: alle naties verenigen zich - op democratische wijze - onder één politieke vlag, één gekozen leider en één overheid. Een noodzakelijke ontwikkeling voor het onder controle houden van de technologie in een transhumanistisch-tijdperk, en AI is hier een essentieel onderwerp in. In humanitair- en filosofisch opzicht spreekt deze optie mij het meeste aan. Het probleem is dat het veel tijd zal kosten, en veel mensen zullen hun ego en culturele verschillen moeten laten varen. Aangezien we nog 10-20 jaar hebben tot dat AI werkelijkheid wordt, lijkt de haalbaarheid hiervan een moeilijke opgave te worden.

Het lijkt dus onvermijdelijk dat we een ouderwetse wapenwedloop zullen gaan houden. Mensen zullen net zich misschien als in de koude oorlog in bunkers gaan verschansen. 's Werelds grootste denkers zullen zich inzetten om de veiligheid van hun land veilig te stellen. Maar belangrijker dan dat: het is een winner-takes-it-all scenario, laat de grootste competitie van deze eeuw beginnen.