Killer-robots zouden humaner kunnen zijn dan mensen

Deze week proberen landen van over de hele wereld bij de Verenigde Naties te beslissen wat we aanmoeten met de mogelijkheid van killer robots.

In diplomatisch jargon zijn het "dodelijke autonome wapensystemen" - intelligente machines die zelf kunnen besluiten of ze een mensenleven beïndigen, zonder menselijke tussenkomst. Terwijl de VS, China en Rusland steeds dichterbij het ontwikkelen van dit soort wapentuig komen, houdt de VN hun eerste bijeenkomst om eens uit te pluizen of we de technologie moeten verbieden voor het te laat is.

Het nadeel van machines maken die ons kunnen doden zonder daar opdracht toe te geven, en de dystopische toekomst die daaruit voortvloeit is uitgebreid behandeld in scifi. Maar ook door activisten van de Campaign to Stop Killer Robots, Human Rights Watch en de International Committee for Robot Arms Control, die op het moment in Genève lobby'en voor een verbod.

Maar de andere kant van het debat is controversiëler, en terwijl we balanceren op de rand van volledig geautomatiseerde robotoorlogsvoering, is het waarschijnlijk ook verstandig om naar die kant van het verhaal te kijken. Killer robots zouden namelijk ook een goed ding kunnen zijn.

Ronald Arkin, een robotethicus van de Georgia Institute of Technologie is druk bezig dit punt te beargumenteren bij de VN. Hij gelooft dat autonome killerbots de levens van onschuldige burgers zouden kunnen redden.

Ten eerste zijn robots niet bezig met niet doodgaan, en kunnen ze allerlei dingen die mensen niet kunnen. Maar het punt is vooral moordrobots in feite 'menselijker' zouden kunnen zijn op het slagveld, omdat het ze ontbreekt aan een totaal menselijke eigenschap: emoties.

Hun beoordelingsvermogen zal nooit aangetast worden door dingen als angst, woede, wraak en andere vreselijke menselijke emoties. Een intelligente machine kan emotionele fouten ontwijken en de hoeveelheid wreedheden die mensen tijdens oorlogen plegen beperken, volgens Arkin.

"Ik geloof dat mens zijn de zwakste schakel is in het moordproces. Onze biologie werkt ons tegen," schreef Arkin in een paper getiteld "Lethal Autonomous Systems and the Plight of the Non-combatant."

Arkin is geen liefhebber van oorlogen. Het paper, waarin zijn argumenten grotendeels uiteengezet worden, is gebaseerd op de aanname dat oorlog helaas onvermijdelijk is. De toon probeert over te brengen dat hij zich best beseft dat dit op een ramp kan uitlopen, maar dat we hier ook even naar moeten kijken.

"Robots zijn al sterker, sneller en in sommige gevallen … slimmer dan mensen," schreef hij. "Dus is het echt zo moeilijk te geloven dat ze ons op een gegeven moment menselijker kunnen behandelen dan mensen onderling?"

In andere woorden: als we elkaar dan toch moeten bevechten, dan kan technologie, mits zorgvuldig ontwikkeld, ons helpen om alleen de vijand te doden en geen onschuldige mensen. Een ander rapport dat mede door Arkin werd geschreven stelt voor dat toekomstige killerrobots een stel regels geprogrammeerd moeten krijgen die opgesteld zijn aan de hand van internationale verdragen, en ethische software die garandeert dat ze menselijke wetten navolgen.

Natuurlijk zijn er genoeg mensen die ondanks deze idealen tegen autonome oorlogsrobots zijn. Het enorme gat in Arkin's argument is namelijk dat het bijna niet te garanderen valt dat moordmachines gaan doen wat we zeggen. En bovendien weten we niet of de robots een bewustzijn gaan ontwikkelen tot een punt waarop ze zichzelf gaan beschermen tegen mensen. In het kort: waarom zouden we robots moeten vertrouwen?

En daarnaast, hoe kunnen we garanderen dat autonome systemen goed werken? Wat als er iets misgaat, of als ze gehackt worden? Bij de laatste telling hebben Amerikaanse drone-aanvallen voor 1,000 burgerdoden gezorgd.

"Ik denk dat het goed mogelijk is dat deze systemen op onvoorspelbare wijze kunnen werken, vooral als ze steeds complexer worden en gebruikt worden in ingewikkelde omstandigheden," mailde Peter Asaro, mede-oprichter van de International Committee for Robot Arms Control. "Het is ook steeds waarschijnlijker dat ze falen of kapotgaan op onvoorspelbare manieren als ze complexer worden."

Er zijn een hoop andere zorgen, zoals de ethische implicaties van mensen verwijderen uit het moordproces, waardoor het doden van grote groepen mensen te makkelijk wordt. De VN-vergadering is een deel van de Convention on Certain Conventional Weapons - de groep die als doel heeft om verblindende lasers, landmijnen en andere verschrikkelijke wapens die te inhumaan geacht worden te verbieden.

Ongeacht de beslissing van de VN, blijft het feit dat dodelijke, semi-autonome robots al aan de zijde van mensen vechten en dat strijdkrachten werken aan het ontwikkelen van totale autonomie. Prototypes voor de volgende generaties drones zoals de X-47B en Taranis zijn ontwikkeld om te bombarderen - en dat zonder menselijke supervisie kunnen doen zoals de huidige Predator- en Reaper-drones.

Wat de uitkomst ook is, lijkt het erop dat autonome moordmachines de onvermijdelijke toekomst zijn.