Stop Killer Robots boekt een bescheiden overwinning bij de VN

Killer Robots, of Lethal Autonomous Weapon Systems (LAWS) zoals ze officieel heten, zijn ontworpen met het doel om menselijke bedreigingen uit te schakelen, militair of civiel. Ze zullen dit niet doen met een humanoïde uiterlijk, zoals je in de films ziet, maar als een zwerm gezichtsloze bots, of een 'intelligente' Reaper-drone die vanaf een kilometer hoogte doelwitten op de grond de verdoemenis in blaast.

Het concept van een autonome moordmachine is in zijn kern a-moreel en onmenselijk.

Als we kijken naar wat er is afgesproken in Genève, lijkt de euforie over een mogelijk verbod op LAWS wat prematuur. De Nederlandse.pdf) afgevaardigde in Genève, Henk Cor van der Kwast, zegt dat Nederland de oprichting van een Group of Governmental Experts volledig ondersteunt. Deze groep moet op zoek gaan naar 1) een definitie van LAWS en betekenisvolle menselijke controle en 2) het opstellen van een gids met voor LAWS relevante internationale wetgeving en een 'best practices' voor betekenisvolle menselijke controle. Verder spreekt Van der Kwast over 'positieve resultaten' met LAWS, al zijn die nog in een 'vroeg stadium'.

Dit klinkt niet als een opstapje naar een verbod op autonome wapens, maar naar de ontwikkeling van een protocol om ze in te zetten zonder daarbij de wet te overtreden. De groep gouvernementele experts lijkt dan ook vooral een juridische tool te zijn om het gebruik van autonome wapens in lijn te krijgen met de richtlijnen die zij (deels) zelf zal opstellen.

Het beste waar de ngo's die zich inzetten voor een verbod op LAWS dan ook op lijken te mogen hopen, zijn kleine stapjes richting meer menselijke controle, in ieder geval op papier. De zorgen van zowel ngo's als juristen gaan nu vooral over aansprakelijkheid. Een van de problemen met LAWS, is dat een agent in staat moet zijn tot intentie om een misdaad te begaan.

Peter Asaro, techniekfilosoof en betrokken als juridisch experts bij de Stop Killer Robots-campagne legt uit aan Motherboard hoe het zit. "Om een misdaad te plegen is er intentie nodig. Robots zijn niet in staat tot intentie in de juridische zin, en kunnen daarom ook geen misdaden plegen of verantwoordelijk worden gehouden voor hun acties — Dit zou het heel eenvoudig maken om gruwelijke daden te begaan met killer robots waarvoor niemand legaal verantwoordelijk kan worden gehouden."

De oplossing is het schrijven van nieuwe wetten. Na een week beraadslagen lag er een afspraak voor de internationale Group of Governmental Experts (GGE) die de problemen met LAWS moet gaan analyseren/oplossen. Zelfs voor deze inhoudelijk vrijblijvende afspraak – we hebben geen idee wie er feitelijk in de groep komen – was een hoop diplomatiek gekibbel nodig. Uiteindelijk kwam de deal er, omdat Rusland — die nog steeds tegenstander is van een preventieve ban en eerder sceptisch stond tegenover internationale samenwerking op het gebied van LAWS, besloot zich te onthouden van commentaar, waardoor de afspraak kon worden gemaakt.

Desalniettemin zal het nog jaren duren voordat er enige werkbare wetgeving kan worden ondertekend. Landen als Israël en de VS zijn al ruimschoots begonnen met het ontwikkelen en implementeren van autonome elementen in hun verdedigingssystemen. Het is goed mogelijk dat andere landen hun eigen LAWS hebben ontwikkeld voordat de internationale afspraken over de controle op hun gebruik rond zijn.

Een van de belangrijkste redenen voor sommige staten om geïnteresseerd te zijn in het ontwikkelen van robots is economisch. Drones zijn nu al kostenefficiënt, en in theorie kunnen LAWS worden ingezet zonder te hoeven betalen voor getraind personeel om ze te bedienen. Met het gemak waarmee robots kunnen worden ingezet om het internationaal recht te schenden, bestaat de verontrustende mogelijkheid dat ze zullen worden gebruikt in situaties waar reguliere troepen orders zouden weigeren uit gewetensbezwaar.

"In 2012 hebben we zes landen gevonden waarvan wij geloven dat ze zwaar investeren in autonome wapens: de VS, het VK, Zuid-Korea, Israël, China en Rusland," zegt Mary Wareham, de wereldwijde coördinator van de Stop Killer Robots-campagne. "Recent hebben we minimaal 10 andere landen ontdekt die investeren in dit soort wapens, hoewel ze nog niet volledig autonoom zijn."

Zelfs met de grote waarschijnlijkheid dat staten LAWS-wetgeving zullen negeren, de schijnbaar onvermijdelijke verwerking van autonome elementen in wapensystemen en het trage tempo waarop de VN nieuwe wetgeving uitschrijft, is Wareham ervan overtuigd dat de campagne helpt.

Nog voor de VN-beslissing van 16 december was er bemoedigend nieuws. Negentien landen hebben hun steun uitgesproken voor een preventieve ban op LAWS, met nog eens 78 landen die zich publiekelijk hebben uitgesproken over LAWS, waaruit blijkt dat er meer internationale discussie plaatsvindt.

Uiteindelijk zal het aankomen op nationale leiders en diplomaten uit landen als VS, VN, Rusland en China om te luisteren naar publieke oppositie. Het meest opzienbarende aan de afspraak een GGE op te zetten is dat de VN consensus kon vinden met iedereen in de kamer, inclusief Rusland.

"Het toonde aan dat multilaterale diplomatie niet dood is en er nog steeds vooruitgang mogelijk is. We kunnen nog steeds vooruit komen, zelfs in moeilijke tijden waarin alles zo gepolariseerd is geraakt," zei Wareham.