Autonome wapens bestaan al en ze zijn gevaarlijker dan killer robots

Het nieuwe seizoen van CYBERWAR laat zien hoe online oorlog, offline net zo verwoestend is. Dit is geen science fiction, maar keiharde realiteit. CYBERWAR gaat langs bij hackende drugskartels, onderzoekt CIA-dodenlijsten en legt overheidsspionage bloot. KLIK HIER VOOR MEER INFO OVER CYBERWAR en kijk elke vrijdagavond om 21.00 uur naar VICELAND voor een nieuwe aflevering.

Op de Convention on Certain Conventional Weapons (CCW) die deze week gaande is op het VN-kantoor in Genève, wordt gesproken over een verbod op autonome wapensystemen. Onder de slogan Stop Killer Robots! voeren onder meer Pax Christi en Human Rights Watch al jaren actie tegen de ontwikkeling van Lethal Autonomous Weapon Systems (LAWS).

Hoewel het beeld van een robot die zelfstandig aan het moorden slaat tot de verbeelding spreekt en een verbod op zo'n autonome machine zeker hoog op de politieke agenda zou moeten staan, zijn robots niet de enige wapens die op eigen houtje dood en verderf kunnen zaaien.

Cyberwapens zijn nu al in staat tot het autonoom uitvoeren van grootschalige aanvallen met desastreuze gevolgen.

Wat we bedoelen met 'autonoom' is een systeem dat zelf kan bepalen of het wel of niet overgaat tot de aanval, zonder daarvoor eerst een mens te hoeven raadplegen. Ook is het voor de definitie belangrijk dat wanneer het systeem eenmaal heeft besloten tot aanval over te gaan, het niet kan worden teruggeroepen door mensen. Het systeem staat met andere woorden niet onder 'betekenisvolle menselijke controle'. Zonder die betekenisvolle controle is de inzet van een wapen ethisch en juridisch onacceptabel.

Volgens experts in de robotica zoals Noel Sharkey maakt het niet uit dat een mens ervoor heeft gekozen om het wapen in te zetten: als er geen mens meer te pas komt aan het daadwerkelijk selecteren van het doelwit en er geen mogelijkheid meer is om het wapen tussentijds terug te roepen is er geen sprake van betekenisvolle controle en hebben we dus te maken met een autonoom wapensysteem. En hoewel er zeker geen consensus is over de precieze definitie van betekenisvolle menselijke controle, en er genoeg loopholes zijn voor overheden om de betekenis in hun voordeel op te rekken, zijn deze twee criteria breedgedragen.

Robots die aan deze definities voldoen bestaan nu nog niet of nauwelijks. Cyberwapens die voldoen aan beide criteria van autonomie, en dus autonoom zijn, bestaan echter wél al.

Een voorbeeld. De documentaire Zero Days gaat over een zeer geavanceerd computervirus, bekend als Stuxnet, dat specifiek is ontwikkeld om Iraanse kerncentrifuges te saboteren. Bij de ontwikkeling van de computerworm waren meerdere veiligheidsdiensten betrokken, waaronder de Amerikaanse CIA, NSA en de Israëlische Mossad.

Het punt met kerncentrales is dat ze doorgaans zeer goed beveiligd zijn tegen cyberaanvallen. Dit betekent dat een virus zo goed in elkaar moet zitten dat het zelf tactische beslissingen kan nemen in een airgapped - geïsoleerd van netwerken - omgeving.

Normale computervirussen hebben via het internet een lijntje met de cybercrimineel die het virus vervolgens commando's geeft om het te vertellen wat het moet doen- zoek de creditcardgegevens of wachtwoorden, bijvoorbeeld. Stuxnet was het eerste virus waarvan we weten waarbij dat niet nodig was: het kon zelfstandig bepalen wat het moest doen.

Omdat er eenmaal binnen in de kerncentrale geen verbinding was met de makers van het virus kon het, wanneer het eenmaal had besloten te activeren, door niemand worden gestopt.

Bronnen binnen de Amerikaanse geheime dienst hebben tegen de New York Times gezegd dat Stuxnet - of Olympic Games zoals het virus door de geheime diensten werd genoemd - maar een heel klein deel was van de cyberoperatie in Iran.

Het grotere plan, Nitro Zeus genaamd, is ontwikkeld met de intentie om, wanneer nodig, de infrastructuur van Iran plat te leggen - inclusief civiele doelen zoals elektriciteitscentrales, ziekenhuizen en andere cruciale infrastructuur. Dat hierbij veel levens op het spel staan is duidelijk. De inzet van cyberwapens vereist dan ook de schriftelijke autorisatie van de President - het enige andere wapen waarbij dezelfde voorzorg wordt genomen is de atoombom.

De Amerikanen lopen als het even kan dan ook niet te koop met hun cyberwapens. Dat het Stuxnet-virus überhaupt is ontdekt ligt vermoedelijk aan de overijverigheid van de Israëlische geheime dienst. Israël wilde steeds agressievere resultaten zien - meer ontplofte kerncentrifuges - om Iran's nucleaire ambities te fnuiken. Dit leidde ertoe dat het virus werd ontdekt en bracht Amerika in een lastig politiek parket.

Stuxnet stamt uit 2011 en is het meest geavanceerde computervirus dat tot nu toe is ontdekt. 5 jaar is ancient history in computertermen, dus we mogen aannemen dat er in de tussentijd nieuwe, betere virussen zijn ontwikkeld die nog niet zijn ontdekt.

Amos Yadlin, oud hoofd van de Israëlische inlichtingendienst, noemde cyber 'de vierde dimensie van oorlog.' Momenteel maken we ons nog vooral druk over wapens die in de eerste drie opereren; land, zee en lucht. En waar het ontwikkelen van killer robots overheden grote politieke druk oplevert, blijft de ontwikkeling van cyberwapens grotendeels buiten schot van het publieke debat. Het is de vraag of dit terecht is.

Hoeveel autonome drones zijn er nodig om de infrastructuur van een land plat te leggen? Honderden? Duizenden? Waarschijnlijk is er maar een enkele, grootschaligere, versie van Stuxnet voor nodig om hetzelfde doel te bereiken. Het is deze destructieve potentie die maakt dat landen er huiverig voor zijn cyberwapens (openlijk) in te zetten, en dat is maar goed ook.

Maar dat betekent wel dat cyberwapens op de politieke agenda moeten komen te staan naast kernwapens en killer robots. Nu doet de regering er ook liever het zwijgen toe als het over LAWS gaat, maar dat weerhoudt ngo's zoals Pax er niet van om er campagne tegen te voeren.

Er is kortom geen reden waarom protesten zoals deze week bij de CCW in Genève beperkt zouden blijven tot kinetische killer bots als net zo gevaarlijke wapens zich ondertussen schuilhouden in cyberspace.