Autonome moordrobots komen er toch gewoon aan

Het is bijna een half jaar geleden dat de VN de wereld aanspoorde om een momentje pauze te nemen en even na te denken alvorens moordrobots te bouwen. Niet een rechtstreeks verbod, zoals de Human Rights Watch of de International Committee for Robot Arms Control voorstond - enkel de aansporing om het rustig aan te doen en te zorgen dat de ontwikkeling van dodelijke machines niet uit de hand zou lopen en tot, bijvoorbeeld, de vernietiging van de menselijke beschaving zou leiden. Maar het lijkt nu, afgaande op een aantal rapporten, dat het Pentagon niet van plan is om haar race naar oorlogvoering met robots te vertragen.

Onlangs berichtte Computerworld dat leiders van het Amerikaanse leger op afstand besturbare robots met machinegeweren aan het testen waren. Een handjevol particuliere bedrijven kwamen vorige week in Fort Benning, Georgia samen met legerleiders om hun gewapende robots te showcasen. Luitenant Kolonel Willie Smith zei bij de demonstratie dat hij hoopt de killerbots binnen de komende vijf jaar op het slagveld los te kunnen laten - niet als wapens, maar als autonome soldaten.

Het is belangrijk om te vermelden dat de gewapende robots die vorige week werden gedemonstreerd slechts semi-autonoom waren. Er is nog steeds een mens aan het roer die de beslissing maakt om te doden. De echte dreiging waar futuristen zich druk om maken is volledig autonome dodelijke robots, waarbij de robot de beslissing om te doden dus geheel zelf maakt, zonder menselijke interventie. Het is niet duidelijk of zulke robots ooit echt ingezet zullen worden, maar volgens een verslag van oud-analyst Joshua Foust in Defense One deze maand, is het iets dat de VS serieus overweegt.

Ontwikkelaars en beleidsmakers werken hard aan het de ontwikkeling van steeds autonomer wordende drones die uiteindelijk een raket zouden kunnnen afvuren op hun eigen initiatief, volgens Foust. Hoewel die technologie nu nog niet bestaat zijn er vooruitgangen in de kunstmatige intelligentie die suggereren dat het niet zo zeer de vraag is óf die er ooit zal komen, maar eerder wanneer dat zal gebeuren. DARPA werkt nu aan de ontwikkeling van slimme wapens die het menselijk brein imiteren. Het idee is dat de futuristische machines niet alleen kunnen leren en denken als een mens, maar ook ad-hoc beslissingen kunnen maken op basis van wat er om hen heen gebeurt.

Zoals de Guardian in mei al opmerkte geeft het Pentagon zo'n 6 miljard dollar per jaar uit voor het onderzoek naar en de ontwikkeling van autonome machines, maar heeft het beweerd deze alleen in te zetten voor "niet dodelijke" doeleinden. Drones zijn oorspronkelijk alleen ontwikkeld voor spionage en verkenning - niet voor aanvalsmissies. Maar de spionagevliegtuigen bleken zó nuttig als wapen, dat het lijkt alsof het Pentagon het gewoon niet kan laten.

Daar zijn veel redenen voor. Autonome vliegtuigjes zijn precies genoeg om het verschil te kunnen zien tussen een vijandelijke soldaat en een onschuldige burger, waardoor de hoeveelheid burgerslachtoffers beperkt zou worden. Ze zijn efficiënter dan een en beperken de inzet van soldaten op het slagveld. Ze zijn ook minder kwetsbaar voor hackersaanvallen als er geen mens achter de bediening zit.

Natuurlijk is er voor elke goede reden voor slimme moordmachines ook een minstens even verontrustende. Ten eerste het feit dat mensen ontkoppeld worden van de consequenties van het doden van andere mensen - niet zo cool. En terwijl het steeds duidelijker wordt dat je een computer kan leren denken, is het een heel ander verhaal om een computer te leren voelen. In andere woorden: machines hebben geen moreel inzicht. Ten tweede gaat het direct in tegen de Drie Wetten van de Robotica: Een robot mag een mens niet verwonden. En tenslotte zullen de machines uiteindelijk rebelleren en ons allemaal doden.

Wat ons meteen weer terugbrengt bij de aansporing van de VN. Maar de vraag blijft of legers met steeds geavanceerdere technologie tot hun beschikking zichzelf kunnen weerhouden.