Kijk ‘Slaughterbots’ als waarschuwing voor de toekomst van moordrobots

Vrijdag bracht het Future of Life Institute (FLI) een nachtmerrieachtige korte film uit over een toekomst waarin slimme drones doden. Het FLI is een organisatie die zich opwerpt als waakhond voor ontwikkelingen in AI en bekend werd met een campagne om het gebruik van moordrobots tegen te gaan,

De korte film heet Slaughterbots en laat ons dystopieën uit de nabije toekomst zien à la Black Mirror in een poging om ons bewust te maken van de gevaren van autonome wapens.

De film begint met een klassiek Silicon Valley CEO-figuur die als een soort Steve Jobs een productpresentatie geeft voor een live publiek. De presentatie lijkt in eerste instantie hartstikke onschuldig, de presentator lijkt een soort nieuwe drone te onthullen. Maar dan neemt de presentatie een duistere wending, als hij laat zien hoe deze autonome drones mensen als vee kunnen afslachten door “een explosief met holle lading” op de schedel af te leveren.

Het publiek vindt het fantastisch, klapt en lacht met de CEO mee alsof ze niets gevaarlijkers gepresenteerd zien worden dan de iPhone X. De CEO gaat nog verder en laat een video zien van de kleine moorddrone in actie.

“Laten we eens zien wat er gebeurt als we de wapens de beslissingen laten maken,” zegt de CEO, terwijl de bot op het grote scherm achter hem een paar mensen executeert. “Geloof me, dit zijn allemaal slechteriken.”

Wat volgt is een diep verontrustend portret van een nabije toekomst waar al die kleine moorddrones hun technologie gebruiken – “Camera’s zoals je die ook voor je socialmedia-apps gebruikt, gezichtsherkenning zoals je die ook op je telefoon hebt!” – om autonome beslissingen te maken over wie er blijft leven en wie eraan gaat.

Hoewel er nog niet zoiets bestaat als de drones die je in de film ziet, zijn autonome moordrobots helemaal niet zo ver van ons verwijderd als het misschien lijkt. Op afstand bestuurde drones worden al meer dan tien jaar gebruikt op slagvelden in het Midden-Oosten en Afrika, en Amerikaanse hackers hebben vuurwapens op commerciële drones weten te plaatsen, terwijl IS deze zelfde drones gebruikt voor luchtbombardementen. Eind vorig jaar gebruikte een Amerikaanse politierobot een bom om een schutter in Dallas te executeren. Zowel Rusland als de VS maken tanks die op afstand bestuurd kunnen worden of zelfs helemaal autonoom zijn.

Tot dusver is al deze technologie nog steeds afhankelijk van een mens om de trekker over te halen en te bepalen of de persoon aan de andere kant van de camera eraan gaat of niet. Maar het is niet ondenkbaar dat deze systemen steeds geautomatiseerder worden tot op het punt dat de machines zelf die beslissing maken.

Het Future of Life Institute roept op tot een preventief verbod op autonome wapens om de helse toekomst uit Slaughterbots te voorkomen. Tot dusver heeft hun campagne al 20.000 handtekeningen weten te verzamelen, en wordt de organisatie in hun missie gesteund door vooraanstaande wetenschappers en bedrijfshoofden als Elon Musk en Stephen Hawking, die op hun beurt brieven aan de VN hebben gestuurd om op te roepen tot een verbod op moordrobots.

En aangezien geautomatiseerde systemen een schildpad nog wel eens voor een pistool aanzien, kunnen we alleen maar hopen dat dit preventieve verbod er komt.