Killer robot vraagt om debat

De Super aEgis II is een slim kanon dat volautomatisch personen kan detecteren en ze naar een andere wereld helpen. Hij is vooral populair in het Midden-Oosten, waar hij wordt ingezet om militaire bases te bewaken. Alle opdrachtgevers tot nu toe hebben een aanpassing gevraagd van het Zuid-Koreaanse bedrijf dat ze maakt: niet schieten zonder menselijke tussenkomst. Maar de killer robot is dus een feit – al spreekt de branche liever van lethal autonomous weapons. Dat klinkt minder confronterend.

Logisch dat tijdens de controversiële wapenbeurs DSEI, eerder deze maand in Londen, een conferentie gewijd werd aan de mogelijkheden en risico’s van robots op het slagveld. Zelfs wanneer je om ethische redenen zelf geen robots zou willen inzetten, moet je als leger immers rekening houden met een vijand die dat wel doet.

Oproep

Daarmee is meteen het militaire dilemma helder dat altijd opgeld doet bij nieuwe wapensystemen, of ze nou autonoom zijn of niet: al je ervan afziet, ben je dan gegarandeerd zelf het haasje? Daarom zijn er ondanks talloze verdragen nog altijd kernwapens en landmijnen (primitieve autonome wapens die zonder menselijke tussenkomst toeslaan bij activatie van een sensor). Juist dat veel landen ze niet willen, maakt het voor andere aantrekkelijk, met als gevolg dat grootmachten als China, Rusland en de VS nergens hun handtekening onder zetten.

Toch speelt bij killer robots meer. In augustus hing een groep ceo’s van robotbedrijven, onder wie Tesla-oprichter Elon Musk, aan de bel. Beginnen met oorlogsvoering op basis van kunstmatige intelligentie opent volgens hen een doos van Pandora waar mensen hun grip op zullen verliezen. Niet dat direct Matrix-achtige toestanden dreigen, maar killer robots en drones zullen net als landmijnen relatief goedkoop zijn en zich razendsnel verspreiden, ook naar ongewenste handen zoals die van terroristen. Daarom is het belangrijk dat de landen die de aanzienlijke R&D-kosten kunnen dragen, besluiten van de ontwikkeling af te zien.

Het was niet de eerste keer dat Musk een oproep deed om te stoppen met autonome wapens. De vorige keer, in 2015, had weinig effect. Deze keer kwam de oproep precies op de dag dat de Verenigde Naties afzagen van de oprichting van een expertgroep, wegens gebrek aan belangstelling (van landen, niet van experts).

Sluipend

Dit betekent niet dat herhaalde acties van AI-deskundigen geen zin hebben. Zonder protest is er helemaal geen debat. Vooral omdat de ontwikkeling sluipend zal gaan, zoals de Super aEgis II laat zien. In vredestijd is bedachtzaamheid nog op zijn plek, maar in benauwdere tijden zal het een fluitje van een cent zijn om het kanon er in zijn eentje op los te laten knallen. Het is geen verrassing dat het apparaat gemaakt is in Zuid-Korea, locatie van de zwaarst bewaakte grens ter wereld.

Afzien van autonome wapens is vermoedelijk het verstandigst op de lange termijn. De politieke wil daarvoor is echter niet wereldomvattend. Dus zal de ontwikkeling doorgaan. Het is geen conclusie om vrolijk van te worden, maar de menselijke hang naar destructie is nu eenmaal groot.

×