De ethiek van een robotleger

Twee schijnbaar tegengestelde bewegingen zijn zichtbaar in de militaire technologie: enerzijds nemen robots meer taken van militairen over, anderzijds neemt het morele gewicht van door militairen te nemen beslissingen toe.

Volgens de planning beschikken de Verenigde Staten in 2034 over een autonoom opererend robotleger. Dat klinkt als science fiction, maar de ontwikkelingen gaan snel. In Irak worden zo’n 20.000 robots ingezet, de meeste vliegend. Deze worden nog op afstand bestuurd, maar de eerste autonome apparaten worden in 2015 verwacht.

‘Een van de vragen die dit opwerpt is of dit soort wapens – want dat zijn het – voldoen aan de beginselen van het internationaal humanitair oorlogsrecht’, zegt mr.dr.ir. Lambèr Royakkers. Het is immers de vraag of zelfstandig opererende robots niet de verleiding groter maken om onnodige schade en slachtoffers te maken, en of ze betrouwbaar het onderscheid kunnen maken tussen burgers en militairen. ‘Bij onbewapende robots, die bijvoorbeeld een ruimte verkennen voor soldaten binnengaan, zie ik geen probleem. Maar bewapende robots, die zelf beslissingen over leven en dood nemen, zouden verboden moeten zijn. De risico’s die verbonden zijn aan bewapende robots zijn namelijk zo groot dat ze onaanvaardbaar zijn. Niemand kan voorspellen hoe ze zich gedragen in dynamische en complexe omgevingen, en bijvoorbeeld bij een defect.’

In zekere zin zou je kunnen zeggen dat robots de ‘befehl ist befehl’ soldaten zouden kunnen worden, van wie na de Tweede Wereldoorlog vastgesteld werd dat ze niet horen te bestaan. Niemand kan zich achter andermans bevel verschuilen om morele verantwoordelijkheid voor zijn daden van zich af te schuiven. Het bevel biedt een morele context, waarbinnen nog een eigen afweging bestaat. In het geval van robots bestaat die niet.

Friendly fire

Ironisch genoeg wordt de morele verantwoordelijkheid van militairen heden ten dage juist verhoogd door de opkomst van ‘network centric warfare’. Hierin wordt voortdurend informatie over de situatie verspreid onder militairen, waardoor ze meer mogelijkheden krijgen om zelf besluiten te nemen. Het accent verschuift van bevelen uitvoeren naar de intentie van bevelen begrijpen en op grond daarvan en nieuw beschikbare informatie actie ondernemen.

Royakkers: ‘Dit vraagt andere morele competenties van het militaire personeel. Een standaard dilemma uit de militaire opleiding stelt dat een kind op je afloopt en zo je positie dreigt te verraden. Schiet je het tijdig neer? Dat is veel makkelijker als je de opdracht hebt ten koste van alles je positie geheim te houden, dan wanneer je zelf moet besluiten of die positie werkelijk in gevaar is. Het vergt meer van je om achteraf je beslissing te kunnen verantwoorden.’

Daar komt bij dat veel informatie helemaal niet zo zeker is. Miscommunicatie en verkeerde inschattingen zijn schering en inslag tijdens de hectische gebeurtenissen op een slagveld. De kans op fouten is groot, met het openen van ‘friendly fire’ als ultieme nachtmerrie. Bovendien, legt Royakkers uit, is het bij network centric warfare moeilijker om voor een beslissing steun te vinden bij anderen: je stormt immers niet meer met honderd man tegelijk op een doel af, maar opereert in kleine teams, waarin iedereen zijn eigen taken heeft.

Informatietechnologie verandert, met andere woorden, de morele context waarbinnen individuele soldaten hun afwegingen maken moeten. De gebruikers van die technologie moeten daarop voorbereid zijn, zodat zij hun beslissingen vooraf en achteraf goed kunnen verantwoorden – hoe moeilijk dat onder oorlogsomstandigheden ook is.

×