Wapens die zelf denken: TU Delft pleit voor een verbod

Binnenkort zal de regering haar positie rondom autonome wapensystemen herzien. De vraag is of de regering dit keer wel voor zelfdenkende wapens kiest. Als aan 151 wetenschappers, waaronder ook wetenschappers van de TU Delft, ligt blijft het verbod op de zelfdenkende wapens in stand.

In een open brief die te vinden is op de website van vredesorganisatie PAX schrijven 151 wetenschappers: ‘’Als deskundigen op het gebied van kunstmatige intelligentie (AI) en robotica vinden wij het van groot belang dat Nederland zich hard maakt voor internationale juridisch bindende afspraken die moeten garanderen dat er betekenisvolle menselijke controle is over het gebruik van geweld.’’

‘Peperdure wapenwedloop’

De briefschrijvers maken zich zorgen over de ontwikkelingen van zelfdenkende wapens die ‘’die zonder betekenisvolle menselijke controle doelen kunnen selecteren en aanvallen,’’ aldus de wetenschappers. Daarnaast zijn de wetenschappers van de TU en andere universiteiten bang dat deze autonome wapens de drempel om oorlog te voeren zullen verlagen. De wapens kunnen tenslotte zeer doelgericht en zonder menselijke emotie hun slachtoffer uitschakelen.

Datacenter trekt vaak (te) veel stroom maar TU Delft creëert baanbrekende oplossing >

‘’Bovendien roept de introductie ervan [autonome wapens, red.] aansprakelijkheidsvragen op, omdat het vaak onduidelijk zal zijn wie verantwoordelijk is voor de inzet ervan,’’ aldus de wetenschappers. Daarnaast geloven de briefschrijvers dat deze wapens een ‘peperdure wapenwedloop’ te weeg zullen brengen en niet zal leiden tot meer veiligheid maar juist tot internationale spanningen.

Een wapenwedloop die volgens vredesorganisatie PAX al aan de gang is. Daarnaast is het op dit moment volgens PAX al mogelijk om met grensbewakingsrobots, zonder menselijke tussenkomst, een ‘illegale passant’ te doden. ‘’Drones zouden ook op basis van bijvoorbeeld nummerbordherkenning automatisch voertuigen kunnen bombarderen,’’ aldus PAX.

Onmenselijk

Met de brief sluiten de 151 wetenschappers zich aan bij eerdere oproepen van wetenschappers en technologiebedrijven uit onder meer Australië, België, Canada, Italië en Noorwegen. ‘’Er is dringend actie nodig om deze zorgen weg te nemen en de proliferatie van dodelijke autonome wapens te voorkomen. Zodra deze doos van Pandora is geopend, zal ze heel moeilijk te sluiten zijn. Het is wat ons betreft vijf voor twaalf.’’

Werf Delftse studenten voor stembureaus >

Ze roepen de Nederlandse regering dan ook op om zich aan te sluiten bij internationale inspanning om zelfdenkende wapens preventief te verbieden. Maar ook om duidelijk te stellen dat de Nederlandse regering nooit zulke wapens zal ontwikkelen, verwerven of in zal zetten. Een van de ondertekenaars, Lambèr Royakkers van de TU Eindhoven, stelt tegen PAX: “Het is eenvoudigweg onmenselijk om het doden van mensen aan machines over te laten.”

Op het moment van schrijven hebben 151 wetenschappers de brief ondertekend, maar dit getal kan veranderen, de brief is namelijk nog open om door meer wetenschappers ondertekend te worden.