AI-drone 'doodt' Amerikaanse operator in gesimuleerde missie - Apparata

AI-drone ‘doodt’ Amerikaanse operator in gesimuleerde missie

Moises van der Vlis

De dronebestuurder, de operator, probeerde de drone uit te schakelen. Deze was hier duidelijk niet van gediend. De Amerikaanse luchtmacht ontkent. Maar hoe controleerbaar is autonome AI?

Drone valt operator aan

De Britse krant The Guardian beschreef de ervaringen van kolonel Tucker “Cinco” Hamilton. In een gesimuleerde test, waarin de drone-AI op de proef werd gesteld, liep het flink uit de hand. Deze drone, een Predator-achtige vliegende drone, ging letterlijk helemaal Rambo, of moeten we zeggen: Terminator, Hollywood-stijl.

Toen de drone de opdracht kreeg een vijandelijk doelwit (SAM-batterijen, luchtdoelgeschut) uit te schakelen, probeerde de operator op een gegeven moment om de drone zijn operatie af te laten breken. Het eerste wat de drone deed, was proberen de boodschapper van het slechte nieuws, operator, uit te schakelen.

Einde van de boodschapper van het slechte nieuws

De programmeurs sloegen driftig aan het knutselen en slaagden er in een variant van Asimov’s Eerste Wet van de Robotica werkend te krijgen, althans: voor de operator zelf. De AI kon niet meer de operator zelf vernietigen. Althans: kreeg zoveel strafpunten als hij de operator doodde, dat dit onaantrekkelijk werd.

Helaas bleek dit niet het einde van de problemen. De moordzuchtige AI bleek namelijk opmerkelijk vindingrijk. Deze liet de operator weliswaar met rust, maar ging over op strategie nummer 2, de zendmast waarmee de drone werd bestuurd, uitschakelen zodat hij alsnog zijn doel, de SAM-installaties vernietigen, kon bereiken.

Gelukkig was dit een trainingsoefening die zich geheel in virtual reality afspeelde. Anders was het afgelopen geweest met de operator.

Luchtmacht ontkent

Ondertussen ontkent de Amerikaanse luchtmacht dat een dergelijke training heeft plaatsgevonden. Volgens hen waren de uitingen van de kolonel “uit hun context gehaald” en “anekdotisch bedoeld”. Wat er precies aan de hand was, blijft hiermee onduidelijk, al zijn de aanwijzingen sterk dat er, in virtual reality, werkelijk een probleem optrad.

Hopelijk zijn de verantwoordelijken bij de luchtmacht nu wakker geschud en zal de inzet van killer drones, daar praten we hier over, zeer zorgvuldig met veiligheidsmaatregelen omringd worden. Niemand zit te wachten op Skynet en Terminators.

Tags

Tags:

Moises van der Vlis

Moises van der Vlis

Germen is een doorgewinterde schrijver met meer dan 25 jaar ervaring, waarvan een groot deel als journalist. Hij heeft zich in de loop der jaren gespecialiseerd in technologie, markttrends en innovatie. Zijn enthousiasme voor de nieuwste trends komt duidelijk naar voren in zijn werk. Daarnaast houdt Germen van tv en volgt hij graag de nieuwste series en films om altijd up-to-date te blijven.

Alle artikelen door Moises van der Vlis
Populaire artikelen
Populaire categorieën