Kommer maskiner snart att ta över mänskligt beslutsfattande i krig? Kritiker målar upp en ”Terminator”-liknande framtid där ”mördarrobotar” öppnar eld på eget bevåg – med risk för ödesdigra konsekvenser. Nästa vecka ska FN diskutera autonoma vapen, bland annat saknas en enhetlig definition.
VÄRLDEN På 1980-talet satte en robot i form av Arnold Schwarzenegger skräck i filmpubliken när den försökte utrota mänskligheten på uppdrag av den egensinniga datorn Skynet. Det som beskrivs i ”Terminator” är skräckexempel, men redan i dag existerar vapen som liknar det som kallas mördarrobotar, det vill säga vapen vars datorsystem tar egna beslut om att genomföra en attack.
– Vi föreställer oss autonoma vapen, mördarrobotar, som någonting som bara finns i framtiden. Men det håller på att bli verklighet, säger Nic Dawes, biträdande chef för människorättsorganisationen Human Rights Watch (HRW), till TT.
Han kallar det för en av de viktigaste frågorna i vår tid.
"Snart för sent"
HRW är en av de organisationer som kräver att världen förbjuder autonoma vapen. En av motiveringarna är att vapnen utgör ett brott mot folkrätten eftersom ingen människa tar beslutet om att öppna eld.
– Frågan är också vem som ska hållas ansvarig när någon dödas av en mördarrobot. Är det programmeraren? Algoritmen?
Flera länder, som USA och Kina, har i dag den här typen av vapen under utveckling och så fort de används i strid är det för sent, hävdar kritikerna. De får stöd av såväl forskare som företagsledare, bland andra Elon Musk.
– Om vi inte sätter stopp nu så kommer vi sannolikt att se vapnen användas redan under den kommande tioårsperioden, säger Dawes som varnar för ödesdigra konsekvenser om maskinerna fattar oförutsägbara och felaktiga beslut.
Många emot förbud
Frågan om autonoma vapen ligger nu på FN:s bord. På måndag träffas representanter för 70 länder i Genève för ett diskutera hur autonoma vapen ska definieras, om det behövs regler kring dem och i sådana fall hur dessa ska se ut. 26 regeringar stöder ett förbud, enligt HRW, men inga beslut har ännu fattats. Flera länder, som USA och Ryssland, har satt sig på tvären.
Skeptiker till ett förbud pekar på svårigheterna att avgränsa vad ett autonomt vapen är.
– HRW:s definition innefattar också system som används redan i dag, till exempel jaktrobotar som inte är så kontroversiella, säger Martin Hagström, forskningsledare på Totalförsvarets forskningsinstitut (FOI).
Han menar att det inte går att skapa regler för de autonoma vapnen utifrån vilken teknik som används, utan att man i stället bör reglera hur nationer måste testa de robotar som de utvecklar. Programvaran i det som i framtiden kan bli helt autonoma vapen liknar den i självkörande bilar, som är underkastade rigorösa granskningsregler.
– Liksom alla vapen måste robotarna, om de utvecklas, vara förenliga med internationell militär rätt. Det är Sveriges grundposition, säger Daniel Nord från utrikesdepartementet, som representerar Sverige på FN-mötet.
Ingen "Terminator"
Men än så länge har länderna inte kommit överens. De har dock enats om att inte släppa fram vapensystem som saknar tillräcklig mänsklig kontroll, enligt Nord.
– Människan måste vara med i beslutscykeln. Man kan inte ha en ”Terminator” där man trycker på en knapp och så går den ut och skjuter folk, säger han.
Förespråkarna brukar hävda att vapen kontrollerade av maskiner kan bli säkrare, när den mänskliga faktorn skalas bort. Men det är en sanning med modifikation, anser Nic Dawes.
– Även om de här vapnen är mer precisa så kan de användas på oerhört farliga sätt och göra skadan mycket, mycket större, säger han.
Fakta: Autonoma vapen
Autonoma dödliga vapen (LAWS) är vapen som själva kan definiera ett mål och gå till attack. Nästa steg är helt autonoma vapen, där människor inte är inblandade alls i beslutsprocessen, sådana används inte ännu. Det skulle till exempel kunna vara en drönare som på egen hand kan identifiera vad som ser ut att vara en man i rätt ålder för att vara en soldat, som ser ut att bära ett vapen och rör sig som en stridande, och sedan ”fatta ett beslut” att öppna eld.
Då är det uträkningar i drönarens ”hjärna” – dator – som leder till beslutet.
Än så länge har man inte enats om någon internationell definition kring autonoma vapen.
Sveriges position är att alla vapensystem som utvecklas måste vara förenliga med lagen och att de måste prövas enligt den så kallade ”artikel 36-processen”, som prövar vapen mot internationell humanitär rätt.
Mötet i Genève är den sjätte gången som FN formellt diskuterar autonoma vapen. Man hoppas kunna nå en överenskommelse innan 2019.
Källa: Totalförsvarets forskningsinstitut, UD, FN
