De står svartklädda i ökenhettan vid Creech air force base, en av USA:s kommandocentraler för beväpnade drönare. I händerna håller de små kistor märkta med Irak, Afghanistan, Somalia och Jemen – länder där amerikanska drönare släckt åtskilliga människoliv.

En av dem som på det här sättet vill påminna de anställda på anläggningen om vilka konsekvenser verksamheten får tusentals mil bort är Ann Wright. I tre decennier har hon tjänat den amerikanska staten, som officer och diplomat. När hon denna fredag i mars 2015 hör till dem som inte nöjer sig med den stillsamma manifestationen utan bestämmer sig för att blockera trafiken vid kommandocentralen griper polisen in och för henne till arresten i Las Vegas.

Det är åt fredsrörelsen Ann Wright viger sin tid, efter att invasionen av Irak 2003 blev droppen som fick hennes bägare att rinna över och hon sa upp sig från utrikesdepartementet. Hon har inte ångrat sig.

– Min röst är mer kraftfull utanför statsapparaten än innanför, säger Ann Wright från hemmet på Hawaii.

Autonoma vapen snart här

Drönare är hennes specialområde. Inte de fiffiga skapelser som flyger blod till sjuka på svårtillgängliga platser i Rwanda eller hittar människor som försvunnit i den svenska skogen. De drönare Ann Wright intresserat sig för räddar inga liv, de släpper bomber och avfyrar missiler tusentals mil från de kommandocentraler de styrs ifrån.

– Det blir lättare att stå ut med kriget när dina egna unga män och kvinnor sitter i ett luftkonditionerat rum och tittar på en datorskärm, säger hon.

Kanske är det bara början. De drönare och andra obemannade vapensystem som redan är en högst påtaglig verklighet kräver en människa som trycker på knappen för att vapnen ska avfyras. Men snart kan de helt autonoma vapnen vara här, de som är förprogrammerade att både identifiera mål och oskadliggöra dem. Eller för att tala klarspråk: Vapnen som själva avgör vem som ska dö och vem som ska leva.

Helt autonoma vapen kan vara drönare som själva fattar beslut om att avfyra missiler och släppa bomber, men också om exempelvis ubåtar eller pansarfordorn. Kort sagt, vilka vapentyper som helst kan bli autonoma. 
Med helt autonoma vapen, eller mördarrobotar som de också kallas, sänks trösklarna ytterligare för att ge sig ut på militära äventyr. Därmed kommer världens konflikter bli fler, fruktar Daan Kayser, som arbetar för den nederländska fredsorganisationen Pax och den internationella kampanjen Stop killer robots, stoppa mördarrobotarna.

Daan Kayser varnar också för en kapprustningsspiral där i synnerhet USA och Kina hetsar varandra att spendera allt större summor för att ligga längst fram i utvecklingen av de autonoma vapensystemen.

– Angelägna om att utveckla vapnen så snabbt som möjligt skulle de kanske inte tänka så mycket på konsekvenserna, säger han.

Bidrar till en instabil värld

Daan Kaysers dystra framtidsscenario tar inte slut där. Svårigheten att avgöra vem som ligger bakom en attack bidrar till en mer instabil värld som är svårare att överblicka. Dessutom är tekniken billig att kopiera när den väl finns på plats och kan spridas till såväl mindre länder som terrorgrupper. Därmed kan den världspolitiska spelplanen förändras i grunden, med ökade spänningar som följd, enligt Daan Kayser. Det betyder inte att han längtar tillbaka till den tid då USA var ensam supermakt.

– Det bästa vore om alla länder var jämlika när det gäller militär och politisk makt så att de kunde balansera ut varandra. Problemet är att utvecklingen av autonoma vapen kan leda till mycket snabba skiften i maktbalansen, säger Daan Kayser.

Redan dagens beväpnade drönare, som nu sprider sig till allt fler länder, rubbar maktbalansen mer än gamla stormakter vill kännas vid, enligt Ann Wright. USA:s attack för ett år sedan mot Qasem Soleimani, ledaren för det iranska revolutionsgardet, ser hon som ett illustrativt exempel. Irans vedergällning kommer, det är hon övertygad om.

– Våra politiska ledare verkar tro att vi är ensamma om tekniken, varför skulle vi annars döda Qasem Soleimani? Man kan inte avrätta Irans mest populära militär och förvänta sig att de inte ska svara med samma mynt. De har drönarna och de har vapnen, säger Ann Wright.

Färre skulle dö

Utvecklingen av drönare tog fart under George Bush den yngres dagar i Vita huset, genom krigen i Afghanistan och Irak. Det sas att de nya vapnen var precisa och skulle minska antalet dödsoffer. Ann Wright konstaterar att det inte är så drönarna använts. Missilerna och bomberna har inte sällan slagit blint.

– Vi har sett hela bröllopssällskap och begravningsföljen flyga i luften och sedan den sjukvårdspersonal som kommer för att rädda dem, säger hon.
I diskussionen om helt autonoma vapen återkommer argumentet att civila kan skonas med hjälp av teknik som träffar rätt. Men Daan Kayser påpekar att tekniken är beroende av den data vi förser den med – information från en fördomsfull värld dominerad av västerländska vita män.

Fördomsfull AI

Exemplen är många på hur människors fördomar och snäva perspektiv smittar av sig på tekniken: Automatiska tvålpumpar på offentliga toaletter som bara reagerar på ljusa händer. Afroamerikaner som arresteras för att kameran felaktigt känt igen dem som kriminella. Foto-
appar som bara tar bilder på personer med en viss sorts ögonform. Algoritmerna har tränats främst på vita personer och gör helt enkelt fler felbedömningar när det gäller icke-vita personer.

– Addera ett vapen till ekvationen så blir det mycket problematiskt, säger Daan Kayser.

Det är inte bara fredsrörelsen som fruktar helt autonoma vapen. 2018 lovade den svenska experten på artificiell intelligens (AI) Max Tegmark att inte delta i utvecklingen av helt autonoma vapen. Han fick med sig ett stort antal kollegor på ett upprop där de både argumenterar för att det är moraliskt tvivelaktigt att låta maskiner avgöra människors liv och död och varnar för vilka kraftfulla verktyg för våld och förtryck autonoma vapen kan innebära, särskilt när de kopplas samman med system för övervakning. Max Tegmark hör till dem som befarar att autonoma vapensystem i framtiden kan användas för att bedriva etnisk rensning.

Nu pågår samtal i FN inom CCW, konventionen om särskilt inhumana vapen. För att komma framåt där krävs konsensus. Om man misslyckas med att uppnå det under 2021, vilket förefaller vara det mest sannolika, anser Daan Kayser att de länder som vill ska gå vidare på egen hand.

– Det är bråttom att få ett avtal på plats. Annars riskerar vi att hamna i en situation där utvecklingen är utom kontroll och vi önskar att vi infört regleringar, säger han.

Robotar bevakar gränsen

Mördarrobotar må låta som någonting i en dystopisk Hollywoodfilm. Men faktum är att Sydkorea redan bevakar gränsen mot Nordkorea med robotar som på egen hand skulle kunna döda eventuella inkräktare, men som försetts med ett ”lås” som innebär att en människa måste godkänna att skott avlossas. Och för ett drygt år sedan påstod Turkiet att de inom kort skulle ha helt autonoma drönare redo att strida i Syrien. Påståendet möttes med tvivel från experter, men kan ändå ses som en påminnelse om att utvecklingen pågår.

USA och Ryssland har uttryckt skepsis inför ett internationellt förbud. Tillsammans med Kina antas de ligga i frontlinjen när det gäller utvecklingen av autonoma vapen. Men Daan Kayser tycker inte man ska stirra sig blind på att få med sig motsträviga stormakter.

– Jag hör folk säga att det är meningslöst om inte Ryssland och USA är med, men vi har sett när det gäller avtalen som förbjuder klustervapen och landminor att det skapar normer som haft effekt också på dem, trots att de inte skrivit under, säger han.

”Regeringen är passiv”

Han menar att ett avtal skulle ha effekt för att länder är mer måna än man kan tro om sitt internationella rykte, men också för att det skulle göra finansiella institutioner mindre pigga på att investera i tekniken.

Den svenska regeringens agerande imponerar inte på Daan Kayser. I fjolårets utrikesdeklaration slog regeringen fast att Sverige ska driva på för ett ”effektivt internationellt förbud”. Men när ett tiotal länder, däribland Tyskland, Österrike och Brasilien gått samman och beskrivit hur de vill att ett regelverk utformas har Sverige inte varit med.

Tre av fyra svenskar motsätter sig en utveckling av vapen som själva väljer ut och attackerar mål utan mänsklig inblandning, enligt en färsk opinionsundersökning, beställd av Stop killer robots. Det borde motivera den svenska regeringen att kliva fram, anser Daan Kayser.

– Sverige hör till de länder där motståndet mot mördarrobotar är som starkast. Det är en stark signal till den svenska regeringen att vara mer ambitiösa, säger han.

Gabriella Irsten, politisk handläggare på Internationella kvinnoförbundet för fred och frihet (IKFF), håller med om att den svenska regeringen är passiv.

– De säger att Sverige ska vara ledande, men gör egentligen ingenting, säger hon.

Gabriella Irsten anser att den feministiska utrikespolitik som ska vägleda Sveriges ställningstaganden borde kunna användas för att driva på ett förbud. Hon pekar bland annat på farhågor om att autonoma vapensystem skulle kunna användas för att underlätta systematiskt sexuellt våld i konflikter, exempelvis genom att samla ihop kvinnor och flickor.

– Sverige borde kunna hantera den här frågan. Verktygen finns, säger hon.

Linde vill inte intervjuas

Att reda ut vad som egentligen är Sveriges hållning är inte enkelt. Utrikesminister Ann Linde (S) vill inte ställa upp på intervju och när Syre skrev om frågan i oktober skickade utrikesdepartementets presstjänst ett svar som beskrev två förbehåll för att i slutändan ställa sig bakom ett internationellt förbud: Dels måste det vara tydligt vilka vapen som ska omfattas, dels måste de länder som har förmåga att utveckla tekniken omfattas.

I höstas publicerade Syre UD:s svar i sin helhet – ändå ringde en av utrikesministerns medarbetare upp Syres reporter och bad om ett tillägg till artikeln i efterhand där man underströk att man såg risker med autonoma vapen, men utan att ta tillbaka de båda förbehållen.

UD:s svar fick Miljöpartiets utrikespolitiska talesperson Janine Alm Ericson att gå i taket. Några förbehåll för ett svenskt stöd för ett internationellt förbud anser hon inte finns, enligt överenskommelsen mellan regeringspartierna. När hon sedan frågade Ann Linde om saken i riksdagen formulerade sig utrikesministern annorlunda:

– Vi vill att ett effektivt förbud ska omfatta så många som möjligt, givetvis också de länder som försöker att utveckla vapnen. Detta behöver dock inte nödvändigtvis innebära att de aktivt stöder utformningen av förbudet, sa Ann Linde.

Internationell rätt bygger på att avtal är bindande för de länder som skriver under och ratificerar dem. Vad Sveriges linje blir ifall exempelvis USA och Ryssland ställer sig utanför får Syre inget svar på. I ett mejl hänvisar UD:s presstjänst till att det inte finns något färdigt förslag. ”Men Sveriges ingång är tydlig – vi tar nu en ledande roll i arbetet för att hitta vägar fram för att effektivt förbjuda dödliga autonoma vapensystem”, skriver UD.

UD tillägger att tydlighet om vilka vapen som ska omfattas är viktig för att inte ”drabba försvarsförmågan hos länder med legitima högteknologiska försvarssystem, däribland Sverige”.

Inte heller hos den svenska försvarsjätten Saab vill man prata med Syre. I oktober skrev bolaget till Syre att man ska ”hänga med” i utvecklingen mot automation, men om det i framtiden också kan innebära produktion av helt autonoma vapen får vi inget klart svar på.

Saab saluför redan flera obemannade maritima system, däribland undervattensroboten Sea wasp. Bolaget lyfter gärna fram hur produkter som Sea wasp kan användas för att oskadliggöra minor, men vill inte prata om sina framtidsplaner. Däremot betonar man den mänskliga kontrollen över tekniken i de projekt man bedriver i dag.

Backar från intervjun

”AI skapar bättre möjligheter för system att fatta korrekta beslut men det är viktigt att framhålla att beslutsfattandet inte kan överföras till robotar, det görs i grunden alltid av en människa”, skriver Saabs pressekreterare Mattias Rådström i ett mejl.

När den svenska överbefälhavaren (ÖB) Micael Bydén talade om obemannade system och artificiell intelligens på konferensen Folk och försvar i januari kunde man ana kraft bakom orden, trots den coronasäkra digitala distansen.

– Vi måste hålla oss i framkant, sa Micael Bydén.

Men inte heller vilken utveckling Försvarsmakten ser framför sig får vi veta mer om. Syre utlovas först en intervju med forskningschefen. Men efter att frågorna skickats i förväg dras erbjudandet tillbaka.

Liberalernas försvarspolitiska talesperson Allan Widman gör inte vågen efter ÖB:s tal. Han menar att satsningar på autonoma vapen snarare ligger i industrins än försvarets intresse. Några större moraliska betänkligheter har han inte över utvecklingen av autonoma vapen – men han varnar för kostnaderna som kan tränga undan de nya soldater, stridsvagnar och kanoner han vill se.

– Vi måste förstå att hur mycket vi än lägger ner på forskning och innovationer kommer vi aldrig kunna mäta oss med länder om USA, Kina och Ryssland, säger han.

Allan Widman menar att en överdriven teknikvurm präglat det svenska försvaret under de senaste årtiondena. Uppgraderingen av flygplanet Jas Gripen ser han som ett belysande exempel.

– Man ska göra om allt. Det ska vara ny motor, nytt skrov och nya sensorer. Det där är väldiga språng som många gånger leder till förseningar och därmed fördyringar. Industrin med sina tusentals ingenjörer ser naturligtvis gärna satsningar på teknikutveckling, men jag är mer intresserad av att vi får en armé av anständig storlek, säger Allan Widman.

Industrin driver på

På Hawaii sitter Ann Wright och resonerar om vad som driver utvecklingen mot autonoma vapen: Industrin, snarare än militären, anser även hon. Hon uppfattar en skepsis inom militären mot att släppa ifrån sig kontrollen och låta datorerna beordra sig själva.

– Det kommer inte längre finnas användning för alla dessa generaler när dator nummer ett är en fyrstjärnig general och dator nummer två en trestjärnig general, säger hon, bara halvt på skämt.