Sätt ett automatvapen och en kamera på ett flygplan. Låt kameran kategorisera kroppsform och ansiktsdrag hos människor på marken och kategorisera dem efter etnicitet. Programmera vapnet att avfyras mot den icke önskvärda gruppen människor. Se där, ett verktyg för etnisk rensning.

Vad det handlar om är att vi med hjälp av artificiell intelligens (AI) snart kan ha förprogrammerade robotflyg, robotmissiler och robotfartyg som sköter striden själva: Söker upp målen och förgör dem. Vi ska återkomma till scenariot med den etniska rensningen, men man behöver inte vara dystopiskt lagd för att hissa varningsflaggor för autonoma vapensystem, menar Anders Sandberg, doktor i datavetenskap vid Oxforduniversitetets Future of Humanity Institute.

– Det är alltid lätt för en robottillverkare att säga ”du har tittat för mycket på terminator-filmerna, nu ska vi prata om verkligheten”. Men det finns ett helt spektrum av problem, säger han.

Den mest uppenbara risken är helt enkelt att det blir fel. En skola med barn sprängs i luften, exempelvis för att den som programmerat vapnet har förbisett något.

– Du tränar roboten på hur militära byggnader ser ut i ”Långtbortistan”, men är inte medveten om att skolbyggnaderna i landet ser ut som militärförläggningar på grund av någon statsarkitekt med dåligt sinne för estetik, säger Anders Sandberg.

Kan sabotera med datavirus

Ett av de flitigast använda argumenten för autonoma vapen är att maskiner är mer pålitliga än människor. När bilarna blir självkörande finns det förhoppningar om att trafiksäkerheten ökar. Motsvarande skulle kunna gälla autonoma vapensystem, enligt Anders Sandberg. Men han varnar för att dra förhastade slutsatser i det avseendet.

– Frågan är hur bra man kommer att kunna utveckla systemen, i synnerhet eftersom en verklig krigssituation förstås kommer att vara betydligt mer förvirrande än testsituationer. Framför allt kommer fienden göra allt för att sabotera funktionen exempelvis med hjälp av datavirus, säger han.

Oavsett hur bra tekniken utvecklas kvarstår ett annat stort problem: Svårigheten att utkräva ansvar.

– Spränger man en skola med barn ska någon banne mig hållas för ansvarig. Om det var missilen som beslutade att spränga – kan man hålla den ansvarig? Knappast. Kan man säga att tillverkaren begick ett krigsbrott? Möjligen om man hittar något i mjukvaran som förklarar missilens beslut, men det lär bli väldigt svårt, säger Anders Sandberg.

Samsung-robot bevakar koreanska gränsen

Autonoma vapensystem är under utveckling i flera länder däribland USA och Kina. Och redan idag övervakar Sydkorea gränsen mot Nordkorea med en robot tillverkad av Samsung. Om nordkoreanska soldater försöker korsa gränsen ska roboten själv reagera och avlossa automateld.

På sikt är ekonomi en av de stora fördelarna ur militär synvinkel, menar Anders Sandberg.

– De är säkert inte lika bra på att skjuta som människor, men du kan sätta upp många fler längs gränsen än om du använder soldater. Och de behöver varken lön eller kaffe.

Utveckling av vapen är hemliga saker och hur långt den svenska försvarsindustrin kommit när det gäller autonoma vapen är okänt. Hos jätten Saab vill man inte låta sig intervjuas av Syre, men i ett mejl uttrycker man att det är självklart att vara med på tåget.

”Automation är en av de tydligaste trenderna i försvarsindustrin, precis som i nästan all annan industri. Saab ska förstås hänga med i den utvecklingen”, skriver Johan Öberg, pressekreterare på Saab.

Sedan tidigare är det känt att Saab varit delaktigt i det så kallade Neuronprojektet som går ut på att ta fram ett flygplan som helt självständigt ska kunna attackera mål på marken. Men enligt Saab är det inget man arbetar med nu.

”Saab har i nuläget ingen aktivitet i projektet, som i dag främst är ett franskt projekt”, skriver Johan Öberg.

Leder till kapprustning

Inom fredsrörelsen ser man en värld med autonoma vapen som en farligare värld. Det handlar inte bara om tekniken i sig och med vad som händer med den i ett verkligt krig där fienden gör allt för att manipulera den. Det handlar också om att nya vapentyper tenderar att få länder att kapprusta när ingen vill hamna på efterkälken. I en redan orolig värld skulle det vara förödande, menar Gabriella Irsten, politisk handläggare på Internationella kvinnoförbundet för fred och frihet (IKFF).

– Spänningarna i världen skulle öka ytterligare, säger hon.

När kärnvapnen kom kapprustade stormakterna – men när det gäller autonoma vapen kan betydligt fler vara med i racet, enligt Gabriella Irsten.

– Det är dyrt att utveckla systemen, men när de väl finns kommer de vara enkla och billiga att kopiera. Inte bara länder kommer vilja ha de här vapnen utan också icke-statliga aktörer.

Sedan 2014 har samtal pågått i FN om ett förebyggande förbud mot autonoma vapensystem. Inga regelrätta förhandlingar har inletts, men ett arbete pågår med att bena ut hur problemen ser ut och hur autonoma vapensystem ska definieras.

Ett förebyggande förbund antogs 1980 när det gäller bland annat permanent förblindande laservapen, vilket Gabriella Irsten lyfter fram som ett lyckosamt exempel.

– All utveckling av sådana vapen avstannade, säger hon.

Sverige ställer villkor för ett förbud

Enligt årets utrikesdeklaration ska Sverige driva på för ett ”effektivt internationellt förbud”. Trots det har Sverige inte anslutit sig till de drygt 30-tal länder som internationellt kräver ett förbud.

– Vi har frågat företrädare för regeringen varför Sverige inte sagt internationellt att man står bakom ett förbud, men inte fått några bra svar, säger Gabriella Irsten.

Utrikesminister Ann Linde (S) ställer inte upp på intervju, men i ett mejl skriver Utrikesdepartementets presstjänst att ”Frågan är viktig och Sverige deltar aktivt och engagerat i det internationella arbetet kring den”.

Men Sverige kommer inte villkorslöst att ställa sig bakom ett förbud.

”Två viktiga förutsättningar för att uppnå effektivitet är att klarhet råder om vad som förbjuds samt att länder med förmåga att utveckla den aktuella teknologin omfattas av en framtida reglering. Någon enighet om detta finns ännu inte.”, skriver UD:s presstjänst.

I klartext: Eftersom de länder som ligger längst fram i utvecklingen av autonoma vapen inte visat någon vilja att vara med och att det ännu saknas en tydlig definition om vilka vapen som ska omfattas lovar inte Sverige att stå bakom en framtida FN-konvention.

Argumentationen känns igen från frågan om ett kärnvapenförbud. När Sverige meddelade att man inte skulle skriva under på ett förbud var skälet man angav att  konventionen inte var ”effektiv”. Dåvarande utrikesminister Margot Wallström pekade just på att kärnvapenmakterna inte var med och det fanns oklarheter kring vilka vapen som skulle omfattas.

Gabriella Irsten köper inte regeringens brasklappar. Kärnvapenförbudet har redan haft effekt, innan det ens hunnit bli juridiskt bindande för dem som är med.

– Vi har redan sett hur finansiella institutioner som AP-fonderna sagt att de inte vill investera i kärnvapen, säger hon.

Forskare varnar för etnisk rensning

Så var det där med det autonoma vapen som verktyg för etnisk rensning. Det kan förefalla som en i högsta grad extrem konsekvens, men kan knappast lättvindigt viftas undan som fredsrörelsens försök att skrämmas. Redan 2015 varnade tusentals forskare inom en lång rad områden för bland annat etnisk rensning.

”Autonoma vapen är idealiska för lönnmord, folkförtryck, destabilisering av nationer och det selektiva dödandet av någon viss etnisk grupp”, skrev forskarna i ett internationellt upprop mot autonoma vapen.

Andra har varnat för att rasistiska och sexistiska tankesätt kan programmeras in i systemen också utan uppsåt, när enorma mängder data – från en rasistisk och sexistisk värld – matas in i systemen.

– Det är människor som programmerar och de lägger in mänskliga fördomar, säger Gabriella Irsten.