Vi behöver mer självständigt tänkande och mindre blind lydnad, skriver Annika Lillemets. Hon berättar om två sovjetiska officerer som följde sitt eget huvud och kanske räddade världen under kalla kriget.
Tänk själv. Så stod det på en broschyr som Grön ungdom brukade dela ut. Det var och förblir ett viktigt budskap. Om fler följer sin moraliska kompass och vågar lita på sin erfarenhet och kunskap istället för att blint lyda order kan mycket elände undvikas.
Paranoida
En självständigt tänkande person med stort civilkurage och integritet kan göra enorm skillnad. Den sovjetiske flygvapenofficeren Stanislav Petrov, som har kallats mannen som räddade världen, är ett lysande exempel. Han gjorde en avgörande insats för att förhindra ett kärnvapenkrig under en av det kalla krigets farligaste perioder, hösten 1983. Läget var då mycket spänt mellan de två supermakterna USA och Sovjetunionen. Tre veckor tidigare hade Sovjetstyrkor skjutit ner ett koreanskt passagerarplan som kommit in på sovjetiskt luftrum och dödat alla 269 ombord, inklusive en amerikansk kongressledamot. Den amerikanske presidenten Reagan talade om Sovjetunionen som ett ”ondskans imperium” och drev på kapprustningen. De sovjetiska ledarna var mycket oroliga för en amerikansk attack, närmast paranoida.
Rapporterade falsklarm
I detta läge tvingades Petrov ta ett ödesdigert beslut. Den 26 september tjänstgjorde han som ansvarig officer på en anläggning som övervakade det sovjetiska ”early warning”-satellitsystemet över USA. Plötsligt gick larmet. Datorerna varnade för att fem amerikanska interkontinentala kärnvapenmissiler hade avfyrats från en bas i USA mot mål i Sovjetunionen. Enligt rutinerna skulle Petrov omedelbart rapportera detta till sina överordnade som hade att besluta om en sovjetisk motattack. Men han valde att vänta då han inte helt litade på systemet som var framtaget under stark tidspress på grund av det upplevda akuta hotet från USA. Han visste också att ett amerikanskt anfall förväntades omfatta mycket mer än fem missiler. Inte heller bekräftades larmet av några andra observationer. Petrov beslöt därför att rapportera att det var ett falsklarm och det visade sig att han hade rätt. Övervakningssystemet hade felaktigt uppfattat ett sällsynt väderfenomen, där solen lyste på höga moln över North Dakota, som missiler.
Alla som varit inblandade i design och tester av komplexa tekniska system vet att det inte går att förutse och hantera allt som kan hända. Ett varningssystem för kärnvapenattacker ska hantera sådant som inte ska hända och kan inte testas fullt ut på ett meningsfullt sätt. Man kan ju inte be sina fiender skjuta iväg några ”lösa skott” för att testa att systemet kan upptäcka dem. Simuleringar och tester på hemmaplan sker under andra förutsättningar. I en scen i dokumentär- och spelfilmen om Petrov, the man who saved the world som skildrar falsklarmsincidenten 1983, ropar en av hans kolleger att han litar på datorerna. Men Petrovs tekniska kunnande och civila utbildning gav honom bättre förutsättningar att ta ett välgrundat beslut än de flesta av hans kolleger. Dessa var militärer utan djupare teknisk kompetens men hårt skolade i blind lydnad.
Archipov sa nej
Ännu en sovjetisk officer, Vasilij Archipov, har sannolikt räddat världen från kärnvapenapokalyps. Under Kubakrisen 1962 tjänstgjorde han på en av de sovjetiska ubåtar som befann sig i närheten av ön. Den 27 oktober försökte amerikanska fartyg tvinga upp den till ytan genom ickedödligt bombardemang. Besättningen hade förlorat kontakten med omvärlden och befarade att tredje världskriget hade inletts. Befälen hade mandat att avfyra en kärnvapenladdad torped utan godkännande av sina överordnade, om alla tre var överens. I den pressade situationen ville två av dem göra det men Archipov sa nej. Ingen kan veta vad som hade hänt om han inte lagt in sitt veto men högst troligt hade torpeden varit en tändande gnista i det mycket spända och farliga läge som rådde. Istället lättade spänningen, båda supermakterna backade och vidtog gemensamma åtgärder för att förhindra liknande situationer.
Maskiner saknar moral
Dessa ytterst allvarliga incidenter visar hur viktigt det är att individer tar ansvar och tänker själva i svåra situationer. Det blir också uppenbart hur lättsinnigt världens ledare handskas med själva livsförutsättningarna på jorden. Vi människor och de tekniska system vi skapar är inte felfria. Därför måste domedagsvapnen bort, vilket redan Palmekommissionen för gemensam säkerhet och nedrustning konstaterade 1982. Existerar kärnvapen, kommer de förr eller senare att orsaka katastrof genom ansvarslösa politiska beslut, rena misstag på grund av mänskliga felbedömningar, felaktig teknisk information eller genom slarv och olyckor. Journalisten Eric Schlosser har sammanställt en lista över incidenter som hade kunnat orsaka katastrof.
Och med utvecklingen av AI och autonoma vapensystem har en helt ny dimension av avhumanisering i krigföringen tillkommit. Om maskiner får bestämma vem som ska leva eller dö, då kan vi inte ens hoppas på att en Petrov eller Archipov råkar dyka upp och rädda om inte hela världen, så åtminstone en del av dess invånare som algoritmerna utser till offer. Maskiner saknar moral, de kan inte tänka själva i mänsklig mening.
Även om det inte går så långt som till automatiska beslut att avfyra kärnvapen är utvecklingen högst oroande. FN:s generalsekreterare António Guterres har i flera år uppmanat till förbud mot autonoma vapen på grund av risken att algoritmerna misstar civila mål för militära och att det blir svårt att utkräva ansvar. En stor koalition av civilsamhällesorganisationer driver en kampanj för att förbjuda ”mördarrobotar” (Stop killer robots). Men den militärtekniska kapprustningen går i rasande fart, autonoma drönare har redan börjat användas i fält. Frågan om regleringar och förbud har tagits upp i FN, men än så länge finns ingen internationell lagstiftning på plats. Världens länder har ingen gemensam linje och det finns stora pengar att tjäna för vapenindustrin.
Akuta faror
Farorna med kärnvapen är väl kända och riskerna med autonoma vapen är akuta. Därför är det obegripligt och oförsvarligt att den politiska ledningen i Sverige, även i partier som kallar sig röda eller gröna, inte kraftfullt arbetar för förbud mot såväl kärnvapen som autonoma vapen utan fegt och historielöst verkar ha gett upp i stället för att tänka själva i Petrovs och Archipovs anda.
