Vi kan inte längre gömma oss

Tänk dig att vara övervakad i realtid vart du än går, av kameror som med hjälp av ansikts-igenkänning vet var du och andra medborgare i staden befinner sig. Till detta är ett avancerat datasystem inkopplat där en artificiell intelligens (AI) håller koll i realtid. Så fort incidenter inträffar utöver det systemet anser vara normalt reagerar det och tillkallar myndigheterna. Det kan vara allt från en väska som någon glömmer vid en bänk till människor som bildar en lite för stor grupp på allmän plats, eller andra ”avvikande mönster” som mjukvaran upptäcker. Det låter som science fiction men är redan i dag en verklighet i den kinesiska staden Shenzhen. 

Det är det kinesiska elektronik-företaget Huawei, vars huvudkontor ligger i just Shenzhen, som står för övervakningstekniken kallad Safe city solution. 

Huawei har på kort tid växt till att bli världens största tillverkare av tele-kommunikationsutrustning, efter att ha gått förbi Ericsson. Huawei hävdar stolt att deras AI-system har halverat antalet rån och stölder i staden på bara ett år. 

Men att det skulle innebära några problem angående medborgarnas personliga integritet verkar inte oroa företaget.

– Livet är alltid en kompromiss. Vill jag känna mig säker? Självklart. Och jag oroar mig inte så mycket, jag har inte så mycket i mitt personliga liv som är intressant för speciellt många, säger Joe Kelly, pressansvarig på Huawei i Shenzhen till SVT:s reporter som rapporterar från staden.

Oroas över utvecklingen

Djupare än så utforskas inte frågan i Aktuellt-inslaget. Men det finns de som är betydligt mer oroade över utvecklingen. En av dem är Piratpartiets ordförande, Magnus Andersson.

– Man kan säga att George Orwell tog i när han skrev boken 1984, men han nådde inte ända fram, säger han. Det är värt att granska argumentationen för ett sådant här system. Myndigheterna tittar på när någon bryter mönster, med ett antagande att människor har något att dölja. 

 Bakom den argumentationen finns devisen ”vi sätter reglerna och du måste följa dem”.

Han är inte överraskad att det är Kina som först implementerat systemet, där mänskliga rättigheter och friheter knappast står högst på agendan. Men han tror inte att det är en omöjlighet att liknande system kan komma att implementeras i europeiska städer. 

– Det är ganska troligt om vi inte tar den etiska diskussionen som följer av ny teknik. Risken finns annars att vi bara ser möjligheter och inte konsekvenser. Det hela handlar om vilket samhälle vi vill ha. Om det bara handlar om brott kan vi sätta en sändare på alla, säger han krasst.

Men hans parti jobbar i opinionsmässig motvind. I en Sifo-undersökning från 2017 (beställd av säkerhetsföretaget Securitas) svarade 82 procent av de tillfrågade svenskarna att deras integritet inte kränks av kameror på allmän plats, och i en annan Sifo-undersökning svarar 90 procent av de 1 000 tillfrågade att de är positiva till övervakningskameror. Magnus Andersson menar att det hör ihop med Piratpartiets ”akilleshäl”:

– Vi ligger tio år framåt vilket är ett jätte-problem för oss. Det är nästan science fiction vi pratar om. Människor har andra vardagsproblem som är så mycket närmre. Trygghetsargumenten låter bra till en början men när människor känner sig ständigt övervakade kommer de aldrig att känna sig trygga. 

– Vi har gått från att vara oskyldiga till dess att motsatsen bevisas, till ett system där alla är misstänkta. Vi säger inte att övervakning ska vara förbjudet, utan att det ska finnas när det finns en misstanke. Vi ska inte tråla efter misstankar. 

– Det är det stora skillnaden för hur det var före och hur vi har det i dag. Dessutom kommer alla system som byggs någon gång att utnyttjas. Se till exempel på Edward Snowdens avslöjande om den amerikanska övervakningen, säger Magnus Andersson.

Kameror ger effekt

I Sverige har regeringen nu öppnat för att polisen inte längre ska behöva söka tillstånd för att sätta upp övervakningskameror i områden där det finns stora problem med brottslighet. En utredning i ämnet är tillsatt. Redan i dag har polisen satt upp kameror i exempelvis stadsdelarna Tensta, Rinkeby och Husby, och menar att det skulle behövas sättas upp ”tio gånger fler” kameror.  

– Vi har sett enorma effekter i våra utredningar, vid brott som inte hade kunnat klaras upp på andra sätt. Det har varit ärenden som har varit viktiga att få en dom i, och som har inkluderat viktiga personer att få bort från de här platserna, säger Christoffer Bohman, biträdande lokalpolisområdeschef i Rinkeby till Svenska Dagbladet.

Betyg på online-beteende

Den kinesiska övervakningen begränsar sig inte enbart till den fysiska världen. Det du gör online är om möjligt ännu mer övervakat av myndigheterna. Kina har därtill inlett arbetet med att införa ett avancerat ”socialt betygssystem” (social credit system) baserat på vars och ens online-beteende. All din aktivitet på internet, vad du söker efter, dina inköp, vilka vänner du har på sociala medier, vad du skriver – allt övervakas och kommer bedömas av en hemlig algoritm. 

Ditt ”betyg” ska sedan kunna avgöra dina möjligheter i samhället. Redan nu används det för att bedöma människors möjligheter att ta banklån, men vem vet vad myndigheter och företag kan använda det till i framtiden. 

Exemplen som beskrivs i tidskriften Wireds artikel om systemet är att det kan avgöra vilka skolor du får gå på, vilka jobb du har möjlighet att söka och till och med dina chanser att få en partner. 

 Tekniken liknar den i ett avsnitt av den dystopiska sci-fi-serien Black mirror där människorna betygsätts i realtid – betyg som sedan bedömer deras chanser i samhället. 

– Det är en extremt skrämmande framtid som tar bort all form av mänsklighet. De bygger ett nytt klassamhälle där personer med hög rating bara vill umgås med andra med hög rating, annars sjunker din rating. Det blir ett oerhört cyniskt samhälle, kommenterar Magnus Andersson. 

Obligatoriskt system

Utöver risken att cementera klasskillnaderna i samhället är tanken inte heller långt borta att den kinesiska regimen använder datan för att försöka kväsa alla oppositionella drömmar, innan de ens nått utanför människors huvuden, säger Magnus Andersson

– Det är inte bara när de ser en demonstration uppstå ute på gatorna. De kommer att kunna förhindra den långt innan den sker, när arrangörerna kommunicerar om att de ska demonstrera. Om de ens försöker kommer de att ”justeras”, säger han.

År 2020 ska systemet införas och bli obligatoriskt för alla kinesiska medborgare. 

Så utöver att debattera den personliga integriteten på hemmaplan vad kan göras för att motverka utvecklingen i andra länder? 

Ericsson ”håller sig borta”

År 2014 beslutade EU-kommissionen att exporten av övervakningsteknik från europeiska företag ska förses med restriktioner. Detta sedan det framkommit att bland andra Ericsson försett ledarskapet i flera arabländer med teknik som användes för att identifiera oppositionen och slå ner protester i samband med den arabiska våren. Ericsson ska enligt Svenska Dagbladet bland annat ha försett Syrien med teknik för att följa oppositionen via mobiltelefoner. 

– Det är samma diskussion som kring vapen, säger han. Jag anser inte att vi bör exportera den typen av mjuk- och hårdvara överhuvudtaget. För oavsett vilket land det gäller, kommer det innebära att det landets invånare behöver bli övervakade. Och de behöver därmed anpassa sig till samhällets övervakning. Det blir ett större och större problem för individen. Var kan jag vara mig själv utan att vara övervakad? frågar sig Magnus Andersson, som anser att det krävs regleringar på europeisk nivå för att komma åt problemet.

Men enligt en granskning från 2017 av Security for sale, ett nätverk av europeiska journalister, har EU:s medlemsstater, samt Norge, godkänt export av övervakningsprodukter åtminstone 317 gånger efter kommisionens beslut. Enbart 14 ansökningar har avslagits under perioden. Nästan var tredje exportlicens gick till export till länder rankade som ”icke-fria” (enligt tankesmedjan Freedom houses rankning av frihet och demokrati). 

I Sverige är det Inspektionen för strategiska produkter, ISP, som har hand om beslutet, men det går inte att få fram någon statistik från dem på grund av sekretess.

Osäkerhet om ny teknik

Ericssons globala huvudkontor ligger i Kista. Enligt Ulrica Jägare, director analytics & machine intelligence, har företaget medvetet hållt sig borta från teknik som inriktar sig på att samla data om individer. De säljer i dag inte den typen av övervakningsteknik som Huawei har utvecklat. 

– Samhället är ganska tidigt ute i AI-frågan. Det finns många etikfrågor att ta ställning till innan. Den typen av lösningar kommer inte att komma från oss den närmaste tiden. Ericsson kan göra mycket i ”närmiljön” utan att trampa in i de områdena. 

– Vi har börjat AI-resan inom den domän där vi har mest trovärdighet, det vill säga på nätverk-sidan. Där ska vi göra våra produkter mer intelligenta och kapabla. Vi vill istället bidra till den etiska diskussionen. Det ska finnas tillit i det vi gör. Risken är annars att det blir en backlash, säger hon. 

Samtidigt medger hon att man aldrig kan vara helt säkert på att en teknik kan nyttjas av köparen för övervakning, som i Syrien-fallet. 

– Det hade inget med AI att göra. Men så är det ju att data som genereras i våra nät går förstås att spåra om en regim vill och kan. Vi har ett långtgående ansvar där, säger hon.

Även om systemet i Kina är betydligt mer långtgående än vad europeiska medborgare är utsatta för, finns integritetsutmaningar även här i takt med att tekniken utvecklas. 

Det samlas redan i dag in oehörda mängder data om oss när vi använder olika tjänster online, även om det är utspritt på betydligt fler aktörer, med mer eller mindre tydliga policys.

Facebook och Google

Att området är osäkert visar inte minst de senaste skandalerna kring Transportstyrelsens läckta data och Facebooks samarbete med Cambridge analytica vilket påverkat val över hela världen. Magnus Andersson anser att det krävs ett slags uppvaknande bland gemene man.

– Ja, jag brukar säga ”what happens on internet stays on internet”. Datan kan alltid hamna i händerna på någon som inte är intresserad av din integritet. Vi får vara glada att Google och Facebook har någon form av intresse i de här frågorna, men man vet ju inte vad som händer i framtiden. Det är den som äger datan som   bestämmer. Det är det som kommer att bli den stora striden fram-över. Vi vill utveckla samhällsystem där jag som individ bestämmer över min data. I dag är vi rättslösa som individer, säger han.

Vad bör man göra som privatperson om man inte gillar denna utveckling?

– Det viktigaste är att man engagerar sig i debatten. Att inte vara den som bara flyter med och accepterar, vad än resultatet blir.