”Säkra städer” står mot integriteten

Tänk dig att vara övervakad i realtid vart du än går, av kameror som med hjälp av ansiktsigenkänning vet var du och andra medborgare i staden befinner er. Till detta är ett avancerat datasystem inkopplat där en så kallad artificiell intelligens (AI) håller koll i realtid. Så fort incidenter inträffar utöver det systemet anser vara normalt reagerar det och tillkallar myndigheterna. Det kan vara allt från en väska som någon glömmer på en bänk till människor som bildar en lite för stor grupp på allmän plats, eller andra ”avvikande mönster” som mjukvaran upptäcker. Det låter som science fiction, men är redan i dag en verklighet i den kinesiska staden Shenzhen.

Det är det kinesiska elektronikföretaget Huawei, vars huvudkontor ligger i just Shenzhen, som står för övervakningstekniken kallad ”Safe city solution”. Huawei har på kort tid växt till att bli världens största tillverkare av telekommunikationsutrustning, efter att ha gått förbi Ericsson. Huawei hävdar stolt att deras AI-system har halverat antalet rån och stölder i staden på bara ett år. Men några problem med medborgarnas personliga integritet verkar inte oroa företaget.

– Livet är alltid en kompromiss. Vill jag känna mig säker? Självklart. Och jag oroar mig inte så mycket, jag har inte så mycket i mitt personliga liv som är intressant för speciellt många, säger Joe Kelly, pressansvarig på Huawei i Shenzhen till SVTs reporter som rapporterar från staden.

Piratpartiet oroliga

Djupare än så utforskas inte frågan i Aktuellt-inslaget. Men det finns de som är betydligt mer oroliga för den här utvecklingen. En av dem är Piratpartiets ordförande Magnus Andersson, som bor i Göteborg.

– Man kan säga att George Orwell tog i när han skrev boken 1984, men nådde inte ända fram, säger han. Det är värt att granska argumentationen för ett sånt här system. Myndigheterna tittar på när någon bryter mönster, med ett antagande att människor har något att dölja. Bakom den argumentationen finns devisen ”vi sätter reglerna och du måste följa dem”.

Han är inte överraskad av att det är Kina, där mänskliga rättigheter och friheter knappast står högst på agendan, som först implementerat systemet. Men han tror inte att det är en omöjlighet att liknande system kan komma att implementeras även i europeiska städer.

– Det är ganska troligt om vi inte tar den etiska diskussionen som följer av ny teknik. Risken finns annars att vi bara ser möjligheter och inte konsekvenser. Det hela handlar om vilket samhälle vi vill ha. Om det bara handlar om brott kan vi sätta en sändare på alla, säger han krasst.

Övervakning i Göteborg

Med fler terrorattentat och ett ökat fokus på gängbrottslighet väcks fler krav på kameraövervakning även i Göteborg, till exempel på Vårväderstorget i Biskopsgården. Och Piratpartiet jobbar i opinionsmässig motvind i frågan. I en Sifo-undersökning från 2017 (beställd av säkerhetsföretaget Securitas) svarade 82 procent av de tillfrågade svenskarna att deras integritet inte kränks av kameror på allmän plats. I en annan Sifo-undersökning svarar 90 procent av de 1 000 tillfrågade att de är positiva till övervakningskameror. Magnus Andersson menar att det hör ihop med Piratpartiets ”akilleshäl”:

– Vi ligger tio år framåt, vilket är ett jätteproblem för oss. Det är nästan science fiction vi pratar om. Människor har andra vardagsproblem som är så mycket närmre. Trygghetsargumenten låter bra till en början, men när människor känner sig ständigt övervakade kommer de aldrig att känna sig trygga.

– Vi har gått från att vara oskyldiga till dess att motsatsen bevisas, till ett system där alla är misstänkta. Vi säger inte att övervakning ska vara förbjudet, utan att det ska finnas när det finns en misstanke. Vi ska inte tråla efter misstankar. Det är den stora skillnaden mellan hur det var innan och hur vi har det i dag. Dessutom kommer alla system som byggs någon gång att utnyttjas. Se till exempel på Edward Snowdens avslöjande om den amerikanska övervakningen.

Digitalt ännu större

Den kinesiska övervakningen begränsar sig inte enbart till den fysiska världen. Det som du gör online är om möjligt ännu mer övervakat av myndigheterna. Kina har därtill inlett arbetet med att införa ett avancerat ”socialt betygssystem” (social credit system) baserat på ditt online-beteende. All din aktivitet på internet – vad du söker efter, dina inköp, vilka vänner du har på sociala medier, vad du skriver – övervakas och kommer bedömas av en hemlig algoritm. Ditt ”betyg” ska sedan kunna avgöra dina möjligheter i samhället. Redan i dag används det för att bedöma människors möjligheter att ta banklån, men i framtiden vill myndigheterna och företag använda det för en mängd olika ändamål som ännu inte är klarlagda. Men i en artikel i tidskriften Wired beskrivs att systemet kan avgöra vilka skolor du får gå på, vilka jobb du har möjlighet att söka och till och med dina chanser att få en partner. Tekniken liknar den som skildras i ett avsnitt av den dystopiska sci-fi-serien Black mirror, där människorna betygsätts i realtid – betyg som sedan avgör deras chanser i samhället.

– Det är en extremt skrämmande framtid som tar bort all form av mänsklighet. De bygger ett nytt klasssamhälle där personer med hög rating bara vill umgås med andra med hög rating, annars sjunker din rating. Det blir ett oerhört cyniskt samhälle, kommenterar Magnus Andersson.

Utöver risken att cementera klassskillnaderna i samhället är tanken inte heller långt borta att den kinesiska regimen använder datan för att försöka kväsa alla oppositionella drömmar, innan de ens nått utanför människors huvuden, ponerar Magnus Andersson.

– Det är inte bara när de ser att en demonstration uppstår ute på gatorna. De kommer att kunna förhindra den långt innan den sker, när arrangörerna kommunicerar om att de ska demonstrera. Om de ens försöker kommer de att ”justeras”, säger han.

År 2020 ska systemet införas och bli obligatoriskt för alla kinesiska medborgare. Så utöver att debattera den personliga integriteten på hemmaplan, vad kan göras för att motverka utvecklingen i andra länder?

"Det ska finnas tillit i det vi gör. Risken är annars att det blir en backlash.”

<br>Ulrika Jägare, director analytics and machine intelligence på Ericsson.

Teknikexport trots förbud

År 2014 beslutade EU-kommissionen att exporten av övervakningsteknik från europeiska företag ska förses med restriktioner. Detta efter att det framkommit att bland andra Ericsson försett ledarskapet i flera arabländer med teknik som användes för att identifiera oppositionen och slå ner protester i samband med den arabiska våren. Ericsson ska enligt Svenska dagbladet bland annat ha försett Syrien med teknik för att följa oppositionen via mobiltelefoner.

– Det är samma diskussion som kring vapen, säger Magnus Andersson. Jag anser att vi inte bör exportera den typen av mjuk- och hårdvara överhuvudtaget. För oavsett vilket land det kommer till, kommer det innebära att det landets invånare behöver bli övervakade. Och de behöver därmed anpassa sig till samhällets övervakning. Det blir ett större och större problem för individen. Var kan jag vara mig själv utan att vara övervakad? frågar sig Magnus Andersson, som anser att det krävs regleringar på europeisk nivå för att komma åt problematiken.

Men enligt en granskning från 2017 av Security for sale, ett nätverk av europeiska journalister, så har EUs medlemsstater, samt Norge, godkänt export av övervakningsprodukter åtminstone 317 gånger efter kommissionens beslut. Enbart 14 ansökningar har avslagits under perioden. Nästan var tredje exportlicens gick till export till länder rankade som ”icke-fria” (enligt tankesmedjan Freedom houses rankning av frihet och demokrati). I Sverige är det Inspektionen för strategiska produkter, ISP, som har hand om beslutet, men det går inte att få fram någon statistik från dem på grund av sekretess.

Ericsson ”håller sig borta”

På Lindholmen i Göteborg har Ericsson AI-utvecklare som arbetar med företagsinterna utvecklingsfrågor. Enligt Ulrica Jägare, direktör inom maskinintelligens och analys, har företaget medvetet hållit sig borta från teknik som inriktar sig på att samla data om individer. De säljer i dag inte den typen av övervakningsteknik som Huawei har utvecklat.

– Samhället är ganska tidigt ute i AI-frågan. Det finns många etikfrågor att ta ställning till innan. Den typen av lösningar kommer inte att komma från oss den närmaste tiden. Ericsson kan göra mycket i ”närmiljön” utan att trampa in i de områdena. Vi har börjat AI-resan inom den domän där vi har mest trovärdighet, det vill säga på nätverk-sidan. Där ska vi göra våra produkter mer intelligenta och kapabla. Vi vill istället bidra till den etiska diskussionen. Det ska finnas tillit i det vi gör. Risken är annars att det blir en backlash, säger hon.

Samtidigt medger hon att det aldrig är helt säkert att en teknik inte kan nyttjas av köparen för övervakning, som i Syrien-fallet.

– Det hade inget med AI att göra. Men så är det ju, att data som genereras i våra nät går förstås att spåra om en regim vill och kan. Vi har ett långtgående ansvar där, säger hon.

Även om systemet i Kina är betydligt mer långtgående än vad europeiska medborgare är utsatta för, så finns integritetsutmaningar även här i takt med att tekniken utvecklas. Det samlas redan i dag in oerhörda mängder data om oss när vi använder olika tjänster online, även om det är utspritt på betydligt fler aktörer, med mer eller mindre tydliga policys kring området. Att området är osäkert visar inte minst de senaste skandalerna kring Transportstyrelsens läckta data och Facebooks samarbete med Cambridge analytics, vilket befaras ha påverkat val över hela världen. Magnus Andersson anser att det krävs ett slags uppvaknande bland gemene man.

– Ja, jag brukar säga ”what happens on internet stays on internet”. Datan kan alltid hamna i händerna på någon som inte är intresserad av din integritet. Vi får vara glada att Google och Facebook har någon form av intresse i de här frågorna, men man vet ju inte vad som händer i framtiden. Det är den som äger datan som är den som bestämmer. Det är det som kommer att bli den stora striden framöver. Vi vill utveckla samhällssystem där jag som individ bestämmer över min data. I dag är vi rättslösa som individer, säger han.

Vad bör man göra som privatperson om man inte gillar den här utvecklingen?

– Det viktigaste är att man engagerar sig i debatten. Att inte vara den som bara flyter med och accepterar vad än resultatet blir.