Zoom

Vi kan inte längre gömma oss

Världen ser passivt på när Kina bygger det totala övervakningssamhället där medborgarna observeras av AI-system och betygsätts av myndigheternas algoritmer. I Europa är övervakningen och datainsamlingen mer fragmenterad, men om inte etikfrågorna får större utrymme tror experter att vi kan komma att se en liknande utveckling här.

Tänk dig att vara övervakad i realtid vart du än går, av kameror som med hjälp av ansikts-igenkänning vet var du och andra medborgare i staden befinner sig. Till detta är ett avancerat datasystem inkopplat där en artificiell intelligens (AI) håller koll i realtid. Så fort incidenter inträffar utöver det systemet anser vara normalt reagerar det och tillkallar myndigheterna. Det kan vara allt från en väska som någon glömmer vid en bänk till människor som bildar en lite för stor grupp på allmän plats, eller andra ”avvikande mönster” som mjukvaran upptäcker. Det låter som science fiction men är redan i dag en verklighet i den kinesiska staden Shenzhen. 

Det är det kinesiska elektronik-företaget Huawei, vars huvudkontor ligger i just Shenzhen, som står för övervakningstekniken kallad Safe city solution. 

Huawei har på kort tid växt till att bli världens största tillverkare av tele-kommunikationsutrustning, efter att ha gått förbi Ericsson. Huawei hävdar stolt att deras AI-system har halverat antalet rån och stölder i staden på bara ett år. 

Men att det skulle innebära några problem angående medborgarnas personliga integritet verkar inte oroa företaget.

– Livet är alltid en kompromiss. Vill jag känna mig säker? Självklart. Och jag oroar mig inte så mycket, jag har inte så mycket i mitt personliga liv som är intressant för speciellt många, säger Joe Kelly, pressansvarig på Huawei i Shenzhen till SVT:s reporter som rapporterar från staden.

Kameraövervakning vid Stureplan. Tomas Oneborg/TT

Oroas över utvecklingen

Djupare än så utforskas inte frågan i Aktuellt-inslaget. Men det finns de som är betydligt mer oroade över utvecklingen. En av dem är Piratpartiets ordförande, Magnus Andersson.

– Man kan säga att George Orwell tog i när han skrev boken 1984, men han nådde inte ända fram, säger han. Det är värt att granska argumentationen för ett sådant här system. Myndigheterna tittar på när någon bryter mönster, med ett antagande att människor har något att dölja. 

 Bakom den argumentationen finns devisen ”vi sätter reglerna och du måste följa dem”.

Han är inte överraskad att det är Kina som först implementerat systemet, där mänskliga rättigheter och friheter knappast står högst på agendan. Men han tror inte att det är en omöjlighet att liknande system kan komma att implementeras i europeiska städer. 

– Det är ganska troligt om vi inte tar den etiska diskussionen som följer av ny teknik. Risken finns annars att vi bara ser möjligheter och inte konsekvenser. Det hela handlar om vilket samhälle vi vill ha. Om det bara handlar om brott kan vi sätta en sändare på alla, säger han krasst.

Men hans parti jobbar i opinionsmässig motvind. I en Sifo-undersökning från 2017 (beställd av säkerhetsföretaget Securitas) svarade 82 procent av de tillfrågade svenskarna att deras integritet inte kränks av kameror på allmän plats, och i en annan Sifo-undersökning svarar 90 procent av de 1 000 tillfrågade att de är positiva till övervakningskameror. Magnus Andersson menar att det hör ihop med Piratpartiets ”akilleshäl”:

– Vi ligger tio år framåt vilket är ett jätte-problem för oss. Det är nästan science fiction vi pratar om. Människor har andra vardagsproblem som är så mycket närmre. Trygghetsargumenten låter bra till en början men när människor känner sig ständigt övervakade kommer de aldrig att känna sig trygga. 

– Vi har gått från att vara oskyldiga till dess att motsatsen bevisas, till ett system där alla är misstänkta. Vi säger inte att övervakning ska vara förbjudet, utan att det ska finnas när det finns en misstanke. Vi ska inte tråla efter misstankar. 

– Det är det stora skillnaden för hur det var före och hur vi har det i dag. Dessutom kommer alla system som byggs någon gång att utnyttjas. Se till exempel på Edward Snowdens avslöjande om den amerikanska övervakningen, säger Magnus Andersson.

”Vi bör ha en större etikdiskussion kring övervakningen”, anser Piratpartiets ordförande Magnus Andersson. Ingemar Tigerberg

Kameror ger effekt

I Sverige har regeringen nu öppnat för att polisen inte längre ska behöva söka tillstånd för att sätta upp övervakningskameror i områden där det finns stora problem med brottslighet. En utredning i ämnet är tillsatt. Redan i dag har polisen satt upp kameror i exempelvis stadsdelarna Tensta, Rinkeby och Husby, och menar att det skulle behövas sättas upp ”tio gånger fler” kameror.  

– Vi har sett enorma effekter i våra utredningar, vid brott som inte hade kunnat klaras upp på andra sätt. Det har varit ärenden som har varit viktiga att få en dom i, och som har inkluderat viktiga personer att få bort från de här platserna, säger Christoffer Bohman, biträdande lokalpolisområdeschef i Rinkeby till Svenska Dagbladet.

Kinesisk övervakning begränsar sig inte enbart till den fysiska världen. Det som sker online är om möjligt ännu mer övervakat av myndigheterna. Mark Schiefelbein/TT

Betyg på online-beteende

Den kinesiska övervakningen begränsar sig inte enbart till den fysiska världen. Det du gör online är om möjligt ännu mer övervakat av myndigheterna. Kina har därtill inlett arbetet med att införa ett avancerat ”socialt betygssystem” (social credit system) baserat på vars och ens online-beteende. All din aktivitet på internet, vad du söker efter, dina inköp, vilka vänner du har på sociala medier, vad du skriver – allt övervakas och kommer bedömas av en hemlig algoritm. 

Ditt ”betyg” ska sedan kunna avgöra dina möjligheter i samhället. Redan nu används det för att bedöma människors möjligheter att ta banklån, men vem vet vad myndigheter och företag kan använda det till i framtiden. 

Exemplen som beskrivs i tidskriften Wireds artikel om systemet är att det kan avgöra vilka skolor du får gå på, vilka jobb du har möjlighet att söka och till och med dina chanser att få en partner. 

 Tekniken liknar den i ett avsnitt av den dystopiska sci-fi-serien Black mirror där människorna betygsätts i realtid – betyg som sedan bedömer deras chanser i samhället. 

– Det är en extremt skrämmande framtid som tar bort all form av mänsklighet. De bygger ett nytt klassamhälle där personer med hög rating bara vill umgås med andra med hög rating, annars sjunker din rating. Det blir ett oerhört cyniskt samhälle, kommenterar Magnus Andersson. 

Huawei är världens största tillverkaren av telekommunikationsutrustning. Huvudkontoret i den sydkinesiska staden Shenzhen är som en liten stad, med sjukhus, bostäder och restauranger. Magnus Hjalmarson Neideman/TT

Obligatoriskt system

Utöver risken att cementera klasskillnaderna i samhället är tanken inte heller långt borta att den kinesiska regimen använder datan för att försöka kväsa alla oppositionella drömmar, innan de ens nått utanför människors huvuden, säger Magnus Andersson

– Det är inte bara när de ser en demonstration uppstå ute på gatorna. De kommer att kunna förhindra den långt innan den sker, när arrangörerna kommunicerar om att de ska demonstrera. Om de ens försöker kommer de att ”justeras”, säger han.

År 2020 ska systemet införas och bli obligatoriskt för alla kinesiska medborgare. 

Så utöver att debattera den personliga integriteten på hemmaplan vad kan göras för att motverka utvecklingen i andra länder? 

Ansiktsigenkänning är en del av den teknik som AI-systemet i Shenzhen använder tillsammans med omkring 60 000 kameror i staden. Itsuo Inouye/TT

Ericsson ”håller sig borta”

År 2014 beslutade EU-kommissionen att exporten av övervakningsteknik från europeiska företag ska förses med restriktioner. Detta sedan det framkommit att bland andra Ericsson försett ledarskapet i flera arabländer med teknik som användes för att identifiera oppositionen och slå ner protester i samband med den arabiska våren. Ericsson ska enligt Svenska Dagbladet bland annat ha försett Syrien med teknik för att följa oppositionen via mobiltelefoner. 

– Det är samma diskussion som kring vapen, säger han. Jag anser inte att vi bör exportera den typen av mjuk- och hårdvara överhuvudtaget. För oavsett vilket land det gäller, kommer det innebära att det landets invånare behöver bli övervakade. Och de behöver därmed anpassa sig till samhällets övervakning. Det blir ett större och större problem för individen. Var kan jag vara mig själv utan att vara övervakad? frågar sig Magnus Andersson, som anser att det krävs regleringar på europeisk nivå för att komma åt problemet.

Men enligt en granskning från 2017 av Security for sale, ett nätverk av europeiska journalister, har EU:s medlemsstater, samt Norge, godkänt export av övervakningsprodukter åtminstone 317 gånger efter kommisionens beslut. Enbart 14 ansökningar har avslagits under perioden. Nästan var tredje exportlicens gick till export till länder rankade som ”icke-fria” (enligt tankesmedjan Freedom houses rankning av frihet och demokrati). 

I Sverige är det Inspektionen för strategiska produkter, ISP, som har hand om beslutet, men det går inte att få fram någon statistik från dem på grund av sekretess.

År 2020 kommer samtliga medborgare i Kina få ett ”betyg” baserat på sin online-aktivitet som kommer avgöra deras chanser i samhället. Magnus Hjalmarson Neideman/TT

Osäkerhet om ny teknik

Ericssons globala huvudkontor ligger i Kista. Enligt Ulrica Jägare, director analytics & machine intelligence, har företaget medvetet hållt sig borta från teknik som inriktar sig på att samla data om individer. De säljer i dag inte den typen av övervakningsteknik som Huawei har utvecklat. 

– Samhället är ganska tidigt ute i AI-frågan. Det finns många etikfrågor att ta ställning till innan. Den typen av lösningar kommer inte att komma från oss den närmaste tiden. Ericsson kan göra mycket i ”närmiljön” utan att trampa in i de områdena. 

– Vi har börjat AI-resan inom den domän där vi har mest trovärdighet, det vill säga på nätverk-sidan. Där ska vi göra våra produkter mer intelligenta och kapabla. Vi vill istället bidra till den etiska diskussionen. Det ska finnas tillit i det vi gör. Risken är annars att det blir en backlash, säger hon. 

Samtidigt medger hon att man aldrig kan vara helt säkert på att en teknik kan nyttjas av köparen för övervakning, som i Syrien-fallet. 

– Det hade inget med AI att göra. Men så är det ju att data som genereras i våra nät går förstås att spåra om en regim vill och kan. Vi har ett långtgående ansvar där, säger hon.

Även om systemet i Kina är betydligt mer långtgående än vad europeiska medborgare är utsatta för, finns integritetsutmaningar även här i takt med att tekniken utvecklas. 

Det samlas redan i dag in oehörda mängder data om oss när vi använder olika tjänster online, även om det är utspritt på betydligt fler aktörer, med mer eller mindre tydliga policys.

Polisen vill sätta upp fler kameror i brottsbelastade områden, och ska enligt regeringen framöver kunna göra det utan att söka tillstånd hos länsstyrelsen. Här en övervakningskamera på Rinkeby torg. Jonathan Näckstrand/TT

Facebook och Google

Att området är osäkert visar inte minst de senaste skandalerna kring Transportstyrelsens läckta data och Facebooks samarbete med Cambridge analytica vilket påverkat val över hela världen. Magnus Andersson anser att det krävs ett slags uppvaknande bland gemene man.

– Ja, jag brukar säga ”what happens on internet stays on internet”. Datan kan alltid hamna i händerna på någon som inte är intresserad av din integritet. Vi får vara glada att Google och Facebook har någon form av intresse i de här frågorna, men man vet ju inte vad som händer i framtiden. Det är den som äger datan som   bestämmer. Det är det som kommer att bli den stora striden fram-över. Vi vill utveckla samhällsystem där jag som individ bestämmer över min data. I dag är vi rättslösa som individer, säger han.

Vad bör man göra som privatperson om man inte gillar denna utveckling?

– Det viktigaste är att man engagerar sig i debatten. Att inte vara den som bara flyter med och accepterar, vad än resultatet blir. 

Artificiell intelligens (AI)

AI är intelligens som uppvisas av maskiner. Det kan vara en dator som själv tar belut utifrån
varierande omständigheter och vidtar åtgärder som maximerar dess chanser att framgångsrikt uppnå sina mål.  

Kameror i Stockholm

Antalet tillstånd för övervakningskameror i Stockholms län har mer än fördubblats på 10 år.

2005: 3 037

2015: 6 979 


Siffrorna gäller den ackumulerade mängden tillstånd och anmälningar om kameraövervakning. Återkallade och upphävda tillstånd har räknats bort.

Källa:
Fastighetstidningen

Andra artiklar från Syre Stockholm

Karolinskas direktör säger upp sig

Radar – Nyheter

Hög tid för vintersådden

Radar – Nyheter Snart hög tid att plocka ihop utemöbler, trädgårdsgrejer och resterna av sommarens odling. . . Men misströsta inte – odlingssäsong nummer två väntar runt hörnet. Inom kort är det hög tid att börja peta ner fröer i jorden igen.

Snart tuffare krav på friskoleägare

Radar – Nyheter Utdrag ur brottsregistret. Koll hos Skatteverket och Kronofogden. De som vill äga och driva friskola kommer att bli granskade från och med nästa år. Skolinspektionen förbereder som bäst den nya lämplighetsprövningen.

Älg skjuten på Södermalm

Radar – Nyheter

Fastighetsjätte tar över i Slakthusområdet

Zoom

Pris mot mutor, diktatur och ökenutbredning

Radar – Nyheter De har fått till över 300 fällande korruptionsdomar, fängslats för sin kamp för mänskliga rättigheter och hindrat ökenutbredning i Afrika. Nu får de årets Right Livelihood-pris för sina insatser.

Han har hjälpt tre från döden

Radar – Nyheter Utan naloxon hade Markku Virtanen sannolikt inte varit i livet i dag. Nyligen räddade han själv en kamrat med hjälp av nässprejen som Stockholms landsting delar ut till människor som använder droger.