Just nu genomför regeringen en så kallad ”kameraoffensiv”. I den ingår ett förslag om att polisen ska kunna använda sig av ansiktsigenkänning i realtid. Det vill rikspolischefen Petra Lundh se på plats så snart som möjligt.

– Det är inte ovanligt att vi har en bild på den troliga utföraren, men att vi sedan inte hittar honom eller henne, säger hon i Ekots senaste lördagsintervju. 

Ansiktsigenkänning i realtid innebär att polisen skulle använda sig av artificiell intelligens (AI) i kamerabevakningen och på så vis kunna söka efter misstänkta personer bland människor ute på stan exempelvis. Polisen ser det som ett bra verktyg för att lättare kunna hitta gängkriminella bland annat.

Men kamerabevakning med ansiktsigenkänning i realtid innebär en stor inskränkning i alla människors rätt till privatliv. 

– Ansiktsbilder och andra biometriska uppgifter klassas som känsliga personuppgifter. Det är viktigt att notera vilket integritetsintrång ansiktsigenkänning i realtid är i sig, säger Amelie Sällfors, utredare på Institutet för mänskliga rättigheter.

– Det rekommenderas att brottsbekämpande myndigheter inte ska använda sig av automatiserad ansiktsigenkänning i realtid i annat än särskilda undantagsfall.

Orsaken är att ansiktsigenkänning gör det lätt att kartlägga människor och veta var de hela tiden befinner sig. Dessutom kan metoden leda till diskriminering, uppger Centrum för rättvisa. 

– När man gör det i realtid är det stor risk att det blir felaktig träff. Metoden är mer riskfylld än vanlig kamerabevakning eller ansiktsigenkänning i efterhand, säger Alexander Ottosson, jurist och specialiserad på Europakonventionens rättighetsskydd. 

På Institutet för mänskliga rättigheter hänvisar Amelie Sällfors till att flera internationella expertinstanser inom mänskliga rättigheter varnar för riskerna med ansiktsigenkänning, som FN:s högkommissarie för mänskliga rättigheter och det europeiska nätverket för nationella institutioner för mänskliga rättigheter (ENNHRI).

Om en stat ändå vill använda sig av ansiktsigenkänning så krävs att man uppfyller en rad krav. 

– Rätten till privatliv och skyddet för den personliga integriteten är inte absoluta, till skillnad från tortyrförbudet. Det går att göra inskränkningar i dem, men då krävs att vissa kriterier är uppfyllda, säger Amelie Sällfors.

För lite analys

Men de kriterier som krävs för att ansiktsigenkänning skulle kunna användas i enlighet med Europakonventionen analyseras för lite i utredningen, anser både Centrum för rättvisa och Institutet för mänskliga rättigheter. 

Det håller organisationen Civil Rights Defenders med om. 

– Utredaren verkar inte särskilt bekymrad över riskerna och inte heller vilka säkerhetsåtgärder som behövs vidtas. Gör man inte det längre fram finns det stor risk att man bryter mot Europakonventionen, säger Aida Samani, tillförordnad biträdande chefsjurist.

Att utredningen tar upp den nya AI-förordningen, som EU röstade igenom i våras, räcker inte, anser de.

– Ansiktsigenkänningen måste regleras mer än vad som står i AI-förordningen, säger Alexander Ottosson på Centrum för rättvisa.

Men även vad gäller EU:s AI-förordning är utredningen ofullständig, anser organisationerna. I AI- förordningen står det bland annat att polisen måste fråga en oberoende myndighet om lov innan de kan använda ansiktsigenkänning. Men i den svenska utredningen står det inte vilken myndighet som skulle utfärda det tillståndet. Det är också oklart vilken oberoende myndighet som ska granska polisens användning av ansiktsigenkänningen under tiden den pågår och i efterhand. Det klargörs inte heller hur regelverket ska undvika att bli diskriminerande eller hur personer som råkat illa ut på grund av ansiktsigenkänningen ska kunna få upprättelse.

– Det är inte möjligt att börja med ansiktsigenkänning i realtid baserat på det här lagförslaget, säger Alexander Ottosson. 

Institutet för mänskliga rättigheter håller med. 

– Det saknas rättssäkerhetsgarantier i dagsläget, säger Amelie Sällfors.

Ryssland

Om tydliga lagar som begränsar ansiktsigenkänningen saknas, riskerar landet fällas i Europadomstolen för en kränkning av rätten till privatliv enligt artikel 8 i Europeiska konventionen om skydd för de mänskliga rättigheterna.

Det hände Ryssland i juli förra året efter att en rysk man – Nikolay Glukhin anmält användningen av kamerabevakning med ansiktsigenkänning i tunnelbanan.  

– Det är viktigt att komma ihåg att när man gör inskränkningar i mänskliga rättigheter så måste vi följa de här kriterierna för när man kan göra undantag. Annars finns det risk för att systemet missbrukas och används för andra syften än vad som är tänkt, säger Amelie Sällfors.

Rikspolischefen Petra Lundh anser dock i radiointervjun att det går att göra tillfälliga inskränkningar för att sedan lätta på dessa när situationen är lugnare. Men det är Civil Rights Defenders (CRD) mycket skeptiska till. 

– Vi ser på många andra platser i världen att tidsbegränsade inskränkningar av demokratiska fri- och rättigheter blir permanenta. Det är en farlig utveckling, säger Aida Samani på CRD.

Institutet för mänskliga rättigheter instämmer.

– När samhället står inför en kris eller det sker påtryckningar utifrån kan det finnas en risk för att mänskliga rättigheter börjar naggas i kanten, för att man kanske vill ha snabbare lösningar. Men det är viktigt även när det blåser tuffare vindar att man verkligen följer de här kriterierna som ställs upp för vilka inskränkningar som får ske, säger Amelie Sällfors. 

Påverkar yttrandefriheten

Rätten till privatliv handlar om att du ska kunna röra sig i samhället och tänka dina egna tankar utan risk för att bli övervakade och kartlagda av staten. Den rätten är tätt sammankopplad med andra rättigheter, som yttrandefriheten, mötesfriheten och demonstrationsfriheten, upplyser Amelie Sällfors. 

– Flera tunga instanser betonar att en alltför utökad kamerabevakning medför en risk att de här rättigheterna kränks.

Orsaken är att en för omfattande kamerabevakning riskerar göra att människor börjar självcensurera sig själva, och kanske slutar att demonstrera eller säga vad man tycker för att man är rädd för att det ska hamna på bild eller sparas på annat sätt. 

Kamerabevakning med ansiktsigenkänning gör att människor blir mindre benägna att demonstrera, visar forskning från bland annat USA. EU:s rättighetsbyrå och FN:s högkommissarie för mänskliga rättigheter tar också upp risken för detta, lyfter Amelie Sällfors. 

Diskriminering

Ansiktsigenkänning i realtid kan dessutom leda till diskriminering. Den artificiella intelligensen är ofta tränad på vita personer och män. Det leder till att AI:n oftare pekar ut fel person i de fall där gärningspersonen har mörkare hudfärg eller är kvinna. När polisen i London använde sig av ansiktsigenkänning år 2018-2019 pekade AI:n ut fel person i 81 procent av fallen, visar en studie gjord av bland annat University of Essex.

– Även om det bara är i ett inledande skede kan det ha en massa negativa konsekvenser att bli misstänkt för ett brott, säger Aida Samani.

Hon nämner att personen kan bli utsatt för fysiska ingrepp eller att polisen utökar övervakningen över personen med exempelvis telefonavlyssning eller att läsa kommunikation på internet. För den som ansöker om medborgarskap kan bara misstanken om brott fördröja processen, uppger hon. 

Om du utsätts för diskriminering genom ansiktsigenkänningen kan det också bli svårt att få upprättelse. I dag omfattas inte polisen av diskrimineringslagens förbud mot diskriminering, och hur ett sådant ansvarsutkrävande skulle gå till tydliggörs inte heller i utredningen på regeringens bord. 

– Det är väldigt svårt att utkräva ansvar om man blir diskriminerad av polisen i dag. Kan man inte garantera att enskilda som utsätts för diskriminering har möjlighet att få upprättelse ska man välja alternativa metoder för att bekämpa brottslighet, säger Aida Samani. 

Även på en samhällsnivå kan diskrimineringen få negativa konsekvenser, lyfter Institutet för mänskliga rättigheter. 

– De grupper som felidenitifieras av AI:n kan få bristande förtroende för myndigheter. Det är viktigt att individer känner att staten gör det den ska för att tillgodose mänskliga rättigheter även i tider av kris så det finns en tillit till de demokratiska institutionerna, säger Amelie Sällfors. 

Hon tillägger:

– Vi ser absolut med oro på utvecklingen med gängkriminella och den organiserade brottsligheten. Vi ser också att polisen har behov av mer effektiva verktyg för att komma åt brottsligheten, men med det sagt måste det hela tiden vara förenligt med Sveriges förpliktelser i internationell rätt, säger Amelie Sällfors.

Syre har sökt utredaren.