Artificiell intelligens kan i dag identifiera människor genom att mäta våra ansikten på olika sätt, och jämföra den digitala bilden med en lagrad bild. Svenska polisen har i år testat ansiktsigenkänning i brottsbekämpande syfte, något som redan används i bland annat USA, Storbritannien och Kina. Kanske loggar du snabbt in på telefonen med hjälp av tekniken. Men vilka är riskerna?
Du har rätt till privatliv. Det anses så viktigt att det står i regeringsformen, alltså grundlagen, att var och en [är] gentemot det allmänna skyddad mot betydande intrång i den personliga integriteten, om det sker utan samtycke och innebär övervakning eller kartläggning av den enskildes personliga förhållanden.
Och i EU:s stadgar om grundläggande rättigheter, som står över svensk grundlag står att Var och en har rätt till skydd av de personuppgifter som rör honom eller henne. Dessa uppgifter ska behandlas lagenligt för bestämda ändamål och på grundval av den berörda personens samtycke eller någon annan legitim och lagenlig grund. Var och en har rätt att få tillgång till insamlade uppgifter som rör honom eller henne och att få rättelse av dem. Även Europakonventionen, som införlivats i svensk lag, ger individer rätt till privatliv.
Biometriska uppgifter, till exempel foton som genom ansiktsigenkänning kan användas som identifiering av en person, klassas av Datainspektionen som känsliga personuppgifter som är extra skyddsvärda.
2. Lagarna släpar efter
Du har alltså laglig rätt till integritet. Men när det gäller reglering av den specifika tekniken ligger lagen efter. De flesta länder saknar ännu lagstiftning som regerar ansiktsigenkänningsteknologi.
EU:s dataskyddsförordning GDPR reglerar visserligen personuppgifter, vilket fick Datainspektionen att bötfälla en gymnasieskola i Skellefteå med 200 000 kronor i augusti i år. Men inom EU anses det inte tillräckligt. Enligt Financial times planeras i Bryssel ytterligare lagar för att begränsa företags och myndigheters ”urskillingslösa användande av ansiktsigenkänningsteknologi”. EU:s nytillträdda kommissionordförande Ursula van der Leyen har utlovat nya regler om AI inom 100 dagar på nya jobbet.
I länder där GDPR för närvarande gäller, som Storbritannien, använder polisen omfattande övervakning, som har kritiserats av forskare. Deras studie konstaterade bland annat att det i lagen saknas tydligt godkännande av live-ansiktsigenkänning.
3. Ansiktsregister kan hamna i fel händer
Företags insamlade personuppgifter kan användas till andra syften än vad användaren godkänt, vilket blev tydligt i Facebook-Cambridge Analytica-skandalen 2018, där miljontals människors profiler mot deras samtycke användes till politisk reklam.
Databaser med ansikten insamlade av till exempel rättsväsendet kan hackas, så att personuppgifterna hamnar i fel händer, och personuppgifter som samlats in av ett demokratiskt systems myndigheter kan hamna i andra händer om det politiska systemet ändras.
4. Tekniken fungerar rasistiskt
En rad studier har visat att ansiktsigenkänningsteknik är sämre på att identifiera personer med mörkare hud, i synnerhet kvinnor. Orsaken är att den artificiella intelligensen har tränat oproportionerligt mycket på bilder av vita män.
En risk med det är att tekniken används inom rättssystemet i USA idag, och den inlärda snedvridningen kan leda till felaktiga gripanden, ett problem som späs på av att afroamerikaner har högre risk att arresteras och få sina foton lagrade i polisens databaser för misstänkta, enligt en forskningsrapport.
5. Dåligt för demokratin
När San Francisco förbjöd ansiktsigenkänning på allmän plats i maj år kallade medborgarrättsaktivister tekniken ”oförenlig med sund demokrati”.
Massövervakning kan också avskräcka människor från att delta i politiska protester, vilket inskränker rätten att uttrycka sig, samlas och organisera sig, skriver politikforskaren Birgit Schippers på sajten The Conversation.
Läs även Ansiktsigenkänning snart i svenska butiker (artikel i dagens nummer).
Läs även Hur mycket ska storebror veta om oss (artikel från augusti 2019).
