Snart röstar riksdagen om ansiktsigenkänning med AI i realtid

Tänk dig att ett olovligen bortfört barn som är känt för polisen förflyttas genom offentliga miljöer som tågstationer, köpcentrum och flygplats. Med den nya lagen – som tillåter användning av AI för ansiktsigenkänning i realtid – skulle polisen snabbt kunna lokalisera barnet och ingripa innan det förs utomlands, enligt den moderata riksdagsledamoten Ludvig Ceimertz.

– Det handlar om att ge polisen möjlighet att rädda liv, skydda människor i situationer där varje minut kan vara avgörande, säger han i en debatt i riksdagen under måndagen.

Ett pågående terrorbrott är ett annat exempel på fall där snabb AI-identifiering av personer som syns med kameraövervakning skulle kunna göra skillnad, menar riksdagsledamot Adam Marttinen, Sverigedemokraterna.

– I vanliga fall tar det kanske veckor att identifiera en gärningsman som begått ett allvarligt brott, och nu kan man göra det på sekunder, säger han.

Krävs misstanke om allvarligt brott

För att få använda tekniken krävs misstanke om allvarlig brottslighet och beslut från åklagare eller domstol, enligt lagförslaget (se faktaruta).

– Det här är inte ett system för generell övervakning av vanligt folk, det handlar om att använda tekniken riktat mot specifika personer riktat vid mycket allvarlig brottslighet, säger Ludvig Ceimertz (M).

Han fortsätter.

– Det finns de som menar att staten inte ska använda den här typen av teknik. Jag delar inte den uppfattningen. För alternativet är inte ett samhälle utan teknik, utan alternativet är ett samhälle där de kriminella använder tekniken men rättsstaten avstår, och det vore ansvarslöst.

Falska matchningar

Miljöpartiet har lagt en reservation mot regeringens lagförslag, och riksdagsledamot Jan Riise lyfter i debatten en farhåga om risken att fel personer matchas av AI och anklagas för brott, så kallade falska positiva resultat.

– Det finns 99 procents träffsäkerhet i labb, men i verkligheten är det långt mindre, säger han.

Hur felaktiga matchningar ska hanteras framgår inte av propositionen, påpekar Riise, som menar att det kan få mycket allvarliga konsekvenser för den enskilda.

Trots kritik mot lagförslaget menar Miljöpartiet att det det kan finnas situationer där tekniken kan vara motiverad, och föreslår ett tidsbegränsat införande så att lagen kan utvärderas innan den blir permanent.

– En sån utvärdering skulle kunna omfatta hur ofta tekniken har använts, i vilka situationer, med vilka resultat, hur ofta falska träffar har uppstått och om vissa grupper har drabbats oproportionerligt mycket, säger Jan Riise (MP).

Palantir oroar

Vänsterpartiet har lagt en reservation som accepterar lagförslaget men som bland annat kräver att domstol alltid ska fatta beslut om användandet av tekniken, inte endast åklagare.

– En avgörande fråga är också vart informationen tar vägen. Stannar den hos polisen? Det menar vi är ett oundvikligt krav, säger Gudrun Nordberg (V).

Hon fortsätter.

– En oro har gällt ett bolag som heter Palantir. Rikspolischefen och staben vägrar säga vilka bolag och plattformar de använder, men de säger att de kan garantera att informationen stannar i Sverige hos polisen, den går inte vidare. Det måste naturligtvis följas upp och vi vill ha krav på löpande tester av hur man använder det här.

Förbjudet i EU

Debattens starkaste kritik mot lagförslaget kommer från Centerpartiet.

– Det handlar om att införa en teknik för massövervakning som riskerar att underminera själva fundamenten i vårt fria öppna samhälle, och därför säger Centerpartiet nej till detta förslag, säger riksdagsledamot Ulrika Liljeberg.

Hon tar upp att ansiktsigenkänning med AI i realtid är generellt förbjudet enligt EU:s så kallade AI-förordning.

 – Det är ett viktigt ingångsvärde att ha i de här debatterna, säger Ulrika Liljeberg. 

Som skäl till EU-förbudet – som det är möjligt att få undantag från – anges bland annat att användningen av tekniken kan påverka privatlivet för en stor del av befolkningen eftersom det kan skapa en känsla av konstant övervakning. En indirekt effekt är risken att människor avskräcks från utövande av mötesfrihet och andra grundläggande rättigheter.

Grundlagsskyddad rättighet

Även Lagrådet har riktat kritik mot lagförslaget, och hänvisar till att var och en enligt Regeringsformen ska skyddas mot ”betydande intrång i den personliga integriteten, om det sker utan samtycke och innebär övervakning eller kartläggning av den enskildes personliga förhållanden”. 

I sin remiss skriver Lagrådet att förslaget innebär ”ett betydligt större ingrepp” i den grundlagsskyddade rättigheten till integritet ”än som är motiverat av det angivna ändamålet.”

Centerpartiet tar upp Lagrådets kritik i sin reservation mot lagförslaget.

– Att bekämpa brott är att försvara det öppna samhället, men vi kan aldrig försvara det öppna samhället med metoder som avskaffar det, säger Ulrika Liljeberg, C.

Men Sverigedemokraterna menar att det ur ett integritetsperspektiv snarast är en fördel att AI istället för en människa genomför identifieringen.

– AI är en garanti för att det mänskliga ögat inte behöver processa identitet hos olika personer i en skanning, utan då görs det av en funktion som inte kränker den personliga integriteten, säger Adam Marttinen (SD) i riksdagsdebatten.

Forskningsstöd bakom tekniken saknas

Som Syre rapporterat om tidigare har kritik mot lagförslaget även kommit från organisationer som arbetar för mänskliga rättigheter, till exempel Civil rights defenders. Och myndigheten Institutet för mänskliga rättigheter har sagt till Syre att lagförslaget kränker rätten till privat- och familjeliv och skyddet av den personliga integriteten.

Trots att länder som Storbritannien, USA och Australien under flera år använt ansiktsigenkänning med AI saknas forskning som visar att tekniken hjälper polisen att lösa fler brott, visar en ny studie från Malmö universitet.

– Jag blev oerhört förvånad över att det saknas empiriskt stöd, både för teknikens effektivitet och dess risker, trots omfattande användning. Det pekar på ett tydligt kunskapsgap där vi vet mer om vad människor tycker om tekniken än vad den faktiskt åstadkommer, säger Emelie Pramberg Stiernströmer, doktorand i kriminologi vid Malmö universitet i ett pressmeddelande.