En bra balans mellan brottsbekämpning och integritetsskydd, tycker EU-länderna efter att ha enats om nya regler för användandet av artificiell intelligens. Men delar av EU-parlamentet samt organisationen Beuc, som samlar en rad europeiska konsumentorganisationer, är kritiska.
EU-kommissionens förslag om hur man vill reglera användningen av AI – artificiell intelligens – bygger bland annat på att användningsområdena delas upp i risknivåer, där vissa saker förbjuds helt och annat ska omgärdas av hårda villkor.
Det har lett till långa diskussioner mellan medlemsländerna för att hitta balans mellan vad som ska tillåtas för vem.
Civilminister Erik Slottner (KD) är nöjd med den uppgörelse som nu klubbats på tisdagens telekomministermöte i Bryssel.
– Det kommer att göra det enklare att utveckla AI inom unionen. Det kommer att stärka unionens konkurrenskraft och därmed Sveriges konkurrenskraft, säger Slottner.
Oroliga poliser
Under tiden som frågan behandlats sedan förslaget lades i våras förra året har farhågor bland annat funnits hos polis och rättsväsende om att reglerna skulle försvåra för brottsbekämpningen.
I uppgörelsen heter det emellertid att ”flera ändringar gjorts i villkoren för användandet av AI-system för brottsbekämpning”.
– Det är precis det man har avvägt och kommit fram till en lösning där vi nu är överens om att man ska respektera mänskliga rättigheter, människors integritet, men ändå kunna använda AI som ett sätt att bekämpa organiserade brottslighet. Det är ett stort framsteg, anser Erik Slottner.
Oroliga konsumenter
Organisationen Beuc, som samlar en rad europeiska konsumentorganisationer, är emellertid kritisk.
”EU:s medlemsländer sviker konsumenterna. . . De nationella regeringarna lyckas inte öka skyddet från skadliga AI-system, som till exempel ansiktsidentifiering som görs av privata företag på offentligt tillgängliga platser,” skriver Ursula Pachl från Beuc i ett pressmeddelande.
Kritik finns även inom EU-parlamentet, som ännu inte enats om sin syn på kommissionens förslag.
När det har gjorts väntar kompromissförhandlingar med medlemsländerna i ministerrådet, preliminärt redan under Sveriges ordförandeskap i vår.
Digital plånbok
EU-ländernas telekomministrar är även överens om sin syn på kraven på obligatoriska digitala id-system i alla medlemsländer. Förhoppningen är att ”digitala plånböcker” framöver ska kunna funka oavsett var man befinner sig i EU. Samtidigt kommer det att ställa hårdare krav på det svenska systemet.
– Med ett kort ska du kunna identifiera dig på många olika ställen inom EU. Sedan behöver vi i takt med detta utveckla ett nationellt elektroniskt id som uppfyller en större tillitsnivå. Bank-id har i dag nivå tre och det kommer inte att räcka. Vi behöver komma upp i nivå fyra. Där kommer regeringen att återkomma till hur exakt det framtagandet och den implementeringen ska ske, inom ganska kort, säger Erik Slottner (KD) i Bryssel.
Fakta: Nya AI-regler i EU
I april 2021 kom EU-kommissionen med ett förslag på en förordning som ska reglera användningen av AI, artificiell intelligens. Syftet är bland annat att harmonisera reglerna för detta inom EU.
I förslaget delas användningen av AI in i olika risknivåer. En är oacceptabel risk, som handlar om när AI ”anses utgöra ett hot mot människors säkerhet, försörjningsmöjligheter och rättigheter” och som därmed kommer vara förbjuden. Som exempel kan nämnas när stater använder AI-system för ”social poängsättning”.
Som ”hög risk” räknas AI-system som används i kritiska infrastrukturer, utbildning, vid anställningar, eller av migration, asyl och gränskontroll. Dessa AI-system kommer att omfattas av ”strikta skyldigheter” innan de släpps ut på marknaden, som detaljerad dokumentation och ändamålsenlig riskbedömning. Brottsbekämpning bedöms ligga på denna risknivå.
Med ”begränsad risk” avses exempelvis chattbotar, där ett krav är att användarna ska vara medvetna om att de interagerar med en maskin. Vid ”minimal risk” ska fri användning tillåtas, som vid AI-stödda videospel eller skräppostfilter.
Källor: EU-kommissionen, regeringen.
TT
