Fyra nivåer av acceptabel risk men förbud mot användning av biometrisk övervakning. Det är beskedet när EU-kommissionen nu presenterar sitt lagförslag om artificiell intelligens.
Lagförslaget har som mål att ”förvandla Europa till ett globalt nav för tillförlitlig artificiell intelligens”, enligt ett pressutskick. Kommissionen påpekar att artificiell intelligens (AI) har potentiellt stor påverkan på en lång rad olika områden och att det för EU:s del dels gäller att ta till vara på medborgarnas rättigheter, dels se till att företag inom AI tillåts växa.
Lagförslaget lutar sig till största delen mot en indelning i fyra riskkategorier. Den potentiellt allvarligaste definieras som oacceptabel risk – dit hör AI som manipulerar mänskligt beteende för att kringgå människors fria vilja såväl som AI använd till att bedöma ”social status”. Den här typen av AI ska enligt lagförslaget förbjudas.
Strikta krav
Något mindre allvarligt bedöms högriskområden, däribland biometrisk igenkänning som exempelvis ansiktsigenkänning. Högriskområden föreslås lyda under strikta krav på säkerhet, integritet och möjlighet till transparens.
För de två efterföljande områdena, begränsad risk och lågrisk, föreslås inte några lika hårda krav. Begränsad risk kan exempelvis handla om en meddelanderobot på ett företags hemsida och lågrisk kan vara ett spamfilter.
Undantag för rättsväsendet
För användning av AI som inte utgör högrisk eller värre föreslås också en frivillig uppförandekod. EU-kommissionen vill vidare att medlemsländerna själva utser en intern myndighet för översyn på området.
Ett område som kommissionen lagt extra vikt vid är AI som används för aktiv övervakning av personer, exempelvis ansiktsigenkänning via övervakningskameror. Den typen av teknik kommer principiellt att vara förbjuden, däremot kommer undantag att kunna göras för exempelvis rättsväsendet i sökandet efter misstänkta brottslingar.
