Risk för fördomsfulla robotar undersöks

– Det här är ett pilotprojekt som handlar om riskerna för jämställdhetsproblem då statliga myndigheter använder artificiell intelligens, som Skatteverket och Försäkringskassan, säger Lena Ag, generaldirektör för Jämställdhetsmyndigheten.

Tillsammans med ett företag specialiserat på artificiell intelligens, AI Sustainability Center, ska Jämställdhetsmyndigheten undersöka jämställdhetsproblem då statliga myndigheter utvecklar artificiell intelligens.

Robotarna, eller botarna som de också kallas, lär sig av den data som de får in, och kan hjälpa till att sammanställa beslutsunderlag för handläggarna. Men det har visat sig att det kan finnas en baksida.

I USA har man uppmärksammat att botar som skulle svara på frågor snabbt blev väldigt rasistiska och sexistiska.

Digitalisering

Skatteverket och Försäkringskassan vill utveckla AI-hjälpen, men också undvika att fördomar förs in i beslutsunderlagen, förklarar hon.

– Artificiell intelligens är en positiv del av digitaliseringen, rutinuppgifter kan göras enklare. Men det handlar om hur programmeringen görs.

I studien ska olika scenarier tas fram, och datan som förs in ska analyseras utifrån ett jämställdhetsperspektiv. Det handlar om att få robotarna att se upp för gamla fördomar, beteenden och oavsiktliga preferenser.

Backa jämställdheten

– Att algoritmer lär sig på historiska data riskerar att backa jämställdhetsarbetet. Det får inte hända, säger Anna Felländer, grundare av AI Sustainability Center, som ska göra studien tillsammans med Jämställdhetsmyndigheten.

Pilotstudien ska vara klar om ett år, och beräknas kosta 1,6 miljoner kronor. Därefter är syftet är att få fram en metod för att undvika att robotarna blir fulla av fördomar.

– Medborgarna ska kunna lita på att staten bemöter dem lika, säger Lena Ag.

Läs även: 1400 anställda i protest mot rasism mot AI-forskare