Artificiell intelligens är självlärande teknik som skapat stora förväntningar. Med maskininlärning ska vi lösa globala och lokala utmaningar vi står inför. Oavsett om det handlar om naturkatastrofer, näthat eller framtidens bilar talar experter om AI som ett viktigt verktyg för att komma åt problem och utveckla teknik.

– Men tekniken i sig är inte neutral. Den blir inte smartare än de människor som programmerat den, säger Fredrik Heintz, docent i datavetenskap på Linköping universitet och anknuten till Stockholms nya center för hållbar AI.

Etiska risker

Verksamheten öppnade på Nybrogatan i januari i år, med syftet att ge mer kunskap och bredda diskussionen kring AI och etik. Till sin hjälp har man företag, akademiska institutioner, myndigheter och föreningar.

– Det handlar om att via tillämpad forskning och vår input kunna hjälpa företag och organisationer med att ta mera hänsyn till långsiktiga konsekvenser av utveckling av AI. Det är lätt att bara se till den kortsiktiga vinsten och glömma bort de etiska fallgroparna som finns där, säger Fredrik Heintz.

Till exempel kan den växande användningen av personuppgifter inom AI-system utgöra etiska risker som är både svåra att förutsäga och förstå. Missbruk av data kan leda till integritetskränkningar. En annan fallgrop är att programmerare oavsiktligt bygger in sina egna värderingar i algoritmen och AI som utvecklar fördomsfulla, diskriminerande eller rasistiska tendenser.

– Med större kunskap om AI och etik kan vi se till att skapa ett bättre och mindre fördomsfullt samhälle som fångar in de värderingar vi önskar se. Häri ligger styrkan hos AI-teknik, säger Fredrik Heintz.

Redan i dag finns flera exempel på att AI har utvecklats utan etisk kompass. När en amerikansk domstol använde AI för riskanalyser kalkylerade den smarta maskinen fram att svarta personer hade större risk att återfalla i brott. På grund av förlegade könsnormer rekommenderade Amazons rekryteringsapplikation vita män före andra i ansökningsprocessen. Det finns även flera exempel på ansiktsigenkänning som fungerat sämre på afroamerikaner än på ljushyade.

– Det är inte tekniken i sig som är problemet, utan hur vi väljer att använda den. Med ett bristande helhetsperspektiv missar du att representera hela grupper av individer, såsom exemplet med ansiktsigenkänningen. Här hade utvecklarna, alla vita medelålders män, bara testat tekniken på sig själva. Konsekvensen blev ett system som inte var till för alla, säger Fredrik Heintz.

Mer forskning behövs

Därför behöver vi prata mer om hur våra normer kan påverka utformningen av maskininlärning, tycker forskaren. För att ett system inte ska bli exkluderande krävs en djupare förståelse av etik och AI. Att på hållbarhetscentret bara ha de tekniska kompetenserna räcker inte långt, enligt Fredrik Heintz.

– För att lyckas krävs att att du som organisation har fler kompetenser än så. Det behövs mer tvärvetenskaplig forskning kring AI och mer tvärvetenskapligt arbete. På centret finns alla de komponenterna. Vi sprider kunskap och ger större förståelse i en mycket komplex fråga.

En fråga som blivit aktuell när det gäller artificiell intelligens är vad som händer när maskiner börjar göra människors arbete överflödigt, och om basinkomst kan vara en lösning. Men Fredrik Heintz tror inte att AI kommer att leda till någon massarbetslöshet:

– Däremot kommer troligen de flesta jobb att förändras. Det handlar inte om antingen människor eller AI, utan om att människor och AI jobbar tillsammans. AI kommer påverka det mesta i vårt samhälle. Då vi får större möjligheter att skapa det samhälle vi vill ha och vi tvingas att ställa de stora frågorna som vad innebär det att vara människa och vilket samhälle vill vi ha.