Radar · Nyheter

”Tekniken inte smartare än de som programmerar”

Tengai som lanseras i maj 2019 är enligt tillverkaren ”världens första sociala och fördomsfria intervju-robot som utmanar den traditionella anställningsintervjun och gör den mer rättvis för alla jobbsökare.

Rasistisk och sexistisk artificiell intelligens, finns det? Jo – eftersom den är skapad av människor. För att se till att den nya tekniken i stället blir en god kraft har ett center för hållbar AI slagit upp dörrarna i Stockholm.

Artificiell intelligens är självlärande teknik som skapat stora förväntningar. Med maskininlärning ska vi lösa globala och lokala utmaningar vi står inför. Oavsett om det handlar om naturkatastrofer, näthat eller framtidens bilar talar experter om AI som ett viktigt verktyg för att komma åt problem och utveckla teknik.

– Men tekniken i sig är inte neutral. Den blir inte smartare än de människor som programmerat den, säger Fredrik Heintz, docent i datavetenskap på Linköping universitet och anknuten till Stockholms nya center för hållbar AI.

AI:n Sophia aktiverades 2016, och är den första roboten att få medborgarskap (i Saudiarabien)
AI:n Sophia aktiverades 2016, och är den första roboten att få medborgarskap (i Saudiarabien). Här talar hon på mötet AI for good Summit i Geneve 2017. Foto: TNG

Etiska risker

Verksamheten öppnade på Nybrogatan i januari i år, med syftet att ge mer kunskap och bredda diskussionen kring AI och etik. Till sin hjälp har man företag, akademiska institutioner, myndigheter och föreningar.

– Det handlar om att via tillämpad forskning och vår input kunna hjälpa företag och organisationer med att ta mera hänsyn till långsiktiga konsekvenser av utveckling av AI. Det är lätt att bara se till den kortsiktiga vinsten och glömma bort de etiska fallgroparna som finns där, säger Fredrik Heintz.

Till exempel kan den växande användningen av personuppgifter inom AI-system utgöra etiska risker som är både svåra att förutsäga och förstå. Missbruk av data kan leda till integritetskränkningar. En annan fallgrop är att programmerare oavsiktligt bygger in sina egna värderingar i algoritmen och AI som utvecklar fördomsfulla, diskriminerande eller rasistiska tendenser.

– Med större kunskap om AI och etik kan vi se till att skapa ett bättre och mindre fördomsfullt samhälle som fångar in de värderingar vi önskar se. Häri ligger styrkan hos AI-teknik, säger Fredrik Heintz.

Redan i dag finns flera exempel på att AI har utvecklats utan etisk kompass. När en amerikansk domstol använde AI för riskanalyser kalkylerade den smarta maskinen fram att svarta personer hade större risk att återfalla i brott. På grund av förlegade könsnormer rekommenderade Amazons rekryteringsapplikation vita män före andra i ansökningsprocessen. Det finns även flera exempel på ansiktsigenkänning som fungerat sämre på afroamerikaner än på ljushyade.

– Det är inte tekniken i sig som är problemet, utan hur vi väljer att använda den. Med ett bristande helhetsperspektiv missar du att representera hela grupper av individer, såsom exemplet med ansiktsigenkänningen. Här hade utvecklarna, alla vita medelålders män, bara testat tekniken på sig själva. Konsekvensen blev ett system som inte var till för alla, säger Fredrik Heintz.

”Det är sällan så att utvecklare medvetet struntar i etiska aspekter, utan det handlar om okunskap och perspektiv man omedvetet missar”, säger Fredrik Heintz. Foto: Mikael Hansson Foto:
Självkörande buss i Kista i det första försöket med självkörande fordon på allmän väg i Sverige, januari 2018. Etiken kring självkörande bilar kan röra besluten som bilen måste fatta i en oväntad situation. Foto: Marko Säävälä / TT Foto:
Öppna i helskärm
1 / 2

Mer forskning behövs

Därför behöver vi prata mer om hur våra normer kan påverka utformningen av maskininlärning, tycker forskaren. För att ett system inte ska bli exkluderande krävs en djupare förståelse av etik och AI. Att på hållbarhetscentret bara ha de tekniska kompetenserna räcker inte långt, enligt Fredrik Heintz.

– För att lyckas krävs att att du som organisation har fler kompetenser än så. Det behövs mer tvärvetenskaplig forskning kring AI och mer tvärvetenskapligt arbete. På centret finns alla de komponenterna. Vi sprider kunskap och ger större förståelse i en mycket komplex fråga.

En fråga som blivit aktuell när det gäller artificiell intelligens är vad som händer när maskiner börjar göra människors arbete överflödigt, och om basinkomst kan vara en lösning. Men Fredrik Heintz tror inte att AI kommer att leda till någon massarbetslöshet:

– Däremot kommer troligen de flesta jobb att förändras. Det handlar inte om antingen människor eller AI, utan om att människor och AI jobbar tillsammans. AI kommer påverka det mesta i vårt samhälle. Då vi får större möjligheter att skapa det samhälle vi vill ha och vi tvingas att ställa de stora frågorna som vad innebär det att vara människa och vilket samhälle vill vi ha.

AI Sustainability centre Stockholm

• Hållbarhetscentret grundades av Anna Felländer och Elaine Weidman Grunewald. Det får stöd från företag som Bonnier, Microsoft och Telia. Arbetet sker multidisciplinärt, med bidrag från till exempel juridik, genusvetenskap och samhällsvetenskap. Från den akademiska världen finns medarbetare från KTH, Karolinska institutet, Lunds universitet, Umeå universitet och Linköpings universitet. Från myndighetshåll deltar Skatteverket.
• Värden som ska genomsyra verksamheten är mångfald, jämställdhet och transparens.