Kommer vi att kunna hindra AI från att ta sig alltför stora friheter i framtiden? undrar Erik Eriksson. Geoffrey Hinton, Nobelpristagare som varit med om att utveckla tekniken, har varnat för den, men hoppas på nya EU-lagar.
DEBATT. Geoffrey Hinton är en av årets Nobelpristagare i fysik. Han är verksam vid University of Toronto – och en stor kritiker av AI! Detta framför han i en intervju i tyska Der Spiegel. Hinton har sedan 1970-talet forskat om neurala nätverk, grunderna för AI. 2013 började han hos Google och medverkade till teknologins genombrott. Men 2023 sa han upp sig och lämnade Silicon Valley, eftersom han anser sig ha deltagit i att skapa ett monster.
Chat GPT var en väckarklocka, en nivå han trott skulle nås först om 50 år. Och han menar att inget företag, varken Google eller Microsoft, tänker på regler och kontroll av dessa, enligt honom, okontrollerbara och icke försvarbara teknologier. Miljoner arbetsplatser försvinner, politiska val kan manipuleras genom oändliga mängder förljugna videos, cyberangrepp förfinas ytterligare. AI kan lära in fakta om 100 miljoner patienter och deras sjukdomar och skaffa sig avancerade kunskaper om deras genom. På gott och ont?
Världens stormakter, USA, Ryssland, Kina och UK, kommer via AI att skaffa sig autonoma, dödliga vapensystem. Det senaste – aktuella – exemplet är kanske Israel, med sina fjärrstyrda it-bomber.
Analoga neurala nätverk kan inte klonas, hävdar Hinton, men deras digitala motsvarigheter kan. Man kan klona 10 000 inlärningsvilliga kopior, som sedan lär sig mer via internet, varpå de delar och kombinerar sitt vetande inbördes. Chat GPT är tillräckligt bra för att kunna tänka vidare på sådant människor startat. Storbolagen menar: Det kommer att finnas generaler som håller koll. Det fungerar inte alltid. Det kan dyka upp generaler som säger: Det är okej att döda människor. Och bolagen kan inte garantera någonting i dag. Oroande?
AI kommer att lära sig hur man behärskar de grundläggande målen, för att sedan nå de riktigt höga – och att det är effektivare att göra det utan människan. Snart kommer vi att ha flera konkurrerande superintelligenta AI. Dessa kommer att tävla, bygga upp ett behov att bli bäst och trycka ner konkurrenterna, hävdar Hinton. AI kommer, också via sina programmerare, att få alla dåliga – och bra – egenskaper människor har. En annan expert, Microsofts Mustafa Suleyman, hävdar att vi egentligen utvecklar en ny art, som kan programmera sig själv. Och då blir det farligt. Människans undergång?
Om kanske fem, högst 20 år har vi nått så långt, säger AI-veteranen Hinton. AI kommer att självt lära sig saker vi människor inte anar. Han gjorde ett experiment där han frågade Chat GPT varför en komposthög i princip fungerar som en atombomb. Båda jobbar med kedjereaktioner, blev svaret. En kontroll med kollegan Sergej Brin visade att chatboxen måste ha kommit på svaret själv. Dessa apparater är superbra på att hitta analogier. Hur utveckla ett regelverk som håller uppsikt över detta?
Geoffrey Hinton menar att den nya EU-lagstiftningen är en början, jämförbar med de första regelverken på miljöområdet. Dessa visade sig rika på kryphål, något vi fortfarande upplever med dagens miljökatastrofer. Samma sak med AI och lagstiftningen. Men sannerligen – uppfriskande med en självkritisk Nobelpristagare!
