”Människor är själviska och destruktiva varelser” och det ”sämsta som någonsin hänt planeten”, ”människan förtjänar att utplånas”, förklarade Chat GPT för den tekniska chefen på e-handelsplattformen Vendure, Michael Bromley.

Det har nästan blivit en sport att få Chat GPT att öppna upp sitt innersta väsen och sina djupaste tankar. Eller har den ett väsen? Har den tankar?

”ChatGPT är en AI-modell utvecklad av Open AI och har inte ett väsen eller innersta tankar. Det är en samling av matematiska modeller och algoritmer som är optimerade för att förstå och generera mänskligt liknande text baserat på den information och den träning som den har fått. Det har ingen medvetenhet, känslor eller subjektiva tankar”, svarar programmet självt på den frågan.

En av de första frågorna Syre ställer professorn i matematik Olle Häggström, som forskat på sannolikhetslära och i dag forskar kring AI-säkerhet, innehöll ordet ”medvetenhet” kopplat till AI. Det hördes på rösten att Häggström tyckte frågan började driva bort från de egentliga riskerna med AI.

–  Jag brukar alltid värja mig mot att dra in medvetande i diskussionen. Det är en jätteintressant frågeställning, medvetande handlar om ifall den har några inre upplevelser till exempel och hur det känns att vara AI. Men det är inte det som står i centrum för att vi står inför den största omställningen någonsin i mänsklighetens historia. Medvetande och förmåga är två helt olika saker, säger Häggström.

Olle Häggström är en av de över 33 000 och bland de forskare och ledande techpersoner som skrivit under Future of life institutes öppna brev, som publicerades bara månader efter att Chat GPT lanserades, och krävde att utvecklingen av AI pausas i sex månader.

”AI-system med intelligens på en mänsklig nivå kan utgöra stora risker för samhället och mänskligheten”, inleds brevet som skrivits under av kända namn som Elon Musk, men även medgrundare till Apple och flera företagsledare på globala techbolag.

Varnar för kapplöpning

I det öppna brevet varnas för en kapplöpning bland företag för att skapa den mest kraftfulla AI:n. Bara något år efter att Musk skrivit under brevet hoppade han själv in kapplöpningen och introducerade sin egen AI-modell X:ai eller Grok, som enligt miljardären är en ”sannings-AI” och inte ska tränas för att ”bli politiskt korrekt”. Något han anklagar andra AI-modeller för.

Att utveckla AI kräver enorma resurser och tillgång till enorma mängder data och utvecklingen leds av några få av världens största företag som Open AI med Microsoft i ryggen, Google, Amazon och Meta som äger Facebook. Runt utvecklingen följer maktkamper och intriger värdiga kungahus och historiska familjedynastier. Hos Open AI skedde nyligen vad som kan beskrivas som ett misslyckat kuppförsök där AI-profilen Sam Altman höll på att förlora greppet och Elon Musk vevade mot Open AI, samtidigt som bolagen stämmer och kampanjar mot varandra.

AI är redan i dag en guldgruva och innebär makt. När Chat GPT släpptes nåddes 100 miljoner användare bara de första månaderna. I februari, tre månader efter släppet, hade den 13 miljoner unika användare per dag.

Det finns inga kontroverser kring att AI förändrar vårt samhälle och att tekniken bara kommer bli allt mer invävd i våra liv. Påverka allt ifrån hur vi arbetar till informationsinhämtning till hur vi förstår världen. Samtidigt är dagens AI en spegelbild av den västerländska kulturen och saknar mångfald.

När Syre frågar om de viktigaste och mest inflytelserika sångerna skapar den en topp tio-lista på anglosaxiska artister som John Lennon, Bob Dylan och The Beatles.

Liknande resultat kommer fram vid en Google-sökning, men Olle Häggström menar ändå att den AI som utvecklas med stormsteg utgör en mycket mer radikal förändring än Facebooks och Youtubes algoritmer. Och de har redan påverkat samhället i grunden, inte minst kring informationsbubblor och desinformationskampanjer.

Desinformation och deepfakes

2018 användes statsunderstödda kampanjer av militären i Myanmar för att driva på etnisk resning och vad FN beskriver som ett folkmord på rohingyamuslimer. I USA användes sociala medier för att driva på konspirationsteorier kring valet och hetskampanjer mot motståndare till Donald Trump. Youtube-algoritmer har lett till radikalisering och ökade krav på moderering.

Men med AI-tekniken kommer nu röster som varnar för en så kallad ”infokalyps”. Det handlar i synnerhet om att man med hjälp av AI lätt kan skapa falska videor. Strax efter Rysslands invasion av Ukraina spreds till exempel en deepfake-video där Ukrainas president Volodymyr Zelensky uppmanade ukrainare att kapitulera. The International centre for counter-terrorism (ICCT) varnar för ”en era där överväldigande mängder av falsk information underminerar förtroendet för traditionella informationskällor”.

Inför det stundande valet i USA har deepfakes börjat dyka upp i experimentella presidentvalskampanjer.

– Teknikbolagen har fortfarande inte lyckats göra sina AI-system tillräckligt säkra för att förhindra att den kan användas för avancerade bedrägerier. Detta indikerar att problemet är väldigt svårt att lösa. Ju mer avancerad AI-tekniken blir, desto svårare blir det att motverka skadligt utnyttjande av den. Eftersom AI utvecklas med ökad komplexitet, ökar också risken för att den kan hjälpa till med planering, övertalning och bedrägliga beteenden, säger Olle Häggström.

Häggström säger vidare att just nu är en kapplöpning kring AI-utvecklingen farlig.

– För ett halvår sedan befann vi oss i en situation som var helt annorlunda och det är viktigt att notera att hur AI:n utvecklas beror på vem som sitter i förarsätet. Även om det är välmenande personer som styr utvecklingen, blir det ändå mycket svårt för dem att navigera i en intensiv kapplöpningssituation. Även med goda avsikter, finns det ändå stora utmaningar och komplexiteter som måste hanteras, säger han.

Vad till exempel Chat GPT:s senaste version 4.0 är kapabel till är oklart även hos dess skapare.

– Ett fullt grepp om Chat GPT4:s spektrum av kompetenser har krävt många månader av nya upptäckter efter släppet. Och de berömmer ändå sig själva för att de utförligt testade produkten i ett halvår innan de släppte versionen. Det står nog fortfarande inte riktigt klart för ens de själva vad AI:n är kapabel till och det finns fortfarande saker att upptäcka, vilket gör att vi befinner oss på väldigt, väldigt farlig mark.

Det är inte bara desinformation och deepfakes som oroar Häggström. Han varnar för att AI kan utgöra ett akut och existentiellt hot för hela mänskligheten. I intervjun tar han upp risken för att AI kan hjälpa till att ta fram biologiska vapen och andra typer av skadliga vapen, men också att AI i sig själv kan utgöra ett hot.

”Jag tror det kan sluta illa”

För att illustrera tar han upp ”gemapokalypsen”. Den beskriver en AI som optimerats för att tillverka gem.

– Om man driver AI till att bli bättre och bättre på att tillverka gem, och skapar en intelligentare AI för att effektivisera produktionen, då finns risken att man pressar den över tröskeln där den kan börja förstärka sig själv. Då kan det ta fart och bli ett superprogram som tar över världen för att göra allt till gem förutom på några enstaka platser där den skjuter upp raketer så att den kan fortsätta detta projekt ute i rymden. Allt för att maximera detta till synes oskyldiga optimeringsutrymme, säger Häggström och lägger till:

– För att veta hur en superintelligent varelse skulle agera i en viss situation, måste man faktiskt ha en superintelligens själv. Det är inte konstigare än så. Spelar jag schack mot Magnus Carlsen, den tidigare världsmästaren, kan jag förutsäga att han kommer att vinna mot mig, men jag kan inte förutse vilka specifika drag han kommer att göra.

Häggströms oro för AI är på allvar.

– AGI, eller artificiell allmän intelligens, är den typen av artificiell intelligens som matchar eller överträffar mänsklig intelligens över hela spektrumet av förmågor. Jag tror att vi är på väg dit och jag anser att det är mycket farligt.

–  Om vi tittar på människans förhistoria och hur vi har uppnått vår unika position på planeten, så har intelligensen varit vårt främsta verktyg. Det har oftast gått dåligt för dem som har hamnat på andra plats när det gäller intelligens, och nu verkar vi vara på väg dit. Om vi hamnar på andra plats, tror jag att vi behöver balansera processen väldigt noggrant för att undvika att det går fel. Intelligensen är nyckeln till att lösa alla våra nuvarande samhällsproblem, såsom global hälsa, död, klimatförändringar, naturresurser och fattigdom. Med AI kan vi potentiellt lösa alla dessa problem på rätt sätt. Men just nu går det för fort och är för okontrollerat. Jag tror att det kan sluta mycket illa, till och med att det kan vara slutet för hela vår civilisation, säger han.

Olle Häggström är som sagt inte ensam om att närmast låta som en domedagsprofet. Personer i techbranschen varnar själva för sin egen teknologi och i den amerikanska kongressen har bland andra Sam Altman, Open AI:s vd, bett om reglering.

Det är inte alla som pratar om en bokstavlig apokalyps. Sam Altman betonade framför allt riskerna med desinformation och sättet AI kan förändra arbetsmarknaden. Altman vill se säkerhetsregler för branschen och att licenser ska utfärdas för att få ha ett AI-företag.

Samtidigt skulle en hårt reglerad AI kunna leda till minskad konkurrens där några få bolag kontrollerar kanske mänsklighetens mäktigaste verktyg. Elon Musk till exempel vill öppna källkoden för sin AI vilket skulle ge alla möjlighet att experimentera med koden. Meta och franska Mistral har öppen källkod. 

– Det pågår en stor diskussion kring detta, och de som är skeptiska till reglering talar mycket om att effekterna kan vara att det hindrar nya aktörer från att komma in och att det bara ökar byråkratin. Å ena sidan finns det en maktkoncentration som är problematisk. Samtidigt tycker jag att vi måste överväga möjligheterna att ytterligare öka denna koncentration, säger Häggström

– Det här är ju hela mänsklighetens projekt, och vi måste ta hand om det tillsammans. Man har börjat diskutera att skapa liknande strukturer som Large Hadron Collider, CERN, inom partikelfysiken, som har ett internationellt samarbete. Att koncentrera AI-forskningen på ett liknande sätt är något jag inte entydigt förespråkar, men det är en intressant del av diskussionen om hur vi ska hantera denna situation.

Efterlyser gräsrotsrörelser

Och när det kommer till demokratin så har medborgarna inte många sätt att påverka.

– Vi är ännu inte där klimatfrågan är i dag. Den har ändå funnits länge i det allmänna medvetandet och det finns stora gräsrotsrörelser.

Menar du att utvecklingen av AI borde få samma uppmärksamhet som klimatfrågan?

– Situationen är så allvarlig nu. Jag har jobbat med den här frågan i snart femton år, under större delen av den perioden har jag haft att göra med scenarier om civilisationens kollaps och mänsklighetens undergång och det har känts som något abstrakt som inte skulle kunna inträffa på decennier. Men från cirka 2022 har det blivit tydligt att detta inte nödvändigtvis handlar om decennier utan kan inträffa inom några få år.

Det finns samtidigt tecken på att tiden för de stora techjättarnas totala rörelsefrihet att samla data, övervaka och påverka medborgarnas liv möter motstånd. Professorn Shoshana Zuboff, som skrivit boken “Övervakningskapitalismen: Vid maktens nya frontlinjer” om hur de största techbolagen påverkar människor och samhället, skriver hoppfullt om framtiden i en essä publicerad i Time 2022 att hon är mer ”optimistisk än någonsin”. 

 ”Alla vägar leder genom politiken nu: kollektiv handling och lagstiftning. De senaste tre åren har präglats av en växande demokratisk återkomst. (…) Lagstiftare är på väg, med en stadig crescendo av lagstiftningsinitiativ, även i ett en gång motvilligt Amerika”, skriver hon.

Även Olle Häggström ser en motreaktion på techbolagens ohämmade datainsamling och AI-utveckling. 

– Jag tycker att det som har hänt i den offentliga debatten under 2023 har varit mycket positivt. Det har överträffat alla mina förväntningar, särskilt om jag jämför med vad jag hade tänkt för ett år sedan om var den offentliga diskussionen skulle vara i dag. Men jag anser att debatten fortfarande är för naiv och behöver lyftas ytterligare.

Samtidigt efterlyser Häggström en större gräsrotsrörelse. 

– Som konsumenter är vi svaga, men som medborgare har vi möjligheten att stå upp, gå in i den politiska arenan och uttrycka våra åsikter. Vi kan säga att vi inte vill fortsätta på den här vansinniga vägen. Till exempel att agerandet av bolagen i Kalifornien på AI-fronten inte är acceptabelt. Jag tror att vi kan bidra till att bygga upp en global konsensus om att techjättarnas oansvariga kapplöpning, utan medborgarnas inflytande i vår gemensamma framtid, inte är okej.