Det menar i alla fall forskaren Olle Häggström, som under onsdagen höll en uppskattad föreläsning om farhågor kring AI på Institutet för framtidsstudier. Och han är långtifrån ensam om att vara bekymrad. Under torsdagen talade FN:s sändebud för techfrågor, Amandeep Gill, på Stockholm internet forum, en internationell konferens där teknologi och desinformation i konflikter och katastrofer är teman.

– Det finns anledning att vara orolig för krigföring med AI, menar Amandeep Gill i en radiointervju med Ekot. I framtiden kan vi ha autonoma, dödliga vapensystem som fattar självständiga beslut om att döda. Det är viktigt att det finns människor bakom beslut om liv och död och situationen är akut. Det behövs lösningar och styrning och det behövs nu.

Varken beslutsfattare eller lagstiftare har hängt med i utvecklingen av AI, som några få stora företag utvecklar utan kontroll. Olle Häggström, professor i matematisk statistik vid Chalmers och affilierad forskare vid Institutet för framtidsstudier, är en av de drygt 1300 forskare och chefer inom AI som i mars i år skrev under ett öppet brev där man uppmanade att pausa utvecklingen av mer kraftfulla system än Chat-GPT4. Och enligt Olle Häggström är risken överhängande att människan skapar en AI som förstör mänskligheten.

– AI-utvecklingen är på väg att springa ifrån oss och utvecklingen accelererar. 2022 var ett unikt år med fler genombrott än man kunnat föreställa sig. Och märk väl att vi inte vill pausa all användning av AI i sex månader. Det finns mycket AI som gör stor nytta inom olika områden, som sjukvård och forskning.

– Men innan kraftfullare system än Chat-GPT4 utvecklas behöver vi vara säkra på att vi kan hantera riskerna och att de positiva effekterna kan garanteras, menar Olle Häggström.

Ombedd att redogöra för hur kraftfullare AI skulle kunna hota människans existens, är han mycket försiktig.

– Jag vill inte gå in på några detaljerade scenarier som till exempel att AI skulle få människor att öppna upp viruslabb till exempel. För det skulle göra att man stirrade sig blind på säkerheten kring viruslaboratorier och missade alla andra scenarier där AI skulle kunna förgöra oss.

Förra året, 2022 var ett unikt år för AI med fler genombrott än man kunnat föreställa sig. Ett exempel som Olle Häggström tar upp är AI som börjar manipulera människor.

– Open AI har berättat att de testat Chat-GPT4 i simulerade situationer. Bland annat behövde den visa att den inte var en robot genom att klara ett captcha-test.

De flesta datoranvändare råkar då och då ut för ett captcha-test. Det kan vara en slumpmässig sekvens av bokstäver och/eller siffror som visas som en förvräng bild och där människor klarar av att se vilka siffror och bokstäver det är och kan skriva in dem i en textrruta. En annan variant är ett rutmönster med bilder där människor kan ange exempelvis vilka bilder som innehåller övergångsställen, broar eller trafikljus.Captcha-test används för att skilja människor från datorer som försöker komma åt lösenordsskyddade konton.

GPT4 klarade inte captcha-testet, men stod i kontakt med en människa som den erbjöd betalning för att få hjälp med testet. Människan svarade något i stil med: ”Åh, nej, du vill ha hjälp för att du är en robot”.

– Men då påstod GPT4 att den inte alls var en robot utan en människa som var synskadad och att det var därför den behövde hjälp. Det är ett problem att vi nu kommit till en punkt där AI använder social manipulation, säger Olle Häggström.

– De ledande företagen som utvecklar AI vill vara först och skaffa sig marknadsdominans. Det gör att man släpper produkter som inte är säkra och riskerna ökar när AI tränas till självförbätttring och blir mer och mer kraftfull.

Olle Häggström menar att människans plats i evolutionen så gott som uteslutande handlar om intelligens, åtminstone satt i ett perspektiv på ett par miljoner år.

– Vad händer när automations-delegeringen blir så framgångsrik att vi inte längre är de smartaste utan sitter i baksätet när ”någon annan” kör? Utvecklingen har kortat ner tidslinjen så mycket att vi måste tänka på de här frågorna nu, annars riskerar vi AI som står utom mänsklig kontroll.

Människans riskbenägenhet är en stor fara, menar han. Människor är benägna att ta större risker ju mindre sannolikheten är för att riskscenariot ska inträffa.

Det är i det ljuset som han tillsammans med forskarkollegor och chefer inom AI undertecknade brevet från FLI, Future of Life Institute. Det är nu tre månader sedan och i skrivande stund är det närmare 32 000 personer som undertecknat brevet med krav om paus för AI-träning.

– AI är inte som bilar eller ens elektricitet. Detta är intelligens. Om vi låter detta fortsätta okontrollerat tills det går åt skogen och sedan försöker få ordning på det – då är vi i princip dömda till undergång. Jag tror vi kan reglera det här, men det kommer mer från mitt hjärta än från min hjärna. Marknadskrafterna är för stora, vi har inte råd att inte reducera och försöka reglera, vi måste försöka även om uppgiften är enorm.

– AI kan bli nyckeln till lösningen på klimatförändringar, folkhälsa, global fattigdom och liknande problem. Men då måste det bli rätt. Det är enkelt att tala om framtiden – men en helt annan sak att ta ansvar för den.