Radar · Utrikes

Upprop kritiserar kapplöpning mot kraftfullare AI-system – kräver paus

Rullar teknikföretagen för snabbt ut kraftfull artificiell intelligens (AI) som en dag kan överlista människor? Den menar en grupp framstående datavetare och andra inom industrin som kräver en 6-månaders paus för att överväga riskerna.

I ett öppet brev uppmanas de som arbetar med utveckling av artificiell intelligens och kraftfullare AI-system att pausa den i sex månader för att ge oberoende experter tid att granska säkerheten. Bland undertecknarna finns Steve Wozniak, Apples medgrundare, och Elon Musk, vd för Tesla motors och Twitter.

I det öppna brevet står bland annat att ”AI innebär en djupgående förändring i livet på jorden och bör planeras och hanteras med motsvarande omsorg och resurser. Tyvärr sker inte det och vi har under de senaste månaderna sett AI-utvecklare i en okontrollerbar kapplöpning för att utveckla och implementera allt mer kraftfulla digitala sinnen som ingen – inte ens deras skapare – kan förstå, förutsäga eller pålitligt kontrollera.”

Uppropet kommer ett par veckor efter lanseringen av bolaget Open AI:s nästa version av språkmodellen GPT-4. Den kan till exempel besvara faktafrågor, författa texter, utforska idéer och samtala. Konkurrenterna är bland andra Google och Microsoft.

Bakom brevet står Future of life institute, en amerikansk organisation vars mål är att arbeta för att minska existentiella risker för mänskligheten.

Viktigt med granskning 

I brevet står också att det från Open AI tidigare uttryckts att det är viktigt att i framtiden tillåta en oberoende granskning av kommande AI-system.

Vidare skrivs: ”Vi måste fråga oss själva: Ska vi låta maskiner översvämma våra informationskanaler med propaganda och osanning? Ska vi automatisera alla jobb, inklusive de meningsfulla? Ska vi utveckla icke-mänskliga medvetanden som till slut kan överträffa och ersätta oss?”

De som skriver under vill se att kraftfulla AI-system utvecklas ”när vi är övertygade om att deras effekter kommer att vara positiva och deras risker hanterbara”.

Till dags dato har 1377 personer signerat brevet.

Läs mer:

Nu kan Chat GPT surfa på nätet – men hänger vi med i utvecklingen?

Nu kan en robot göra dina läxor