Nyligen kom nyheten att Chat GPT nu kan hämta aktuell information från internet genom nya insticksprogram. AI-utvecklingen går i en rasande fart, enligt professorn Olle Häggström.
Chat GPT är en chattrobot eller virtuell assistent, baserad på en stor språkmodell, framtagen av företaget Open AI. Chat GPT kan till exempel besvara faktafrågor, författa texter, utforska idéer och samtala.
Syre har tidigare i texten Nu kan en robot göra dina läxor förklarat att genom tekniker som naturlig språkbehandling och maskininlärning kan chattroboten förstå och svara på frågor och förfrågningar från användaren.
Tidigare kunde Chat GPT endast svara utifrån en begränsad data, men med nya insticksprogram, plugins, får språkmodellen hjälp med att utföra vissa uppgifter. Genom det har Chat GPT gått från att vara ett verktyg till en plattform, rapporterar Ny teknik.
”Plugins kan fungera som ’ögon och öron’ åt språkmodeller. Det ger dem tillgång till en typ av aktuell, personlig eller specifik information som inte är inkluderad i träningsdata. Som svar på en användares uttryckliga begäran kan plugins också förmå språkmodeller att utföra säkra, begränsade handlingar å användarens vägnar”, uppgav Open AI enligt tidningen.
Klarna bidrar med plugins
Bland de första att bidra med plugins är reseförsäljaren Expedia, amerikanska matleveransappen Instacart och svenska Klarna, som bidrar med en koppling till sin prisjämförelsetjänst.
– Jag är väldigt glad över vår plugin för Chat GPT eftersom den klarar mina kriterier för vad jag kallar mitt ”mammatest”, det vill säga skulle min mamma förstå och ha nytta av detta. Och det gör det eftersom det är lätt att använda och verkligen löser en massa problem, säger Klarnas grundare Sebastian Siemiatkowski i ett pressmeddelande.
Där skriver de vidare: ”Osäker på vad du ska ge din systerdotter i födelsedagspresent? Nu kan du fråga Klarna som via Chat GPT presenterar ett urval av de bästa presentidéerna”.
Bland de så kallade stora språkmodellerna inom AI-utvecklingen finns utöver Open AI flera starka aktörer inklusive Google och Microsoft.
Förmåga till manipulation
En chatrobot kan hjälpa oss med en mängd praktiska uppgifter, men finns det några problem? Enligt Open AI finns risker med att Chat GPT kan surfa på webben och få tillgång till plugins. Om en plugin släpps utan adekvat säkerhet kan den till exempel användas för att skicka bedrägerimejl, spam och för att kringgå restriktioner.
Olle Häggström, professor vid Chalmers tekniska högskola, skrev debattartikeln Vi kan inte ta för givet att vi överlever en otillräckligt säkrad GPT-5 i Ny teknik den 24 mars 2023.
– Jag menar att de som är bekymrade över att artificiell generell intelligens är en existentiell risk för mänskligheten inte i första hand är bekymrade över en fysisk robot-apokalyps, utan för AI:s förmåga till social manipulation, säger han.
Artificiell intelligens (AI) kan förklaras som förmågan hos datorprogram och robotar att efterlikna människors (och andra djurs) intelligens, medan artificiell generell intelligens (AGI) är en hypotetisk AI som kan utföra samma uppgifter som en människa.
Tävlan om teknikgenombrott
Han ger exempel på hur GPT-4 i testning erbjöd en person pengar i utbyte mot hjälp att göra ett test där GPT:n behövde bevisa att den var människa. När personen på skämt frågade om GPT:n var en robot uppgav GPT-4 att den var en synskadad människa.
– Mycket tyder på att vi närmar oss en tröskelsituation där AI börjar använda social manipulation systematiskt och i stor skala, och vet vi inte att den har de mål och drivkrafter som vi vill kan det bli hur farligt som helst, säger Olle Häggström.
Han menar att problemet är AI-utecklarnas tävlan om teknikgenombrott och marknadsdominans.
– Vad talar för att ledarna för Open AI och Google inte kommer att rulla ut otillräckligt testade produkter i denna kapplöpning? Om vi inte lyckas sätta hård press på dessa aktörer är det stor risk att de inte bromsar för att lösa de besvärliga problemen i tid.
Vad är det värsta som kan hända?
– Att vi skapar en AGI som inte prioriterar mänsklig välfärd. Jag har ett favoritcitat av pionjären Eliezer Yudkowsky: ”AI:n varken hatar dig eller älskar dig, men du är gjord av atomer som den kan ha annan användning för”, säger Olle Häggström.
Han menar att kunskapen om AI behöver spridas, och hans debattartikel var en ansats till att starta en diskussion.
– Jag tycker att det vore ansvarsfullt att bromsa utvecklingen för att ge forskningen bättre möjligheter att titta på de stora frågorna.
Läs mer:
Syre förklarar: Nu kan en robot göra dina läxor
Om Chat GPT
Finns det problem med Chat GPT? När jag ställer frågan får jag fyra exempel på problem med den och liknande AI-modeller.
Kunskapsbegränsningar: Chat GPT är en AI-modell tränad på stora mängder textdata, men har begränsningar i sin kunskap, och kan ge felaktig information.
Bias: Precis som alla andra modeller som är tränade på data från verkliga människor, kan den ha en viss bias eller fördomar.
Missförstånd: Eftersom Chat GPT kan den ibland missförstå vad användaren menar eller ge svar som inte är relevanta.
Sekretessproblem: Det är viktigt att vara medveten om att användningen av Chat GPT kan innebära att känslig information delas med en tredje part.
Källa: Chat GPT
