Zoom

Varningen: ”Infokalyps” när deepfakes tar över internet

Deepfakes, eller syntetiska medier skapade med artificiell intelligens, utgör ett växande hot mot demokratiska samhällen. En rapport från The International Centre for Counter-Terrorism (ICCT) varnar för att 90 procent av allt material som läggs upp på internet 2026 kan vara genererat av AI. Specifikt varnas för högerextrema desinformationskampanjer.

Rapporten ”The Weaponization of Deepfake” gjord av tankesmedjan ICCT konstateras att deepfakes, teknik som realistiskt kan efterlikna verkliga personer och händelser, används allt mer av extrema individer och grupper för att skapa politisk oro. Fejkade videor skapas i syfte att underminera förtroendet för demokratiska institutioner och främja radikala politiska agendor. Som särskilt bekymmersamt pekas högerextrema grupper ut för att redan använda sig av deepfake-teknologi i USA, där den använts för att sprida konspirationsteorier och för att skada förtroendet för det amerikanska valsystemet.

Deepfakes i krig

Strax efter Rysslands invasion av Ukraina spreds en deepfake-video som visade Ukrainas president Volodymyr Zelensky uppmana ukrainare att kapitulera. Detta var det första välkända fallet av en deepfake under en väpnad konflikt.

Rapportförfattarna varnar för en så kallad ”infokalyps” – en era där överväldigande mängder av falsk information underminerar förtroendet för traditionella informationskällor. Med AI-teknikens framsteg och introduktionen av 5G-nätverk kan deepfakes snart manipulera videokonferenser och livestreams i realtid. Upp till 90 procent av allt onlineinnehåll kan vara syntetiskt genererat redan 2026.

Allmänheten är relativt oinformerad om deepfakes. En studie från Storbritannien från 2019 visade att 72 procent inte kände till deepfakes och deras inverkan alls, medan en senare studie fann att även de som påstod att de kunde upptäcka deepfakes regelbundet lurades av fabricerat innehåll. En studie från 2023 fann att deltagarna endast kunde identifiera en deepfake 73 procent av gångerna.

Högerextrema desinformationskampanjer

Rapporten varnar för att högerextrema grupper kan använda deepfakes för att sprida falskt innehåll som framställer offentliga personer i dålig dager. Deepfakes har redan använts i politiska sammanhang. 2018 skapade regissören Jordan Peele en video där Barack Obama kallade Donald Trump “en total idiot”. Syftet med den videon var att visa på potentialen för politisk manipulation med deepfakes. Men ett annat exempel som spreds som en del av en politisk kampanj var en modifierad video av den dåvarande talmanen Nancy Pelosi 2019. I en video framstod hon som full. Den fejkade videon spreds av Donald Trump.

Det finns risker för att deepfakes kan leda till våld och konfrontationer. Grupper kan även använda deepfakes för att skapa falska bevis för att underbygga extrema åsikter och konspirationsteorier. Tekniken kan även användas för att provocera fram politiskt våld och desinformationskampanjer, särskilt inför val, och kan framkalla politiska oroligheter.

Specifikt tar rapporten upp den misogyna så kallade Incel-rörelsen, som hävdar sig vara offer för en feministisk ordning som undertrycker män och maskulinitet.

År 2017 startade en Reddit-användare som kallade sig ”Deepfakes” diskussionstråden ”r/deepfakes”, som han ägnade åt falska, AI-genererade videor som visar kända skådespelerskors ansikten i porrvideoer. Dessa videor var övertygande och inspirerade andra användare att göra sina egna versioner och lägga ut dem online.

Även om Reddit stängde ner forumet inom några veckor på grund av ”ofrivillig pornografi”, hade skadan redan skett; ”Deepfakes” hade delat sin algoritm med resten av internet.

Idag kan icke-samtyckande pornografi utgöra upp till 96 procent av deepfake-videorna. Denna trend av ”bildbaserat sexuellt övergrepp” riskerar att utnyttjas av organiserade grupper.

Även om incelgruppers kommunikation till största delen sker online så förekommer våld. Texas Department of Public Safety har utfärdat varningar om att ”detta särskilda hot snart kan matcha, eller potentiellt överträffa, nivån av dödlighet som demonstreras av andra typer av inhemsk terrorism.”

Systemhotande

Europol samlade 80 brottsexperter under 2022 och identifierade deepfakes som en betydande utmaning för brottsbekämpning fram till 2030. USA:s Department of Homeland Security har även varnat för att deepfakes kan användas som falska bevis i rättegångar och potentiellt legitimeras i krig och uppror.

Att identifiera och åtala ansvariga för spridning av deepfakes är samtidigt en stor utmaning för rättsväsendet. Realismen i deepfakes gör dem svåra att skilja från äkta media.

Med införandet av lagar och tekniska lösningar i flera länder görs försök på att möta hotet från deepfakes. I USA finns statlig lagstiftning mot deepfake-relaterad pornografi och falskt innehåll i val, och deepfakes har identifierats som ett hot mot nationell säkerhet.

Tech-jättar som YouTube och Facebook gör försök i att utveckla AI-verktyg för att identifiera deepfakes. Även om dessa åtgärder är lovande, finns det fortfarande utmaningar, såsom deepfakes’ fortsatta utveckling och begränsningar i automatiserade detektionssystem, skriver rapportförfattarna, som efterfrågar snabbare lagstiftning.

Sociala mediejättar lättar på reglerna

I en artikel i ABC News varnar flera experter för en explosion av AI-genererade kampanjer inför det amerikanska valet. Deepfakes har börjat dyka upp i experimentella presidentvalskampanjer. Mer ondsinta versioner kan lätt spridas utan etiketter på sociala medier och lura människor dagar före ett val, rapporterar ABC. Dagar före valet i Slovakien släpptes en AI-genererad ljudinspelning där en liberal kandidat diskuterade planer på att höja ölpriser och manipulera valet.

Samtidigt skär stora sociala mediejättar ned på resurser för att moderera sina plattformar. Twitter, Meta och YouTube har tillsammans tagit bort 17 policyer som skyddade mot hat och desinformation. Twitter, Meta och YouTube har också sagt upp tusentals anställda och entreprenörer sedan 2020, varav många har varit innehållsmoderatorer.