Zoom

”Budskap som en gång var i utkanten har nu blivit mainstream”

Algoritmerna som används av sociala medier gör att radikala budskap och desinformation förstärks, något som kan leda till en radikalisering i samhället.

Medveten desinformation i kombination med sociala mediers algoritmer gör att högerextrema och radikala budskap och konspirationsteorier kan frodas och nå allt fler anhängare. Det diskuterades under ett onlineseminarium arrangerat av den oberoende tankesmedjan Friends of Europe i veckan.

Mer än 20 procent av svenska väljare röstade enligt preliminära uppgifter på Sverigedemokraterna i valet. På samma sätt går extremhögern fram i Italien, som har val om ett par veckor. Runtom i Europa går extremhögern framåt och bakgrunden är en rad faktorer, bland annat desinformation och sättet sociala medier är uppbyggda på.

– Det (budskap) som en gång var i utkanten har nu blivit mainstream.

De sammanfattande orden är Sasha Havliceks, medgrundare och vd för tankesmedjan Institute for strategic dialogue, ISD, som har startat flera initiativ för att motverka extremism och terrorism, bland annat i ett projekt där Facebook, Google och Twitter medverkar.

Under seminariet konstaterar hon att det idag blivit allt svårare att dra gränser mellan olika aktörer som sprider desinformation, konspirationsteorier och extremism, såsom ”fientliga staters” propagandamaskiner, lokala och internationella aktörer, företag och politiska aktörer.

– Alla söker i någon form splittring och att underminera den liberala demokratin och de lånar från varandras ”spelregler”. Vi har sett att detta hot blivit allt mer hybridiserat. Gränserna mellan desinformation, konspirationsteorier, hatretorik, trakasserier och våldsam extremism blir allt mer suddiga.

Syfte: att polarisera

Hon lyfter valet 2017 i Tyskland som exempel, där ISD kunde avslöja att den internationella högerextrema alt-right-rörelsen och kreml-information förstärkte varandras budskap. Samma sak har man kunnat se inför valet till Europaparlamentet 2019 och vid valet i USA, där alla möjliga taktiker användes, såsom fake news, lögner, falska konton på sociala medier och mixtrande med data.

– Vi forskare fortsätter att se storskaliga informationsoperationer, ofta transnationellt utförda, som når miljoner och åter miljoner människor, ofta med ett tydligt syfte att polarisera samhällen med falsk information, till exempel inför val, och målen är alltifrån migrationspolitik till klimatet.

Covidpandemin ledde till en boom för konspirationsteorier. ISD kunde avslöja att denna typ av innehåll ökade på sociala medier med 160 procent under mars 2020. Dessutom gjorde de en studie som visade att antisemitisk retorik på tyska ökade 13-faldigt under coronapandemin.

Sasha Havlicek är kritisk till det hon kallar för ”förvridningen av vårt informationsekosystem” och hur de stora teknikföretagen inte gör tillräckligt för att bromsa utvecklingen. Som exempel kunde ISD i en granskning tillsammans med the Guardian se att innehåll på Facebook som förnekade grymheterna som utförts av ryska armen i Butja delades långt mer än den information som var sann i de 20 länder som ingick i granskningen. Inte någonstans fanns en faktakontrollsetikett, något som Facebook åtagit sig att arbeta med.

Algoritmerna förstärker

– Det värsta av allt är att de här plattformarnas teknologiska arkitekturen, inklusive systemet och algoritmerna kring rekommendationer (av poster), helt oorganiskt förstärker skadligt, extremt och missvisande innehåll. Ofta riktas det (innehållet) till de användare som troligtvis är mest mottagliga för det.

Såväl Sasha Havlicek som de andra deltagarna i seminariet var överens om att det behövs mer kunskap kring hur algoritmerna fungerar samt bättre lagar kring vad som ska vara tillåtet och inte.

Fadi Quran är kampanjchef på organisationen Avaaz, som idag mobiliserar miljontals människor genom namninsamlingar online. Han berättade under seminariet hur medlemmarna från alla världens hörn i en enkät uttryckt oro över extremhögerns framväxt och att organisationen bör jobba på att ta fram verktyg för att motverka utvecklingen och ”föra tillbaks rörelsen i den låda där den hör hemma”.

– Det som händer i vår moderna värld idag är att tonåringar och unga i 20-årsåldern spenderar 6-7 timmar per dag med sin mobil, framförallt på sociala medier, sade han.

Även om propaganda och försök att påverka opinionen inte är något nytt fenomen så innebär sociala medier att aktörer med avsikter att påverka lättare kan få fram sitt budskap, genom att slå an till människors känslor och upplevelser i vardagen.

– Vi kan ta Sverige som exempel. Om vi har en 60-årig man i Sverige som har förlorat sitt jobb på grund av personliga orsaker, men ser att den person som sedan fick jobbet är en invandrare, som kanske kom till landet under de senaste 10-20 åren, då har dessa aktörer hittat sätt använda sociala medier för att knyta den individuella frustrationen till ett narrativ som är mycket bredare än bara den enskilda personen, sade Fadi Quran.

Får ett narrativ som förklarar

Han konstaterar att det hela inte är något litet fenomen. Till exempel hade så många som 85 procent av alla personer i USA läst någon post om att presidentvalet varit riggat.

– Allt du behöver för att radikalisera är att tre procent av de du når tror på något av innehållet i posterna och går in i din ”bubbla” och engagerar sig i liknande berättelser.

Han konstaterar att det är ett misstag att tro att personer som dras med i desinformation är ”onda människor”. Främst handlar det snarare om människor som känner sig exkluderade eller fråntagna sina medborgerliga rättigheter.

– De behöver ett narrativ som hjälper dem förstå vad som händer i sina liv, och de får detta narrativ på dessa plattformar.

För att lösa problemet behöver man göra om sociala mediers uppbyggnad så att människor inte bara utsätts för poster i sin egen ”filterbubbla”, säger Fadi Quran.

Han vill också se en ”renässans” för demokratin, bland annat genom att se till att viktig information och seriös journalistik kan nå medborgarna. Det gäller också att tänka i bredare termer, menar han.

– Många människor lever i rädsla. Klimatförändringar oroar, människor förlorar sina jobb, de oroar sig för ekonomisk dysfunktion och korrupta ledare. Vi behöver tänka över hur vi kan återbygga förtroendet i samhället.