– Internet är inte samma sak idag som för 15 år sedan. Det har skett en återcentralisering där övervakning är inbyggt i strukturerna.

Orden är Jonas Andersson Schwarzs. Han är forskare inom medie- och kommunikationsvetenskap och vikarierar som programchef för den liberala tankesmedjan Fores program Digitala samhället. De står bakom utgivningen av boken Plattformssamhället och arrangerade tillsammans med Ekocentrum ett samtal om utmaningarna med algoritmer, automatisering och AI förra veckan på Dome of Visions på Lindholmen. Deltog gjorde även Tiina Männistö-Funk, teknikhistoriker på Chalmers som undersöker hur vi människor använder vardagstekniker och Karl Palmås, docent på Chalmers som forskar i hur maskiner och teknologier samverkar med samhälleliga föreställningar.

– Vi är lite av nejsägarna på Chalmers. Skolan har ju Avancez (framåt) som motto, och då är vi de som säger; ”ja men vänta lite”, förklarar Karl Palmås.

De tre började använda internet i tonåren, då ett fenomen som hade stora ideal kopplat till sig. Det nya mediet var demokratiskt och fritt – alla kunde skapa och få tillgång till information på lika villkor. Open source och fri fildelning var stora frågor i internets barnår.

– Vår generation är en del av en väldigt idealistisk bild av internet, den som kom efter oss är möjligen något mer försiktig, beskriver Karl Palmås.
Sedan dess har mycket hänt. IT-bubblan sprack men internet-användandet växte och nu bär vi med oss internet i fickan hela dagarna. En allt större del av vår vakna tid spenderas online och mångas vardag är beroende av några få stora aktörers tjänster, såsom Facebook och Google. För att solla i det nästintill oändliga flödet av information har algoritmerna börjat sortera åt oss vad vi ska se i våra flöden. Men vad de har för urvalskritier för det som väljs ut är det knappt någon som vet. Det är heller ingen som riktigt vet vad denna styrning får för effekt på samhället i stort.

”Nästan som magi”

– Företagen behöver inte veta så mycket om vad algoritmerna leder till i det stora, bara det stödjer deras mål. Det är nästan som spådom. Men vi som forskare behöver veta kausaliteten. Hur är datan bearbetad och hur tas resultatet fram. Eftersom vi inte har någon inblick i detta – blir det nästan som magi, utvecklar Karl Palmås.

Som användare av de här tjänsterna får man inte veta hur de beslutar om vad vi ska exponeras för. Eftersom flera aktörer mer eller mindre loggar allt vi gör online har de en enorm mängd data att avläsa, och i vissa fall verkar de pricka skrämmande rätt.

– Detta tror jag många funderar över då och då när de ser reklam i telefonen för något som de precis har pratat om. Har telefonen hört mig? Det utvecklas nästan till en magisk story om ”den allvetande maskinen” beskriver Tiina Männistö-Funk.

– Eller ännu så blir man nästintill paranoid och funderar på om maskinen vet mer om mig än jag själv gör? fyller Karl Palmås i.

Jonas Andersson Schwarz är inte lika oroad.

– Facebook har en sådan myt kring sig, men jag tror inte att de har mer än rå data, säger han och frågar sig: Men borde vi arbeta mer för att öppna upp deras algoritmer – det som kallas för den ”svarta boxen”? Och borde vi ställa dem till svars mer än vi gör idag?

– Detta är trots allt företag som har sina aktieägares bästa som vägledning, poängterar han.

Användningsområdena för algoritmer eller ”svarta boxar” som bearbetar stora mängder data och får ut ett resultat ökar allt mer. I USA har det till och med talats om att använda det i rättsväsendet för att effektivisera rättegångar när stora mängder information ska hanteras. Detta ställer förstås frågor kring rättssäkerhet och hur mycket vi kan lita på maskinens slutsats.

Reflektionerna från publiken visar på hur sökande debatten är i de här frågorna. Vissa menar att det är skrämmande att vi låter maskiner styra oss så mycket, utan att vi vet hur dessa urvalskriterier går till. Andra tycker vi borde överlåta ännu mer till datorer, åtminstone när det kommer till att presentera olika valmöjligheter.

– Från ett historiskt perspektiv har vi redan förlorat kontrollen över tekniken, eller åtminstone aldrig haft så mycket kontroll som vi tror, kommenterar Tiina Männistö-Funk.

En annan kritik som lyfts är att de som sitter bakom och programmerar de här tjänsterna består av en relativt homogen grupp, av primärt unga män i Sillicon Valley. Vilka värderingar finns med i fundamenten till algoritmerna? Men om man tittar på det enorma användandet av de här tjänsterna, är kritiken i sammanhanget ändå marginell.

– Vi vill tro att tekniken kan vara smart och hjälpa oss framåt. Iphonen är vår nya totenpåle som vi nära nog dyrkar, beskriver Jonas Andersson Schwarz.

Under samtalet florerar fler religösa anspelningar kring den tekniska utveckling. I AI försöker människor skapa en intelligens som kan lära sig själv, vilket man skulle kunna kalla för liv. Är det att leka gud?

– AI är det mest narcissistiska forskningsfält som finns. Vi vill bygga maskiner som är som oss, menar Karl Palmås.

– Det finns en lång historia att människor vill ha maskiner som är som människor. Tendensen är att göra de mer människolika än de egentligen är, säger Tiina Männistö-Funk

Ett sådant exempel är man numera kan ringa vissa restauranger i USA och göra bokningar via en robot som kan föra enklare konversationer.

”Kan algoritmerna hjälpa oss göra hållbara val?”

Men kan inte algoritmernas styrning användas till mer nobla syften, såsom att hjälpa samhället med klimatutmaningen? Det tror i alla fall Jonas Andersson Schwarz som tycker sig se en sådan trend bland programmerare. Han tror också att dessa företag har en större chans att lyckas med det han kallar för ”soft” styrning än vad stater har.

– Jag tror att om Google skulle ha en algoritm som föreslog att man skulle äta mindre kött, skulle fler acceptera det mer än om staten kom med samma förslag, säger han.

– Det börjar likna filosofens Hobbes Leviatan, statskickmaskinen som ska hålla oss människor i skinnet. Jag börjar gilla den tanken mer och mer. Jag vet inte hur vi ska lösa klimatutmaningen annars, avslutar Karl Palmås, med viss otydlighet i seriositet.