Energi · En syl i vädret

Låt algoritmerna stoppa groomningen på nätet

Onsdagens sommarprat av Mathilda Hofling kan vara det viktigaste av alla i årets Sommar i P1. Hofling berättar en fruktansvärd och berörande historia om hur hon som barn, bara 13 år, blev groomad (alltså manipulerad med sexuella syften) av en äldre man, som hon vid den tidpunkten trodde var en 16-årig kille.

För dem som har hört P1 Dokumentärs serie Manipulatören (som jag skrev om tidigare i våras) är tillvägagångssättet inte nytt: en falsk identitet som kan vara ett potentiellt kärleksobjekt, komplimanger, uppbyggande av en förtrolig relation, hemligheter som berättas. Därefter förfrågningar om bilder, fler komplimanger, fler bilder, naknare bilder. Och sedan startar utpressningen och övergreppen.

Förutom den uppenbara men kanske svåruppnåeliga och samhälleliga lösningen att det inte ska anses vara något skamfullt att ha skickat en nakenbild till någon så tillvida att utpressningen blir meningslös, så är självklart den stora frågan vad vi mer kan göra för att förhindra förövarnas groomningsförsök.

Mathilda Hofling själv trycker i sitt sommarprat på det mellanmänskliga – att vara uppmärksam, att lyssna, att ställa frågor, att visa att man är där så den som blir utsatt vågar berätta. Det är givetvis otroligt viktigt, likaså att det måste talas om sådana här saker i skolan, både för att lära barnen känna igen tecknen men även för att de ska veta vart de ska vända sig om det händer eller redan har hänt.

Man kan också fråga sig hur stort ansvar de sociala plattformar och onlinespel där groomingen försiggår egentligen har, och vad de skulle kunna göra för att förhindra digitala övergrepp. Med tanke på exaktheten i tillvägagångssättet som förövarna använder och som upprepas gång på gång borde det inte vara speciellt svårt att sätta upp algoritmer som noterar när typiska groomingmönster uppstår i chatter.

När ett sådant mönster noteras kunde exempelvis en supportchat automatiskt dyka upp för den som förmodas utsättas för grooming, med frågor kring om något i konversationen känns obehagligt och om personen i fråga vill ha hjälp att hantera situationen, eller prata med någon. Fantastiska möjligheter för samarbeten mellan plattformarna och olika stödorganisationer finns här.

För all del – en supportchat för den som förmodas grooma kanske också skulle vara en idé? Med dels ett konstaterande om att det har noterats att personens chattbeteende överensstämmer med grooming och frågor kring hur personen mår, om den behöver prata med någon, och att det finns hjälp att få om man upplever att man har problem med oönskad sexualitet.

Jag föreställer mig samarbete med exempelvis Preventell här. 
Vid återkommande noteringar kring ett sådant beteende kan den groomande användaren givetvis stängas av helt. Jag menar, folk blir ju avstängda för att de spammar, eller använder fel slags ord som fastnar i algoritmnätet, eller till synes ingen anledning alls. Algoritmerna är ju redan där, det måste ju gå att använda dem till något som är viktigt på riktigt.

Lättnader i restriktionerna! Känns optimistiskt.

Pandemin är dock inte över för det.

Prenumerera gratis på vårt
NYHETSBREV
Prenumerera gratis på vårt
NYHETSBREV