Mängder av barn och unga spenderar sina liv på nätet och förlägger stora delar av sina sociala liv till spel. Kanske ännu mer i en tid där det är svårare att umgås utanför hemmen under pandemin.

– Den miljön blir liksom mer och mer hård, med en rå jargong. Där har inte vi vuxna särskilt mycket inblick, det är få vuxna som är med och vet vad som händer. Barn vittnar om övergrepp, mobbning och sådana saker, säger Rädda barnens generalsekreterare Helena Thybell.

Organisationen vill i samarbete med stora spelplattformar ta del av tillräckligt mycket uppgifter för att kunna snappa upp signaler om att barn inte mår bra – med hjälp av artificiell intelligens (AI). Då ska de också erbjudas stöd.

Initiativet är ett fyraårsprojekt med färdig finansiering från Postkodlotteriet.

Digital nattvandrare

Spelbolag samlar in mycket uppgifter om sina användare. Rädda barnen har en bild av hur barn i behov av hjälp uttrycker sig och beter sig i verkliga livet. Enligt projektskissen ska användare följas – anonymiserat – varpå systemet slår larm utifrån de riskfaktorer som anges. Det kan handla om hur spelaren uttrycker sig, beter sig eller förändrade mönster i speltid eller kontakt med andra.

– Det ska kunna vara en fältassistent som är tillgänglig dygnet runt. Nattvandraren där barn och unga är, som kan fånga upp om de mår dåligt och erbjuda hjälp, säger Helena Thybell.

När AI:n slår larm kallas sociologer, kuratorer eller andra sakkunniga i mänsklig form in. Om de är överens med ”roboten” om problembilden så skickas en första fråga till spelaren.

– Och det är bara när någon säger ja där som man får möjlighet att ta en direkt kontakt, säger Nichlas Hellmark, som tituleras gaming lead, spelansvarig, hos Rädda barnen, och som ligger bakom idén.

Kalibrerat bemötande

I en ofta tuff, emellanåt våldspräglad och inte sällan sarkastisk spelvärld kan det uppstå en tvär kontrast när en välmenande Rädda barnen-robot plötsligt dyker upp och frågar hur man mår.

När det gäller den första kontakten kommer Rädda barnen höra sig för bland barn för att hitta rätt formuleringar, enligt Helena Thybell. Hon betonar att barn som mår dåligt ofta är mottagliga i det läget, samt att det är viktigt att frågan som ställs är rak.

– Vi vet sedan tidigare om barn som är utsatta att ju tydligare frågor man får desto enklare är det för dem att svara eller be om hjälp, säger generalsekreteraren.

– Detta är något vi kan kalibrera så vi är säkra att vi träffar rätt från början, säger Nichlas Hellmark.

Finns det en risk att ni blir en ”meme” (ett viralt internetskämt)?

– Ibland kommer vi säkert bli en ”meme” och då bjuder vi på det, säger Hellmark, som poängterar att huvudsaken är att de når den lilla andel som far illa och att spelare inte dras in i något utan ett uttryckligt medgivande.

Högt satta mål

Rädda barnen kommer inte rikta sig mot specifika spel eller genrer, utan mot stora plattformar som tillhandahåller alla möjliga spel.

AI:n ska dels kunna följa jargongen i ett krigsspel, men också kunna se tecken på så kallad gromning, till exempel om en äldre man börjar spela ett spel som huvudsakligen spelas av flickor och börjar chatta intensivt.

Projektet är ännu i sin linda. Kontakter tas med hjälporganisationer, myndigheter och stora spelplattformar. Målsättningen är hög: under de närmaste åren ska man nå 240 000 barn och unga och åtminstone 10 000 ska erbjudas hjälp.

– På sikt finns ingen begränsning. Vi kommer kunna nå hundratals miljoner barn per år om det går att skala upp, säger Helena Thybell.