FN-organet Unescos medlemmar har kommit överens om etiska riktlinjer för användningen av artificiell teknik, AI. Där slås bland annat fast att tekniken inte bör utnyttjas för massövervakning.
De antagna riktlinjerna bygger på frivillighet. Men de beskrivs av Unesco som ”historiska” och ska enligt organet fungera vägledande för de juridiska regler som krävs för en ”hälsosam utveckling av AI”.
Texten specificerar bland annat att AI inte ska användas för att genomföra sociala bedömningar eller bedriva massövervakning.
Samtidigt finns det bland Unescos 193 medlemmar flera länder som är kända för att utnyttja AI och annan teknik för just sådana syften – i synnerhet för att övervaka politiska motståndare och minoritetsgrupper. Även stora privata företag utnyttjar tekniken på ett sätt som bryter mot människors rätt till ett privatliv.
Inga av dessa aktörer pekas ut, men Unescos företrädare medger att de diskussioner som ledde fram till riktlinjerna föregicks av ”svåra diskussioner”.
Behov av global överenskommelse
I samband med att dokumentet presenterades vid Unescos högkvarter i Paris i förra veckan sade organets generaldirektör Audrey Azoulay att planerna på att skapa ett ramverk lanserades redan 2018.
Hon påpekade samtidigt att AI-tekniken utvecklas mycket snabbt, vilket kan vara till stor nytta för mänskligheten – men också leder till stora risker. Av det skälet finns det enligt henne ett stort behov av en global överenskommelse med praktiska rekommendationer som bygger på analyser från experter från hela världen.
Riktlinjerna slår fast att ny teknik måste användas för att försvara och möjliggöra att de mänskliga rättigheterna kan utövas – och inte för att bryta mot dem.
Unesco uppger att målsättningen är att den nya digitala tekniken även ska främja arbetet för att uppnå de hållbara utvecklingsmålen.
Riktlinjer för jämställdhet
En av deltagarna i samband med att överenskommelsen presenterades var Alessandra Sala, som är ordförande för organisationen Women in AI. Hon betonade att dokumentet innehåller tydliga riktlinjer, som även berör behovet av jämställdhet
– Den symboliserar samhällsutveckling, sade hon.
Alessandra Sala påpekade att det finns ett gemensamt ansvar att slå vakt om etiken runt AI, och att det även är av högsta vikt att de kvinnor, ”som ofta exkluderas”, involveras.
Trots att rekommendationerna inte är bindande menar Unesco att medlemsländerna insett att det behövs riktlinjer för utvecklingen av AI, och att dokumentet därför är ett viktigt steg framåt.
*En längre version av denna text har även publicerats av nättidskriften Southern World Arts News, SWAN.
