FN vill stoppa användning av viss AI-teknik tills det finns skyddsåtgärder på plats. Det framgår av en ny FN-rapport som pekar på farorna med AI-tekniken, bland annat program för ansiktsigenkänning, och hur dessa kan kränka de mänskliga rättigheterna.
Nyligen släppte FN:s kontor för mänskliga rättigheter en rapport där man har analyserat hur AI-system kan påverka människors rätt till integritet. Nu varnar organisationen för att AI-teknik, som utvecklas och sprider sig i snabb takt, kan påverka de mänskliga rättigheterna, rapporterar ABC News. Det rör sig exempelvis om ansiktsigenkänningssystem som leder till att människor arresterats felaktigt eller systemfel som leder till att man nekas sociala förmåner.
– Artificiell intelligens når nu nästan alla hörn av våra fysiska och mentala liv och till och med känslomässiga tillstånd. AI-system används för att avgöra vem som får offentliga tjänster, bestämma vem som har chansen att rekryteras till ett jobb, och naturligtvis påverkar de vilken information människor ser och kan dela online, sa Michelle Bachelet, FN:s högkommissarie för mänskliga rättigheter, i samband med att rapporten släpptes, enligt ABC News.
FN pekar inte ut någon specifik mjukvara men uppmanar till ett moratorium på försäljningen och användningen av all AI-teknik som kan kränka de mänskliga rättigheterna, tills tillräckliga skyddsmekanismer finns på plats.
I rapporten pekar man också på bristen på transparens kring användningen av många AI-system. Ett annat problem som bör beaktas är hur AI-system är beroende av och samlar in stora mängder information om människor, samt analyserar denna data på ett sätt som kan leda till felaktiga beslut och diskriminering. Hur informationen i sin tur sprids och vad som kommer att hända framöver med den i framtiden är också okänt och skapar oro, enligt rapporten.
– Artificiell intelligens kan vara något som hjälper samhällen att övervinna vår tids stora utmaningar. Men AI-teknik kan ha negativa, till och med katastrofala, följder om den används utan att ta tillräcklig hänsyn till hur det påverkar mänskliga rättigheter, sa Michelle Bachelet.
