Radar · Integritet

EU överens om historiskt AI-avtal

Överenskommelsen ska nu klubbas av EU-parlamentet i början av nästa år, något som beskrivs som en formalitet.

Europeiska unionen enades sent på fredagskvällen om världens första övergripande lagpaket gällande AI. Förhandlare från EU-parlamentet och de 27 medlemsländerna lyckades – efter att ha förhandlat i 36 timmar – komma överens på en rad områden.
Bland annat vill EU införa förbud mot ansiktsigenkänning som sorterar människor enligt religiös övertygelse, sexuell läggning eller etnisk tillhörighet.

”EU blir den första kontinent som sätter tydliga regler för användningen av AI”, skrev inremarknadskommissionären Thierry Breton, på X, tidigare Twitter, när förhandlingarna var klara och kallade avtalet för ”historiskt”.

Även EU-kommissionens ordförande Ursula von der Leyen välkomnar uppgörelsen, som hon beskriver som unik på global nivå.

Inget generellt förbud

Det blir med de nya EU-reglerna inget generellt förbud mot AI-verktyg som använder ansiktsigenkänning, vilket EU-parlamentet tidigare har krävt. Men användandet av detta verktyg kommer att begränsas och bara tillåtas för vissa brottsbekämpande ändamål, enligt Thierry Breton.

Han tillägger att syftet med regelverket är att skydda människors och företags rättigheter utan att bromsa innovationer eller förhindra brottsbekämpningen med AI-verktyg.

Exakt hur regelverket – som ska vara implementerat i nationell lagstiftning 2025 – kommer att se ut är inte klart. Många detaljer kommer att preciseras på tjänstemannanivå.

Klart står dock klart att ett företag som bryter mot reglerna kan få böta 35 miljoner euro eller upp till 7 procent av företagets globala omsättning.

Förslaget var klart sent på fredagen och har förhandlats fram av EU-kommissionen och företrädare för EU:s 27 medlemsländer samt en förhandlingsdelegation från EU-parlamentet i veckan.

Får inte exploatera minderåriga

Processen har snabbats på i skuggan av en snabb AI-utveckling, bland annat genom chattroboten Chat GPT.

En av stötestenarna i förhandlingarna var hur tjänster med breda användningsområden som Chat GPT ska regleras. Bland vissa medlemsstater, som Frankrike och Tyskland, fanns en oro för en alltför tuff reglering som skulle kunna hämma europeiska aktörer.

I den uppgörelse som nu har träffats finns bland annat krav på att företag som säljer AI-verktyg med bredare tillämpningsområden ska redovisa hur deras språkmodeller fungerar. Appar som kan definieras som en systemrisk måste samarbeta med EU-kommissionen om hur dessa risker ska begränsas.

Det blir även förbud mot användandet av AI för social rangordning och mot AI-system som manipulerar människor och begränsar den fria viljan.

Regelverket ska även skydda mot användande av AI för att exploatera minderåriga, människor med funktionshinder eller ekonomiskt utsatta grupper.

För att regelverket ska träda i kraft krävs formellt klartecken från EU:s regeringar på ministernivå samt EU-parlamentet. Brando Benifei, italiensk parlamentariker, säger till AP att det i praktiken är en formalitet eftersom parterna är överens.

Texten har uppdaterats.

Fakta: Förbud och villkor för AI i EU på gång

Fredagens uppgörelse är ett avgörande steg mot en reglering av AI-verktyg i EU i framtiden. Om regelverket klubbas blir det:
Förbud mot biometrisk kategorisering som utgår från känsliga faktorer som politiska åsikter, religion, filosofier, sexuell läggning och etnisk tillhörighet.
Förbud mot ansiktsigenkänning på bred front baserat på underlag från internet eller övervakningskameror i syfte att bygga upp profiler i en databas.
Förbud mot rörelsedetektorer på arbetsplatser eller på skolor och universitet.
Förbud mot sociala rangordningssystem baserade på beteende och personlighet.
Förbud mot AI-system som manipulerar människors beteende för att begränsa deras fria vilja.
Förbud mot AI-system som exploaterar människors sårbarhet utifrån ålder, funktionsnedsättning eller deras sociala och ekonomiska situation.
Det införs undantag från regelverket vad gäller ansiktsigenkänning i realtid för brottsbekämpning, om det finns tillstånd och ett specifikt ändamål för verksamheten. Det kan exempelvis handla om terrorhot och jakt på personer misstänkta för terrorism, människohandel, sexbrott, mord, kidnappning, våldtäkt, väpnat rån eller deltagande i en kriminell organisation samt miljöbrott.
Källa: EU-parlamentet