Det är AI Forensics och Atlantic Council’s Digital Forensic Research Lab som undersökt som granskat användningen av AI. Sociala mediesidor från 31 franska politiska partier har undersökts mellan 1 maj och 28 juni för att identifiera generativ AI-innehåll. Under tidsperioden genomfördes EU-valet och den första omgången av Frankrikes val till parlamentet. Totalt upptäcktes 51 fall av AI-genererade bilder, främst från högerextrema partier som Nationell samling, Återerövring (Reconquête) och Patrioterna (Les Patriotes).

Forskarna använde AI-relaterade sökmotorer för att bekräfta att bilderna skapades av AI. Salvatore Romano från AI Forensics betonar att detta är den första valcykeln där generativ AI används och att tekniken sannolikt kommer att användas mer i framtiden, rapporterar Euronews.

”[Bilderna] används som en skrämselpropaganda för att säga att Frankrike inte är säkert i EU. Partierna utnyttjar verkligen sårbara människor i vårt samhälle,” säger AI Forensics forskare Miazia Schüler.

Webbplats med falska protestlistor

Nationell samling har skapat en webbplatsen ”Europa utan dem”, där AI-genererade bilder visar protestlistor mot ”EU:s förakt för folk, massinvandringen och främjandet av hijab.”

Reconquête använde AI för att skapa bilder av den franske presidenten Emmanuel Macron och EU-kommissionens ordförande Ursula Von Der Leyen.

De flesta AI-genererade kampanjbilderna från franska partier förmedlade budskap mot invandring, brist på säkerhet i Frankrike, brist på yttrandefrihet och ett bristfälligt rättssystem och dåligt skydd för jordbruket, rapporterar Euronews.

Oklart om AI påverkade valet

Rapportförfattarna kan inte att avgöra hur AI-genererade bilder påverkat Nationell samlings
framgångar i valen. Samtidigt konstateras i rapporterna från AI Forensics och Atlantic Council’s Digital Forensic Research Lab att ingen av de AI-genererade bilderna var märkta som sådana. Detta visar att både politiska partier och socialamedie-plattformar inte följer etiska regelverk om transparens kring AI-genererat innehåll i politiska kampanjer.

Storföretag inom teknik, såsom Google, OpenAI, Meta och TikTok, undertecknade i februari en öppen tekniköverenskommelse som om hur ”undertecknarna ska hantera vilseledande AI-innehåll i val” på sina plattformar inför Europavalet.

Plattformarna åtog sig att ”identifiera realistiska AI-genererade bilder och/eller intyga äktheten av innehållet och dess ursprung.”

Flera politiska partier har undertecknat en version av avtalet med Europeiska kommissionen, där de ”förpliktade sig att förhindra avsiktlig vilseledning av allmänheten, inklusive genom användning av artificiell intelligens.”

Europeiska parlamentets grupp Identitet och Demokrati (ID), där Nationell samling är medlem, har undertecknad uppförandekoden.

Rapportförfattarna uppmanar Europeiska kommissionen att vidta åtgärder mot partier som bryter mot regelverket kring AI.