AI OCH AUTOMATISERING

Supervalåret: AI-språnget utmanar demokratin

Världen (TT)

Rekordmånga människor går till val i världen 2024. Samtidigt görs tekniska språng inom generativ AI, som på ett övertygande sätt kan framställa falsk information.

– Det kan undergräva och ge ännu mer skjuts åt den auktoritära vågen vi ser, säger Ulrika Modéer vid FN.

Omkring 2,8 miljarder människor kan rösta i politiska val 2024. Det är de första valen i många av världens demokratier sedan generativa AI-tjänster fått bred spridning.

Med anledning av den tekniska utvecklingen där AI kan skapa allt mer trovärdigt innehåll, ser FN en anledning att vara på sin vakt mot falsk valpåverkan. Det handlar om falska bilder, falska texter och även filmklipp och ljudfiler som kan manipuleras eller påskina att budskap kommer från en annan avsändare än den riktiga.

– Många länder är inte alls rustade att hantera de här utmaningarna, säger Ulrika Modéer, chef för externa relationer vid FN:s utvecklingsprogram (UNDP).

Stöttar myndigheter

Utmaningarna består av desinformation, där stater eller andra aktörer medvetet försöker påverka opinionen, och oavsiktligt felaktig information, där personer sprider falsk information som de tror är sann.

I båda fallen kan förtroendet för samhället undergrävas.

Under supervalåret utgör generativa AI-modeller en extra stor risk och kan leda till ökad desinformation och polarisering i många samhällen. För att stävja riskerna arbetar UNDP bland annat med att stötta valmyndigheter och andra aktörer i valprocesserna.

– Vi har olika instrument som vi och många andra aktörer jobbar med, där vi jobbar med verifiering av till exempel "fake news". Men tekniksprånget är snabbt, nu utvecklas artificiell intelligens som kan producera text men också bild som är väldigt trovärdig, säger Modéer.

Ökad polarisering

En auktoritär och högerpopulistisk våg har svept över en mängd länder de senaste åren och har förstärkts av falska inlägg som har spridits i bland annat sociala medier. Samtidigt har misstroendet och polariseringen ökat.

För att arbetet mot desinformationen ska fungera behövs en internationell överenskommelse om hur tekniken ska regleras för att kunna hanteras på nationell och internationell nivå, enligt Modéer.

– Jag tror att det finns risker för de samhällsmodeller som vi känner och som vi verkar för och även de grundprinciper som vi har i FN. Det här går långt bortom förtroende för valresultat, det kan undergräva och också ge ännu mer skjuts åt den auktoritära vågen vi ser.

Rusta verksamheten

Under 2024 arbetar UNDP med stöd till val i 40–50 länder. I vissa av staterna, framför allt i de mindre resursstarka, är det större risk för valpåverkan. Där kan valmyndigheter få hjälp att rusta verksamheten för att kunna verifiera uppgifter som cirkulerar.

– Vi har gett instrument så att man har kunnat följa till exempel debatten i sina valkretsar och se om den information som cirkulerar i valkretsen stämmer med verkligheten och de fakta och data som finns, säger Ulrika Modéer.

Det gör att förtroendevalda kan bemöta argument och hela tiden följa den information som cirkulerar i valkretsarna.

Skev datainsamling

Generativa AI-modeller, som Chat GPT och andra, kan förstås även användas i många positiva syften, bland annat för att snabba på olika processer. Men än så länge är teknikens datainsamling skev, eftersom det finns gott om data i vissa delar av världen, men väldigt lite på till exempel den afrikanska kontinenten. Därför jobbar många aktörer i dag med att utveckla datainsamling i det globala syd så att generativa AI-modeller ska kunna spegla den kunskap och de perspektiv som finns i hela världen.

– När man tittar på kartor över var AI hämtar sin information och kunskap från så är det en otroligt skev och märklig värld, säger Modéer.

– För att AI ska tjäna alla människor och den globala agendan för hållbar utveckling som vi vill bidra till så måste vi också säkerställa att det finns kunskap och att det finns data som är insamlad lokalt.

Kristin Groth/TT