Teknologien har nærmest gjort et kvantesprang i løpet av få år. Nye, kraftfulle verktøy er dermed tilgjengelige for dem som vil spre desinformasjon i forkant av de mange valgene i verden i 2024.
– Du trenger ikke dra langt for å finne folk som åpenbart er i villrede om hva som er ekte og ikke, sier KI-ekspert Henry Ajder, som er tilknyttet Universitetet i Cambridge.
Utdanningsdirektoratet forbyr KI-bruk på eksamen
Han mener spørsmålet ikke lenger er om KI-generert falsk innhold vil påvirke valg, men hvor stor denne effekten blir.
Særlig sikter han til «deepfakes», som ligner på ekte videoer, bilder og lydopptak av virkelige personer.
FBI-advarsel
Med «deepfakes» kan politikeres image enten svertes eller pyntes på. Velgere kan bli forsøkt styrt mot eller fra en kandidat før et valg.
For noen få år siden var det fortsatt vanskelig og ressurskrevende å produsere troverdige deepfakes. Et helt team av folk med tekniske ferdigheter, tid og penger var nødvendig.
I dag kan nye KI-tjenester fra selskaper som Google og OpenAI lage tilsvarende innhold av høy kvalitet. Alt som trengs, er en enkel instruksjon – en såkalt «prompt».
I USA, hvor det til høsten er presidentvalg, kom FBI-sjef Christopher Wray nylig med en advarsel. Såkalt generativ kunstig intelligens gjør det enkelt for utenlandske aktører å bedrive ondsinnet påvirkning, ifølge Wray.
Også EU, India, Mexico, Litauen og en lang rekke andre land holder valg i løpet av 2024.
Verk fra 16 000 kunstnere skal ha trent opp KI-modell
Bikini og ølpriser
I løpet av det siste halvåret har det dukket opp deepfakes av politikere i flere land:
* En video av Moldovas provestlige president Maia Sandu der hun tilsynelatende støtter et russisk-vennlig parti.
* Lydklipp av en partileder i Slovakia som tilsynelatende diskuterer valgfusk og en økning av ølprisene.
* En video som tilsynelatende viser en kvinnelig politiker i Bangladesh – hvor mange av innbyggerne er konservative muslimer – i bikini.
* Velgere i den amerikanske delstaten New Hampshire mottok telefoner der en stemme som hørtes ut som Joe Biden, ba dem om å ikke stemme i nominasjonsvalget.
Siden teknologien er både ny og avansert, er det foreløpig vanskelig å finne ut hvem som står bak forfalskningene. Eksperter advarer om at verken myndigheter eller selskaper i dag er i stand til å stanse flodbølgen som ventes å komme.
Dyp usikkerhet
I mange tilfeller er formålet med deepfakes å stille personer i dårlig lys. Men generativ KI kan også brukes av politikere som ønsker å forme sitt eget image.
Før valget i Indonesia i februar ble det laget en enkel mobilapp for tilhengere av presidentkandidat og eks-general Prabowo Subianto. Men appen kunne de laste opp bilder og lage KI-genererte bilder av seg selv sammen med Prabowo. Han erklærte seier kort etter valget, basert på foreløpige resultater.
NTNU-studenter utestenges etter juks med Chat GPT
Blir teknologien så bra at «alt» i teorien kan være forfalsket, vil det åpne en mulighet for politikere som forsøker å benekte handlinger og situasjoner som faktisk fant sted. De kan rett og slett hevde at bilder av hendelsen er forfalsket med KI.
– En verden hvor alt er suspekt – og hvor alle kan velge hva de vil tro – er også en verden som er virkelige utfordrende for et levende demokrati, sier forsker Lisa Reppell ved International Foundation for Electoral Systems i USA.
Nye EU-regler
Flere av verdens største tek-selskaper har frivillig undertegnet en avtale om å hindre at KI-verktøy påvirker valg.
Meta, som eier Facebook og Instagram, har lovet å merke alle deepfakes som dukker opp på selskapets plattformer.
Men det kan være vanskeligere å hindre falsk innhold på plattformer som Telegram, som ikke har undertegnet avtalen og krypterer meldinger slik at det blir vanskeligere å følge med på innholdet.
EU har allerede innført krav om at sosiale medier må redusere risikoen for desinformasjon og valgpåvirkning. Fra og med neste år må selskaper som operer i EU, merke deepfakes.
Flere av selskapene som tilbyr KI-verktøy, har også regler som skal hindre politisk desinformasjon. Men kritikere mener det er for lett å omgå reglene eller i stedet bruke andre tjenester uten slike begrensninger.