Patrik Oksanen: Vi kan stå inför demokratins Pearl Harbour
När du själv dyker upp i en video och säger saker du aldrig skulle säga, när bilder på händelser som inte har hänt kan genereras omedelbart, och artiklar med en förutbestämd grundberättelse skapas automatiskt och pumpas ut i dygnet runt – vad händer då med vår förståelse av verkligheten?
Demokratins fundament handlar om att vi alla är överens om vissa grundläggande fakta och verklighetsbeskrivningar. Sedan kan vi tolka informationen olika och komma till helt olika slutsatser om vad vi ska göra åt ett problem. Det är själva kärnan i en demokrati med fri åsiktsbildning. Men när verkligheten förvrängs och delar av befolkningen inte längre tror på fakta urholkas demokratin. Det här illustreras tydligast av att en betydande del av det Republikanska partiet i USA har valt att tro på Donald Trumps lögner om valfusk.
Konsten att vilseleda och använda det i krigföring är uråldrig, men den digitala utvecklingen skapar allt snabbare, nyare och kraftfullare verktyg att nå människor över hela världen. Ryssland har sedan flera år tillbaka byggt ett globalt ekosystem för informationspåverkan som också knyter ihop andra aktörer: Kina, Iran samt extremist- och konspirationsmiljöer.
”När verkligheten förvrängs och delar av befolkningen inte längre tror på fakta urholkas demokratin.”
Kombinationen av underrättelsetjänster, cyberangrepp, ”experter”, trollfabriker, botar, statliga medier, utspel, proxy-kanaler skapar tillsammans med mindre fristående aktörer en mycket svår informationsmiljö. Till det kommer distributionen av information, via de stora digitala jättarna vars algoritmer både premierar och kan manipuleras till spridning av otillbörlig informationspåverkan.
Volymen, omfattningen och komplexiteten är svår att ens beskriva. Newsguards undersökning av den kinesiska appen Tiktok kort efter Rysslands fullskaliga angrepp visade att det tog bara minuter – som allra längst 40 minuter – innan en nyregistrerad användare hade blivit exponerad för desinformation om kriget utan att ens söka efter sådana klipp.
En deepfake, en falsk video, med Ukrainas president Zelenskyj där han uppmanade till kapitulation sågs mer än 120 000 gånger på Twitter. 23 miljoner tweets med hashtags #IstandwithPutin och #IstandwithRussia postades 2 mars 2022 där Sydafrika, Ghana och Nigeria var målgruppen. Exemplen ger ingen helhetsbild, men ger en känsla för volym och bredden av problemen.
Sedan lägger vi till den tekniska utvecklingen. I ett experiment som gick under namnet Countercloud sattes en AI-styrd nyhetsfabrik upp som spottade ut artiklar och bemötte andras inlägg på sociala medier till en månatlig kostnad av 400 dollar.
Carl Heath på statliga forskningsinstitutet RISE demonstrerade nyligen en ny AI-videoöversättningstjänst där han på några minuter kunde få en video där han pratade franska såväl som hindi med synkroniserade läpprörelser. Det räcker också med bara några sekunder av din röst för att träna en AI till att låta dig läsa en ljudbok.
Spelar du ett VR-spel som heter Beat Saber i 100 sekunder kan man sedan med hjälp av den data som dina rörelser samlat in identifiera dig i en folkmassa på 50 000 personer. Träffsäkerheten är med den här tekniken högre än med en fingeravtrycksscanner. Kombinationen data, artificiell intelligens och kontroll över informationsinfrastrukturen är en otrolig stark treenighet. Det är ingen slump att Kina lägger ned mycket omfattande resurser för att jobba i alla tre fälten.
Det här gör att frågan om du kan lita på dina egna ögon och öron ställs på sin spets. Vet du att du har din dotter i telefonen? En mamma i Texas fick ett samtal från sin gråtande dotter som avbröts av en man som ställde krav på en lösensumma på en miljon dollar. Men dottern var inte kidnappad, det handlade om ett AI-bedrägeriförsök.
Lägger vi ihop teknikutvecklingen med vad som redan görs i påverkansfältet med den allvarliga säkerhetspolitiska situationen, ett krigförande Ryssland, ett allt mer aggressivt Kina och att 2024 är ett supervalår lyser varningssignalerna rött. Med viktiga val i Taiwan, USA, Ukraina och EU står oerhört mycket på spel. Vi kan förvänta oss att olika nyckelgrupper såsom journalister, valarbetare, åklagare, domare och politiker kommer att utsättas ännu mer på ett personligt plan.
Samtidigt innebär 2024 en möjlighet för olika antagonistiska aktörer att attackera demokratierna och vinna avgörande strategiska fördelar. Det ligger i Rysslands och Kinas intressen att splittringen ökar och att västs beslutskraft och sammanhållning minskar. På så sätt riskerar nästa år bli demokratiernas digitala Pearl Harbour. Ett angrepp där alla pusselbitar egentligen finns på plats för att förstå att angreppet kommer, men där oförmågan att dra rätt slutsatser och att agera på dessa leder till en förödande överraskning.
Det enda positiva i analogin är att USA hämtade sig från det japanska angreppet 1941 och vann andra världskriget. Det är långt ifrån säkert att samma sak skulle hända med demokratin 2024. Det är mycket som står på spel, och den viktigaste striden utkämpas i våra huvuden och där är du vår främsta försvarslinje.
Patrik Oksanen är fristående kolumnist på ledarsidan, senior fellow på tankesmedjan Fri värld samt ledamot i Kungliga Krigsvetenskapsakademien.