Redaktionell not: Denna artikel handlar om deepfakes och desinformation. Den är inte skriven ur ett partipolitiskt perspektiv och Info Express har ingen politisk agenda.
AI-genererat innehåll kan snabbt spridas online, främst via sociala medier, och leda till förvirring till följd av desinformation.
Deep fakes och problematiken bakom falskt innehåll
Nya uppdateringar har medfört att de nya modellerna har blivit allt bättre på att skapa trovärdigt innehåll, vilket har inneburit nya utmaningar med att dels försöka hindra denna spridning och dels försöka motverka den. Trots försök att kontinuerligt verifiera innehåll, så blir det allt mer besvärligt, även för experter, att kunna urskilja sanning från lögn. I en artikel från New York Times lyfts detta dilemma fram när konceptet bakom organisationen TrueMedia, grundat av AI-forskaren Oren Etzioni, ifrågasätter de nya AI-modellernas förmåga att generera allt mer trovärdigt innehåll. Hemsidan truemedia.org skapades för att känna igen falskt innehåll och motverka spridningen av detta online, men att upptäcka falskt innehåll är inte alltid enkelt, och de nya modellerna gör det ännu svårare att upptäcka. Trots att flera andra start-up företag har grundats sedan dess och har ambitionen att motarbeta falskt innehåll, kan det bli allt svårare att göra.
Företag inom IT, bland annat OpenAI och Google, som ligger bakom generativ AI, men även företagen Meta och TikTok, som står bakom populära sociala medier, har frivilligt signerat ett avtal att försöka förhindra spridningen av desinformation med hjälp av AI. Problemet är däremot långt ifrån löst, då dessa plattformar är “open source”, vilket innebär att vem som helst i praktiken kan använda sig av dem. Detta kan medföra risker som att generativ AI kan tränas och förbättra sin förmåga att producera falskt innehåll.
När verifieringsverktyg ska bedöma huruvida innehållet är falskt eller inte, så använder många modeller sig av en sannolikhetsskala för att bedöma om just den bilden eller det klippet är sant. När en bild på Trump med blodiga fingrar laddades upp, så kunde verktyget inte avgöra om bilden var sann eller inte, för att den bilden liknade andra verkliga bilder från skjutningen, då han sköts under sin valkampanj. I enstaka fall kan man även lura verktygen att stämpla falskt innehåll som sant.
Andra experter delar även en oroväckande bild av desinformationsspridningen och menar på riskerna att det påverkar människors beteenden och känslor, inklusive hur de väljer att rösta i framtida val som närmar sig. Risken för desinformation ökar avsevärt när politiker själva deltar i att dela falska videoklipp – vilket kan hända när de inte är noga med vilka källor innehållet kommer ifrån innan de delar det eller ifall de inte tydliggör att det rör sig om ett falskt videoklipp. Som ett exempel har Trump delat ett falskt klipp som visade hur Obama arresterades i Vita huset. Klippet laddades upp på Trumps konto på Truth Social, men cirkulerade först på TikTok innan det fångades upp. Enligt New York Times har videoklippet inte heller markerats som ett skämt på ett tydligt sätt. AI:s roll inom politiken kan således skapa mer känslostarka kampanjer – baserat på att just kontroversiellt innehåll får ta plats.
Trots svårigheterna diskuteras lösningar på hur man kan separera AI-genererat innehåll från riktigt innehåll. Bland annat har vissa företag som OpenAI börjat vattenmärka AI-genererade bilder. Men dessa strategier att markera falskt innehåll har fortfarande brister, som att det ändå ligger på den enskilde individen att leta reda på källor eller verifiera innehållet på annat sätt, vilket alla kanske inte gör på grund av tidsmässiga skäl eller andra enkla anledningar.
Framtida påverkan och övriga risker
Sociala medier har agerat som en väsentlig plattform för att sprida innehåll. Allt fler politiker har även börjat satsa mer på marknadsföring av sig själva på sociala medier, däribland TikTok, för att sprida sitt innehåll och kommunicera med sin väljarbas, enligt en artikel från BBC. Anledningen kan även vara att man vill nå en yngre väljarbas. Problematiken är när personer med extrema åsikter eller oklara avsikter plötsligt blir populära på dessa plattformar.
I Tyskland har det konservativa partiet AfD, Alternativ för Tyskland, som upprepade gånger har anklagats för högerextremism, gynnats av plattformen TikTok. En analys av Deutsche Welle visar att andelen yngre väljare i Tyskland som hade röstat för AfD stack ut jämfört med andra åldersgrupper, samtidigt som partiet under valkampanjen har haft en tydlig närvaro på TikTok och ständigt laddat upp innehåll. Av dessa skäl misstänker man att TikTok kan ha haft en viss inverkan på valresultatet, genom att man anser att plattformens algoritm har gynnat spridningen av mer polariserande inlägg.
I fler länder har man börjat upptäcka konsekvenserna av sociala medier och hur pass stark närvaro dessa plattformar har i människors vardag. I Rumänien inleddes en omröstning efter att den högerextremistiska kandidaten Calin Georgescu vann första valomgången, efter att overifierade konton på TikTok spred hans innehåll och utbetalningar till diverse influencers upptäcktes, enligt en artikel från BBC. Återigen kunde man upptäcka sambandet mellan plötslig popularitet på TikTok och ökat valstöd.
Det som sociala medier och deepfake-innehåll tyder på är att det inte går att förhindra teknikens utveckling, men samhället måste vara redo att reagera på eventuella risker och bidra med lösningar i god tid. Om inga försök till att minska spridningen av desinformation görs i god tid, finns det alltid en risk för att situationen eskalerar och att konsekvenserna istället blir att misstron till all information ökar istället.
Källor:
“An A.I. Researcher Takes On Election Deepfakes”, The New York Times
“Trump Posts Fake Video Showing Obama Arrest”, The New York Times
“How candidates are using TikTok to shape election”, BBC
“TikTok likely helped far right in German elections”, DW
“The TikTokers accused of triggering an election scandal”, BBC
