Deep Fakes – Fake News

Fake news på laptopskärm
Källa: ID pixel2013 – https://pixabay.com/en/fake-fake-news-media-laptop-1909821/

Falska nyheter – det där sensationella Facebook-posterna som sprider sig som en löpeld och först efter att de har delats tusentals gånger uppdagas vara helt fabricerade eller baserade på halvsanningar.

Om det är en läxa som vi har fått lära oss i dagens informationssamhälle så är det att källkritik är otroligt viktigt. Bilder kan lätt manipuleras, historier och citat kan förvanskas eller ryckas helt ur sin kontext för att vinkla nyheter på bedrägliga sätt.

Men när vi ser en person uttala sig i video kan vi vara säkra på att det som personen säger och gör verkligen har hänt, eller? Nej, teknologin har nu börjat komma så långt att man via sofistikerade program som använder sig av så kallad maskininlärning för att återskapa en persons ansikte, miner och snart även röst kan få det att se ut som att en person säger något som den aldrig har sagt. Vid första anblick kan dessa klipp vara mycket svåra att genomskåda.

Hur Fungerar Deep Fake?

En Deep Fake fungerar genom att man samlar på sig en stor mängd bilder och filmat material av personen man vill återskapa – ju fler desto trovärdigare blir förfalskningen. Den sofistikerade mjukvaran reducerar sedan materialet till datapunkter och försöker återskapa ansiktet.

Efter miljontals beräkningar blir bilden mer och mer övertygande tills det blir svårt att se skillnaden mellan den äkta varan och det som skapats av datorprogram. Det går sedan att använda ett videoklipp av sig själv eller ett annat redan existerande klipp och ersätta ansiktet i filmen med det datagenererade ansiktet för att skapa sin förfalskning.

Vad kan denna teknologi användas till?

Denna teknologi har funnits i flera år men har tidigare inte varit tillgänglig för vanliga användare då den processorkraft som krävts varit allt för stor för en vanlig persondator att hantera. Det har varit universitet och forskningsinstitutioner som experimenterat med teknologin och stora hollywoodstudios som använt den i sina filmer. Ett berömt exempel är när Paul Walkers ansikte återskapades i Furious 7 för att kunna slutställa filmen trots att Walker förolyckades i en bilolycka innan han hade filmat klart sina scener.

Men 2018 var året då denna typ av teknologi blev tillgänglig även för hemmaanvändare. I januari släpptes FakeApp, ett program som kan skapa deep fakes på en vanlig persondator. Föga överraskande var att många av de första deep fakes som skapade av privatpersoner var av pornografisk karaktär. Kända skådespelerskors ansikten klipptes in i pornografiska filmer som sedan spreds över hela internet.

Efter detta har många exempel på vad som är möjligt med teknologi skapats, som till exempel komikern och regissören Jordan Peeles uppmärksammade förfalskning av Barack Obama. Detta klipp var ett försök att på ett humoristiskt sätt varna för de potentiella farorna som finns med att deep fakes nu kan skapas av i stort sett vem som helst.

En skickligt gjord förfalskning av en offentlig person såsom en politiker eller företagsledare kan ställa till stor skada även om det bara skulle ta timmar att avslöja att det rör sig om ett falskt videoklipp. Det är lätt att tänka sig ett scenario där en enskild person kan skapa ett övertygande klipp som riskerar att kullkasta ett företag eller ännu värre hela världsfreden.

Teknologin kan givetvis användas på mer oskyldiga och humoristiska sätt. Nicolas Cages ansikte har klippts in flera kända filmer som Sagan om ringen och Indiana Jones, och att ersätta din live dealer vid roulette-bordet med Cage eller annan valfri kändis är ett både harmlöst och roligt sätt att använda deep fakes.

Datorgenererad bild på en kvinna
Källa: AaronJOlson – https://pixabay.com/en/woman-blue-sci-fi-technology-3560573/

Kan man känna igen en Deep Fake?

Vid första anblick är de falska klipp som skapas av mjukvara som FakeApp mycket övertygande. Men genom att undersöka filmklippets historia kan man få en fingervisning på att allt inte står rätt till. Dels har filmklipp och andra mediefiler så kallad metadata som avslöjar när de har filmats. Man kan sedan försöka spåra klippets historia, var det först laddades upp och av vem. Man kan ofta hitta det riktiga klippet som använts för att skapa en deep fake och sålunda spåra klippets ursprung.

I själva filmen går det också genom att titta på individuella bildrutor och förstora detaljer och på så vis ofta hitta små glitcher, suddiga detaljer och andra små ledtrådar till att man har med en manipulerad bild att göra. Dessa detaljer är dock mycket svåra att upptäcka för ett otränat öga som ser klippet i normal hastighet.

Till sist så finns det ännu inte bra mjukvara tillgänglig för allmänheten för att återskapa en individs tal. Det gör att man får lösa detta på andra sätt när man skapar en deep fake, som till exempel när Jordan Peele imiterar Obamas röst tillräckligt bra för att lura den som inte lyssnar allt för noga.

Hur ser framtiden ut?

Ännu har vi inte upplevt det första riktigt allvarliga försöket att använda en deep fake för att skapa en falsk nyhet som skapar oreda. Men oron för att detta nu är möjligt har redan börjat sprida sig.

I framtiden kommer teknologin bli ännu bättre och svårare att upptäcka. Den kan sedan komma att kombineras med mjukvara för återskapning av tal för att göra illusionen komplett. De klipp som skapats hittills av privatpersoner har varit av den karaktär att de är baserade på ett enskilt originalklipp. I framtiden kan dock deep fake-teknologin komma att kombineras med andra metoder för bild- och filmmanipulering. Man kan med hjälp av green screen-teknologi klippa in en person i andra filmsekvenser och skapa en film där en person säger saker den aldrig har sagt på en plats personen aldrig har varit på.

Filmstudio med green screen
Källa: chrispodbo – https://pixabay.com/en/photo-studio-studio-video-projector-2423995/

Det räcker att se en modern Hollywoodfilm för att se hur svårt det kan vara att skilja mellan vad som är verkligt i en filmsekvens och vad som är skapat av en dator.

Det gör att man kan se en framtid framför oss där det är i princip omöjligt att veta om något vi ser på en skärm faktiskt har hänt på riktigt eller om allt har skapats av en individ eller organisation med en dold agenda.

Denna framtid får falska nyhetsposter på Facebook att framstå som direkt oskyldiga. Därför kommer det bli än viktigare att vi lär oss att granska allt vi ser med ett källkritiskt öga.