Deepfake är AI-genererat bild-, video- eller ljudinnehåll där en persons ansikte, röst eller agerande manipulerats med hjälp av deep learning, så att resultatet ser eller låter äkta ut. Namnet är en sammanslagning av orden deep learning och fake, och tekniken har på kort tid gått från nischat forskningsfält till ett verktyg som bedragare använder för att förfalska röster och ansikten hos både privatpersoner och företagsledare.
För kommunikatörer och företagsledningar är deepfake inte längre ett framtidsscenario. Falska videor och deep fakes av en vd, eller ett röstklonat samtal från en ekonomichef skapat med AI, kan användas för att lura anställda till felaktiga betalningar, sprida desinformation om varumärket eller skada förtroendet för en talesperson på minuter.
Vad är deepfake?
Deepfake är samlingsnamnet för syntetiskt bild-, video- och ljudmaterial som skapats eller manipulerats med AI. Tekniken kan byta ut en persons ansikte mot en annans ansikte i en video (face swap), imitera en röst utifrån ett antal ljudklipp, eller få en person att säga eller göra saker som aldrig hänt i verkligheten. Ett av de tidigaste kända missbruken var att sätta in kändisars ansikten i porrfilmer utan samtycke, något som fortfarande är vanligt förekommande.
Ett av de mest kända tidiga exemplen på hur övertygande tekniken kan bli är en video från 2018 där Barack Obama, med hjälp av manipulerad video, tycktes säga saker han aldrig sagt. Sedan dess har verktygen blivit både billigare och mer tillgängliga, och antalet spridda deep fakes har ökat i takt med att förfalskningarna blivit svårare att avslöja.
Hur fungerar deepfake-tekniken?
Tekniken bygger på neurala nätverk (AI) som tränas på stora mängder bilder, videor eller ljudklipp av en verklig person. Nätverket lär sig att imitera ansiktsuttryck, rörelsemönster eller röstens karaktär så väl att det kan generera helt nya, syntetiska deep fakes där personens ansikte eller röst läggs över en annan video eller ett annat ljudspår. Ju bättre träningsdatan är, desto lättare blir det att skapa falska klipp som är svåra att skilja från äkta inspelningar.
Ju mer material som finns tillgängligt om en person, till exempel offentliga tal, intervjuer eller videor på sociala medier, desto lättare blir det att träna en övertygande modell. Det är en viktig anledning till att personer i offentliga roller, som vd:ar och talespersoner, är särskilt utsatta: de har redan gott om röst- och bildmaterial i omlopp, vilket gör det enklare för bedragare att förfalska både röst och ansikte.
Så går ett deepfake-bedrägeri till
Ett vanligt scenario mot företag är att en bedragare med hjälp av AI klonar rösten eller skapar en falsk video av en chef och sedan kontaktar en anställd med en brådskande begäran, ofta en betalning som måste göras omedelbart eller känsliga uppgifter som behöver lämnas ut. Eftersom rösten eller ansiktet känns igen sänks mottagarens vaksamhet på ett sätt som ett vanligt bedrägerimejl inte lyckas med, och många låter sig luras trots att de annars är källkritiska.
Bedragarna utnyttjar dessutom tidspress och auktoritet: begäran kommer sent på dagen, precis innan ett möte, eller med en förklaring om att den vanliga kontaktvägen inte fungerar just nu. Samma mönster går igen oavsett om det handlar om deep fakes, klassisk vd-bedrägeri via mejl, eller andra former av desinformation som sprids i medier och sociala kanaler mot ett företag.
Så upptäcker du en deepfake
Tekniska varningstecken finns, men de blir svårare att lita på i takt med att tekniken förbättras: onaturliga ögonrörelser eller blinkningar, ljussättning som inte stämmer mellan ansikte och bakgrund, läppar som inte riktigt synkar med ljudet, och en röst som saknar naturliga pauser eller andetag. Sådana tecken är ofta tydligare i äldre deep fakes än i de mest avancerade som cirkulerar i dag.
Minst lika viktigt är att arbeta med källkritik som en rutin snarare än en enstaka kontroll: verifiera alltid en ovanlig eller brådskande begäran via en annan, redan känd kontaktväg, innan pengar eller känslig information lämnas ut. Samma principer som används för att avslöja desinformation i stort går att tillämpa direkt på misstänkta deep fakes och röstklipp som manipulerats i efterhand.
Så skyddar du dig och företaget
Inför en fast rutin för att verifiera känsliga beslut, som betalningar, lösenordsbyten eller ändrade kontouppgifter, via ett andra kommunikationsspår, till exempel ett återuppringt telefonnummer eller ett fysiskt möte. Utbilda medarbetare i vilka varningstecken som finns och gör det tydligt att det alltid är okej att pausa och dubbelkolla, även när begäran kommer från en chef. Den som vet att röster och ansikten kan förfalskas med AI är mindre benägen att låta sig luras.
Ha också en plan för det scenario där en falsk video, ett förfalskat röstklipp eller andra deep fakes ändå sprids om företaget eller en av dess talespersoner. Grunderna i krishantering vid kommunikation gäller lika mycket här: agera snabbt, var transparent om vad som hänt och vad som görs, och undvik att förvärra situationen genom att dröja med ett svar, oavsett om spridningen sker i traditionella medier eller sociala kanaler.
