En grønn «wireframe»-modell dekker en skuespillers ansikt under opprettelsen av en «deepfake», i London, Storbritannia, 12. februar 2019. Foto: REUTERS
annonse
annonse

«Deepfakes» – datamaskingenererte bilder og opptak av virkelige mennesker – skaper stadig større bekymring for sikkerhetseksperter.

En ny artikkel fra forskere ved cybersikkerhetsfirmaet FireEye, sitert i Defense One, konkluderer med at lett tilgjengelig programvare på internet drastisk reduserer mengden av teknisk kompetanse som kreves for å produsere stadig mer overbevisende «deepfakes». «Deepfakes» blir også stadig lettere og rimeligere å kjøpe fra useriøse markedsførings- og PR-firmaer – med priser som varierer i henhold til tidsbruk og hvor sofistikert produktet er.

Forskerne Philip Tully og Lee Foster skriver at det vanligvis krever tusenvis av dollar og tar flere uker å produsere programvare for å generere troverdige «deepfakes». Men på grunn av nye og lett tilgjengelige verktøy som egner seg til å lage forfalskede bilder og stemmeopptak, vil mengden av tid og krefter som er involvert i prosessen synke drastisk i tiden fremover. De nevner spesielt programvare som er tilgjengelig på nettsiden GitHub.com.

annonse

De viser til at de kunne bruke programvaren StyleGAN2 til å lett lage nye overbevisende «deepfakes» av skuespilleren Tom Hanks – kun ved hjelp av et større datasett av kompilerte Hanks-bilder, strukturert til å være av samme størrelse og fra samme generelle vinkel. Videre forklarer de at de kun trengte å samle noen Hanks-lydopptak som er enkelt tilgjengelig på internett, og bruke relevant programvare til å klone stemmen til skuespillerkjendisen til å gå sammen med den fabrikkerte videoen.

Vanskeligere å oppdage

Forskere generelt har lenge arbeidet med å utvikle metoder for å automatisk oppdage «deepfakes». Den gode nyheten fra Tully og Fosters forskning er at den overnevnte utgaven er relativt enkelt å oppdage – ved å bruke andre programmer som er også tilgjengelige på GitHub.com. Den dårlige nyheten er at jo mer en aktør med penger og tid er i stand til å tilpasse programvaren eller det underliggende datasettet som brukes for å generere «deepfakes», jo vanskeligere blir de å oppdage.

annonse

– Deteksjonsnøyaktigheten sank til rundt 78 prosent for finjusterte genererte bilder. Så hvis ondsinnede aktører skulle finjustere et tilpasset datasett som de selv har samlet, kan det være problematisk å bygge en passende deteksjonsmodell, skrev de.

Artikkelen fortsetter

Rapport: Russiske hackere helt overlegne – ingen andre i nærheten

Overflod av videoopptak

Ifølge cybersikkerhetsstrategen Peter Singer fra tenketanken New America, betyr det enorme volumet av nye, kornete, hjemme-videoopptak over kommunikasjonsplattformer som Zoom, at «deepfakes» vil være vanskeligere å oppdage, fordi folk blir mer vant til å se på kornete og hakkete videoopptak.

– Kvalitetssikringen trenger ikke å være veldig høy når det kommer til syntetiske genererte bilder. Den trenger bare å være «god nok» for at mange ikke vil stille spørsmål i en verden preget av raskt forbruk av informasjon med høyt volum, advarte han.

Sikkerhetsproblem

Forskerne konkluderer med at «deepfakes» nå begynner å fremstå stort nasjonalt sikkerhetsproblem ikke bare for USA, men også andre demokratiske åpne land.

annonse

Det blir for eksempel stadig mer vanlig taktikk blant viktige fiendtlige aktører å etterligne innflytelsesrike personer – som journalister – for å spre desinformasjon og så splid innad i demokratiske stater gjennom såkalte påvirkningsoperasjoner.

Lettere tilgjengelig «deepfake»-teknologi vil etter all sannsynlighet gjøre slik oppførsel mer vanlig, som kan få dramatiske sikkerhetsrelaterte konsekvenser i tiden fremover.

Se under for et eksempel på en «deepfake»-video med Richard Nixon om en fiktiv månelandingsulykke.

Setter du pris på Resett?

VIPPS 124526
BANK 1503.94.12826
SMS “Resett” (200,- en gang) eller
SMS “Resett fast” (59,- pr. mnd.) til 2474

annonse
Utskriftsvennlig versjon Utskriftsvennlig versjon