Deepfakes Explained: AI som gör falska videor för övertygande

• Teknik förklarat

Annons

Se är att tro. Nåväl, det var i alla fall fallet innan vi insåg att folk kunde läsa videoklipp för att driva framaxlar och skriva om historien. Även om vi har hittat sätt att debunkna de flesta hoaxbilder, finns det en teknisk utveckling som tar fart så snabbt att vi snart inte längre vet hur vi ska berätta vad som är verkligt och vad som är falskt.

Deepfakes förändrar allt vi trodde var möjligt när det gäller doctored videor. Här är allt du behöver veta om dem ...

Vad är Deepfakes?

Termen deepfakes kommer från en kombination av orden ”djup inlärning” och ”förfalskningar”. Detta beror på att mjukvaruintelligensprogramvara tränad i bild- och videosyntes skapar dessa videor. Denna AI kan överlagra ett ämnes (källans) ansikte på en video av en annan (målet). Mer avancerade former av teknik kan syntetisera en helt ny modell av en person som använder källans ansiktsgester och bilder eller video av det ämne de vill ge efter.

Tekniken kan göra ansiktsmodeller baserade på begränsade visuella data, till exempel en bild. Men ju mer data AI har för att fungera, desto mer realistiskt blir resultatet.

Det är därför politiker och kändisar är så enkla mål för deepfakes eftersom det finns så mycket visuella data online som mjukvaran kan använda. Eftersom deepfake-mjukvara är tillgänglig på open source-plattformar förädlar och fortsätter människor på internet ständigt på andras arbete.

Origins of Deepfake AI Technology

Tekniken bakom deepfakes utvecklades för en mängd syften. Mycket som Photoshop har programvaran professionella, underhållnings- och hobbyarbetare. Och precis som Photoshop, trots att skaparen inte har några skadliga avsikter att skapa programvaran, har detta inte hindrat människor från att använda det för skadliga syften.

Ansiktsbytsteknologi användes ursprungligen främst i filmindustrin. En av de mest kända fallen är i filmen Rogue One: A Star Wars Story 2016. I filmen använde filmskapare ansiktsbyte och videosyntes-teknik för att återskapa karaktären Grand Moff Tarkin. En yngre version av Princess Leia skapades också i filmen. I båda fallen överlagrades modeller av de ursprungliga skådespelarnas ansikten på stand-in-skådespelare.

Appar som Snapchat använder också ansiktsbytsteknik för att skapa roliga filter för användare. Utvecklarna bakom dessa appar förfinar kontinuerligt ansiktsdetektering och spårning för att tillämpa dessa filter mer effektivt.

Under tiden har andra utvecklat videosyntesverktyg för att skapa hologram för utbildningsändamål. Till exempel utvecklade ett projekt video- och ansiktssyntesprogramvara så att vittnesbörd från Holocaust-överlevande kunde presenteras som interaktiva hologram på ett museum.

Varför Deepfakes gör människor nervösa

När människor insåg att svindlare och personer som spelade hoax använde Photoshop för att skapa falska bilder, var vi tvungna att bli mer skeptiska till vad vi ansåg bevisa. Lyckligtvis fanns det många sätt att upptäcka om en bild var falsk, även med blotta ögat.

Utöver detta är det relativt arbetsintensivt att skapa en övertygande doctored bild i Photoshop. Inte bara vem som helst kan slå två bilder ihop och få dem att se realistiska ut.

Men deepfakes är olika. Maskininlärning gör livet enklare 4 Maskininlärningsalgoritmer som formar ditt liv 4 Maskininlärningsalgoritmer som formar ditt liv Du kanske inte inser det, men maskininlärning finns redan runt dig och det kan utöva en överraskande grad av inflytande över ditt liv. Tro mig inte? Du kanske blir förvånad. Läs mer, men i det här fallet gör det fakery betydligt enklare. För det första är programvaran allmänt tillgänglig och fritt tillgänglig. FakeApp är till exempel ett populärt val för att skapa deepfakes. Du behöver inte avancerade färdigheter för att tillämpa ett ansiktsbyte, programvaran gör det åt dig.

Eftersom AI och djup inlärning hjälper till att skapa deepfakes, förbättras tekniken och blir mer övertygande i oroväckande takt. Det kommer inte att ta lång tid innan dessa redigeringar inte syns med det blotta ögat.

I en värld som är full av förfalskade nyheter kan övertygande djupförfalskningar visa sig vara en kaotisk kraft mot vad vi anser vara sant.

Ökningen av deepfakes sker också vid en tidpunkt då AI-röstsyntesen också går snabbt. Inte bara kan AI generera falska videor, utan det kan också generera röstmodeller för människor.

Detta innebär att du inte skulle behöva en person för att låta det låta som en politiker gör ett upprörande uttalande. Du kan träna AI för att härma deras röst istället.

Konsekvenserna av Deepfakes

Människor använder redan deepfakes för skadliga ändamål. Folk använde ofta FakeApp för att skapa falska videor av kändisskådespelerskor som är engagerade i vuxeninnehåll.

Gal Gadot, Daisy Ridley och Emma Watson är bara några av de skådespelerskor som riktas mot falska vuxna videor. Dessa deepfakes byter skådespelerska ansikten till videor av vuxna filmstjärnor.

Medan flera plattformar och vissa webbplatser för vuxna har förbjudit dessa typer av videor, dyker upp fler varje dag. I själva verket skapar vissa webbplatser specifikt deepfake-kändisfilmer för vuxna baserade på användarförfrågningar.

I de flesta länder handlar inga lagar om den här typen av innehåll ännu, vilket gör det svårt att kontrollera.

Medan vi fortfarande är långt borta från dystopin som styrs av felinformation och falska videobevis som vi ser i filmer som The Running Man, är vi redan alltför bekanta med effekterna av falska nyheter. Vad är falska nyheter och hur sprids det så Snabbt? Vad är falska nyheter och hur sprids det så snabbt? Falska nyheter plågar internet och det värsta är att de flesta människor inte kan känna igen det när de ser det. Läs mer .

Deepfakes kan vara ett kraftfullt verktyg för att sprida felinformation. Ingen har varit inramad för ett brott eller förfalskat sin död med djupförfalskningar, men vad händer när det blir svårt att se vilka videor som verkligen är verkliga?

Konsekvenserna av deepfakes som används för politiska ändamål är två gånger. För det första gör det falska nyheter mycket lättare att sprida. Videor är mer troligt än text eller bilder för att övertyga människor om att något fiktivt faktiskt hände.

Människor tror redan rubriker från falska webbplatser utan bevis för sin historia. Plötsligt kommer falska berättelser att ha "bevis" som visar politiker som bekänner sig för felaktigheter eller gör upprörande uttalanden.

Å andra sidan skulle deepfakes också kunna embolda politiker när de undvika ansvar. De kan alltid lätt hävda att en ljud- eller videoinspelning faktiskt är ett djupfals.

Hur kämpar vi Deepfakes?

Medan många teknikföretag tar sig tid att töja djupfusk, utvecklar många människor verktyg för att bekämpa skadliga falska videor. AI kan bekämpa hackare och cyberbrott Hur artificiell intelligens kommer att bekämpa moderna hackare och cyberkriminalitet Hur artificiell intelligens kommer att bekämpa moderna hackare och cyberbrott Med en brist på cybersecurity talang och cyberbrottsepidemi, hur kan företag bekämpa hackare? Med konstgjord intelligens! Läs mer, men det är också användbart för att upptäcka AI-manipulation i videor.

AI Foundation skapade en webbläsarplugin som heter Reality Defender för att hjälpa till att upptäcka deepfake-innehåll online. En annan plugin, SurfSafe, utför också liknande kontroller. Båda dessa verktyg syftar till att hjälpa internetanvändare urskilja fakta från fiktion.

Faktskontrollerande webbplatser som Snopes utökade också till att utropa doctored videor. Men de har ännu inte verktyg för att automatiskt upptäcka deepfakes.

Till och med det amerikanska försvarsdepartementet investerade i programvara för att upptäcka deepfakes. Vad skulle trots allt hända om en övertygande video av en världsledare dyker upp på nätet, förklarar krig eller missilutskott mot ett annat land? Regeringar behöver verktyg för att snabbt verifiera legitimiteten för en video.

Machine Learnings oavsiktliga konsekvenser

Det finns ingen tvekan om att AI-teknik och djup maskinlärning förbättrar våra liv på många sätt. Men tekniken har också oavsiktliga konsekvenser.

Även om dålig data är ett stort hinder för algoritmer för maskininlärning, spelar det mänskliga elementet också en roll. Det är svårt att förutsäga hur människor kan använda viss teknik för skadliga ändamål. Du kan ta reda på mer om maskininlärning och tidigare misstag i vår guide till maskininlärningsalgoritmer och varför de går fel Vad är maskininlärningsalgoritmer? Så här fungerar de. Vad är maskininlärningsalgoritmer? Så här fungerar de Maskininlärningsalgoritmer är utformade för att göra livet lättare och förbättra system, men de kan gå fel med dåliga konsekvenser. Läs mer . Och även om du kanske har svårt att identifiera deepfakes som sådana, kan du undvika falska nyheter med smarta nyhetsappar 5 Smart News-appar som hjälper dig att undvika falska nyheter med mer pålitliga rapporter 5 Smart News-appar som hjälper dig att undvika falska nyheter med mer pålitliga rapporter Vill du komma bort från falska nyheter? Du kan använda dessa smarta appar för att få faktakontrollerade och neutrala nyheter istället. Läs mer .

Utforska mer om: Artificial Intelligence, Deepfakes, Hoaxes, .