Kas Deepfake võib näotuvastust narrida? Uus uuring ütleb jah!

Sügavad võltsingud ja tehisintellekti loodud videod on siin, et jääda. Kuid viimase paari aasta jooksul on nende kvaliteet ja kvantiteet kasvanud, pannes paljud inimesed muretsema riigi julgeoleku ja isikliku privaatsuse pärast.

Siiski, hoolimata sellest, kui kõvasti anonüümsed veebikasutajad oma võltsvideot realistlikuks muuta püüdsid, ei saanud nad kunagi mööda arenenud näotuvastustarkvarast. Kuni praeguseni.

Lollid näotuvastuse API -d

Lõuna -Korea Suwoni Sungkyunkwani ülikooli teadlased, testis praeguse deepfake tehnoloogia kvaliteeti. Nad testisid nii Amazoni kui ka Microsofti API-sid, kasutades avatud lähtekoodiga ja tavaliselt kasutatavat sügavat võltsitud videot genereerivat tarkvara, et näha, kui hästi need toimivad.

Teadlased kasutasid Hollywoodi kuulsuste nägusid. Kindlate sügavate võltsingute loomiseks vajab tarkvara palju kvaliteetseid pilte erinevatelt samade isikute vaatenurki, mida on tavaliste asemel kuulsustest palju lihtsam omandada inimesed.

Samuti otsustasid teadlased kasutada Microsofti ja Amazoni API -d oma uuringu võrdlusalustena, kuna mõlemad ettevõtted pakuvad kuulsuste näotuvastusteenuseid. Nad kasutasid avalikult kättesaadavaid andmekogumeid ja lõid veidi üle 8000 sügava võltsingu. Igast sügavalt võltsitud videost eraldasid nad mitu näopilti ja esitasid selle API -dele.

Microsofti Azure'i kognitiivteenuste abil suutsid teadlased süsteemi 78 protsenti ajast petta, kasutades sügavaid võltsinguid. Amazoni tulemused olid veidi paremad - 68 protsenti esitatud nägudest tunnistati tõelisteks.

Aga Deepfake'i detektorid?

Deepfake detektorid töötavad enam -vähem samamoodi nagu deepfake. Detektorid on tarkvara, mida koolitati masinõppemudelite abil võltsvideote tuvastamiseks.

Kuid selle asemel, et keskenduda detektorite petmiseks hüperrealistliku video loomisele, võivad sügavad võltsingud nüüd AI-süsteemi segamiseks lisada igasse kaadrisse vastandlikke näiteid. Tegelikult on seda tüüpi sügavate võltsimisrünnakute edukuse määr erinev 78 kuni 99 protsenti.

See läheb hullemaks

Deepfakes on masinõppe rakendus. Isegi kaugelt veenva pildi loomiseks vajate sadu pilte sama inimese näost erinevate nurkade alt ja erinevate emotsioonide kuvamist.

Kuna vaja on tohutul hulgal andmeid, võiks arvata, et ohus on ainult inimesed, kellel on suur online -kohalolek, nagu kuulsused ja poliitikud. Kuid see pole enam nii.

Deeptrace'i andmetel kasvas võrgus olevate sügavate võltsingute arv vähem kui aastaga - oktoobrist 2019 kuni juunini 2020 - 330 protsenti. Rääkimata sellest, et tarkvara ja algoritmid, mida sügavate võltsingute tegijad kasutavad, muutuvad tugevamaks ning kättesaadavamaks ja kättesaadavamaks.

Kes on Deepfake'i ohus?

Kui sügavatest võltsingutest sai esmakordselt mainstream, esmane mure oli eraelu puutumatuse ja riigi julgeoleku pärast. Inimesed kartsid, et poliitikute ja ametlike valitsustöötajate videomaterjali ei saa enam usaldada.

Kuid kuigi julgeolekuriski sügava võltsimisega seotud positsiooni eiramine oleks vastutustundetu, leiti mitmetest uuringutest, et sügavate võltsingute tegijad pole poliitika häirimisest veel nii huvitatud. Enamiku sügavate võltsingute veebivideotest võib jagada kahte kategooriasse: kuulsuste intervjuude naljakad videod ning filmid ja pornograafiline materjal.

Kuigi hiljutine uuring viidi läbi kuulsuste nägude abil, et tagada sügavate võltsingute kvaliteet API -de petmiseks, ei tähenda see, et te ei saaks vähem andmetega sügavaid võltsinguid teha. Muidugi, neil ei pruugi olla võimalust petta täiustatud näotuvastussüsteeme, kuid need võivad olla piisavalt veenvad, et teisi inimesi petta.

Tänapäeval võib igaühe sotsiaalse kohaloleku sügavaid võltsinguid teha veenvalt. Kõik, mida nad vajavad, on mõned fotod sinust ja võib -olla ka video, milles näete. Sellest tulenev sügav võlts võib olla madala kvaliteediga, kuid see on siiski teostatav ja võib kahjustada.

Tulevik on veel teadmata

Sügavate võltsingute olukorra kohta on palju vastuolulisi ennustusi, kuna need ei kao niipea.

Mõned ootavad apokalüptilist kübertulevikku, kus te ei saa usaldada ühtegi veebis kogetud materjali. Teised on optimistlikumad, võrdlevad sügavaid võltsinguid animatsiooniga ja ütlevad, et sellel võib olla sisu tootmisel tulevikku.

Kuidas kaitsta end võltsvideote eest

Sügavad võltsingud muutuvad üha levinumaks. Siit saate teada, kuidas nad võivad teie veebipõhist privaatsust ohustada ja kuidas vältida vastuvõtmist.

Loe edasi

Autori kohta