Mis on PhotoDNA ja kuidas see toimib?

Internet on teinud palju asju lihtsamaks, alates sõprade ja perega ühenduse pidamisest kuni töö saamiseni ja isegi kaugtööni. Selle ühendatud arvutisüsteemi eelised on tohutud, kuid sellel on ka negatiivne külg.

Erinevalt rahvusriikidest on Internet ülemaailmne võrgustik, mida ükski valitsus ega võim ei saa kontrollida. Järelikult jõuab ebaseaduslik materjal võrku ja on uskumatult raske vältida laste kannatusi ja tabada süüdlased.

Microsofti ühiselt välja töötatud tehnoloogia nimega PhotoDNA on aga samm turvalisema veebiruumi loomise suunas nii lastele kui ka täiskasvanutele.

Mis on PhotoDNA?

PhotoDNA on kujutise tuvastamise tööriist, mis töötati esmakordselt välja 2009. Kuigi see on peamiselt Microsofti toetatud teenus, töötas selle välja digitaalse fotoanalüüsi ekspert Dartmouthi kolledži professor Hany Farid. PhotoDNA eesmärk on tuvastada ebaseaduslikud pildid, sealhulgas laste seksuaalse kuritarvitamise materjal, üldtuntud kui CSAM.

Kuna nutitelefonid, digikaamerad ja kiire internet on muutunud tavalisemaks, on ka veebis leitud CSAM-i hulk suurenenud. Püüdes neid pilte tuvastada ja eemaldada koos muu ebaseadusliku materjaliga, sisaldab PhotoDNA andmebaas miljoneid sissekandeid teadaolevate väärkohtlemise piltide kohta.

Microsoft haldab süsteemi ja andmebaasi haldab USA-s asuv laste kadumise ja ärakasutamise laste riiklik keskus (NCMEC), mis on pühendunud laste väärkohtlemise ennetamisele. Pildid jõuavad andmebaasi pärast NCMECile teatamist.

Kuigi see pole ainus teenus teadaoleva CSAM-i otsimiseks, on PhotoDNA üks levinumaid meetodeid, sealhulgas paljud digitaalsed teenused, nagu Reddit, Twitter ja enamik Google'i omandis olevaid tooteid.

PhotoDNA tuli algusaegadel füüsiliselt kohapeal seadistada, kuid Microsoft haldab nüüd pilvepõhist PhotoDNA pilveteenust. See võimaldab väiksematel, suure infrastruktuurita organisatsioonidel CSAM -i tuvastada.

Kuidas PhotoDNA toimib?

Kui Interneti -kasutajad või õiguskaitseorganid satuvad kuritarvitamise piltidele, teatatakse neist NCMEC -ile CyberTipline. Need on kataloogitud ja teavet jagatakse õiguskaitseorganitega, kui seda veel pole. Pildid laaditakse üles PhotoDNA -sse, mis seejärel loob iga pildi jaoks räsi või digitaalallkirja loomise.

Selle ainulaadse väärtuse saavutamiseks muudetakse foto mustvalgeks, jagatakse ruutudeks ja tarkvara analüüsib saadud varjutust. Unikaalne räsi lisatakse PhotoDNA andmebaasi, mida jagatakse füüsiliste installatsioonide ja PhotoDNA Cloudi vahel.

Tarkvara pakkujad, õiguskaitseorganid ja muud usaldusväärsed organisatsioonid saavad rakendada PhotoDNA skannimist oma toodetes, pilvetarkvaras või muudes andmekandjates. Süsteem skannib iga pildi, teisendab selle räsiväärtuseks ja võrdleb seda CSAM -i andmebaasi räsidega.

Sobivuse leidmisel teavitatakse vastutavat organisatsiooni ja edastatakse üksikasjad õiguskaitseorganitele süüdistuse esitamiseks. Pildid eemaldatakse teenusest ja kasutaja konto lõpetatakse.

Oluline on see, et teie fotode kohta ei salvestata teavet, teenus on täielikult automatiseeritud ilma inimeste osaluseta ja pilti ei saa räsiväärtusest uuesti luua.

Alates 2015. aastast on organisatsioonid saanud PhotoDNA -d kasutada ka videote analüüsimiseks.

2021. aasta augustis murdis Apple sammu enamiku teiste Big Tech firmadega ja teatas, et kasutab oma ettevõtteid teenus, et skannida kasutaja iPhone'i CSAM -i jaoks.

Arusaadavalt said need plaanid märkimisväärse vastukaja, kuna näisid rikkuvat ettevõtte privaatsust kaitsvat hoiakut, ja paljud inimesed olid mures, et skaneerimine hõlmab järk-järgult ka mitte-CSAM-i, mis viib lõpuks seaduste tagaukseni jõustamine.

Kas PhotoDNA kasutab näotuvastust?

Tänapäeval oleme algoritmidega piisavalt tuttavad. Need kodeeritud juhised näitavad meile asjakohaseid ja huvitavaid postitusi meie sotsiaalmeedia kanalites, toetavad näotuvastussüsteeme ja isegi otsustavad, kas meile pakutakse töövestlust või astume ülikooli.

Võib arvata, et algoritmid oleksid PhotoDNA keskmes, kuid sellisel viisil kujutiste tuvastamise automatiseerimine oleks väga problemaatiline. Näiteks oleks see uskumatult invasiivne, rikuks meie privaatsust ja rääkimata sellest, et algoritmid pole alati õiged.

Näiteks Google'il on oma näotuvastustarkvaraga olnud hästi dokumenteeritud probleeme. Google'i fotode esmakordsel käivitamisel liigitas see solvavalt mustad inimesed gorilladeks. 2017. aasta märtsis kuulis koja järelevalvekomitee, et mõned näotuvastuse algoritmid eksisid 15 protsenti ajast ja tõenäolisemalt tuvastasid mustanahalised valesti.

Need masinõppe algoritmide tüübid on üha tavalisemad, kuid nende asjakohane jälgimine võib olla keeruline. Tõhusalt teeb tarkvara oma otsused ja peate muutma, kuidas see konkreetse tulemuseni jõudis.

Arusaadavalt, arvestades PhotoDNA otsitava sisu tüüpi, võib vale tuvastamise mõju olla katastroofiline. Õnneks ei tugine süsteem näotuvastusele ja suudab leida ainult eelnevalt tuvastatud räsitud pilte.

Kas Facebook kasutab PhotoDNA -d?

Maailma suurimate ja populaarseimate sotsiaalvõrgustike omaniku ja operaatorina tegeleb Facebook iga päev palju kasutajate loodud sisuga. Kuigi usaldusväärseid praeguseid hinnanguid on raske leida, analüüs 2013 soovitas Facebookis iga päev üles laadida umbes 350 miljonit pilti.

Tõenäoliselt on see nüüd palju suurem, kuna teenusega on liitunud rohkem inimesi, ettevõte tegutseb mitmel viisil võrgud (sh Instagram ja WhatsApp) ning meil on lihtsam juurdepääs nutitelefonide kaameratele ja usaldusväärne internetti. Arvestades oma rolli ühiskonnas, peab Facebook vähendama ja eemaldama CSAM -i ja muud ebaseaduslikku materjali.

Õnneks tegeles ettevõte sellega varakult, valides 2011. aastal Microsofti PhotoDNA teenuse. Alates kümne aasta tagusest teadaandest on selle tõhususe kohta vähe andmeid. Kuid, 91 protsenti kõigist CSAM -i aruannetest 2018. aastal tulid Facebookist ja Facebook Messengerist.

Kas PhotoDNA muudab Interneti turvalisemaks?

Microsofti välja töötatud teenus on kahtlemata oluline tööriist. PhotoDNA mängib nende piltide leviku tõkestamisel otsustavat rolli ja võib isegi aidata aidata riskirühma kuuluvaid lapsi.

Süsteemi peamine viga on aga see, et see saab otsida ainult eelnevalt kindlaksmääratud pilte. Kui PhotoDNA -sse ei ole salvestatud räsi, ei suuda see tuvastada kuritahtlikke pilte.

Kõrge eraldusvõimega väärkasutuspilte on võrgus üles võtta ja üles laadida lihtsamalt kui kunagi varem ning kuritarvitajad seda teevad üha enam turvalisematele platvormidele, nagu Dark Web ja krüpteeritud sõnumsiderakendused ebaseaduslikku materjali. Kui te pole varem Dark Webiga kokku puutunud, tasub lugeda Interneti peidetud küljega seotud riskide kohta.

Kas tume veeb on ebaseaduslik?

Kuritegelikke tegevusi saab leida tumedate võrkude kaudu, kuid kas tegelikult on pimedas veebis käimine ebaseaduslik?

Loe edasi

Autori kohta