Miks Apple taandus oma foto skaneerimise funktsioonist?

2021. aasta augustis avalikustas Apple oma plaanid skannida iPhone'idest laste seksuaalse väärkohtlemise pilte. See samm tõi lastekaitserühmadelt aplausi, kuid tekitasid eraelu puutumatuse ja turvalisuse ekspertide seas muret, et seda funktsiooni võidakse kuritarvitada.

Apple plaanis esialgu lisada lapse seksuaalse kuritarvitamise materjali (CSAM) skannimistehnoloogia iOS 15 -sse; selle asemel on see määramata ajaks edasi lükanud funktsiooni kasutuselevõtu, et küsida tagasisidet enne selle täielikku väljaandmist.

Miks sai CSAM -i tuvastamise funktsioon tuliste arutelude teemaks ja mis pani Apple oma turuletoomise edasi lükkama?

Mida teeb Apple'i fotode skaneerimise funktsioon?

Apple teatas, et rakendab fotode skaneerimise funktsiooni, et võidelda laste seksuaalse kuritarvitamise vastu. Kõik Apple'i kasutajate seadmetes olevad fotod skaneeritakse pedofiilia sisu leidmiseks, kasutades Apple'i loodud algoritmi "NueralHash".

Lisaks oleks kõigil laste poolt kasutatavatel Apple'i seadmetel turvafunktsioon, mis käivitub automaatselt hägustab täiskasvanud pilte, kui laps neid saab, ja kasutajat hoiatatakse avamise korral kaks korda neid.

Peale täiskasvanutele mõeldud sisuga kokkupuute minimeerimise, kui vanemad registreerivad oma lastele kuuluvad seadmed täiendava ohutuse tagamiseks teavitatakse vanemaid, kui laps saab kelleltki selget sisu võrgus.

Loe rohkem: Mida peate teadma Apple'i lastekaitse kohta

Mis puutub täiskasvanutesse, kes kasutavad Siri -d laste seksuaalseks otsimiseks, siis Siri seda otsingut ei tee ja soovitab selle asemel muid alternatiive.

Andmed mis tahes seadmest, mis sisaldab 10 või enamat fotot, mida algoritmid kahtlustavad, dekrüpteeritakse ja vaadatakse üle.

Kui need või muud seadmes olevad fotod vastavad mis tahes pakutava andmebaasi andmetele Kadunud ja ärakasutatud laste riiklik keskus, teatatakse sellest ametivõimudele ja kasutaja konto peatatakse.

Peamised mured seoses foto skaneerimise funktsiooniga

CSAM -i tuvastamise funktsioon oleks kasutusele võetud koos iOS 15 turuletoomisega septembris 2021, kuid nägu laialdase pahameele tõttu otsustas Apple võtta rohkem aega tagasiside kogumiseks ja selle parandamiseks tunnusjoon. Siin on Apple'i täielik avaldus hilinemise kohta:

"Eelmisel kuul teatasime plaanidest funktsioonide kohta, mis aitavad kaitsta lapsi röövloomade eest kasutada suhtlusvahendeid nende värbamiseks ja kasutamiseks ning piirata laste seksuaalse väärkohtlemise levikut Materjal.

Klientide, huvigruppide, teadlaste ja teiste tagasiside põhjal oleme otsustanud võtta rohkem aega järgnevatel kuudel, et koguda sisendit ja teha parandusi enne nende kriitiliselt oluliste laste turvalisuse avaldamist Funktsioonid".

Ligi pooled Apple'i fotode skannimisfunktsiooniga seotud muredest keerlevad privaatsuse ümber; ülejäänud argumendid hõlmavad algoritmide tõenäolist ebatäpsust ja süsteemi või selle lünkade võimalikku väärkasutust.

Jagame selle neljaks osaks.

Võimalik väärkasutus

Teades, et igasugune materjal, mis sobib lastepornograafiaga või teadaolevad kujutised laste seksuaalsest väärkohtlemisest, satub seade "kahtlaste" nimekirja, võib küberkurjategijad liikuma panna.

Nad võivad iMessage'i, WhatsAppi või muude vahendite kaudu tahtlikult pommitada sobimatu sisuga inimest ja selle isiku konto peatada.

Apple on kinnitanud, et kasutajad saavad esitada apellatsiooni, kui nende kontod on arusaamatuse tõttu peatatud.

Siseringi kuritarvitamine

Kuigi see funktsioon on loodud heatahtlikul eesmärgil, võib see teatud seadmete puhul nende inimeste jaoks muutuda totaalseks katastroofiks on registreeritud süsteemi nende teadmata või ilma nende suhtlusest huvitatud sugulaste poolt.

Isegi kui seda ei juhtu, on Apple loonud tagaukse, et muuta kasutajate andmed päeva lõpuks kättesaadavaks. Nüüd on inimeste motivatsiooni ja sihikindluse küsimus juurdepääs teiste inimeste isikuandmetele.

Seotud: Mis on tagauks ja mida see teeb?

See mitte ainult ei hõlbusta eraelu puutumatuse olulist rikkumist, vaid sillutab teed ka kuritahtlikuks, mürgiseks või kontrollimiseks sugulased, eestkostjad, sõbrad, armastajad, hooldajad ja endised, et veelgi tungida kellegi isiklikku ruumi või piirata nende vabadus.

Ühelt poolt on see mõeldud laste seksuaalse kuritarvitamise vastu võitlemiseks; teisest küljest saab seda kasutada muud liiki kuritarvitamise jätkamiseks.

Valitsuse järelevalve

Apple on alati kuulutanud end konkurentidest privaatsustundlikumaks kaubamärgiks. Kuid nüüd võib see minna libedale teele, et täita lõputuid läbipaistvusnõudeid kasutajate andmed valitsuste poolt.

Selle loodud süsteemi pedofiilia sisu tuvastamiseks saab kasutada telefonides igasuguse sisu tuvastamiseks. See tähendab, et kultusliku mentaliteediga valitsused saavad kasutajaid isiklikumal tasemel jälgida, kui nad selle kätte saavad.

Rõhutav või mitte, valitsuse sekkumine teie igapäeva- ja isiklikku ellu võib olla närviline ja rünnata teie privaatsust. Mõte, et peate selliste sissetungide pärast muretsema ainult siis, kui olete midagi valesti teinud, on vigane mõtlemine ja ei näe eelnimetatud libedat nõlva.

Valed häired

Üks suurimaid probleeme algoritmide kasutamisel piltide andmebaasiga sobitamiseks on valehäired. Räsimisalgoritmid võivad ekslikult tuvastada kaks fotot vastetena, isegi kui need pole samad. Need vead, mida nimetatakse kokkupõrgeteks, on eriti murettekitavad laste seksuaalse väärkohtlemise sisu kontekstis.

Teadlased leidsid NeuralHashist mitu kokkupõrget pärast seda, kui Apple teatas, et kasutab piltide skaneerimiseks algoritmi. Apple vastas valehäirete kohta käivatele päringutele, juhtides tähelepanu sellele, et inimene vaatab tulemuse lõpuks üle, seega ei pea inimesed selle pärast muretsema.

Kas Apple'i CSAM -i paus on püsiv?

Apple'i pakutud funktsioonil on palju plusse ja miinuseid. Igaüks neist on ehtne ja talub kaalu. Siiani on ebaselge, milliseid konkreetseid muudatusi Apple võiks CSAM-i skannimisfunktsioonile oma kriitikute rahuldamiseks sisse viia.

See võib piirata skannimist jagatud iCloudi albumitega, selle asemel, et kaasata kasutajate seadmeid. On väga ebatõenäoline, et Apple loobub nendest plaanidest, kuna ettevõte ei kipu tavaliselt oma plaanidele järele andma.

Laiaulatuslikust tagasilöögist ja Apple'i plaanidest kinni pidamisest on aga selge, et ettevõtted peaksid algusest peale kaasama teadlaskonda, eriti testimata tehnoloogia.

Interneti -ohutus: 50+ näpunäidet oma laste turvaliseks hoidmiseks võrgus

Lapsed on veebikiskjate ja küberkiusajate peamised sihtmärgid. Need käepärased näpunäited võivad õpetada vanematele, kuidas neid veebis turvaliselt hoida.

Loe edasi

Autori kohta