Tundub, et liiga sageli näeme uudiseid, et ühel või teisel sotsiaalmeedia saidil pandi toime mõni jõhker õigusrikkumine, sealhulgas ebaseaduslikud postitused või vägivaldse sisu otseülekanne. Võib olla lihtne imestada, kuidas praegusel tehnoloogiliselt arenenud ajastul võivad sellised asjad läbi libiseda.

Kuid tõsiasi on see, et sotsiaalmeedia saite on praktiliselt võimatu tõhusalt modereerida. Miks? Põhjuseid on vähe.

Mõned sotsiaalmeedia saidid on alles kujunemisjärgus või on rohkem nišis. Suurtel sotsiaalmeedia saitidel on aga suur kasutajabaas. Suurimatel saitidel on sadu miljoneid kuni miljardeid kasutajaid. Loomulikult on iga nii suurt platvormi raske jälgida.

Enamik suuremaid suhtlusvõrgustikke haldab seda kogukonna aruandluse, kahjuliku sisu tuvastamiseks (ebatäiuslikult) koolitatud algoritmide ja mõne inimmoderaatori kombinatsiooni kaudu. Kuigi kogukonna liige või tehisintellekt võib kahjulikku teavet märgata ja sellest teatada, on inimesel (või inimrühmal) viimane sõna. Ja paljud saidid pakuvad apellatsiooniprotsessi.

Sotsiaalmeedia saidid pole lihtsalt kasutajabaasi poolest suured. Erinevates osariikides ja riikides kehtivad erinevad seadused selle kohta, millisest sisust tuleb teatada ja kuidas.

Seega peavad erinevates geograafilistes piirkondades tegutsevatel sotsiaalmeedia ettevõtetel erinevate kasutajate jaoks sageli olema erinevad poliitikad. See hõlmab erinevaid valeinformatsiooni ja privaatsuse eeskirju. Tegelikult, Twitter pidi Nigeerias keelu kaotamiseks nõustuma konkreetsete tingimustega.

Veelgi enam, sotsiaalmeedia on ülemaailmne nähtus, kuid see ei juhtu alati "globaalsetes" keeltes. See võib panna sotsiaalmeedia ettevõtted otsima piirkondlikke keeli rääkivaid sisumoderaatoreid, et pakkuda teenuseid ülemaailmselt, jätmata need kasutajad haavatavaks halbade osalejate ees.

Hea näide on Facebooki omaniku Meta oma. Ettevõte oli hiljuti endine sisumoderaator Nairobis kohtusse kes väidab, et piirkonna sisumoderaatorid on rolli võtmisel eksitatud.

3. Moderaatorid kõnnivad köiel

Enamik sotsiaalmeedia kasutajaid soovib kahte asja: nad tahavad tunda end turvaliselt ja nad tahavad tunda end vabalt. Nende kahe soovi vahel tasakaalu leidmine on sisumoderaatori keeruline ülesanne.

Liigutage liiga kaugele ühele küljele ja kasutajad tunnevad end kontrollituna. Kui eksite liiga kaugele teisele poole, tunnevad kasutajad end hüljatuna. Üks viis, kuidas mõned sotsiaalmeedia saidid sellest mööda saavad, on kogukonna moderaatorid.

Kogukonna moderaatorid aitavad väljendada, et mõõdukus on midagi, mida tehakse reklaamikirest konstruktiivne diskursus, lubamata kahjulikku sisu, mitte ainult soovist kontrollida või rõhuda kasutajad. See mudel on mastaapselt keeruline, kuigi erinevad platvormid panevad selle toimima erineval viisil.

Parler tuli uuesti võrku pärast modereerimispoliitika kohandamist, et see vastaks kolmandate osapoolte eeskirjadele. Neil on midagi kogukonna žürii süsteemi, mis hakkab enam-vähem mängu alles pärast seda, kui potentsiaalselt probleemsest postitusest on juba teatatud. Kasutajaaruannete prioriseerimine on veel üks viis, kuidas Parler aitab moderaatorite koormust kergendada.

4. Moderaatorid peavad järgima dünaamilist joont

Sisu moderaatorid tegutsevad ka moraalse halli alana. Isegi platvormidel, mille modereerimine on sõnavabam, kehtivad reeglid potentsiaalselt kahjuliku või vägivaldse sisu vastu. Mõned postitused on ilmselgelt kahjulikud või vägivaldsed, samas kui mõned võivad mõnele kasutajale (või moderaatorile) kahjulikud või ohtlikud tunduda, kuid teistele mitte.

Paljudel platvormidel on reeglid ka muude tegevuste, näiteks toodete või teenuste müümise vastu. See võib olla navigeerimiseks veelgi keerulisem piirkond, eriti arvestades mõne saidi suurust ja ulatust.

Kaaluge mida Redditi kogukonna moderaatorid teevad. Iga kord, kui kasutajad uue kogukonnaga liituvad, saadetakse neile kohe selle kogukonna reeglid. Need reeglid on postitatud ka iga kogukonna lehe küljele. See võimaldab igal kogukonnal olla omale kohandatud reeglite alamhulk, mitte kogu saidi üldreeglid.

Subredditide idee aitab ka Reddtil kasutada kogukonna moderaatoreid laialdaselt. Moderaatorite ülesandeks on oma subredditi modereerimine, mitte kogu saidi patrullimine.

Lõpuks liigub sotsiaalmeedia väga kiiresti. Kui kuulete probleemsest postitusest, võib see juhtuda pärast seda, kui algne plakat on selle maha võtnud. Juhul, kui postitusest ei teatatud selle avaldamise ajal, võib sellele hiljem vastamine olla keeruline.

Ühel juhul 2015. aastal teatati politseile sotsiaalmeedia saidil YikYak tehtud postitusest, kasutades algse postituse muudetud versiooni, mis oli juba eemaldatud. Sellest, mida veebisisu moderaatorid võisid sisemiselt lahendada, sai pikaajaline juriidiline draama, mis häiris tervet kogukonda.

Paljudel sotsiaalmeedia saitidel, sealhulgas Facebookil, on kahtlaste postituste säilitamise eeskirjad juhul, kui neile on vaja viidata arenevates olukordades, sealhulgas õiguskaitseorganite poolt.

Kuid sellised funktsioonid nagu otseülekanne tähendavad, et sisu suureneb, kui see juhtub, mida algoritmid võivad kasutamata jätta, kuni on liiga hilja.

Viska oma moderaatorile münt

Kui näete veebis midagi, mis teile muret valmistab, minge sellest teavitamiseks pakutavate kanalite kaudu. Püüdke vältida ärritumist või kahtlust, sest sotsiaalmeedia modereerimine on raske. Sama kehtib ka siis, kui teist või postitusest teavitatakse. Tõenäoliselt on see heade kavatsustega samm sotsiaalmeedia kasutajate kaitsmiseks.