Kui rääkida sotsiaalmeediast, siis me kõik teame, et lisaks paljudele eelistele, mida see pakub sidemete loomisel lihtsam, võivad võrgus suhtlemisega kaasneda ka teatud riskid ja ohud, eriti noorte puhul. Õnneks on seal rakendusi, mis on ennetavad ja püüavad piirata neid kahjusid, mis võivad noorte inimeste jaoks tekkida, rakendades õigeid modereerimistehnoloogiaid.
Yubo, reaalajas sotsiaalse avastamise rakendus, mida Z-põlvkond enim kasutab, on teatanud, et selle otseülekande heli modereerib tehnoloogia laieneb oma suurimatele turgudele, nimelt Ameerika Ühendriikidesse, Ühendkuningriiki, Austraaliasse ja Kanada.
See ilmneb pärast mitu kuud kestnud funktsiooni testimist mõnes Ameerika Ühendriikide piirkonnas, kuna ettevõte õppis, kuidas lahendada probleeme, mis kaasnevad heli reaalajas analüüsimisega.
Sisu modereerimise tähtsus
Internetis sisu modereerimine on raske töö. Oleme seda näinud Facebookis, Twitteris ja Instagramis ja nii edasi. Solvangute, vaenu õhutavate kommentaaride või isegi mõnikord vägivalla või enesevigastamise vahel on nende platvormide ja nende kasutajate kaitsmiseks ülimalt oluline mõõdukus. Interneti pakutava oletatava anonüümsuse taha peitmises peitub midagi, mis võib mõne inimese halvima välja tuua.
Noh, Yubo näitab jätkuvalt, et teeb kõik endast oleneva, et seda vältida, eriti kuna selle kasutajaskond on palju noorem. Yubo sõnul on 99% nende kasutajabaasist Z-põlvkond vanuses 13–25. Kuigi võrgus ahistamist pole kellelegi meeldiv taluda, võib see olla eriti kahjulik teismelistele.
Piltide ja videote modereerimise tehnoloogia on olnud kasutusel juba mõnda aega ja seda on rakendatud mitmel erineval etapil. Heli modereerimine, on aga jäänud suureks väljakutseks, eriti otseülekannete puhul. Pole vahet, kas see on otseülekanne, mis on tehtud tänaval kõndides või kus keegi mängib videomängu.
Kuidas Yubo heli modereerimine töötab
Alates 2022. aasta maist alustas Yubo oma heli modereerimistehnoloogia proovifaasi Ameerika Ühendriikide erinevates piirkondades. Nüüd hõlmab järgmine etapp enamikku inglise keelt kõnelevaid piirkondi, kus Yubol on suur kasutajaskond, et ettevõte saaks oma uuest ohutustööriistast parema ülevaate.
Kuigi see on veel uus, on see tehnoloogia, mida võidakse tulevikus laialdaselt kasutada vägivalla või enesevigastamise tuvastamiseks.
Yubo ei tee seda kõike üksi, vaid pigem koostöös Hive'iga. Kui te pole neist kuulnud, on Hive ettevõte, mis loob ja pakub sisu modereerimise API-sid, et töödelda pilte ja videoid peaaegu reaalajas.
Yubo rakendatud tehnoloogia salvestab ja transkribeerib 10-sekundilisi helijuppe 10 või enama inimese otseülekandes. Tehisintellekt analüüsib teksti kohe, et tuvastada sõnad või fraasid, mis rikuvad rakendust kogukonna juhised.
Oota, see ei lõpe siin. Kuigi tehisintellekt võib olla selliste asjade tuvastamisel suurepärane, pole see veel kaugel sellest, et see suudaks eristada tegelikke probleemseid kasutusi ja valelippe.
Vale lipud võivad olla näiteks taustal mängivad laulud või mänguline keel, mis ei ole pahatahtlik.
Siin tulevad mängu Yubo ohutusspetsialistid, kes on kaasatud märgistatud intsidente uurima. Inimesed on need, kes saavad otsustada, kas olukord nõuab eskaleerumist või mitte, kui on tegusid mida tuleks võtta inimeste vastu, kes kasutavad halba keelt või isegi kui on vaja tuua õiguskaitseorganid sisse.
Kui otseülekanne on täiesti korras, siis ühtegi ärakirja ei vaadata ega jäeta üle 24-tunnise piirangu, seega jääb see kõik privaatseks. või nii privaatne kui üle 10 inimesega otseülekanne võib olla.
Kui aga algoritmid tuvastavad näiteks vägivaldseid ähvardusi, vihakõnet või enesevigastusi, säilitatakse ärakirju kuni üks aasta. See on loomulikult ettevõtte turvameede juhul, kui seadusandlus nõuab teavet või ettevõte ise vajab üksikasju edasiseks sisejuurdluseks.
Yubo tegevjuht Marc-Antoine Durand näeb ettevõtte laienemist heli modereerimine tehnoloogia kui võtmeelement võrguohutuse arengus kogu tööstuses.
"Hääletuvastuse valdkonnas on veel palju edusamme teha, kuid oleme uhked, et suudame oma eakaaslaste jaoks teed luua olla esimene, kes käivitas Hive'iga heli modereerimise ja aidates muuta selle prooviversiooni abil selle tööriista usaldusväärsemaks ja tõhusamaks,“ ütles.
Ilmselgelt ei taha sotsiaalplatvormid ohjeldamatut kiusamist, vihakõnet ja vägivalda õhutavaid kommentaare, kuna see tõukaks teised kasutajad eemale. Sellise modereerimistehnoloogia rakendamine on suurepärane vahend kasutajate turvalisuse tagamiseks ning aitab tagada ka Yubo kasvu ja edu pikemas perspektiivis.