Mitä tulee sosiaaliseen mediaan, me kaikki tiedämme, että sen monien etujen lisäksi se tarjoaa yhteyksien luomisessa Helpompaa, verkkovuorovaikutukseen voi liittyä myös tiettyjä riskejä ja vaaroja, erityisesti nuorille. Onneksi on olemassa sovelluksia, jotka ovat ennakoivia ja yrittävät rajoittaa näitä nuorille mahdollisesti aiheutuvia haittoja ottamalla käyttöön asianmukaisia hallintatekniikoita.
YuboZ-sukupolven eniten käyttämä live-social Discovery -sovellus on ilmoittanut, että sen suoratoistoäänen moderointi teknologia laajenee suurimmille markkinoilleen, nimittäin Yhdysvaltoihin, Isoon-Britanniaan, Australiaan ja Kanada.
Tämä tapahtuu useiden kuukausien testauksen jälkeen ominaisuutta joillakin alueilla Yhdysvalloissa, kun yritys oppi, kuinka ratkaista ongelmia, jotka liittyvät äänen reaaliaikaiseen analysointiin.
Sisällön moderoinnin tärkeys
Sisällön moderointi verkossa on vaikea tehtävä. Olemme nähneet tämän Facebookissa, Twitterissä ja Instagramissa ja niin edelleen. Loukkausten, vihamielisten kommenttien tai joskus jopa väkivallan tai itsensä vahingoittamisen välissä maltillisuus on erittäin tärkeää, jotta nämä alustat pysyvät turvassa ja niiden käyttäjät suojattuna. Internetin tarjoaman oletetun anonymiteetin taakse piiloutuminen voi tuoda joissakin ihmisissä esiin pahimman puolen.
No, Yubo osoittaa edelleen, että se tekee kaikkensa estääkseen tämän, varsinkin kun sen käyttäjäkunta on paljon nuorempi. Yubon mukaan 99 % heidän käyttäjäkunnastaan on 13-25-vuotiaita Z-sukupolvia. Vaikka verkkokiusaaminen ei ole kenenkään mukavaa kestää, se voi olla erityisen haitallista teini-ikäisille.
Kuvan ja videon moderointitekniikka on ollut olemassa jo jonkin aikaa ja sitä on toteutettu useissa eri vaiheissa. Äänen moderointi, on kuitenkin pysynyt suurena haasteena, etenkin live-lähetysten suhteen. Sillä ei ole väliä, olipa kyseessä sitten kadulla kävellessä otettu suoratoisto tai videopeliä pelaamassa.
Kuinka Yubon äänen moderointi toimii
Toukokuusta 2022 alkaen Yubo aloitti äänen moderointiteknologiansa kokeiluvaiheen useilla alueilla Yhdysvalloissa. Nyt seuraava vaihe sisältää useimmat englanninkieliset alueet, joilla Yubolla on suuri käyttäjäkunta, jotta yritys voisi saada paremman käsityksen uudesta turvallisuustyökalustaan.
Vaikka tämä on vielä uusi, tämä on tekniikka, jota voidaan tulevaisuudessa käyttää laajalti väkivallan tai itsensä vahingoittamisen havaitsemiseen.
Yubo ei tee tätä kaikkea yksin, vaan pikemminkin yhteistyössä Hiven kanssa. Hive, jos et ole kuullut niistä, on yritys, joka luo ja tarjoaa sisällönvalvontasovellusliittymiä kuvien ja videoiden käsittelemiseksi lähes reaaliajassa.
Yubon käyttämä tekniikka toimii tallentamalla ja transkriptoimalla 10 sekunnin äänikatkelmia vähintään 10 henkilön suorassa lähetyksessä. Tekoäly analysoi tekstin välittömästi havaitakseen sanat tai lauseet, jotka rikkovat sovelluksen yhteisön säännöt.
Odota, se ei lopu tähän. Vaikka tekoäly voi olla loistava tällaisten asioiden havaitsemisessa, se on vielä kaukana pisteestä, jossa se pystyisi erottamaan todelliset ongelmalliset käyttötarkoitukset vääristä lipuista.
Väärät liput voivat olla esimerkiksi taustalla soivia kappaleita tai leikkisää kieltä, joka ei ole tahatonta.
Tässä siis Yubon turvallisuusasiantuntijat tulevat esiin, kun heidät tuodaan tutkimaan merkittyjä tapauksia. Ihmiset ovat niitä, jotka päättävät, vaatiiko tilanne eskaloitumista vai ei, jos on toimia joka pitäisi ottaa vastaan ihmisiä, jotka käyttävät huonoa kieltä, tai vaikka lainvalvonta on saatava sisään.
Jos suoratoisto on täysin kunnossa, mitään transkriptioita ei tarkisteta tai pidetä 24 tunnin rajan yli, joten kaikki pysyy yksityisenä. tai niin yksityinen kuin yli 10 henkilön suoratoisto voi olla.
Jos algoritmit kuitenkin havaitsevat esimerkiksi väkivaltaisia uhkia, vihapuhetta tai itsensä vahingoittamista, kopiot säilytetään enintään vuoden ajan. Tämä on tietysti yritykselle turvatoimenpide tapauksissa, joissa lainvalvonta vaatii tietoja tai yritys itse tarvitsee tietoja lisäselvityksiä varten.
Yubon operatiivinen johtaja Marc-Antoine Durand näkee sen laajentumisen äänen moderointi teknologia avaintekijänä verkkoturvallisuuden kehityksessä koko toimialalla.
”Puheentunnistuksen alalla on vielä paljon tehtävää, mutta olemme ylpeitä voidessamme rakentaa polun kollegoillemme olla ensimmäinen, joka lanseerasi äänen moderoinnin Hiven kanssa ja auttoi tekemään tästä työkalusta luotettavamman ja tehokkaamman tämän kokeilun avulla", Durand sanoi.
Ilmeisesti sosiaaliset alustat eivät halua rehottavaa kiusaamista, vihapuhetta ja väkivaltaan yllyttäviä kommentteja, koska ne työntäisivät muut käyttäjät pois. Tällaisen moderointiteknologian käyttöönotto on loistava työkalu käyttäjien turvallisuuden pitämiseen ja myös Yubon kasvun ja menestyksen takaamiseen pitkällä aikavälillä.