Tuntuu siltä, ​​että näemme aivan liian usein uutisia, että jollakin sosiaalisen median sivustolla on tehty jokin törkeä rikos, mukaan lukien laittomat julkaisut tai väkivaltaisen sisällön suoratoisto. Voi olla helppoa ihmetellä, kuinka tällaiset asiat voivat luiskahtaa halkeamien läpi tänä teknisesti edistyneenä aikana.

Mutta tosiasia on, että on käytännössä mahdotonta valvoa sosiaalisen median sivustoja tehokkaasti. Miksi? Syitä on muutama.

Jotkut sosiaalisen median sivustot ovat vielä vasta syntyessään tai ovat enemmän markkinarakoja. Suurilla sosiaalisen median sivustoilla on kuitenkin laaja käyttäjäkunta. Suurimmilla sivustoilla on sadoista miljoonista miljardeihin käyttäjiä. Luonnollisesti mitä tahansa näin suurta alustaa on vaikea valvoa.

Useimmat suuret sosiaaliset verkostot hallitsevat tätä yhteisöraportoinnin, (epätäydellisesti) haitallisen sisällön havaitsemiseen koulutettujen algoritmien ja muutaman ihmisen moderaattorin yhdistelmällä. Vaikka yhteisön jäsen tai tekoäly saattaa havaita ja raportoida haitallista tietoa, viimeinen sana on ihmisellä (tai ihmisryhmällä). Ja monet sivustot tarjoavat valitusprosessin.

Sosiaalisen median sivustot eivät ole valtavia vain käyttäjäkunnan suhteen. Eri osavaltioissa ja eri maissa on erilaisia ​​lakeja siitä, millaista sisällöstä on ilmoitettava ja miten.

Niinpä eri maantieteellisillä alueilla toimivilla sosiaalisen median yrityksillä on usein oltava erilaisia ​​käytäntöjä eri käyttäjille. Tämä sisältää erilaisia ​​vääriä tietoja ja yksityisyyttä koskevia käytäntöjä. Itse asiassa, Twitterin piti hyväksyä tietyt ehdot päästäkseen kiellon poistamiseen Nigeriassa.

Vielä enemmän, sosiaalinen media on globaali ilmiö, mutta se ei aina tapahdu "globaaleilla" kielillä. Tämä voi jättää sosiaalisen median yritykset etsimään alueellisia kieliä puhuvia sisällönmoderaattoreita voidakseen tarjota palveluita maailmanlaajuisesti jättämättä käyttäjiä haavoittuvaksi huonoille toimijoille.

Hyvä esimerkki on Facebookin omistaja Meta. Yritys oli hiljattain entinen sisällönvalvoja on haastanut oikeuteen Nairobissa joka väittää, että alueen sisällönvalvojat johdetaan harhaan ottamaan roolin.

3. Moderaattorit kävelevät köyttä

Useimmat sosiaalisen median käyttäjät haluavat kaksi asiaa: he haluavat tuntea olonsa turvalliseksi ja he haluavat tuntea olonsa vapaaksi. Tasapainon löytäminen näiden kahden toiveen välillä on sisällön valvojan hankala tehtävä.

Kulje liian pitkälle toiselle puolelle, ja käyttäjät tuntevat olonsa valvotuiksi. Harhaudu liian kauas toiselle puolelle ja käyttäjät tuntevat itsensä hylätyiksi. Eräs tapa, jolla jotkut sosiaalisen median sivustot kiertävät tämän, on yhteisön moderaattorit.

Yhteisön moderaattorit auttavat ilmaisemaan, että maltillisuus on jotain, jota tehdään intohimosta edistämiseen rakentava keskustelu sallimatta haitallista sisältöä pikemminkin kuin halusta hallita tai sortaa käyttäjiä. Tämä malli on mittakaavassa haastava, vaikka eri alustat saavat sen toimimaan eri tavoin.

Parler palasi verkkoon sen jälkeen, kun sen valvontakäytäntö on mukautettu kolmannen osapuolen käytäntöjen mukaiseksi. Heillä on jonkinlainen yhteisön tuomaristojärjestelmä, joka tulee enemmän tai vähemmän käyttöön vasta sen jälkeen, kun mahdollisesti ongelmallinen viesti on jo raportoitu. Käyttäjäraporttien priorisointi on toinen tapa, jolla Parler auttaa keventämään moderaattoriensa kuormaa.

4. Moderaattorien on noudatettava dynaamista linjaa

Sisällön moderaattorit toimivat myös moraalisella harmaalla alueella. Jopa alustoilla, joissa moderointi on sananvapaus, on säännöt mahdollisesti haitallista tai väkivaltaista sisältöä vastaan. Jotkut viestit ovat selvästi haitallisia tai väkivaltaisia, kun taas toiset saattavat vaikuttaa haitallisilta tai vaarallisilta joillekin käyttäjille (tai valvojille), mutta eivät muille.

Monilla alustoilla on myös sääntöjä muun toiminnan, kuten tuotteiden tai palvelujen myynnin, vastaisia. Tämä voi olla vieläkin hankalampi alue navigoida, varsinkin kun otetaan huomioon joidenkin sivustojen koko ja laajuus.

Harkitse mitä Reddit-yhteisön moderaattorit tekevät. Aina kun käyttäjät liittyvät uuteen yhteisöön, heille lähetetään välittömästi kyseisen yhteisön säännöt. Nämä säännöt on myös julkaistu jokaisen yhteisön sivun reunassa. Tämä antaa jokaiselle yhteisölle mahdollisuuden räätälöidä sääntöjä koko sivuston yleisten sääntöjen sijaan.

Subreddittien idea auttaa myös Redditiä käyttämään yhteisön moderaattoreita laajassa mittakaavassa. Moderaattorien tehtävänä on valvoa subredditiään sen sijaan, että he yrittäisivät partioida koko sivustoa.

Lopulta sosiaalinen media liikkuu todella nopeasti. Kun kuulet ongelmallisesta viestistä, se saattaa tapahtua sen jälkeen, kun alkuperäinen juliste on poistanut sen. Jos viestistä ei ilmoitettu sen ollessa livenä, siihen vastaaminen jälkikäteen voi olla hankalaa.

Yhdessä tapauksessa vuonna 2015 poliisille ilmoitettiin YikYak-sosiaalisen median julkaisusta alkuperäisen viestin muutettua versiota, joka oli jo poistettu. Siitä, mitä verkkosisällön valvojat olisivat saattaneet ratkaista sisäisesti, tuli pitkittynyt oikeudellinen draama, joka järkytti koko yhteisöä.

Monilla sosiaalisen median sivustoilla, mukaan lukien Facebook, on käytännöt epäilyttävien viestien säilyttämiseksi siinä tapauksessa, että niihin on viitattava kehittyvissä tilanteissa, mukaan lukien lainvalvontaviranomaiset.

Mutta ominaisuudet, kuten suoratoisto, tarkoittavat, että sisältö kasvaa sitä mukaa kuin se tapahtuu, minkä algoritmit voivat jättää huomiotta, kunnes on liian myöhäistä.

Heitä kolikko moderaattorillesi

Jos näet verkossa jotain, joka huolestuttaa sinua, ilmoita siitä annettujen kanavien kautta. Yritä välttää ärsyyntymistä tai epäilyjä, koska sosiaalisen median moderointi on vaikeaa. Sama pätee, jos sinusta tai viestistä ilmoitetaan. Se on luultavasti hyvä tarkoitus pitää sosiaalisen median käyttäjät turvassa.