Todistaako 'Elsagate', että YouTube on liian suuri hallittavaksi?
Lapsille suunnattujen väkivaltaisten ja seksuaalisten videoiden skandaali paljastaa algoritmeihin luottamisen vaikeuden
Catrinus Van Der Veen / AFP / Getty Images
Helmikuussa YouTube ilmoitti se oli saavuttanut huikean virstanpylvään: vierailijat kuluttavat nyt miljardia tuntia videota joka päivä.
Alustan käyttäjäkannan pelkkä koko on yhtä hämmästyttävä. Yli 1,5 miljardia ihmistä käyttää YouTubea, sanoo Huoltaja Roger McNamee, mikä antaa sille islamiin verrattavan maailmanlaajuisen ulottuvuuden.
Mutta kuten sanotaan, suuren voiman mukana tulee suuri vastuu, ja äskettäinen ElsaGate-skandaali, joka koski lapsille suunnattuja häiritseviä videoita, on saanut jotkut miettimään, onko YouTubesta tullut Frankensteinin hirviö, joka ei ole sen tekijöiden hallinnassa.
Mikä on ElsaGate?
Jotkut YouTuben suosituimmista kanavista on suunnattu lapsille, ja lasten loruihin, värikkäisiin sarjakuviin ja kaikkivoimiin lelujen purkuvideoihin erikoistuneet sisällöntuottajat keräävät miljoonia tilaajia ja miljardeja katselukertoja.
Mutta siinä on ongelma. YouTube on täysin täynnä erittäin väkivaltaisia, sopimattomia, seksuaalisesti vihjailevia lapsille suunnattuja videoita, sanoo Inquistr , ja nämä videot löytävät tiensä automaattisesti toistoluetteloihin ikäkohtaisten leikkeiden rinnalla.
Toimittaja James Bridle syventyi tähän hämmentävään ilmiöön, jota kutsuttiin Elsagateksi suositun Frozen-hahmon mukaan, joka esiintyy monissa videoissa, artikkelissa Something is Wrong Internetissä Keskikokoinen tässä kuussa.
Hän havaitsi, että kun sisällöntuottajat jahtaavat katsojia, menestyneet - ja alunperin vaarattomat - näkemysten keräämisen kaavat toistetaan loputtomasti kaikkialla verkossa yhä omituisempina ja vääristyneinä yhdistelminä.
Äärimmäisimmillään näihin kuuluu joukko hämmentäviä videoita, jotka näyttävät tuotetun tai joissain tapauksissa automaattisesti luotujen vastauksena suosittuihin avainsanoihin. Niissä on usein häiritseviä teemoja ja seksuaalista tai väkivaltaista sisältöä.
Esimerkiksi Peppa Pig -hammaslääkärin haku palauttaa kotitekoisen leikkeen, jossa suosittua lastenhahmoa kidutetaan, ennen kuin se muuttuu sarjaksi Iron Man -robotteja ja esittää Learn Colors -tanssin.
ElsaGate on saanut tulvan vastakaikua huolestuneilta vanhemmilta, tiedotusvälineiltä ja Internet-tutkijoilta, jotka ovat omistautuneet selvittämään, kuka tai mikä tekee nämä häiritsevät videot ja miksi.
Onko YouTubesta tullut liian suuri hallittavaksi?
ElsaGaten ja muiden YouTube-sisällöstä, kuten terrorismia tai väkivaltaa edistävistä videoista, liittyvien kiistojen ytimessä on alustan algoritmien kaikkivaltius.
Toisin kuin jotkut vanhemmat uskovat, YouTuben Kids-sovelluksen sisältöä ei kuratoi tai edes esiseuloa ihmiset. Sen sijaan ehdotetut videot näkyvät sen automaattisen toiston luettelossa automaattisesti jaettujen avainsanojen tai samankaltaisten yleisöjen perusteella.
YouTuben luettelon koko ylittää ihmisen valvonnan mahdollisuudet. Sisältöä ladataan alustalle 400 tuntia videota joka minuutti mukaan Statista .
Selvästi yleisten hakutermien perusteella tuotettujen videoiden uskomaton määrä osoittaa, missä määrin YouTube on pääosin koneiden ohjaama, Medium's Bridle sanoo.
Alustalla, jossa sisällön näkyvyyttä – ja siten mainostulojen potentiaalia – ohjaavat algoritmit, vaikka olisit ihminen, sinun on päädyttävä esiintymään koneena.
ElsaGate on paljastanut YouTubesta pitkäaikaisen totuuden, jota ei voi enää sivuuttaa, sanoo Monikulmio : suodattimet, jotka on suunniteltu suojelemaan kaikenikäisiä käyttäjiä häiritsevältä, väkivaltaiselta tai laittomalta sisällöltä, eivät sovellu tehtävään.
Sisällöntuottajat, joko ihmiset tai automatisoidut, rikkovat, analysoivat ja lyövät algoritmit, joista on tullut taitavia pelaamaan järjestelmää varmistaakseen, että heidän tuotoksensa näkyy.
Erityisen pahamaineisessa esimerkissä 4chan-viestitaulun pilailijat onnistuivat yhdistämään pornografian lastenohjelmiin ja pelaamaan algoritmin varmistaakseen, että videot kaupallistettiin ja ne nähtiin, Polygon sanoo.
Voidaanko ongelma korjata?
YouTube on luvannut torjua sopimattomien lastenvideoiden ruttoa, jotka lipsuvat sen Kids-sovelluksen suodattimien ohi.
Politiikkajohtaja Juniper Downs sanoi, että ElsaGate-paljastuksia edeltävä uusi järjestelmä luokittelee käyttäjien ilmoittamat videot ikärajoitetuiksi, mikä pitää ne automaattisesti poissa YouTube Kids -sovelluksesta.
Laajemmalla tasolla on merkkejä siitä, että YouTube on muuttamassa suhtautumistaan sisällön kuratointiin käytännönläheisempään lähestymistapaan, mikä on seurausta verkkoääriliikkeistä huolissaan olevien hallitusten painostuksesta.
Useita terrori-iskuja Euroopassa ja Yhdysvalloissa ovat tehneet henkilöt, joiden uskotaan radikalisoituneen osittain katsomalla YouTuben propagandavideoita, joita ovat tehneet esimerkiksi Islamilainen valtio ja niiden kannattajat.
Poliitikot ovat uhanneet ryhtyä toimiin niitä teknologiayrityksiä vastaan, jotka eivät tehosta toimenpiteitä äärimmäistä sisältöä sisältävien videoiden poistamiseksi. YouTuben emoyhtiö Alphabet näyttää ottavan uhkaukset vakavasti.
Aiemmin kiihottavat uskonnolliset tai poliittiset videot olivat sallittuja YouTubessa, jos ne eivät rikkoneet sivuston graafista sisältöä tai väkivaltaa edistäviä sääntöjä, vaikka ne eivät olleet oikeutettuja mainostuloihin.
YouTuben tiedottaja vahvisti Reuters Heidän käytäntönsä on muuttunut siten, että se kieltää kaikki videot, joissa esiintyy terroristeiksi luokiteltuja ihmisiä tai ryhmiä, mukaan lukien materiaali, kuten al-Qaidan värväajan Anwar al-Awlakin luennot.
Vaikka YouTube kehittääkin uusia strategioita porsaanreikien korjaamiseksi, ElsaGaten vaikutukset ovat edelleen huolestuttavia syvällisemmällä tasolla, sanoo TechCrunch on Natasha Lomas.
YouTube-media kannustaa sisältötehtaita tuottamaan napsautusrehua, Lomas kirjoittaa ja altistaa sukupolven popkulttuurin lietteen hyökyaallolle, joka perustuu avainsanoihin eikä johdonmukaisuuteen. On vaikea kuvitella, että mitään positiivista tulisi siitä, että jotain niin tarkoituksellisesti alhaista ja pohjaruokintaa työnnetään järjestelmällisesti lasten silmämunien eteen.
