Miten sosiaaliset verkostot torjuvat vihapuhetta?
Tekoälyohjelmat ja inhimillisen sisällön arvioijat tukahduttavat loukkaavia kommentteja verkossa
Zach Gibson/AFP/Getty Images
Vihapuhe ei ole uusi ilmiö sosiaalisten verkostojen verkkosivustoilla, mutta lauantain äärioikeiston mielenosoitus Charlottesvillessä Virginiassa, jossa kuoli yksi mielenosoittaja, on johtanut siihen, että yritykset ryhtyvät toimiin verkossa hyökkääviä ryhmiä vastaan.
Näin suurimmat sosiaalisen median ryhmät reagoivat vihapuheeseen sekä niiden suunnitelmiin estää loukkaavan sisällön leviäminen:
Charlottesvillen lauantain väkivaltaisten tapahtumien jälkeen Engadget Facebook sanoo 'sulkeneen lukuisia viharyhmiä hyökkäysten jälkeen', mukaan lukien 'väkivallan toteuttaneen Unite the Right -marssin tapahtumasivu'.
Sosiaalisen median jättiläinen käyttää tekoälyn (AI) ja ihmisten sisällön arvioijien yhdistelmää löytääkseen vihapuhetta, mikä The Verge sanoo poistaa '66 000 vihapostiviestiä viikossa'. Mutta sivuston mukaan Facebook 'luottaa suuresti' käyttäjiin, jotka ilmoittavat sisällön loukkaavaksi tai vihamieliseksi.
Facebook palkkasi toukokuussa 3 000 lisätyöntekijää 'sisällöntarkastajien tiimiinsä', sanoo TechCrunch , jolloin kokonaismäärä on 7 500. Tämän laukaisi useat maailmanlaajuiset 'sisällön moderointiskandaalit', mukaan lukien Facebook Liven käyttö 'murhien ja itsemurhien lähettämiseen'.
Mutta Langallinen sanoo, että on ollut tilanteita, joissa yrityksen 'algoritmiset ja inhimilliset arvioijat' ovat leimanneet kommentit tai viestit loukkaaviksi ottamatta huomioon kontekstia. Esimerkiksi verkkosivustolla sanotaan, että jotkut sanat 'huudettiin loukkauksina' ovat joskus 'takaisin' ryhmien toimesta 'itseilmaisukeinona'.
Viserrys
Twitterin vihamielisen käyttäytymispolitiikan mukaan palvelu ei 'salli tilejä, joiden ensisijaisena tarkoituksena on yllyttää vahingoittaa muita' rodun tai seksuaalisen suuntautumisen kaltaisten alojen perusteella.
The Riippumaton raportoi, että sivusto on viime kuukausina ottanut käyttöön lisää järjestelmiä ja työkaluja vihapuheen havaitsemiseen ja poistamiseen sekä parantanut prosessia, jossa sen käyttäjät ilmoittavat manuaalisesti loukkaavasta materiaalista.
Mutta sosiaalisen median sivusto on ollut 'melko kuumassa vedessä viime kuukausina, koska havaittujen uhkien jälkeen on havaittu toimimattomuutta', sanoo. TechCrunch , mikä johti siihen, että aktivisti ruiskutti 'vihakieltä kaduilla yrityksen Berliinin pääkonttorin ulkopuolella'.
Sivuston mukaan äärioikeistolaisen The Daily Stormer -ryhmän tili on poistettu lauantain yhteentörmäyksen jälkeen, vaikka 'Trumpin twiitit, jotka heiluvat uhkaavan ydinsodan partaalla' näyttävät olevan yhtiön politiikan mukaisia.
Keskustelufoorumi Reddit on myös torjunut vihapuhetta. Engadget sanoo, että verkkosivusto on 'sulkenut useita viharyhmiä hyökkäysten jälkeen'.
Sosiaalisen median sivustolta poistettujen ryhmien joukossa oli subreddit /r/Physical_Removal. Engadget sanoo 'toivoi, että vihanvastaisissa subredditeissä ja CNN:ssä tapettaisiin ihmisiä, tuki keskitysleirejä ja jopa kirjoitti runoja tappamisesta.'
'Olemme sivustomme käyttöehdoissa erittäin selvät, että väkivaltaan yllyttävän sisällön lähettäminen saa käyttäjät bannaan Redditistä', Reddit kertoi. Cnet .
Vaikka Google ei ole yksinomaan sosiaalinen verkosto, teknologiajättiläisellä on keskeinen rooli Internet-liikenteen ohjaamisessa ja käyttäjien käytettävissä olevien sosiaalisten sovellusten ohjaamisessa.
Lauantaisen Charlottesvillen yhteentörmäyksen jälkeen TechCrunch sanoo, että yritys on poistanut 'konservatiivisen sosiaalisen verkoston' Gabin Play Kaupastaan, koska siitä oli tullut 'paratiisi' käyttäjille, jotka on kielletty valtavirran alustoilta.
Google sanoo, että se ei tue 'sisältöä, joka edistää tai suvaitsee väkivaltaa yksilöihin tai ryhmiin' tiettyjen kriteerien perusteella ja lisää, että se 'riippuu suuresti käyttäjistä ilmoittaa meille sisällöstä, joka saattaa rikkoa käytäntöjämme'.
Mutta TechCrunch sanoo 'ei ole selvää, mitä Gab nimenomaan teki, mikä oikeuttai sen potkimisen kaupasta', koska sovellus on chat-huone eikä näytä aktiivisesti edistävän vihapuhetta. Sivustolla sanotaan, että Twitterissä ja YouTubessa on paljon vihapuhetta, mutta ne ovat edelleen ladattavissa huolimatta tämän viikon loukkaavasta sisällöstä.
Mukaan The Verge , Gabia 'ei ole koskaan hyväksytty sijoitettavaksi Applen App Storeen'.
Mitä muut tekevät?
Yksi huomionarvoisista vihapuheen torjuntatapauksista lauantain tapahtumien jälkeen on se, että verkkotunnusten jälleenmyyjä GoDaddy häätä The Daily Stormerin verkkosivuston palvelustaan, sanoo Rekisteri .
Sivuston mukaan aktivistit kertoivat jälleenmyyjälle, että ryhmä esitti 'epätavallisen mautonta ja halveksivaa huomautusta' Charlottesvillen hyökkäyksen uhrista, Heather Heyeristä. GoDaddy antoi The Daily Stormerille 24 tuntia aikaa 'siirtää verkkotunnus toiselle palveluntarjoajalle'.
Ilmoitimme The Daily Stormerille, että heillä on 24 tuntia aikaa siirtää verkkotunnus toiselle palveluntarjoajalle, koska he ovat rikkoneet käyttöehtojamme.
- GoDaddy (@GoDaddy) 14. elokuuta 2017
YouTuben odotetaan myös 'asettavan tiukempia ohjeita vihapuheen suhteen', raportoi TechCrunch . Tämä saattaa johtaa siihen, että useampia videoita poistetaan, kun käyttäjät ovat merkitseneet ne loukkaaviksi, vaikka sisällössä ei olisikaan mitään laitonta.
