Reaalimaailman tapahtumat lisäävät vihapuhetta verkossa, tutkimustulokset

Kärkilinja

Tosimaailman tapahtumat, kuten vaalit ja mielenosoitukset, voivat johtaa piikkeihin verkossa vihapuheessa sekä valtavirran että reuna-alustoilla. keskiviikkona julkaistu tutkimus PLOS ONE -lehdessä löydettiin, ja vihaviestit lisääntyvät, vaikka monet sosiaalisen median alustat yrittävät tukahduttaa.

Key Facts

Käyttäen koneoppimisanalyysiä – tapaa analysoida dataa, joka automatisoi mallin rakentamisen – tutkijat tarkastelivat seitsemän erilaista vihapuhetta verkossa 59 miljoonassa viestissä 1,150 4 vihapuhetta vihaavassa verkossa toimivassa yhteisössä, jossa vihapuhetta todennäköisimmin käytetään. mukaan lukien sivustot, kuten Facebook, Instagram, XNUMXChan ja Telegram.

Vihapuhetta sisältävien viestien kokonaismäärä seitsemän päivän liukuvana keskiarvona nousi kesäkuusta 2019 joulukuuhun 2020 ulottuvan tutkimuksen aikana, ja se kasvoi 67 prosenttia 60,000 100,000:sta XNUMX XNUMX päivittäiseen julkaisuun.

Joskus sosiaalisen median käyttäjien vihapuhe kasvoi käsittämään ryhmiä, jotka eivät olleet mukana sen ajan tosielämän tapahtumissa.

Tutkijat havaitsivat muun muassa uskonnollisen vihapuheen ja antisemitismin lisääntymisen Iranin kenraali Qasem Soleimanin salamurhan jälkeen Yhdysvalloissa vuoden 2020 alussa sekä uskonnollisen ja sukupuoleen kohdistuvan vihapuheen lisääntymisen marraskuun 2020 Yhdysvaltain vaalien jälkeen, joissa Kamala Harris oli valittiin ensimmäiseksi naispuoliseksi varapuheenjohtajaksi.

Huolimatta yksittäisten alustojen pyrkimyksistä poistaa vihapuhe, verkossa vihapuhe jatkui tutkijoiden mukaan.

Tutkijat korostivat tiedotusvälineiden huomion yhtenä avaintekijänä vihaan liittyvien viestien edistämisessä: Esimerkiksi tiedotusvälineissä oli vähän huomiota, kun Breonna Taylor tappoi ensimmäisen kerran poliisin toimesta, ja näin ollen tutkijat löysivät vain vähän vihapuhetta verkossa, mutta kun George Floyd tapettiin kuukausia myöhemmin. ja median huomio kasvoi, samoin vihapuhe.

Big Number

250 %. Sen verran rotuun perustuvan vihapuheen määrä kasvoi George Floydin murhan jälkeen. Se oli suurin vihapuheen tutkijoiden havaittu piikki tutkimusjakson aikana.

Avaintaustaa

Vihamielinen puhe on kiusannut sosiaalisia verkostoja vuosia: alustat, kuten Facebook ja Twitter on käytäntöjä, jotka kieltävät vihapuheen, ja ovat sitoutuneet poistamaan loukkaavaa sisältöä, mutta se ei ole poistanut näiden viestien leviämistä. Aiemmin tässä kuussa lähes kaksi tusinaa YK:n nimittämää riippumatonta ihmisoikeusasiantuntijat kehottivat enemmän vastuullisuutta sosiaalisen median alustoista, jotta voidaan vähentää verkossa esiintyvän vihapuheen määrää. Ja ihmisoikeusasiantuntijat eivät ole yksin halussaan, että sosiaalisen median yritykset tekisivät enemmän: Joulukuu USA Today - Suffolk University -tutkimus 52 % vastaajista sanoi, että sosiaalisen median alustojen tulisi rajoittaa vihamielistä ja epätarkkoja sisältöä, kun taas 38 % sanoi, että sivustojen tulisi olla avoin foorumi.

Tangentti

Päiviä sen jälkeen, kun miljardööri Elon Musk solmi Twitterin ostosopimuksen viime vuonna ja lupasi lieventää sivuston moderointikäytäntöjä, sivusto näki "vihamielisen käytöksen nousun". Yoel Rothin mukaan, Twitterin entinen turvallisuus- ja eheyspäällikkö. Tuolloin Roth twiittasi, että turvallisuustiimi poisti yli 1,500 XNUMX tiliä vihamielisen käytöksen vuoksi kolmen päivän aikana. Musk on kohdannut jyrkkää kritiikkiä asianajoryhmiltä, ​​jotka väittävät, että Muskin johdolla ja puhesäännösten höllentämisen myötä vihapuheen määrä Twitterissä on kasvanut dramaattisesti, vaikka Musk onkin vaati vaikutelmat vihamielisistä twiiteistä ovat laskeneet.

Kirjallisuutta

Twitterin turvallisuuspäällikkö myöntää vihamielisen käytöksen lisääntyneen, koska lomakkeen kerrotaan rajoittavan pääsyä valvontatyökaluihin (Forbes)

Jotkut varaukset sosiaalisen median sisällön moderointipäätösten johdonmukaisuusvaatimuksesta. (Forbes)

Mitä poliittisten päättäjien tulisi tehdä edistääkseen alustan sisällön moderointia? (Forbes)