Undersøgelse:Bekæmpelse af had på sociale medier

Stigningen af ​​online hadefulde ytringer er foruroligende, stigende tendens i lande rundt om i verden, med alvorlige psykiske konsekvenser og potentiale til at påvirke, og endda bidrage til, vold i den virkelige verden. Borgergenereret modtale kan hjælpe med at modvirke hadefuld onlineretorik, men det har været svært at kvantificere og studere. Indtil for nylig, undersøgelser har været begrænset til småskala, håndmærkede bestræbelser.

Et nyt papir udgivet i 2020-konferencen om empiriske metoder i naturlig sprogbehandling (EMNLP) tilbyder en ramme til at studere dynamikken i online had og modtale. Avisen tilbyder den første klassifikation i stor skala af millioner af sådanne interaktioner på Twitter. Forfatterne udviklede en læringsalgoritme til at vurdere data fra en unik situation på tysk Twitter, og resultaterne tyder på, at organiserede bevægelser til at modvirke hadefulde ytringer på sociale medier er mere effektive end enkeltpersoner, der slår ud på egen hånd.

Forfatterne vil præsentere deres papir, "Bekæmpelse af had på sociale medier:Storskala klassifikationer af had og modtale" under 20. november 2020, Workshop om onlinemisbrug og skader, som kører i forbindelse med EMNLP 2020.

"Jeg har set dette store skift i civil diskurs i de sidste to eller tre år i retning af at være meget mere hadefuld og meget mere polariseret, " siger Joshua Garland, en matematiker og Applied Complexity Fellow ved Santa Fe Institute. "Så, for mig, et interessant spørgsmål var:hvad er et passende svar, når du bliver mobbet på nettet, eller når du modtager hadefulde ytringer online? Reagerer du? Forsøger du at få dine venner til at hjælpe med at beskytte dig? Blokerer du bare personen?"

At studere sådanne spørgsmål videnskabeligt, Forskere skal først have adgang til et væld af data fra den virkelige verden om både hadefuld tale og modtale, og evnen til at skelne mellem de to. Disse data eksisterede, og Garland og samarbejdspartner Keyan Ghazi-Zahedi ved Max Planck Instituttet i Tyskland fandt det i en fem-årig interaktion, der udspillede sig over tysk Twitter:Da en alt-right-gruppe tog til platformen med hadefulde ytringer, en organiseret bevægelse rejste sig for at imødegå det.

"Det smukke ved disse to grupper er, at de var selvmærkende, " forklarer Mirta Galesic, holdets samfundsforsker og professor i menneskelig social dynamik på SFI. Hun siger, at forskere, der studerer modtale, normalt skal ansætte hundredvis af studerende til at håndkode tusindvis af indlæg. Men Garland og Ghazi-Zahedi var i stand til at indtaste de selvmærkede indlæg i en maskinlæringsalgoritme for at automatisere store dele af klassifikationen. Holdet stolede også på 20-30 menneskelige kodere for at kontrollere, at maskinklassifikationerne stemte overens med intuitionen om, hvad der registreres som had og modtale.

Resultatet var et datasæt af hidtil uset størrelse, der gør det muligt for forskerne at analysere ikke kun isolerede tilfælde af hade- og modtale, men sammenligne også langvarige interaktioner mellem de to.

Holdet indsamlede et datasæt med millioner af tweets udsendt af medlemmer af de to grupper, ved at bruge disse selvidentificerede tweets til at træne deres klassifikationsalgoritme til at genkende hade- og modtale. Derefter, de brugte deres algoritme til at studere dynamikken i omkring 200, 000 samtaler, der fandt sted mellem 2013 og 2018. Forfatterne planlægger snart at udgive et opfølgende papir, der analyserer dynamikken afsløret af deres algoritme.

"Nu kan vi løse et massivt datasæt fra 2016 til 2018 for at se, hvordan andelen af ​​had og modtale ændrede sig over tid, hvem får flere likes, hvem retweetes, og hvordan de svarede hinanden" siger Galesic.

Mængden af ​​data, en enorm velsignelse, gør det også "utroligt komplekst, Garland bemærker. Forskerne er i gang med at sammenligne taktik for begge grupper og forfølge bredere spørgsmål, såsom om visse modtalestrategier er mere effektive end andre.

"Det, jeg håber, er, at vi kan komme med en stringent social teori, der fortæller folk, hvordan man imødegår had på en produktiv måde, der ikke er polariserende, "Girland siger, "og bringe internettet tilbage til civil diskurs."