Brugere, der er forbudt fra sociale platforme, har vist sig at gå andre steder med øget toksicitet

Brugere, der er forbudt fra sociale platforme, går andre steder hen med øget toksicitet, ifølge en ny undersøgelse med forskere fra Binghamton University, State University of New York.

Når folk opfører sig som idioter på sociale medier, et permanent svar er at forbyde dem fra at skrive igen. Fjern den digitale megafon, teorien siger, og de sårende eller uærlige beskeder fra disse ballademagere vil ikke poste et problem der længere.

Hvad sker der derefter, selvom? Hvor går de, der er blevet 'deplatformeret' hen, og hvordan påvirker det deres adfærd i fremtiden?

Et internationalt team af forskere – herunder adjunkt Jeremy Blackburn og Ph.D. kandidat Esraa Aldreabi fra Thomas J. Watson College of Engineering and Applied Science's Department of Computer Science – udforsker disse spørgsmål i en ny undersøgelse kaldet "Understanding the Effect of Deplatforming on Social Networks."

Forskningen udført af iDRAMA Lab-samarbejdspartnere ved Binghamton University, Boston University, University College London og Max Planck Institute for Informatics i Tyskland blev præsenteret i juni kl 2021 ACM Web Science-konference .

Forskere udviklede en metode til at identificere konti, der tilhører den samme person på forskellige platforme, og fandt ud af, at det at blive forbudt på Reddit eller Twitter førte til, at disse brugere sluttede sig til alternative platforme som Gab eller Parler, hvor indholdsmodereringen er mere slap.

Blandt resultaterne er også, at selvom brugere, der flytter til disse mindre platforme, har et potentielt reduceret publikum, de udviser et øget niveau af aktivitet og toksicitet, end de gjorde tidligere.

"Du kan ikke bare forbyde disse mennesker og sige, 'Hej, det virkede.' De forsvinder ikke, " sagde Blackburn. "De går andre steder hen. Det har en positiv effekt på den originale platform, men der er også en vis grad af forstærkning eller forværring af denne type adfærd andre steder."

Deplatforming-undersøgelsen indsamlede 29 millioner indlæg fra Gab, som blev lanceret i 2016 og i øjeblikket har omkring 4 millioner brugere. Gab er kendt for sin ekstreme højre base af nynazister, hvide nationalister, antisemitter og QAnon-konspirationsteoretikere.

Ved at bruge en kombination af maskinlæring og menneskelig mærkning, forskere krydshenviste profilnavne og indhold med brugere, der havde været aktive på Twitter og Reddit, men som blev suspenderet. Mange, der er deplatformeret, genbruger det samme profilnavn eller brugeroplysninger på en anden platform for kontinuitet og genkendelighed med deres følgere.

"Bare fordi to personer har samme navn eller brugernavn, det er ikke en garanti, Blackburn sagde. "Der var en ret stor proces med at gå igennem at skabe et 'grundsandhed'-datasæt, hvor vi havde et menneskeligt at sige, 'Det skal være de samme mennesker på grund af denne og den grund.' Det giver os mulighed for at skalere tingene op ved at smide det ind i et maskinlæringsklassificeringsprogram [program], der lærer de egenskaber, vi skal holde øje med."

Processen var ikke ulig, hvordan forskere bestemmer identiteten af ​​forfattere for ikke-tilskrevne eller pseudonyme værker, tjekke for stil, syntaks og emne, han tilføjede.

I datasættet analyseret til denne undersøgelse, omkring 59 % af Twitter-brugere (1, 152 ud af 1, 961) oprettede Gab-konti efter deres sidste aktive tid på Twitter, formentlig efter deres konto blev suspenderet. Til Reddit, omkring 76 % (3, 958 ud af 5, 216) af suspenderede brugere oprettede Gab-konti efter deres sidste indlæg på Reddit.

Sammenligning af indhold fra de samme brugere på Twitter og Reddit versus Gab, brugere har en tendens til at blive mere giftige, når de bliver suspenderet fra en platform og tvinges til at flytte til en anden platform. De bliver også mere aktive, øge frekvensen af ​​indlæg.

På samme tid, publikum for Gab-brugeres indhold er begrænset af platformens reducerede størrelse sammenlignet med millioner af brugere på Twitter og Reddit. Dette kan ses som en god ting, men Blackburn advarede om, at meget af planlægningen af ​​angrebet den 6. januar på U.S. Capitol skete på Parler, en platform, der ligner Gab med en mindre brugerbase, der skæver til alt-højre og yderst til højre.

"At reducere rækkevidden er sandsynligvis en god ting, men rækkevidde kan let misfortolkes. Bare fordi nogen har 100, 000 følgere betyder ikke, at de alle er følgere i den virkelige verden, " han sagde.

"Hardcore-gruppen, måske den gruppe, vi er mest bekymrede for, er dem, der sandsynligvis holder med nogen, hvis de flytter andre steder online. Hvis man ved at reducere denne rækkevidde, du øger intensiteten, som de mennesker, der opholder sig omkring, udsættes for, det er ligesom et spørgsmål om kvalitet versus kvantitet. Er det værre at have flere mennesker, der ser det her? Eller er det værre at få produceret mere ekstreme ting til færre mennesker?"

En separat undersøgelse, "Et stort åbent datasæt fra Parler Social Network, " inkluderede også Blackburn blandt forskere fra New York University, University of Illinois, University College London, Boston University og Max Planck Institute.

Præsenteret på AAAI-konferencen om web og sociale medier i sidste måned, den analyserede 183 millioner Parler-indlæg lavet af 4 millioner brugere mellem august 2018 og januar 2021, samt metadata fra 13,25 millioner brugerprofiler. Dataene bekræfter, at brugere på Parler – som kortvarigt lukkede ned og blev fjernet fra Apple og Googles app-butikker som reaktion på Capitol-optøjet – overvældende støttede præsident Donald Trump og hans "Make America Great Again"-dagsorden.

"Uanset hvad Parler kunne have sagt, offentligt eller ej, det var meget tydeligt hvidt, højrefløj, Christian Trump tilhængere, " sagde Blackburn. "Igen, ikke overraskende, det fik sit største løft lige ved valget i 2020 – op til en million brugere sluttede sig til. Så omkring angrebet på Capitol, der var endnu et stort bump i brugerne. Det, vi kan se, er, at det meget tydeligt blev brugt som et organisationsværktøj til oprøret."

Så hvis forbud mod brugere ikke er det rigtige svar, hvad er? Reddit administratorer, for eksempel, har en "skyggeforbuds"-funktion, der gør det muligt for besværlige brugere at tro, at de stadig poster på webstedet, undtagen ingen andre kan se dem. Under valget i 2020 og COVID-19-pandemien, Twitter tilføjede etiketter for indholdsmoderering til tweets, der bevidst spredte desinformation.

Blackburn er usikker på alle de moderationsværktøjer, som sociale medieplatforme har til rådighed, men han mener, at der skal være flere "sociotekniske løsninger på sociotekniske problemer" frem for blot at forbyde det.

"Samfundet siger nu ret bestemt, at vi ikke kan ignorere det her - vi kan ikke bare bruge de nemme outs længere, " sagde han. "Vi er nødt til at komme med nogle mere kreative ideer for ikke at slippe af med folk, men forhåbentlig skubbe dem i en positiv retning eller i det mindste sørge for, at alle er klar over, hvem den person er. Et sted midt imellem bare uhindret adgang og at forbyde alle er nok den rigtige løsning."