Deplatforming af onlineekstremister reducerer deres følgere, men der er en pris

Konspirationsteoretiker og amerikansk højreekstreme mediepersonlighed Alex Jones blev for nylig beordret til at betale 45 millioner USD (37 millioner pund) erstatning til familien til et barn, der blev dræbt i skoleskyderiet i Sandy Hook i 2012.

Jones havde hævdet, at det at blive forbudt eller "deplatformeret" fra store sociale medier på grund af hans ekstreme synspunkter påvirkede ham negativt økonomisk, idet han sammenlignede situationen med "fængsel". Men under retssagen vurderede retsmedicineren Bernard Pettingill, at Jones' konspirationswebsted InfoWars tjente flere penge efter at være blevet forbudt fra Facebook og Twitter i 2018.

Så virker online deplatforming faktisk? Det er ikke muligt at måle indflydelse på en videnskabeligt stringent måde, så det er svært at sige, hvad der sker med en person eller gruppes samlede indflydelse, når de bliver deplatformeret. Samlet set tyder forskning på, at deplatforming kan reducere aktiviteten af ​​uhyggelige aktører på disse websteder. Det kommer dog med en pris. Når deplatformerede mennesker og grupper migrerer andre steder, kan de miste tilhængere, men også blive mere hadefulde og giftige.

Typisk involverer deplatforming handlinger foretaget af de sociale medier selv. Men det kan gøres af tredjeparter som de finansielle institutioner, der leverer betalingstjenester på disse platforme, såsom PayPal.

At lukke en gruppe er også en form for deplatforming, selvom personerne i den stadig er fri til at bruge webstederne. For eksempel blev The_Donald subreddit (et forum på webstedet Reddit) lukket for at være vært for hadefuldt og truende indhold, såsom et indlæg, der opfordrede medlemmer til at deltage i et møde for hvide overherredømmer.

Virker deplatforming?

Forskning viser, at deplatforming har positive effekter på den platform, personen eller gruppen blev smidt ud af. Da Reddit forbød visse fora, der gjorde ofre for overvægtige mennesker og afroamerikanere, holdt mange brugere, der var aktive på disse hadefulde subreddits, helt op med at skrive på Reddit. De, der forblev aktive, postede mindre ekstremt indhold.

Men den deplatformerede gruppe eller person kan migrere. Alex Jones fortsætter med at arbejde uden for almindelige sociale netværk, hovedsageligt via hans InfoWars-websted og podcasts. Et forbud fra big tech kan ses som en straf for at udfordre status quo på en ucensureret måde, hvilket forstærker båndene og følelsen af ​​at høre til blandt følgere.

Gab blev oprettet som et alternativt socialt netværk i 2016, der byder velkommen til brugere, der er blevet udelukket fra andre platforme. Siden US Capitol-oprøret har Gab tweetet om disse forbud som et ærestegn og sagt, at det har set en stigning i brugere og jobansøgninger.

Mit teams forskning kiggede på subreddits The_Donald og Incels (et mandligt onlinefællesskab, der er fjendtligt over for kvinder), som flyttede til selvstændige websteder efter at være blevet forbudt fra Reddit. Vi fandt ud af, at efterhånden som farlige samfund migrerede til forskellige platforme, blev deres fodspor mindre, men brugerne blev betydeligt mere ekstreme. Tilsvarende viste brugere, der blev forbudt fra Twitter eller Reddit, et øget aktivitetsniveau og toksicitet ved flytning til Gab.

Andre undersøgelser af fødslen af ​​sociale udkantsnetværk som Gab, Parler eller Gettr har fundet relativt lignende mønstre. Disse platforme markedsfører sig selv som bastioner for ytringsfrihed, der byder velkommen til brugere, der er forbudt eller suspenderet fra andre sociale netværk. Forskning viser, at ekstremisme ikke kun øges som følge af slap mådehold, men også at tidlige webstedsbrugere har en uforholdsmæssig stor indflydelse på platformen.

De utilsigtede konsekvenser af deplatforming er ikke begrænset til politiske fællesskaber, men strækker sig til sundhedsdesinformation og konspirationsteorigrupper. For eksempel, da Facebook forbød grupper, der diskuterede COVID-19-vacciner, gik brugerne på Twitter og postede endnu mere anti-vaccineindhold.

Alternative løsninger

Hvad kan der ellers gøres for at undgå den koncentration af onlinehad, som deplatforming kan tilskynde til? Sociale netværk har eksperimenteret med bløde modereringsinterventioner, der ikke fjerner indhold eller forbyder brugere. De begrænser indholdets synlighed (skyggeforbud), begrænser andre brugeres mulighed for at engagere sig i indholdet (svarer eller deler), eller tilføjer advarselsetiketter.

Disse tilgange viser opmuntrende resultater. Nogle advarselsetiketter har fået webstedsbrugere til at afvise falske påstande. Blød mådehold reducerer nogle gange brugerinteraktioner og ekstremisme i kommentarer.

Der er dog potentiale for popularitetsbias (at handle på eller ignorere indhold baseret på buzzen omkring det) om, hvilke emner platforme som Twitter beslutter at gribe ind i. I mellemtiden ser advarselsetiketter ud til at fungere mindre effektivt for falske indlæg, hvis de er højrelænde.

Det er også stadig uklart, om blød moderation skaber yderligere muligheder for chikane, for eksempel at håne brugere, der får advarselsetiketter på deres opslag, eller forværre brugere, der ikke kan videredele indhold.

Ser frem

Et afgørende aspekt af deplatforming er timing. Jo hurtigere platforme handler for at stoppe grupper, der bruger mainstream-platforme til at udvikle ekstremistiske bevægelser, jo bedre. Hurtig indsats kunne i teorien sætte en bremse på gruppernes bestræbelser på at samle og radikalisere store brugerbaser.

Men dette ville også kræve en koordineret indsats fra mainstream platforme såvel som andre medier for at fungere. Radiotalkshows og kabelnyheder spiller en afgørende rolle i promoveringen af ​​udkantsfortællinger i USA.

Vi har brug for en åben dialog om afvejningen af ​​deplatforming. Som samfund er vi nødt til at diskutere, om vores samfund skal have færre mennesker udsat for ekstremistiske grupper, selvom de, der engagerer sig, bliver stadig mere isolerede og radikaliserede.

I øjeblikket styres deplatforming næsten udelukkende af store teknologivirksomheder. Teknikvirksomheder kan ikke løse problemet alene, men det kan forskere eller politikere heller ikke. Platforme skal samarbejde med regulatorer, borgerrettighedsorganisationer og forskere for at håndtere ekstremt onlineindhold. Samfundets struktur kan afhænge af det. + Udforsk yderligere

Genovervejelse er nødvendig for at stoppe spredningen af ​​hadefuldt materiale online

Denne artikel er genudgivet fra The Conversation under en Creative Commons-licens. Læs den originale artikel.