Clickbait-ekstremisme, masseskyderier og angrebet på demokratiet:Tid til en genovervejelse af sociale medier?

Virksomheder på sociale medier har klaret sig godt ud af de amerikanske kongreshøringer om oprøret den 6. januar. De tjente på livestreamet video, da uromagere stormede Capitol Building. De drage fordel af det ophidsende bryg af misinformation, der tilskyndede tusinder til at rejse til Washington D.C. for "Save America"-rallyet. De fortsætter med at drage fordel af eftervirkningerne. Clickbait-ekstremisme har været godt for erhvervslivet.

Videooptagelser optaget af uromagerne selv har også været en vigtig kilde til bevismateriale for politi og anklagemyndighed. På dagen for Capitol Building-angrebet blev indholdsmoderatorer på almindelige sociale medieplatforme overvældet med indlæg, der overtrådte deres politikker mod tilskyndelse til eller glorificering af vold. Websteder, der er mere sympatiske for den ekstreme højrefløj, såsom Parler, var oversvømmet med sådant indhold.

I sin vidneudsagn til kongreshøringerne talte en tidligere Twitter-medarbejder om at tigge virksomheden om at handle stærkere. Aftenen før angrebet sendte hun i fortvivlelse besked til kollegerne:"Når folk skyder hinanden i morgen, vil jeg prøve at hvile i den viden, vi har prøvet."

Hun hentydede til tweets fra tidligere præsident Trump, The Proud Boys og andre ekstremistiske grupper, og hun talte om at indse, at "vi var på indfald af en voldelig folkemængde, der var låst og læsset."

Behovet for forandring

I ugerne efter massakren i Christchurch i 2019 var der håbefulde tegn på, at nationer – individuelt og kollektivt – var parate til bedre at regulere internettet.

Sociale medievirksomheder havde kæmpet hårdt imod at påtage sig ansvar for deres indhold og citerede argumenter, der afspejlede internetpionerernes libertære filosofier. I frihedens navn, hævdede de, burde længe etablerede regler og adfærdsnormer sættes til side. Deres succes med at påvirke lovgivere har gjort det muligt for virksomheder at undgå juridiske sanktioner, selv når deres platforme bruges til at motivere, planlægge, udføre og livestreame voldelige angreb.

Efter Christchurch tvang stigende offentlig forargelse de almindelige virksomheder til handling. De erkendte, at deres platforme havde spillet en rolle i voldelige angreb, vedtog strengere politikker omkring acceptabelt indhold, hyrede flere indholdsmoderatorer og udvidede deres evne til at opsnappe ekstremt indhold, før det blev offentliggjort.

Det virkede utænkeligt tilbage i 2019, at der ikke ville blive truffet reelle handlinger for at regulere og moderere sociale medieplatforme for at forhindre udbredelsen af ​​voldelig, onlineekstremisme i alle dens former. Livestreamen var et kerneelement i Christchurch-angrebet, omhyggeligt indrammet til at ligne et videospil og beregnet til at inspirere fremtidige angreb.

Næsten to år senere var flere sociale medieplatforme centrale i tilskyndelsen til og organiseringen af ​​det voldelige angreb på den amerikanske hovedstad, der forårsagede flere dødsfald og kvæstelser og fik mange til at frygte, at en borgerkrig var ved at bryde ud.

Faktisk var sociale medier impliceret i alle aspekter af Capitol Building-angrebet, ligesom det havde været i Christchurch-massakren. Begge blev gæret af vilde og ubegrundede konspirationsteorier, der cirkulerede frit på tværs af sociale medieplatforme. Begge blev udført af mennesker, der følte sig stærkt forbundet med et online-fællesskab af sande troende.

Radikaliseringsprocessen

Stephen Ayres' vidnesbyrd til kongreshøringerne den 6. januar giver et vindue ind i radikaliseringsprocessen.

Ayres beskrev sig selv som en "almindelig familiefar", der var "hård kerne i sociale medier", og erklærede sig skyldig i en anklage for uorden i sin rolle i Capitol-invasionen. Han henviste til sine konti på Twitter, Facebook og Instagram som kilden til sin tro på, at det amerikanske præsidentvalg i 2020 var blevet stjålet. Hans primære kilder var indlæg lavet af den tidligere præsident selv.

Ayres vidnede, at et tweet fra præsident Trump havde fået ham til at deltage i "Save America"-mødet. Han eksemplificerede de tusindvis af amerikanere, som ikke var medlemmer af nogen ekstremistisk gruppe, men som var blevet motiveret gennem mainstream sociale medier til at rejse til Washington D.C.

Den tidligere amerikanske præsident Trumps rolle i fremkomsten af ​​højreekstremisme, i USA og videre, er et tilbagevendende tema i Rethinking Social Media and Extremism, som jeg redigerede sammen med Paul Pickering. På tidspunktet for massakren i Christchurch var der rigeligt med beviser for, at USA-baserede internetvirksomheder leverede globale platforme for ekstremistiske sager.

Men når deres indholdsmoderering udvidede sig til den yderste højrefløjs stemmer, blev disse virksomheder udsat for mistillid fra konservative, herunder fra Trumps Hvide Hus. Budskabet var klart:at tillade uindskrænket ytringsfrihed for det såkaldte "alt-right" var den pris, sociale medievirksomheder skulle betale for deres oligopol. Selvom den voksende fare for indenlandsk terrorisme var åbenbar, var truslen om antitrust-søgsmål et stærkt afskrækkende incitament til virksomhedsaktioner mod højreekstremister.

Sociale medievirksomheder har været udsat for et betydeligt pres fra nationer uden for USA. For eksempel, inden for måneder efter Christchurch-angrebet, mødtes verdens ledere i Paris for at underskrive Christchurch Call for at bekæmpe voldelig ekstremisme online. Dokumentet var moderat i tonen, men USA nægtede at underskrive. I stedet fordoblede Det Hvide Hus ved at hævde, at den største trussel lå i undertrykkelsen af ​​konservative stemmer.

I 2021 tilmeldte Biden-administrationen sig for sent til Christchurch Call, men det er ikke lykkedes at fremme nogen foranstaltninger indenrigs. På trods af en hård snak under valgkampen har præsident Biden ikke været i stand til at vedtage lovgivning, der bedre ville regulere teknologivirksomheder.

Med midtvejsvalget nært forestående – valg, der ofte går imod præsidentens parti – er der ringe grund til optimisme. Beslutninger fra amerikanske lovgivere vil fortsætte med at give genlyd globalt, mens ejerskabet af vestlige sociale medier forbliver solidt centreret i USA

Svigt i selvregulering

Libertarianismens ånd lever videre i virksomheder, der eksploderede fra hjemmelavede start-ups til billioner dollar-selskaber inden for et årti. Deres engagement i selvregulering passede til lovgivere, som kæmpede for at forstå denne nye og konstant formskiftende teknologi. Den påviselige svigt af selvregulering har vist sig dødelig for terrorismens mål og udgør nu en fare for selve demokratiet.

I sit kapitel i Rethinking Social Media and Extremism beder Sally Wheeler os om at genoverveje grundlaget for den sociale licens, sociale medievirksomheder har til at operere inden for demokratier. Hun argumenterer for, at i stedet for at spørge, om deres aktiviteter er lovlige, kan vi spørge, hvilke reformer der er nødvendige for at sikre, at sociale medier ikke forårsager alvorlig skade på mennesker eller samfund.

Sociale medieplatforme, der nu er centrale for leveringen af ​​mange offentlige tjenester, kan betragtes som offentlige forsyninger og alene af denne grund være underlagt andre og højere regler og forventninger. Dette punkt var rigeligt, hvis utilsigtet demonstreret af Facebook selv, da det blokerede mange websteder – inklusive nødtjenester – under en uenighed med den australske regering i 2021. I processen kastede Facebook et søgelys på nationens voksende afhængighed af et dårligt reguleret, privatejet platform.

Midt i det nationale ramaskrig efter massakren i Christchurch indførte den australske regering hastigt lovgivning, der skulle øge internetvirksomhedernes ansvar. Lovforslaget, der angiveligt var udarbejdet på kun 48 timer, før det blev hastet gennem begge kamre i parlamentet, ville altid være mangelfuldt.

Effektiv reform kræver, at vi først anerkender internettet som et rum, hvor handlinger har konsekvenser fra den virkelige verden. De mest synlige ofre er dem, der er direkte mål for trusler om ekstrem vold – hovedsageligt kvinder, indvandrere og minoriteter. Selv når truslerne ikke bliver gennemført, bliver folk skræmt til tavshed, endda selvskade.

Mere lumsk, men måske lige så skadelig på lang sigt, er det generelle fald i høflighed, der driver den offentlige diskurs mod ekstreme positioner. På de sociale medier er det, der er kendt som Overton-vinduet for den almindelige politiske debat, ikke så meget blevet skubbet ud, som sparket ind.

Der er bred enighed om, at eksisterende juridiske og regulatoriske rammer simpelthen er utilstrækkelige til den digitale tidsalder. Men selvom den globale pandemi har fremskyndet vores afhængighed af alt digitalt, er der mindre enighed om problemets art, meget mindre om de nødvendige løsninger. Selvom der helt klart er behov for handling, er der altid fare for overskridelse.

Det demokratiske samfunds funktion afhænger i lige så høj grad af vores evne til at debattere ideer og udtrykke dissens, som af forebyggelse af voldelig ekstremisme. Vores udfordring er at balancere ytringsfrihed mod andre konkurrerende rettigheder på internettet, ligesom vi gør andre steder. Den nuværende tilgang med blot at skærpe de sanktioner, som virksomheder på sociale medier står over for, er mere tilbøjelige til at vippe balancen mod ytringsfrihed. I et kommunikationslandskab, der i stigende grad er koncentreret i hænderne på nogle få store virksomheder, har vi brug for flere stemmer og mere mangfoldighed, ikke mindre. + Udforsk yderligere

Kommer Donald Trump tilbage til Facebook? Facebook kan ophæve forbuddet i januar, siger exec

Denne artikel er genudgivet fra The Conversation under en Creative Commons-licens. Læs den originale artikel.