Twitter var på forkant med moderation af indhold. Hvad kommer dernæst?

I 2015 postede en mand iført en kraniemaske en video, der skitserede sine planer om at myrde Brianna Wu. Kranievideoen var kun et af mange sådanne foruroligende og bizarre indlæg målrettet Wu og andre kvinder online som en del af en chikanekampagne kaldet GamerGate.

Dette var i de tidlige dage af indholdsmoderering i et socialt medie-økosystem med langt færre regler, men alligevel flyttede Twitter hurtigt for at fjerne videoen, hvilket forhindrede den i at blive viral, sagde Wu. Selvom GamerGate illustrerede, hvor uduelige sociale medieplatforme var til at beskytte deres brugere, fungerede Twitters hurtige handling som et tidligt eksempel på virksomhedens relative vilje til at adressere kritik og arbejde for at dæmpe misbrug, sagde Wu.

Selvom sociale medieplatforme har kæmpet for at reagere på misinformation, hadefulde ytringer, valgindblanding og tilskyndelse til vold, har Twitter gennem årene taget en mere nuanceret og grundig tilgang, udviklet, revideret og udvidet en omfattende politisk ramme.

Twitter førte for eksempel bestræbelserne på at skabe sikkerhedspolitikker og håndhæve højprofilerede overtrædelser af dets regler. Den suspenderede permanent den højreorienterede provokatør Milo Yiannopoulos i juli 2016 og konspirationsteoretikeren Alex Jones i september 2018. Facebook forbød ikke Yiannopoulos og Jones før i maj 2019.

I sommeren 2020 slog Twitter en advarselsmærkat over daværende præsident Trumps tweet, der truede med et hårdt undertrykkelse af protester i Minneapolis som overtrædelse af dets regler om "glorificering af vold", og kort efter flagede yderligere to valgrelaterede tweets til faktatjek. Tiltaget adskilte Twitter fra Facebook, hvis administrerende direktør, Mark Zuckerberg, indikerede, at det ikke var tilbøjeligt til at handle på samme måde, og banede vejen for en række sociale medievirksomheder, der senere suspenderede Trump fra deres platforme dage før udgangen af ​​hans embedsperiode.

I år annoncerede Facebook en 24-timers suspendering af rep. Marjorie Taylor Greene, R-Ga., en dag efter Twitter permanent forbudte Greene for gentagne gange at sprede misinformation om COVID-19.

Men Elon Musks succesfulde bud på at købe Twitter kan ændre virksomhedens bane. Musk, som har sagt, at han omfavner en filosofi om ytringsfrihed absolutisme, har gjort det klart, at han ønsker en platform med mindre håndhævelse, og skriver i en række tweets tirsdag, at han kun går ind for mådehold, når det er lovligt påkrævet.

"Jeg er imod censur, der går langt ud over loven. Hvis folk ønsker mindre ytringsfrihed, vil de bede regeringen om at vedtage love i den retning. Derfor er det at gå ud over loven i strid med folkets vilje," sagde Musk på Twitter .

"Twitter har historisk set fungeret som en af ​​de mere fremadskuende sociale medieplatforme, der altid har testet nye ideer og koncepter," siger Jennifer Edwards, administrerende direktør for Texas Social Media Research Institute ved Tarleton State University.

Musks køb af virksomheden og omdrejningspunktet i retning af laissez faire-moderationsetos, som han går ind for, kan presse andre sociale medieplatforme til også at gå tilbage og slække på deres moderationsstandarder, sagde hun.

Dynamikken i Twitter, der leder flokken, kan også flyde i den modsatte retning under Musk, hvor den nye Twitter-ejer tager signaler fra sin mere veteran-modpart over på Facebook. For eksempel har Musk allerede sagt, at han ønsker at begynde at "autentificere alle mennesker" på Twitter - et træk, der, selvom det er vagt, kunne bringe hans platform mere på linje med Zuckerbergs, hvor brugere forventes at skrive under hvilket navn "de går efter i hverdagen" .

Musks antydninger om, at han kan følge trop, har allerede givet anledning til kritik.

"Enhver fortaler for ytringsfrihed (som Musk ser ud til at se sig selv), der er villig til at kræve, at brugere indsender ID for at få adgang til en platform, er sandsynligvis uvidende om den afgørende betydning af pseudonymitet og anonymitet," skrev flere ledere fra nonprofitorganisationen Electronic Frontier Foundation som svar. til nyheden om Musks køb. Politikker, der kræver rigtige navne på Facebook, er blevet brugt til at skubbe usikre samfund ud, såsom transkønnede, drag queens og sexarbejdere, hedder det i erklæringen.

Mange brugere har forståeligt nok mistillid til sociale medier, ønsker ikke at give identifikation og droppe ud, sagde Sophie Zhang, en tidligere dataforsker hos Facebook. I Sydkorea blev databaser med autentificering af rigtige navne gentagne gange hacket, da de dannede en skatkammer af personlige oplysninger, sagde hun.

"Ytringsfrihedsabsolutisme er en god idé," men langt størstedelen af ​​indholdsmoderering er ikke kontroversiel politisk diskussion, Musk påstår, at den er, og derfor fungerer disse værdier ikke nødvendigvis i praksis, sagde Zhang.

Zhang sagde, at det er for tidligt at vide, hvordan Musks indflydelse vil påvirke indholdsmoderering på platformen. Udfordringerne ved platformen kan tvinge ham og andre tilhængere af ytringsfrihed absolutisme til at regne med spørgsmålet om, hvorfor han ikke er i stand til at lade tale flyde ubrudt og samtidig forhindre platformen i at blive et morads af kryptospam, pornografi og falske annoncer.

"Det sande spørgsmål for mig er, hvordan Elon træffer disse beslutninger, når han faktisk er i en ansvarsposition," sagde hun.

Christopher Bail, professor ved Duke University og direktør for campus' Polarization Lab, sagde, at præmisserne for nogle af Musks forslag er mangelfulde. Musk er fast på, at konservative stemmer minimeres, og selvom det er muligt at pege på højtprofilerede sager som suspenderingen af ​​Trumps konto som eksempler på bias mod konservative, viser undersøgelser, at platformen faktisk har en tendens til at fremme konservative perspektiver, sagde Bail.

Musk har sagt, at konti næsten aldrig bør forbydes, men har også lovet at slå ned på spammere - formentlig identificere dem ved indholdet af deres tale og tage skridt til at forbyde konti.

"Jeg tror, ​​hvor gummiet rammer vejen, vil det være sværere, end han er klar over at gøre, hvad han vil," sagde Bail.

Forskere og aktivister bekymrer sig om, at Musks fokus på uindskrænket tale vil udhule værktøjer, som Twitters tillids- og sikkerhedsteam har opbygget gennem årene. Ved at give sig selv tilgange udover kontodeaktivering og postfjernelse har Twitter gjort sine regler væsentligt mere håndhævelige, sagde eksperter. Virksomheden har udvist større gennemsigtighed end sine kammerater, opretholder åbne kommunikationslinjer med forskere og har gjort stykker af data omkring spam og misinformation på platformen offentlige og tilgængelige for analyse af akademikere og andre.

Twitter opretholder et arkiv af opslag, som det har fjernet fra platformen, hvilket giver forskere mulighed for at undersøge rækkevidden og indflydelsen af ​​viral misinformation. Twitters Birdwatch-initiativ har til formål at skabe en crowdsourced tilgang til markering af misinformation.

Wu sagde, at under toppen af ​​chikane, hun stod over for under GamerGate, nåede Twitters daværende vicepræsident for tillid og sikkerhed ud for at høre bekymringer og tilbyde støtte. I årene efter adskilte Twitter sig fra flokken ved at gøre en reel indsats for at engagere sig med kritikere som hende selv.

"De gjorde mere end Facebook gjorde, mere end Reddit, mere end Google," sagde Wu, som siger, at hun uformelt rådgav virksomhedens tillids- og sikkerhedsteam i en ulønnet kapacitet i omkring fem år. "Twitter har aldrig fået den ære, det fortjener for at håndtere chikane aggressivt."