Frygt, mere end had, feeds online bigotry og vold i den virkelige verden

Da en amerikansk senator spurgte Facebooks administrerende direktør Mark Zuckerberg, "Kan du definere hadefulde ytringer?" det var uden tvivl det vigtigste spørgsmål, som sociale netværk står over for:hvordan man identificerer ekstremisme i deres lokalsamfund.

Hadforbrydelser i det 21. århundrede følger et velkendt mønster, hvor en online tirade eskalerer til voldelige handlinger. Før han åbnede ild i Tree of Life-synagogen i Pittsburgh, den anklagede bevæbnede mand havde udluftet det yderste højre sociale netværk Gab om honduranske migranter, der rejste mod den amerikanske grænse, og den påståede jødiske sammensværgelse bag det hele. Så erklærede han, "Jeg kan ikke sidde og se mine folk blive slagtet. Skru din optik, Jeg går ind." Mønstret med ekstremister, der aflæser deres intolerance online, har været et foruroligende træk ved nogle nylige hadforbrydelser. Men det meste af had på nettet er ikke så åbenlys, eller lige så let at få øje på.

Som jeg fandt i min undersøgelse fra 2017 om ekstremisme i sociale netværk og politiske blogs, snarere end åbenlyst bigotteri, mest online had ligner meget frygt. Det kommer ikke til udtryk i racemæssige bagtalelser eller opfordringer til konfrontation, men snarere i ubegrundede påstande om latinamerikanske angribere, der strømmer ind i landet, sort-på-hvid-kriminalitet eller sharia-lovgivning, der infiltrerer amerikanske byer. Hysteriske fortællinger som disse er blevet det foretrukne redskab for nutidens ekstremister – og kan være mere effektive til at fremprovokere vold i den virkelige verden end stereotype hadefuld tale.

Letheden ved at sprede frygt

På Twitter, et populært meme, der for nylig rejser rundt, skildrer "Islamic Terrorist Network" spredt ud over et kort over USA, mens en Facebook-konto kaldet "America Under Attack" deler en artikel med sine 17, 000 følgere om "Angry Young Men and Gangbangers", der marcherer mod grænsen. Og på Gab, utallige profiler taler om jødiske planer om at sabotere amerikansk kultur, suverænitet og præsidenten.

Selvom det ikke er åbenlyst antagonistisk, disse toner spiller godt for et publikum, der på sociale medier har fundet et sted, hvor de åbent kan udtrykke deres intolerance, så længe de farver inden for linjerne. De kan undgå den eksponering, som traditionelle hadefulde ytringer tiltrækker. Mens den hvide nationalistiske forsamling i Charlottesville var højprofileret og afslørende, sociale netværk kan være anonyme og diskrete, og derfor befriende for den uerklærede racist. Det udgør en stor udfordring for platforme som Facebook, Twitter og YouTube.

Bekæmpelse af had

Dette er selvfølgelig ikke kun en udfordring for sociale medievirksomheder. Den brede offentlighed står over for det komplekse spørgsmål om, hvordan man reagerer på inflammatoriske og fordomsfulde fortællinger, der vækker racefrygt og efterfølgende fjendtlighed. Imidlertid, sociale netværk har den unikke kapacitet til at skrue ned for intolerance, hvis de konstaterer, at en bruger faktisk har brudt deres servicevilkår. For eksempel, i april 2018, Facebook fjernede to sider forbundet med den hvide nationalist Richard Spencer. Et par måneder senere, Twitter suspenderede flere konti med tilknytning til den højreekstremistiske gruppe The Proud Boys for at overtræde dens politik, der "forbyder voldelige ekstremistiske grupper".

Stadig, nogle kritikere hævder, at netværkene ikke bevæger sig hurtigt nok. Der er et stigende pres for disse websteder for at overvåge den ekstremisme, der har floreret i deres rum, eller også selv blive politibetjent. En nylig undersøgelse fra Huffpost/YouGov afslørede, at to tredjedele af amerikanerne ønskede sociale netværk for at forhindre brugere i at poste "hadefulde ytringer eller racistisk indhold."

Som svar, Facebook har optrappet sin anti-ekstremisme indsats, rapporterede i maj, at den havde fjernet "2,5 millioner stykker hadefulde ytringer, "hvoraf over en tredjedel blev identificeret ved hjælp af kunstig intelligens, resten af ​​menneskelige monitorer eller markeret af brugere. Men selvom Zuckerberg lovede mere handling i november 2018, virksomheden erkendte, at det er ekstremt vanskeligt at lære sin teknologi til at identificere hadefuld tale på grund af alle de sammenhænge og nuancer, der drastisk kan ændre disse betydninger.

I øvrigt, offentlig konsensus om, hvad der faktisk udgør hadefulde ytringer, er i bedste fald tvetydig. Det konservative Cato Institute fandt bred uenighed blandt amerikanere om den slags tale, der skulle kvalificeres som had, eller stødende tale, eller retfærdig kritik. Også, disse uoverensstemmelser rejser det åbenlyse spørgsmål:Hvordan kan en algoritme identificere hadefulde ytringer, hvis vi mennesker knap kan definere det selv?

Frygt tænder sikringen

Tvetydigheden af, hvad der udgør hadefulde ytringer, giver rigelig dækning for moderne ekstremister til at indgyde kulturelle bekymringer i populære netværk. Det udgør måske den klareste fare:At sætte gang i folks raceparanoia kan også være ekstremt stærk til at anspore til fjendtlighed.

Den afdøde kommunikationsforsker George Gerbner fandt ud af, at i modsætning til populær tro, kraftig udsættelse for medievold gjorde ikke folk mere voldelige. Hellere, det gjorde dem mere bange for, at andre gjorde vold mod dem, hvilket ofte fører til ætsende mistillid og kulturel harme. Det er præcis, hvad nutidens racister benytter sig af, og hvad sociale netværk skal lære at få øje på.

Indlæggene, der taler om jødiske planer om at ødelægge Amerika, eller sort-på-hvid kriminalitet, opfordrer ikke direkte til vold, men de forstærker fordomsfulde synspunkter, der kan opildne følgere til at handle. Det er præcis, hvad der skete forud for de dødelige overfald på en historisk sort kirke i Charleston i 2015, og Pittsburgh-synagogen i sidste måned.

For sociale netværk, udfordringen er dobbelt. De skal først beslutte, om de vil fortsætte med at være vært for ikke-voldelige racister som Richard Spencer, der har opfordret til "fredelig etnisk udrensning, " og forbliver aktiv på Twitter. Eller for den sags skyld, Nation of Islam leder Louis Farrakhan, som for nylig sammenlignede jøder med termitter, og fortsætter med at skrive til sin Facebook-side.

Når Twitter og Facebook lader disse profiler forblive aktive, virksomhederne giver troværdigheden af ​​deres online-fællesskaber til disse provokatører af racisme eller antisemitisme. Men de signalerer også, at deres definitioner af had kan være for snævre.

Den farligste hadefulde ytringer udsendes tilsyneladende ikke længere med etniske bagtalelser eller vildfarende retorik om hvid overherredømme. Hellere, det er overalt på sociale medier, i almindeligt syn, bærer hashtags som #WhiteGenocide, #BlackCrimes, #Migrantinvasion og #AmericaUnderAttack. De skaber en illusion af overhængende trussel, som radikale trives med, og som de voldstilbøjelige blandt dem har reageret på.

Denne artikel er genudgivet fra The Conversation under en Creative Commons-licens. Læs den originale artikel.