Der er en masse antisemitisk hadefulde ytringer på sociale medier, og algoritmerne er delvist skyldige

Antisemitiske hændelser har vist en kraftig stigning i USA. Anti-Defamation League, en New York-baseret jødisk borgerrettighedsgruppe, der har sporet sager siden 1979, fandt, at der var 2.717 hændelser i 2021. Dette repræsenterer en stigning på 34 % i forhold til 2020. I Europa fandt Europa-Kommissionen en syvdobling af antisemitiske indlæg på tværs af fransksprogede konti og en over trettendobling af antisemitiske kommentarer inden for tyske kanaler under pandemien.

Sammen med andre forskere, der studerer antisemitisme, begyndte vi at se på, hvordan teknologien og forretningsmodellen på de sociale medieplatforme drev antisemitisme. En bog fra 2022, som vi var co-redigeret, "Antisemitisme på sociale medier," tilbyder perspektiver fra USA, Tyskland, Danmark, Israel, Indien, Storbritannien og Sverige på, hvordan algoritmer på Facebook, Twitter, TikTok og YouTube bidrager til at sprede antisemitisme.

Hvordan ser antisemitisme ud på sociale medier?

Had mod jøder på sociale medier kommer ofte til udtryk i stereotype skildringer af jøder, der stammer fra nazistisk propaganda eller i benægtelse af Holocaust.

Antisemitiske indlæg på sociale medier udtrykker også had mod jøder, der er baseret på forestillingen om, at alle jøder er zionister – det vil sige, de er en del af den nationale bevægelse, der støtter Israel som en jødisk stat – og zionismen er konstrueret som medfødt ond.

Men nutidens antisemitisme er ikke kun rettet mod israelere, og den tager ikke altid form af traditionelle slogans eller hadefulde ytringer. Nutidig antisemitisme manifesterer sig i forskellige former såsom GIF'er, memes, vlogs, kommentarer og reaktioner såsom likes og dislikes på platformene.

Forsker Sophie Schmalenberger fandt ud af, at antisemitisme ikke kun kommer til udtryk i et stumpt, sårende sprog og billeder på sociale medier, men også i kodede former, der let kan forblive uopdaget. For eksempel udelader Tysklands radikale højrefløjsparti Alternative für Deutschland, eller AfD, på Facebook omtalen af ​​Holocaust i indlæg om Anden Verdenskrig. Den bruger også antisemitisk sprogbrug og retorik, der præsenterer antisemitisme som acceptabelt.

Antisemitisme kan antage subtile former, såsom i emojis. Emoji-kombinationen af ​​en Davidsstjerne, et jødisk symbol og en rotte ligner den nazistiske propaganda, der sammenligner jøder med utøj. I Nazityskland førte den konstante gentagelse og normalisering af sådanne skildringer til dehumanisering af jøder og til sidst accept af folkedrab.

Andre former for antisemitisme på sociale medier er antisemitiske troldeangreb:Brugere organiserer sig for at forstyrre onlinebegivenheder ved at oversvømme dem med beskeder, der benægter Holocaust eller spreder konspirationsmyter, som QAnon gør.

Forskere Gabi Weimann og Natalie Masri har studeret TikTok. De fandt ud af, at børn og unge voksne især er i fare for at blive udsat, ofte uforvarende, for antisemitisme på den meget populære og hurtigt voksende platform, som allerede tæller over 1 milliard brugere verden over. Noget af det indhold, der bliver lagt ud, kombinerer klip af optagelser fra Nazityskland med ny tekst, der nedgør eller gør grin med ofrene for Holocaust.

Den kontinuerlige eksponering for antisemitisk indhold i en ung alder, siger forskere, kan føre til både normalisering af indholdet og radikalisering af Tik-Tok-seeren.

Algorithmisk antisemitisme

Antisemitisme er drevet af algoritmer, som er programmeret til at registrere engagement. Dette sikrer, at jo mere engagement et indlæg modtager, jo flere brugere ser det. Engagement omfatter alle reaktioner såsom likes og dislikes, delinger og kommentarer, herunder modkommentarer. Problemet er, at reaktioner på indlæg også udløser givende dopaminhits hos brugerne. Fordi skandaløst indhold skaber mest engagement, føler brugerne sig mere opmuntret til at poste hadefuldt indhold.

Men selv brugere af sociale medier, der poster kritiske kommentarer til hadefuldt indhold, indser ikke, at på grund af den måde, algoritmer fungerer på, ender de med at bidrage til dets spredning.

Forskning i videoanbefalinger på YouTube viser også, hvordan algoritmer gradvist leder brugerne til mere radikalt indhold. Algoritmisk antisemitisme er således en form for det, kriminolog Matthew Williams kalder "algoritmisk had" i sin bog "The Science of Hate".

Hvad kan man gøre ved det?

For at bekæmpe antisemitisme på sociale medier skal strategier være evidensbaserede. Men hverken sociale medievirksomheder eller forskere har hidtil brugt nok tid og ressourcer på dette problem.

Studiet af antisemitisme på sociale medier stiller forskerne enestående udfordringer:De har brug for adgang til data og finansiering for at kunne hjælpe med at udvikle effektive modstrategier. Indtil videre er forskere afhængige af samarbejdet fra de sociale medievirksomheder for at få adgang til dataene, som for det meste er ureguleret.

Sociale medievirksomheder har implementeret retningslinjer for rapportering af antisemitisme på sociale medier, og civilsamfundsorganisationer har krævet handling mod algoritmisk antisemitisme. Men de foranstaltninger, der er truffet indtil videre, er sørgeligt utilstrækkelige, hvis ikke farlige. For eksempel har modtale, som ofte promoveres som en mulig strategi, en tendens til at forstærke hadefuldt indhold.

For på en meningsfuld måde at adressere antisemitisk hadefulde ytringer, ville sociale medievirksomheder være nødt til at ændre de algoritmer, der indsamler og kuraterer brugerdata for reklamevirksomheder, som udgør en stor del af deres omsætning.

Der sker en global, grænseløs spredning af antisemitiske indlæg på sociale medier i et hidtil uset omfang. Vi mener, at det vil kræve en kollektiv indsats fra sociale medievirksomheder, forskere og civilsamfundet for at bekæmpe dette problem. + Udforsk yderligere

Hvordan sociale medier giver næring til antisemitisme

Denne artikel er genudgivet fra The Conversation under en Creative Commons-licens. Læs den originale artikel.