Hvad Facebook ikke fortæller os om sin kamp mod onlinemisbrug

Facebook har for første gang gjort tilgængelige data om omfanget af krænkende kommentarer sendt til sit websted. Dette kan have været udført under det voksende pres fra organisationer for, at sociale mediefirmaer skal være mere gennemsigtige om onlinemisbrug, eller for at opnå troværdighed efter Cambridge Analytica -dataskandalen. På den ene eller anden måde, tallene giver ikke fornøjelig læsning.

I en periode på seks måneder fra oktober 2017 til marts 20178, 21m seksuelt eksplicitte billeder, 3,5 mio. Grafisk voldelige indlæg og 2,5 mio. Former for hadefulde ytringer blev fjernet fra sit websted. Disse tal hjælper med at afsløre nogle slående punkter.

Som forventet, dataene indikerer, at problemet bliver værre. For eksempel, mellem januar og marts blev det anslået, at for hver 10, 000 beskeder online, mellem 22 og 27 indeholdt grafisk vold, fra 16 til 19 i de foregående tre måneder. Dette sætter en stærk lettelse i, at i Storbritannien, retsforfølgning for online misbrug er faldet, som vist i nedenstående graf.

Men hvad Facebook ikke har fortalt os, er lige så vigtigt.

Det sociale netværk har været under voksende pres for at bekæmpe misbrug på sit websted, i særdeleshed, fjernelse af terrorpropaganda efter begivenheder som Westminster -angrebet i 2017 og bombning i Manchester Arena. Her, virksomheden har været proaktiv. Mellem januar og marts 2018, Facebook fjernede 1,9 mio. Beskeder, der opfordrede til terrorpropaganda, en stigning på 800, 000 kommentarer i forhold til de foregående tre måneder. I alt 99,5% af disse meddelelser blev lokaliseret ved hjælp af avanceret teknologi.

Ved første øjekast, det ser ud til, at Facebook med succes har udviklet software, der kan fjerne dette indhold fra sin server. Men Facebook har ikke offentliggjort tal, der viser, hvor udbredt terrorpropaganda er på sit websted. Så vi ved virkelig ikke, hvor vellykket softwaren er i denne henseende.

Fjernelse af voldelige indlæg

Facebook har også brugt teknologi til at hjælpe med at fjerne grafisk vold fra sit websted. Mellem de to tremånedersperioder var der en stigning på 183% i mængden af ​​fjernede stillinger, der blev mærket grafisk voldelige. I alt 86% af disse kommentarer blev markeret af et computersystem.

Men vi ved også, at Facebooks tal også viser, at op til 27 ud af hver 10, 000 kommentarer, der gjorde det forbi detektionsteknologien, indeholdt grafisk vold. Det lyder ikke af mange, men det er værd at overveje det store antal samlede kommentarer, der er sendt til webstedet af dets mere end 2 milliarder aktive brugere. Et skøn tyder på, at 510, Der sendes 000 kommentarer hvert minut. Hvis det er korrekt, det ville betyde 1, 982, Der udsendes 880 voldelige kommentarer hver 24. time.

For at kompensere for fejlene i dens detekteringssoftware, Facebook, ligesom andre sociale netværk, har i årevis stolet på selvregulering, med brugere opfordret til at rapportere kommentarer, som de mener ikke burde være på webstedet. For eksempel, mellem januar og marts 2018, Facebook fjernede 2,5 mio. Kommentarer, der blev betragtet som hadefulde ytringer, endnu kun 950, 000 (38%) af disse meddelelser var blevet markeret af dets system. De øvrige 62% blev rapporteret af brugere. Dette viser, at Facebooks teknologi ikke tilstrækkeligt bekæmper hadefulde ytringer på sit netværk, på trods af den stigende bekymring for, at sociale netværkssider frembringer hadkriminalitet i den virkelige verden.

Hvor mange kommentarer rapporteres?

Dette bringer os til det andet betydningsfulde tal, der ikke er inkluderet i de data, som Facebook har frigivet:det samlede antal kommentarer rapporteret af brugere. Da dette er en grundlæggende mekanisme til bekæmpelse af online misbrug, mængden af ​​rapporter til virksomheden bør gøres offentligt tilgængelig. Dette giver os mulighed for at forstå det fulde omfang af krænkende kommentarer, der er fremsat online, samtidig med at det samlede antal meddelelser, Facebook ikke fjerner, fjernes fra webstedet.

Facebooks beslutning om at frigive data, der afslører omfanget af misbrug på sit websted, er et vigtigt skridt fremad. Twitter, derimod, blev bedt om lignende oplysninger, men nægtede at frigive dem, påstår det ville være vildledende. Klart, ikke alle kommentarer markeret af brugere af sociale netværkssider vil overtræde dets vilkår og betingelser. Men Twitters manglende frigivelse af disse oplysninger tyder på, at virksomheden ikke er villig til at afsløre omfanget af misbrug på sit eget websted.

Imidlertid, selv Facebook har stadig en lang vej at gå til total gennemsigtighed. Ideelt set, alle sociale netværkssider ville frigive årlige rapporter om, hvordan de håndterer misbrug online. Dette ville gøre det muligt for tilsynsmyndigheder og offentligheden at holde virksomhederne mere direkte til regnskab for manglende fjernelse af online misbrug fra deres servere.

Denne artikel blev oprindeligt offentliggjort på The Conversation. Læs den originale artikel.