Livestreamet massakre betyder, at det er tid til at lukke Facebook Live ned

Da nyheden kom om, at massakren i New Zealand blev livestreamet på Facebook, Jeg tænkte straks på Robert Godwin Sr. I 2017, Godwin blev myrdet i Cleveland, Ohio, og indledende rapporter indikerede, at angriberen streamede det på Facebook Live, på det tidspunkt en forholdsvis ny funktion i det sociale netværk. Facebook afklarede senere, at den grafiske video blev uploadet efter begivenheden, men hændelsen gjorde offentligheden opmærksom på risikoen ved livestreaming af vold.

I kølvandet på Godwins mord, Jeg anbefalede, at Facebook Live-udsendelser blev tidsforsinkede, i hvert fald for Facebook-brugere, der havde fortalt virksomheden, at de var under 18. På den måde, voksne brugere ville have mulighed for at markere upassende indhold, før børn blev udsat for det. Facebook Live har udsendt drab, samt andre alvorlige forbrydelser såsom seksuelle overgreb, tortur og børnemishandling. Selvom virksomheden har ansat mere end 3, 000 yderligere menneskelige indholdsmoderatorer, Facebook er ikke bedre til at forhindre rædselsvækkende vold fra at streame live online uden filter eller advarsel til brugerne.

I 24 timer efter massakren i New Zealand, 1,5 millioner videoer og billeder af drabene blev uploadet til Facebooks servere, meddelte virksomheden. Facebook fremhævede det faktum, at 1,2 millioner af dem "blev blokeret ved upload." Imidlertid, som forsker og underviser på sociale medier, Jeg hørte, at som en indrømmelse, at 300, 000 videoer og billeder af et massemord gik gennem dets automatiserede systemer og var synlige på platformen.

Virksomheden udsendte for nylig nogle analytiske detaljer og bemærkede, at færre end 200 mennesker så livestreamen af ​​massakren, og det overraskende nok ingen brugere rapporterede det til Facebook før efter det sluttede. Disse detaljer gør smerteligt klart, hvor afhængig Facebook er af brugere for at markere skadeligt indhold. De foreslår også, at folk ikke ved, hvordan de skal rapportere upassende indhold – eller ikke har tillid til, at virksomheden vil reagere på klagen.

Videoen, der blev tilbage, efter at livestreamen sluttede, blev set næsten 4, 000 gange – hvilket ikke inkluderer kopier af videoen, der er uploadet til andre websteder og til Facebook af andre brugere. Det er uklart, hvor mange af de mennesker, der så det, var mindreårige; unge helt ned til 13 år har lov til at oprette Facebook-konti og kunne være stødt på ufiltrerede optagelser af morderisk had. Det er forbi tid for virksomheden at gå op og opfylde løftet, dets grundlægger og administrerende direktør, Mark Zuckerberg, lavet for to år siden, efter Godwins mord:"Vi vil blive ved med at gøre alt, hvad vi kan for at forhindre tragedier som denne i at ske."

En simpel tidsforsinkelse

I tv-branchen, korte tidsforsinkelser på nogle få sekunder er typiske under udsendelser af livebegivenheder. Den tid giver en moderator mulighed for at gennemgå indholdet og bekræfte, at det er passende for et bredt publikum.

Facebook er afhængig af brugere som moderatorer, og nogle livestreams har muligvis ikke et stort publikum som tv, så dens forsinkelse skulle være længere, måske et par minutter. Først da ville nok voksne brugere have screenet det og haft chancen for at rapportere dets indhold. Større brugere, herunder forlag og virksomheder, kunne få tilladelse til at livestreame direkte efter at have gennemført et træningskursus. Facebook kunne endda lade folk anmode om en virksomheds moderator til kommende livestreams.

Facebook har endnu ikke taget dette relativt simple skridt – og årsagen er klar. Tidsforsinkelser tog kun fat i tv, fordi udsendelsesmyndigheder straffede tv-selskaber for at sende upassende indhold under live-shows. Der er reelt ingen regulering for sociale medievirksomheder; de ændrer sig kun i jagten på profit eller for at minimere offentligt ramaskrig.

Hvorvidt og hvordan man regulerer sociale medier er et politisk spørgsmål, men mange amerikanske politikere har udviklet dybe bånd til platforme som Facebook. Nogle har satset på sociale medier for at indsamle donationer, målrette tilhængere med reklamer og hjælpe dem med at blive valgt. En gang på kontoret, de fortsætter med at bruge sociale medier til at kommunikere med tilhængere i håb om at blive genvalgt.

Føderale agenturer bruger også sociale medier til at kommunikere med offentligheden og påvirke folks meninger - selv i strid med amerikansk lovgivning. Efter min mening, Facebooks rolle som et værktøj til at opnå, bevare og sprede politisk magt gør politikerne langt mindre tilbøjelige til at tøjle den.

Amerikansk regulering kommer ikke snart

Kongressen har endnu ikke truffet nogen meningsfuld handling for at regulere sociale medievirksomheder. På trods af stærke udtalelser fra politikere og endda opfordringer til høringer om sociale medier som reaktion på angrebet i New Zealand, Det er ikke sandsynligt, at amerikanske tilsynsmyndigheder fører an.

EU-embedsmænd varetager meget af arbejdet, især omkring privatlivets fred. New Zealands regering har optrappet, også, forbyder livestream-video af moskemassakren, hvilket betyder, at enhver, der deler den, kan stå over for op til NZ$10, 000 i bøde og 14 års fængsel. Mindst to personer er allerede blevet anholdt for at dele det online.

Facebook kunne – og burde – handle nu

En stor del af diskussionen om regulering af sociale medier har overvejet at bruge antitrust- og monopollove til at tvinge de enorme teknologigiganter som Facebook til at bryde op i mindre separate virksomheder. Men hvis det overhovedet sker, det vil være meget vanskeligt - at bryde AT&T op varede et årti, fra retssagen i 1974 til lanceringen af ​​"Baby Bell"-selskaberne i 1984.

I mellemtiden, der vil være mange flere farlige og voldelige hændelser, som folk vil forsøge at livestreame. Facebook bør vurdere sine produkters potentiale for misbrug og indstille dem, hvis virkningerne er skadelige for samfundet.

Intet barn bør nogensinde se den slags "råt og visceralt indhold", der er blevet produceret på Facebook Live - inklusive massemord. Jeg synes heller ikke, at voksne brugere skal udsættes for at være vidne til sådanne afskyelige handlinger, da undersøgelser har vist, at visning af grafisk vold har sundhedsrisici, såsom posttraumatisk stress.

Derfor anbefaler jeg ikke længere kun en forsinkelse af livestream til unge brugere – det var en appel om at beskytte børn, når flere større platformsændringer er usandsynlige. Men alle mennesker fortjener bedre og sikre sociale medier. Jeg opfordrer nu Mark Zuckerberg til at lukke Facebook Live ned af hensyn til offentlig sundhed og sikkerhed. Efter min mening, that feature should be restored only if the company can prove to the public – and to regulators – that its design is safer.

Handling livestreaming safely includes having more than enough professional content moderators to handle the workload. Those workers also must have appropriate access to mental health support and safe working environments, so that even Facebook employees and contractors are not unduly scarred by brutal violence posted online.

This article is republished from The Conversation under a Creative Commons license. Læs den originale artikel.