Facebook:Var bedre til at kontrollere nøgenhed end hadefulde ytringer

At slippe af med racister, sexistiske og andre hadefulde bemærkninger på Facebook er mere udfordrende end at luge ud i andre typer uacceptable indlæg, fordi computerprogrammer stadig snubler over nuancerne i det menneskelige sprog, det afslørede selskabet tirsdag.

Facebook udgav også statistikker, der kvantificerede, hvor udbredte falske konti er blevet på deres indflydelsesrige tjeneste, på trods af en langvarig politik, der kræver, at folk skal oprette konti under deres virkelige identitet.

Fra oktober til december alene, Facebook deaktiverede næsten 1,3 milliarder konti – og det tæller ikke engang alle de gange, virksomheden blokerede falske profiler, før de kunne oprettes.

Havde virksomheden ikke lukket alle de falske konti, dets publikum af månedlige brugere ville have svulmet ud over dets nuværende 2,2 milliarder og sandsynligvis skabt mere potentielt stødende materiale, som Facebook kunne luge ud.

Facebooks egenvurdering viste, at dets screeningssystem er langt bedre til at skrubbe grafisk vold, vederlagsfri nøgenhed og terrorpropaganda. Automatiserede værktøjer registrerede 86 procent til 99,5 procent af de overtrædelser, Facebook identificerede i disse kategorier.

For hadtale, Facebooks menneskelige anmeldere og computeralgoritmer identificerede kun 38 procent af overtrædelserne. Resten kom efter, at Facebook-brugere havde markeret det stødende indhold til gennemgang.

Alt i alt, Facebook tog handling på næsten 1,6 milliarder stykker indhold i løbet af de seks måneder, der sluttede i marts, en lille brøkdel af al aktivitet på dets sociale netværk, ifølge virksomheden.

Rapporten markerede Facebooks første opdeling af, hvor meget materiale det fjerner for at overtræde dets politikker. Det afslørede ikke, hvor lang tid det tager Facebook at fjerne materiale, der overtræder dets standarder. Rapporten dækker heller ikke, hvor meget upassende indhold Facebook gik glip af.

"Selv om de fjerner 100 millioner indlæg, der er stødende, der vil være en eller to, der har nogle virkelig dårlige ting, og det vil være dem, alle ender med at tale om i kabel-tv-nyhederne, " sagde Timothy Carone, der underviser i teknologi på University of Notre Dame.

I stedet for at prøve at bestemme, hvor meget stødende materiale den ikke fangede, Facebook leverede et skøn over, hvor ofte det mener, at brugerne så opslag, der overtrådte dets standarder, inklusive indhold, som dets screeningsystem ikke opdagede. For eksempel, virksomheden anslog, at for hver 10. 000 gange, at folk så på indhold på deres sociale netværk, 22 til 27 af synspunkterne kan have inkluderet indlæg, der omfattede utilladelig grafisk vold.

Rapporten behandler heller ikke, hvordan Facebook tackler et andet irriterende problem - spredningen af ​​falske nyhedshistorier plantet af russiske agenter og andre fabrikanter, der forsøger at påvirke valg og den offentlige mening.

Falske konti på Facebook har tiltrukket sig mere opmærksomhed, fordi russiske agenter brugte dem til at købe annoncer for at forsøge at påvirke valget i 2016 i USA

Selvom det har fokuseret på at lukke falske konti, Facebook har sagt, at 3 til 4 procent af dets aktive månedlige brugere er falske. Det betyder, at hele 88 millioner falske Facebook -konti stadig gled gennem revnerne i virksomhedens politisystem gennem marts.

Det er ikke overraskende, at Facebooks automatiserede programmer har de største vanskeligheder med at finde ud af forskelle mellem tilladte meninger og foragteligt sprog, der krydser grænsen, sagde Carone.

"Det er som at prøve at finde ud af, hvad der svarer til at skrige 'Ild!' i et fyldt teater, når der ikke er noget, og det svarer til at sige noget, der er ubehageligt, men som kvalificeres som ytringsfrihed, " han sagde.

Facebook sagde, at det fjernede 2,5 millioner stykker indhold, der blev anset for uacceptabelt hadefulde ytringer i løbet af de første tre måneder af dette år. op fra 1,6 mio. i det foregående kvartal. Virksomheden krediterede bedre detektion, selv som det sagde, har computerprogrammer problemer med at forstå kontekst og sprogtone.

Facebook fjernede 3,4 millioner stykker grafisk vold i løbet af de første tre måneder af dette år, næsten tredoblet de 1,2 millioner i løbet af de foregående tre måneder. I dette tilfælde, bedre detektion var kun en del af årsagen. Facebook sagde, at brugere mere aggressivt postede billeder af vold på steder som det krigshærgede Syrien.

Den øgede gennemsigtighed kommer som Menlo Park, Californien, Virksomheden forsøger at råde bod på en privatlivsskandale udløst af løse politikker, der gjorde det muligt for et dataminefirma med bånd til præsident Donald Trumps kampagne i 2016 at indsamle personlige oplysninger om så mange som 87 millioner brugere. Indholdsscreeningen har intet at gøre med beskyttelse af privatlivets fred, selvom, og har til formål at opretholde en familievenlig atmosfære for brugere og annoncører.

© 2018 Associated Press. Alle rettigheder forbeholdes.