Facebook siger, at AI bliver bedre til at spionere uønsket indhold

Facebook sagde onsdag, at dets software bliver dygtigere til at spionere forbudt indhold på det sociale netværk, derefter arbejde med mennesker for hurtigt at fjerne terroristvideoer og mere.

"Mens vi tager fejl af ytringsfriheden, Vi trækker generelt grænsen for alt, der kan resultere i reel skade, " sagde Facebooks administrerende direktør Mark Zuckerberg under en briefing om virksomhedens seneste rapport om at udslette indlæg, der overtræder dets politikker.

"Dette er en lille brøkdel af indholdet på Facebook og Instagram, og vi fjerner meget af det, før nogen ser det."

Facebook har investeret massivt i kunstig intelligens (AI) for automatisk at opdage forbudt indhold, ofte før det ses af brugerne, og menneskelige teams af anmeldere, der kontrollerer, om softwaren var på mål.

Facebook har mere end 35, 000 mennesker, der arbejder med sikkerhed, og bruger milliarder af dollars årligt på den mission, ifølge Zuckerberg.

"Vores indsats betaler sig, " sagde Zuckerberg. "Systemer, vi har bygget til at løse disse problemer, er mere avancerede."

Når det kommer til at opdage hadefulde ytringer, Facebook-software finder nu automatisk 80 procent af indholdet fjernet i en massiv forbedring fra for to år siden, når næsten alt sådant materiale ikke blev behandlet, før det blev rapporteret af brugere, ifølge det californiske firma.

Nettling nuance

Zuckerberg bemærkede, at hadefulde ytringer er sværere for AI at opdage end nøgenhed i billeder eller video på grund af "sproglige nuancer", der kræver kontekst, der kan gøre selv almindelige ord truende.

Læg dertil videoer af angreb drevet af bias mod en race, køn eller religion kunne deles for at fordømme sådan vold i stedet for at glorificere den.

Folk på Facebook fortsætter med at forsøge at dele video af et forfærdeligt moskeangreb i Christchurch, New Zealand, med sociale netværkssystemer, der blokerer 95 procent af disse forsøg, ifølge ledere.

En enlig bevæbnet mand åbnede ild mod to moskeer i byen Christchurch og dræbte og sårede snesevis af muslimer i marts, sender overgrebene live på Facebook.

Facebook har terroreksperter som en del af et team på mere end 350 mennesker, der er dedikeret til at forhindre terrorgrupper i at bruge det sociale netværk, ifølge chef for global policy management Monika Bickert.

Systemer finpudset til at finde og slette forbudt indhold på Facebook bliver også brugt på Instagram, som har øget bestræbelserne på at bortfiltrere indhold, der kan tilskynde til selvmord eller selvskade, og samtidig give folk mulighed for at dele sådanne traumatiske oplevelser i en ånd af bedring eller helbredelse,

Regler, der for nylig blev indført på Instagram, føjede tegninger og andet fiktivt indhold til listen til et forbud mod billeder, der kan tilskynde til selvmord eller selvskade.

Den Facebook-ejede billed- og videodelingstjeneste slog i begyndelsen af ​​dette år ned på billeder af selvskade, efter at en britisk teenager, der gik på nettet for at læse om selvmord, tog sit eget liv i 2017.

Den 14-åriges historie på sociale medier afslørede, at hun fulgte beretninger om depression og selvmord.

Sagen udløste en heftig debat i Storbritannien om forældrekontrol og statslig regulering af børns brug af sociale medier.

Instagram har aldrig tilladt opslag, der promoverer eller opmuntrer til selvmord eller selvskade.

Med en regelændring tidligt i år, Instagram begyndte at fjerne referencer til ikke-grafisk indhold relateret til folk, der skadede sig selv fra dets søgninger og anbefalingsfunktioner.

Foranstaltningerne var beregnet til at gøre sådanne billeder sværere at finde for deprimerede teenagere, som kunne have selvmordstendenser.

© 2019 AFP