Tekniske ledere siger, at de handler hurtigere på ekstremistisk indhold

Ledere af Facebook, Google og Twitter fortalte kongressen onsdag, at de er blevet bedre og hurtigere til at opdage og fjerne voldeligt ekstremistisk indhold på deres sociale medieplatforme i lyset af masseskyderier, der er drevet af had.

Udspurgt ved en høring af Senatets handelsudvalg, lederne sagde, at de bruger penge på teknologi for at forbedre deres evne til at markere ekstremistisk indhold og tager initiativ til at nå ud til de retshåndhævende myndigheder for at forsøge at afværge potentielle voldelige hændelser.

"Vi vil fortsætte med at investere i mennesker og teknologi for at klare udfordringen, " sagde Derek Slater, Googles direktør for informationspolitik.

Lovgiverne vil gerne vide, hvad virksomhederne gør for at fjerne hadefulde ytringer fra deres platforme, og hvordan de koordinerer med retshåndhævelsen.

"Vi oplever en bølge af had... Sociale medier bruges til at forstærke det had, " sagde senator Maria Cantwell fra staten Washington, panelets seniordemokrat.

Virksomhedens ledere vidnede om, at deres teknologi forbedres til at identificere og fjerne mistænkeligt indhold hurtigere.

Af de 9 millioner videoer, der blev fjernet fra Googles YouTube i årets andet kvartal, 87% blev markeret af en maskine, der brugte kunstig intelligens, og mange af dem blev taget ned, før de fik en enkelt udsigt, sagde Slater.

Efter skoleskyderiet i februar 2018 i Florida, der dræbte 17 mennesker, Google begyndte proaktivt at kontakte de retshåndhævende myndigheder for at se, hvordan de bedre kan koordinere, sagde Slater. Nikolas Cruz, den mistænkte for skud, havde skrevet på en YouTube-side på forhånd, "Jeg skal være professionel skoleskyder, " sagde myndighederne.

I denne uge kom beskeden fra Facebook om, at det vil arbejde sammen med retshåndhævende organisationer for at træne sine AI-systemer til at genkende videoer af voldelige begivenheder som en del af en bredere indsats for at slå ned på ekstremisme. Facebooks kunstig intelligens-systemer var ikke i stand til at opdage livestreamede videoer af moskéskyderierne i New Zealand i marts, der dræbte 50 mennesker. Den selverklærede hvide overherredømme anklaget for skyderierne havde livestreamet angrebet.

Indsatsen vil bruge bodycam-optagelser af skydevåbentræning leveret af amerikanske og britiske regeringer og retshåndhævende myndigheder.

Facebook udvider også sin definition af terrorisme til ikke kun at omfatte voldshandlinger, der har til formål at opnå et politisk eller ideologisk mål, men også forsøg på vold, især når det er rettet mod civile med den hensigt at tvinge og skræmme. Virksomheden har haft blandet succes i sine bestræbelser på at begrænse spredningen af ​​ekstremistisk materiale på sin tjeneste.

Facebook ser ud til at have gjort små fremskridt, for eksempel, på dets automatiserede systemer til fjernelse af forbudt indhold, der glorificerer grupper som Islamisk Stat i de fire måneder, der er gået siden The Associated Press detaljerede, hvordan Facebook-sider, der er automatisk genereret til virksomheder, hjælper Mellemøsten-ekstremister og hvide supremacister i USA. De nye detaljer kommer fra en opdatering af en klage til Securities and Exchange Commission, som National Whistleblower Center planlægger at indgive i denne uge.

Facebook sagde som svar, at det fjerner alle automatisk genererede sider "der overtræder vores politikker. Selvom vi ikke kan fange alle, vi er fortsat årvågne i denne indsats."

Monika Bickert, Facebooks chef for global policy management, sagde ved Senatets høring, at virksomheden har øget sin evne til at opdage terror, vold og hadefulde ytringer meget hurtigere. "Vi ved, at folk skal være sikre, " sagde hun. Bickert bemærkede, at Facebook fjerner alt indhold, der promoverer vold, hvid overherredømme eller nationalisme såvel som indikerer selvmord, og deaktiverer konti, når trusler opdages.

Twitters direktør for strategi for offentlig politik, Nick Pickles, sagde, at tjenesten suspenderede mere end 1,5 millioner konti for at fremme terrorisme mellem 1. august, 2015, og 31. december, 2018. Mere end 90% af konti er suspenderet gennem Twitters proaktive foranstaltninger, han sagde, venter ikke på rapporter fra regering og retshåndhævelse.

Sen. Rick Scott, R-Fla., spurgte Pickles, hvorfor Twitter ikke havde suspenderet den venezuelanske socialistiske leder Nicolas Maduros konto, som har præsideret en dybere økonomisk og politisk krise og har truet oppositionspolitikere med strafferetlig forfølgelse.

Hvis Twitter fjernede Maduros konto, "det ville ikke ændre fakta på stedet, " sagde Pickles.

Scott sagde, at han var uenig, fordi Maduros konto med omkring 3,7 millioner følgere giver ham legitimitet som verdensleder.

© 2019 The Associated Press. Alle rettigheder forbeholdes.