Ny forskning kan identificere ekstremister online, selv før de sender farligt indhold

Ny forskning har fundet en måde at identificere ekstremister på, som dem, der er forbundet med terrorgruppen ISIS, ved at overvåge deres konti på sociale medier, og kan identificere dem, selv før de sender truende indhold.

Forskningen, "At finde ekstremister i online sociale netværk, ", som for nylig blev offentliggjort i tidsskriftet INFORMS Operationsforskning , blev udført af Tauhid Zaman fra Massachusetts Institute of Technology; Oberstløjtnant Christopher E. Marks, U.S. Army; og Jytte Klausen fra Brandeis Universitet

Antallet og størrelsen af ​​ekstremistiske onlinegrupper, der bruger sociale netværk til at chikanere brugere, rekruttere nye medlemmer, og tilskynder til vold er hastigt stigende. Mens sociale medieplatforme arbejder på at bekæmpe dette (i 2016, Twitter rapporterede, at det havde lukket 360, 000 ISIS-konti) er de traditionelt afhængige af brugernes rapporter for at identificere disse konti.

Ud over, når en konto er blevet suspenderet, der er lidt, der kan gøres for at forhindre en bruger i at åbne en ny konto, eller flere konti.

"De sociale medier er blevet en stærk platform for ekstremistiske grupper, lige fra ISIS til hvide nationalistiske "alt-right" grupper, " sagde Zaman. "Disse grupper bruger sociale netværk til at sprede hadefuld propaganda og tilskynde til vold og terrorangreb, gør dem til en trussel mod offentligheden."

Identifikation af ekstremister, før de udgør en trussel online

Forskerne indsamlede Twitter-data fra cirka 5, 000 "frø"-brugere, som enten var kendte ISIS-medlemmer eller som var forbundet med mange kendte ISIS-medlemmer som venner eller følgere. De fik deres navne gennem nyheder, blogs, og rapporter udgivet af retshåndhævende myndigheder og tænketanke.

Ud over at gennemgå indholdet af 4,8 millioner tweets fra disse brugeres tidslinjer (inklusive tekst, links, hash tags, og nævner), de sporede også kontosuspenderinger, samt eventuelle suspenderinger af deres venner og følgere-konti.

Til formålet med denne undersøgelse, forskerne fokuserede på de kontonetværk, der var smedet af kendte ISIS- og Al Qaeda-sympatisører og kendte fremmedkrigere og indhold, der var blevet markeret af Twitter som terrorist af natur.

Brug af statistisk modellering af ekstremistisk adfærd med optimerede søgepolitikker og faktiske ISIS-brugerdata, forskerne udviklede en metode til at forudsige nye ekstremistiske brugere, identificere, om mere end én konto tilhører den samme bruger, samt forudsige netværksforbindelser for suspenderede ekstremistiske brugere, der starter en ny konto.

Ud over, ved at spore og sammenligne data på skærmnavne, brugernavn, profilbilleder og bannerbilleder, forskerne var også i stand til at identificere 70 procent af yderligere Twitter-profiler, der blev holdt af ekstremistiske brugere, med kun 2 procent forekomst af misklassificering af profiler.

"Vi skabte et nyt sæt operationelle kapaciteter til at håndtere truslen fra onlineekstremister på sociale netværk, " sagde Marks. "Vi er i stand til at forudsige, hvem der er en ekstremist, før de poster noget indhold, og derefter i stand til at forudsige, hvor de vil genindtræde på netværket, efter at de er suspenderet. Kort sagt, vi kan automatisk finde ud af, hvem der er ekstremist og holde dem fra det sociale netværk."

Mens undersøgelsen blev udført ved hjælp af data fra konti tilhørende ISIS-ekstremister på Twitter, deres metode kan anvendes på enhver ekstremistisk gruppe og ethvert socialt netværk.

"Brugere, der engagerer sig i en eller anden form for online-ekstremisme eller chikane, vil have meget lignende adfærdsegenskaber på sociale netværk, " sagde Klausen. "De vil oprette forbindelse til et bestemt sæt brugere, som danner deres ekstremistiske gruppe. De vil oprette nye konti, som vil ligne deres gamle konti efter at være blevet suspenderet, og når tilbagevenden til det sociale netværk efter en suspension, der er stor sandsynlighed for, at de vil genoprette forbindelsen til visse tidligere venner."