Ny algoritme kan skelne cybermobbere fra normale Twitter-brugere med 90 % nøjagtighed

Et team af forskere, herunder fakultet ved Binghamton University, har udviklet maskinlæringsalgoritmer, som med succes kan identificere bøller og aggressorer på Twitter med 90 procents nøjagtighed.

Effektive værktøjer til at opdage skadelige handlinger på sociale medier er knappe, da denne type adfærd ofte er tvetydig af natur og/eller udstilles via tilsyneladende overfladiske kommentarer og kritik. Med henblik på at løse dette hul, et forskerhold med Binghamton Universitys datalog Jeremy Blackburn analyserede adfærdsmønstrene udvist af voldelige Twitter-brugere og deres forskelle fra andre Twitter-brugere.

"Vi byggede crawlere - programmer, der indsamler data fra Twitter via forskellige mekanismer, " sagde Blackburn. "Vi samlede tweets fra Twitter-brugere, deres profiler, samt (sociale) netværksrelaterede ting, som hvem de følger, og hvem der følger dem."

Forskerne udførte derefter naturlig sprogbehandling og sentimentanalyse på selve tweets, samt en række sociale netværksanalyser om forbindelserne mellem brugere. Forskerne udviklede algoritmer til automatisk at klassificere to specifikke typer stødende onlineadfærd, dvs. cybermobning og cyberaggression. Algoritmerne var i stand til at identificere misbrugende brugere på Twitter med 90 procents nøjagtighed. Det er brugere, der engagerer sig i chikanerende adfærd, f.eks. dem, der sender dødstrusler eller kommer med racistiske bemærkninger til brugerne.

"I en nøddeskal, Algoritmerne 'lærer', hvordan man kan skelne mellem bøller og typiske brugere ved at veje visse funktioner, efterhånden som de får vist flere eksempler, " sagde Blackburn.

Selvom denne forskning kan hjælpe med at afbøde cybermobning, det er kun et første skridt, sagde Blackburn.

"Et af de største problemer med cybersikkerhedsproblemer er, at skaden er på mennesker, og er meget svær at fortryde, " sagde Blackburn. "F.eks. vores forskning viser, at maskinlæring kan bruges til automatisk at opdage brugere, der er cybermobbere, og dermed kunne hjælpe Twitter og andre sociale medieplatforme med at fjerne problematiske brugere. Imidlertid, et sådant system er i sidste ende reaktivt:det forhindrer ikke i sig selv mobning, det identificerer bare dem, der finder sted i skala. Og den uheldige sandhed er, at selvom mobbekonti slettes, selvom alle deres tidligere angreb slettes, ofrene så stadig og var potentielt påvirket af dem."

Blackburn og hans team udforsker i øjeblikket proaktive afbødningsteknikker for at håndtere chikanekampagner.

Studiet, "Opdagelse af cybermobning og cyberaggression på sociale medier, " blev offentliggjort i Transaktioner på nettet .