Squashing cybermobning:Ny tilgang er hurtig, nøjagtig

Forskere ved University of Colorado Boulder har designet en ny teknik til at spotte grimme personlige angreb på sociale medier som Instagram.

Den nye tilgang, udviklet af CU Boulders CyberSafety Research Center, kombinerer flere forskellige computerværktøjer til at scanne enorme mængder sociale mediedata, at sende advarsler til forældre eller netværksadministratorer om, at der er sket misbrug.

Det er raket hurtigt, også:I nyligt offentliggjort forskning, gruppen rapporterede, at deres tilgang bruger fem gange færre computerressourcer end eksisterende værktøjer. Det er effektivt nok til at overvåge et netværk på størrelse med Instagram for en beskeden investering i serverkraft, sagde studie medforfatter Richard Han.

"Reaktionen fra de sociale medier på falske nyheder er for nylig begyndt at stige, selvom det tog alvorlige konsekvenser at nå det punkt, " sagde Han, en lektor ved Institut for Datalogi. "Reaktionen skal være lige så stærk for cybermobning."

Gruppen udgav også en gratis app til Android-telefoner, der giver forældre mulighed for at modtage advarsler, når deres børn er genstand for mobning på Instagram. Studiets medforfatter Shivakant Mishra forklarede, at appen, kaldet BullyAlert, kan lære af og tilpasse sig, hvad forældre betragter som mobning.

"Som forælder, Jeg ved, at vi mange gange ikke har fuld viden om, hvad vores børn laver på deres sociale netværk, " sagde Mishra, professor i datalogi. "En app som denne, der informerer os, når der sker noget problematisk, er uvurderlig."

For at bygge deres værktøjskasse, CyberSafety-forskerne brugte først rigtige mennesker til at lære et computerprogram, hvordan man adskiller godartede onlinekommentarer fra misbrug.

Næste, forskerne designet et system, der fungerer lidt som hospitals-triage. Når en bruger uploader et nyt indlæg, gruppens værktøjer laver en hurtig scanning af kommentarerne. Hvis disse kommentarer ser tvivlsomme ud, så får den post høj prioritet for at modtage yderligere checks. Men hvis kommentarerne alle virker velgørende, så støder systemet posten til bunden af ​​dens kø.

"Vores mål er at fokusere på de mest sårbare sessioner, " sagde Han. "Vi fortsætter stadig med at overvåge alle sessionerne, men vi overvåger oftere de sessioner, som vi synes er mere problematiske."

Og det virker:Forskerne testede deres tilgang på data fra den virkelige verden fra Vine, en nu nedlagt videodelingsplatform, og Instagram. Han forklarede, at holdet valgte disse netværk, fordi de gør deres data offentligt tilgængelige.

I forskning præsenteret på en konference i april, gruppen beregnede, at deres værktøjssæt kunne overvåge trafikken på Vine og Instagram i realtid, opdager cybermobningsadfærd med 70 procents nøjagtighed. Hvad mere er, tilgangen kunne også sende advarselsflag op inden for to timer efter misbrugets begyndelse - en præstation uden sidestykke af aktuelt tilgængelig software.

Rahat Ibn Rafiq, en CU Boulder kandidatstuderende i datalogi, er hovedforfatter af den nye undersøgelse. Andre medforfattere inkluderer CU Boulder Associate Professor Qin (Christine) Lv og Homa Hosseinmardi fra University of Southern California.