Squadbox bruger friendsourcing til bedre at understøtte mål for cybermobning

Chikane er blevet allestedsnærværende på sociale medier og i onlineverdenen- Twitter har været under beskydning for, hvordan det håndterer chikane, YouTubes trendalgoritme har lejlighedsvis fremmet stødende videoer, og rapportering af misbrug på Instagram er stadig ret vanskelig.

Mens nuværende værktøjer til chikane såsom blokering af brugere eller filtrering af triggerord delvist hjælper, en masse onlinemishandling er så subtil, at en algoritme alene måske ikke opfanger forskellige tegn.

Men hvad nu hvis folk rent faktisk kunne udnytte deres venner til at hjælpe med at moderere deres konti og beskytte dem mod krænkende beskeder?

Et team fra MIT's Computer Science and Artificial Intelligence Laboratory (CSAIL) bruger denne tilgang med "Squadbox", et nyt crowdsourcing -værktøj, der gør det muligt for mennesker, der har været mål for chikane, at koordinere "squads" af venner til at filtrere beskeder og støtte dem under angreb.

Teamet interviewede en række forskere, aktivister, og Youtube -personligheder, og fandt ud af, at mange mennesker, der chikaneres på e -mail, er afhængige af venner og familie for at beskytte sig mod krænkende beskeder.

Seniorforfatter og MIT-professor David Karger siger, at Squadbox sigter mod at gøre denne såkaldte "ven-sourcing" mere effektiv og mindre arbejde for dens moderatorer.

"Hvis du bare giver moderatorer nøglerne til din indbakke, hvordan ved moderatoren, når der er en e -mail til at moderere, og hvilken e -mail er allerede blevet håndteret af andre moderatorer? "siger Karger." Squadbox giver brugerne mulighed for at tilpasse, hvordan indgående e -mail håndteres, opdele arbejdet for at sikre, at der ikke er en dobbeltarbejde. "

Karger skrev det nye oplæg med ph.d. -studerende Amy Zhang og tidligere MIT -studerende og nuværende softwareingeniør Kaitlin Mahar. Teamet vil præsentere arbejdet i april på ACM's CHI Conference on Human Factors in Computing Systems in Montreal, Canada.

Moderering fra "ven"

Med Squadbox, "ejeren" af truppen kan opsætte filtre til automatisk at videresende indgående indhold til dets moderationspipeline. Når der kommer en mail, en moderator beslutter, hvilke e -mails der er chikane, og som kan videresendes tilbage til personens indbakke.

For eksempel, lad os sige, at en journalist vil have en offentlig e -mail -adresse for at modtage nyhedstip, men frygter at have en på grund af, hvor ofte hun bliver chikaneret af mennesker, der er uenige i hendes rapportering. Hun kunne oprette en Squadbox -konto med to nære kolleger som moderatorer, og brug derefter hendes konto, hvor hun vil dele sin e -mail -adresse. Enhver e -mail, hun modtager på den adresse, går først gennem hendes hold.

"Tidligere løsninger var helt afhængige af automatiserede teknikker, eller var alt for afhængige af sociale løsninger som f.eks. blot at give sine kontooplysninger til en ven, "siger Clifford Lampe, en professor i information ved University of Michigan. "Denne arbejdslinje hjælper med at give et kort til en hybrid løsning til chikane, der øger menneskelig støtte med værktøjer på en meningsfuld måde."

Mens teamet planlægger at udvide Squadbox's muligheder for at arbejde med sociale medieplatforme, de siger, at e -mail er et særligt nyttigt system til at undersøge chikane.

"Det interessante ved e -mail er, at det ikke er ude i det fri som Twitter eller Facebook, "siger Karger." Det betyder, at chikane kan føle mindre ansvar, fordi deres kommentarer ikke er offentlige. "

Squadbox lader også brugere oprette "hvidlister" og "sortlister" over afsendere, hvis e -mails automatisk godkendes eller afvises uden moderering. Brugere kan også deaktivere og genaktivere systemet, læse score på meddelelsers toksicitet, og endda reagere på chikane.

"Chikane er en iboende magtløs oplevelse, og ved at give overlevende muligheder giver dem mulighed for at komme tilbage i kontrol, "siger Emily May, medstifter og administrerende direktør for det globale initiativ mod chikane Hollaback! "Squadbox er designet til ikke bare at minde folk om, at de har fællesskab omkring sig, men for at aktivere dette fællesskab på deres vegne. "

Teamet vurderede Squadbox på fem vennepar, og fandt ud af, at brug af venner hjalp med frygt for privatlivets fred og gav mulighed for mere skræddersyede beslutninger for ofre. Imidlertid, brugere er stadig bekymrede for, at en ven kan være følsom over for langsomme svartider, og at systemet også kunne "sprede" byrden. Teamet siger, at det at have flere moderatorer potentielt kan hjælpe dette problem.

"Squadbox tilbyder et håndgribeligt system til understøttelse af mennesker, der bliver chikaneret online ved at bruge andre mennesker, "siger May." Vi skal sætte de overlevende tilbage i kontrol og skabe fællesskaber, der er stærke nok til at erklære:det er ikke det internet, vi ønsker. Det er ikke den verden, vi ønsker. Og vi kommer ikke til at stå for det mere. "