Ny teknologi til overvågning af anti-polsk had online

Kunstig intelligens bruges til at bekæmpe anti-polsk hadkriminalitet i op til Brexit.

Forskere på HateLab, baseret på Cardiff University, arbejder med Samurai Labs, et polsk kunstigt intelligenslaboratorium, at overvåge aggressivt indhold på sociale medier og identificere eventuelle forbindelser til offline -begivenheder.

Året efter Brexit -afstemningen oplevede den største stigning i politiet hadkriminalitet - en stigning på 57 procent i forhold til året før. I 2017/18, der var 94, 098 hadforbrydelser registreret af politiet i England og Wales - en stigning på 17 procent i forhold til året før.

Mere end 900, 000 polske mennesker bor i Storbritannien, hvilket gør dem til det største nationale mindretal. Pilotundersøgelser udført af Samurai Labs viser, at op til 5 procent af materialet, der er offentliggjort om denne gruppe på britiske sociale medier, har en negativ eller stødende konnotation.

HateLab er et globalt knudepunkt for data og indsigt i hadfuld tale og kriminalitet. Ved hjælp af datavidenskabelige metoder, herunder etiske former for AI, initiativet blev oprettet for at måle og imødegå problemet med had både online og offline. Online Hate Speech Dashboard er udviklet af akademikere med politiske partnere for at forhindre udbrud af hadkriminalitet på gaden.

Professor Matthew Williams, Direktør for HateLab ved Cardiff University, sagde:"Vi ved, at EU -folkeafstemningen i 2016 foranledigede en stigning i online hadtale og faldt sammen med betydelige stigninger i hadforbrydelser offline. Da Storbritannien forbereder sig på at forlade EU, at bruge de mest avancerede metoder til kunstig intelligens vil være afgørende for at hjælpe myndighederne med hurtigt at genkende advarselsskilte og give tryghed og sikkerhed til det polske samfund, der bor her. "

Kunstige intelligens -algoritmer udviklet af Samurai Labs kan præcist skelne mellem webaggression og harmløse kommentarer. De er også i stand til at lokalisere den præcise type aggression. Disse funktioner er særligt vigtige, når der er behov for at identificere toppe i sådant indhold omkring offline begivenheder.

Michał Wroczyński, CEO for Samurai Labs, sagde:"Vi skelnede først otte kategorier af verbal aggression rettet mod britiske indbyggere af polsk afstamning, begyndende med fornærmelser og anmodninger om, at de skulle gå hjem, til trusler mod liv og lemmer.

"Verbal aggression refererer ikke nødvendigvis til oprindelsen. Det meste er simpelthen stødende ord, der kunne målrettes mod enhver nation. Sådanne begivenheder udgør næsten 40 procent af det samlede antal sager.

Gniewosz Leliwa, Direktør for kunstig intelligensforskning hos Samurai Labs, sagde:"Vi skal være meget præcise og arbejde med en dyb forståelse af sproget. Søgeord er bestemt utilstrækkelige. Det er muligt for nogen at udgøre en strafbar trussel uden at bruge nogen af ​​de karakteristiske ord." Tilsvarende, brugen af ​​vulgaritet er ikke altid nødvendigvis forbundet med et aggressivt budskab. Vores system er i stand til at forstå konteksten og korrekt adskille en reel trussel fra en almindelig samtale. "

HateLab, en del af Social Data Science Lab baseret mellem Universitetets Socialvidenskabelige Skole og School of Computer Science and Informatics, er etableret med finansiering fra Economic and Social Research Council (ESRC) samt det amerikanske justitsministerium. Det har modtaget i alt £ 1, 726, 841 i finansiering over fem igangværende projekter.

Professor Williams tilføjede:"Vi er meget begejstrede for at arbejde med Samurai Labs. Deres innovative tilgang har vist sig at være meget præcis i opdagelsen af ​​cybermobning og internetagression. Vi leder meget efter lignende succeser med at opdage aggression mod minoriteter.

"I betragtning af Samurai Labs polske rødder, vi håber, at vi vil være i stand til at få ny viden og bedre forstå de nuancer, der er forbundet med dette problem. Den teknologi, de udvikler, vil udgøre en vigtig del af vores Online Dashboard. "