Næsten 70 % af Premier League-fodboldspillere bliver misbrugt på Twitter ifølge AI, der bruges til at gennemsøge millioner af tweets

Da den nye Premier League-fodboldsæson går i gang, er et par ting sikre. Der vil være mål, drama og spænding, og desværre vil spillere blive udsat for sjofel overgreb på sociale medier.

Mine kolleger på Alan Turing Institute og jeg har udgivet en rapport, bestilt af Ofcom, hvori vi fandt ud af, at syv ud af ti Premier League-fodboldspillere udsættes for misbrug på Twitter. En ud af 14 udsættes for overgreb hver dag.

Det er skarpe statistikker med enorme konsekvenser for spillernes velfærd. Andre analyser har afsløret en høj grad af onlinemisbrug, især racistisk misbrug, af fodboldspillere, som stort set er gået uimodsagt fra fodboldens styrende organisationer. Mental sundhed er i stigende grad et problem i fodbold, og der er masser af beviser for, at onlinemisbrug kan føre til en række psykiske problemer, fra depression til selvmordstanker.

Vores rapport er en af ​​de første til at bruge kunstig intelligens (AI) til systematisk at opdage og spore online misbrug mod fodboldspillere i stor målestok. Dette er næsten umuligt at gøre manuelt på grund af de sociale mediers størrelse og kompleksitet.

Vi fokuserede vores analyse på Twitter, fordi det er meget brugt af fodboldspillere og fans, og det gør dets data frit tilgængelige for forskere. I alt indsamlede vi 2,3 millioner tweets, der omtalte eller direkte svarede på tweets fra 618 Premier League-fodboldspillere i løbet af den første halvdel af sæsonen 2021-22.

Kernen i vores analyse er en ny maskinlæringsmodel udviklet af Turings online sikkerhedsteam som en del af vores Online Harms Observatory. Denne model er i stand til automatisk at vurdere, om et tweet er misbrug ved at analysere dets sprog.

For at give et benchmark for vores AI-model og en mere dybdegående opdeling af tweet-indholdet, har vi også håndmærket 3.000 tweets, og kategoriseret dem som positive, neutrale, kritiske eller misbrugende. Kritiske tweets var dem, der kritiserede en spillers handlinger på eller uden for banen, men ikke på en måde, der kunne anses for at være misbrug.

Vi anerkender, at kategorisering af tweets på denne måde til en vis grad er subjektiv, men vi forsøgte at reducere menneskelig skævhed så meget som muligt ved konsekvent at anvende de samme definitioner og retningslinjer på alle tweets.

Hvad fandt vi?

Af de 3.000 tweets, som vi håndmærkede, var størstedelen (57%) positive. Tweets udtrykte rutinemæssigt beundring, ros og støtte til spillerne, ofte ved at bruge emojis, udråbstegn og andre indikatorer for intense positive følelser. En mindre andel af tweets blev mærket som kritiske (12,5 %), neutrale (27 %) eller krænkende (3,5 %).

Vores maskinlæringsmodel, anvendt på alle 2,3 millioner tweets, fandt ud af, at 2,6 % indeholdt misbrug. Det lyder måske som en lav procentdel, men det repræsenterer næsten 60.000 misbrugs-tweets over kun fem måneder.

Misbrug er udbredt:68% af spillerne modtog mindst ét ​​misbrugs-tweet i denne periode. Men spillere har meget forskellige oplevelser online:Kun 12 spillere modtog halvdelen af ​​alt misbrug. Cristiano Ronaldo, Harry Maguire og Marcus Rashford modtog de mest voldelige tweets.

Misbrug varierede også meget i løbet af sæsonen, med store toppe efter nøglebegivenheder. For eksempel steg antallet af krænkende tweets den 27. august 2021, da Manchester United gensignerede Cristiano Ronaldo, og den 7. november 2021, da Harry Maguire sendte et tweet, hvor han undskyldte, efter at Manchester United tabte til Manchester City.

Vi fandt ud af, at omkring 8,5 % af misbrugende tweets (0,2 % af alle tweets) angreb spillernes identitet ved at henvise til en beskyttet egenskab såsom religion, race, køn eller seksualitet. Dette er en overraskende lav andel i betragtning af bekymringerne om racemisbrug af fodboldspillere online. Men vi så kun på identitetsangreb ved hjælp af søgeord (hvorimod vi havde en komplet AI-løsning til at identificere misbrug), og så ikke specifikt på ikke-hvide spilleres oplevelser.

At være en god fan online

Det er ikke en nem opgave at adressere onlinemisbrug – at finde og kategorisere misbrug er teknisk vanskeligt og rejser grundlæggende spørgsmål omkring ytringsfrihed og privatliv. Men vi kan ikke lade misbrug stå uimodsagt.

Nogle sociale medieplatforme, herunder Twitter, tager allerede skridt til at forbedre deres tillid og sikkerhedsprocesser, men mere kan gøres. Dette kan omfatte forstærkning og promovering af indhold, der ikke er misbrug; at give yderligere, praktisk støtte og råd til spillere (og andre), der modtager store mængder af misbrug; og gøre mere brug af korrekt styrede maskinlæringsværktøjer til automatisk at opdage og skride ind mod misbrug. I sidste ende bør platforme bære det meste af ansvaret for at rydde op i deres tjenester.

Generelt er krænkende indhold underrapporteret. Ofcom undersøgte offentligheden om deres oplevelser med, at spillere blev målrettet online, og fandt ud af, at mere end en fjerdedel af teenagere og voksne, der går online (27 %), så misbrug rettet mod en fodboldspiller i sidste sæson. Blandt dem, der stødte på misbrug, sagde mere end halvdelen (51 %), at de fandt indholdet ekstremt stødende, og omkring 30 % foretog sig ingen handling som svar.

Der er absolut intet galt i at være følelsesladet omkring fodbold og udtrykke, hvordan du har det online, men vi bør alle passe på ikke at gå over grænsen til at blive voldelig og intimiderende. Og hvis du ser en anden misbruge, så vær proaktiv. Rapporter det og vis, at dette indhold ikke hører hjemme i fodbold (eller andre steder). Fodbold er et smukt spil, og vi kan alle være med til at holde det sådan. + Udforsk yderligere

Onlinemisbrug i sport:Hvorfor atleter er målrettet, og hvordan de kan ende med at vinde

Denne artikel er genudgivet fra The Conversation under en Creative Commons-licens. Læs den originale artikel.