Forskere samarbejder om metode til at forklare falske nyheder til brugere

Sociale medier kan udsætte brugere for misinformation, inklusive falske nyheder – nyhedshistorier med bevidst falsk information. Faktisk, under præsidentvalget i USA 2016, falske nyheder engagerede flere mennesker end rigtige nyheder, ifølge en BuzzFeed News-analyse.

Adskillige deep learning-metoder findes i øjeblikket til at opdage falske nyheder, men disse metoder er ikke i stand til at forklare, hvorfor det er anerkendt som sådan. Nu, et team af forskere fra Penn State og Arizona State arbejder på at hjælpe med at forklare, hvorfor enhver falsk nyhed bliver opdaget som værende falsk.

Holdets seneste resultater skal præsenteres på Association for Computing Machinery (ACM)'s Knowledge Discovery and Data Mining (KDD), en flagskibskonference for data mining, afholdt 4-8 august i Anchorage, Alaska.

"Detektion er én ting, men det er mere udfordrende, hvordan man præsenterer det for brugeren for at forklare, hvorfor det er falsk, " sagde Dongwon Lee, lektor i Penn State College of Information Sciences and Technology og forsker på projektet. "Hvis vi ikke giver en god forklaring, det har en begrænset effekt at begrænse distributionen af ​​misinformation, fordi folk ikke vil acceptere det."

I deres undersøgelse, forskerne byggede en forklarlig detekteringsramme for falske nyheder, som de kalder deFEND (Explainable FakE News Detection). Rammen består af tre komponenter:(1) en koder for nyhedsindhold, at opdage meningsfyldte og opsigtsvækkende sprogstile, der almindeligvis findes i falske nyheder; (2) en brugerkommentarkoder, at opdage aktiviteter såsom skeptiske meninger og sensationelle reaktioner i kommentarer til nyhedshistorier; og (3) en sætningskommentar, co-attention komponent, som registrerer sætninger i nyhedshistorier og brugerkommentarer, der kan forklare, hvorfor en nyhed er falsk.

Den nye detektionsalgoritme designet og udviklet i denne nye tilgang har overgået syv andre avancerede metoder til at opdage falske nyheder, ifølge forskerne.

"Blandt brugernes kommentarer, vi kan finde den mest effektive forklaring på, hvorfor denne [nyhed, de læser] er falske nyheder, " forklarede Lee. "Nogle brugere udtrykte utilfredshed, men andre giver særlige beviser, såsom at linke til et faktatjek-websted eller til en autentisk nyhedsartikel. Disse teknikker kan samtidig finde sådanne beviser og præsentere dem for brugeren som en potentiel forklaring."

Han tilføjede, "Demokratiet [i USA], som vi kender det, er baseret på præmissen om at dele sine ideer og meninger frit. Hvis vi ikke kan stole på, hvad der er blevet sagt i medierne, og begynde at mistænke det kan være falsk, det kunne underminere et helt økosystem af demokrati. Som sådan, denne forskning har en vigtig og enorm samfundsmæssig indflydelse."

Forskerne arbejder på en prototype af systemet, som de håber at dele i slutningen af ​​2019, så andre kan bruge værktøjet til at opdage falske nyheder og bedre forstå dem.

"Tidlig registrering af falske nyheder er et andet vigtigt spørgsmål, " sagde Suhang Wang, adjunkt i College of IST og samarbejdspartner på projektet. "Når [falske] nyheder kommer ud, inden for et par timer, vi ønsker at opdage det. Når falske nyheder spredes, skaden er allerede sket. Det er vigtigt at opdage og begrænse det så hurtigt som muligt."