Nyt værktøj bruger AI til at markere falske nyheder til mediernes faktatjek

Et nyt værktøj til kunstig intelligens (AI) kan hjælpe sociale medienetværk og nyhedsorganisationer med at udrydde falske historier.

Værktøjet, udviklet af forskere ved University of Waterloo, bruger deep-learning AI-algoritmer til at bestemme, om påstande i indlæg eller historier understøttes af andre indlæg og historier om samme emne.

"Hvis de er, store, det er nok en rigtig historie, " sagde Alexander Wong, professor i systemdesign engineering ved Waterloo. "Men hvis det meste af det andet materiale ikke er støttende, det er en stærk indikation af, at du har med falske nyheder at gøre."

Forskere blev motiveret til at udvikle værktøjet ved udbredelsen af ​​onlineopslag og nyhedshistorier, der er fremstillet for at vildlede eller vildlede læsere, typisk for politisk eller økonomisk vinding.

Deres system fremmer igangværende bestræbelser på at udvikle fuldautomatisk teknologi, der er i stand til at detektere falske nyheder ved at opnå 90 procent nøjagtighed inden for et nøgleområde inden for forskning kendt som standpunktsdetektion.

Givet en påstand i et indlæg eller en historie og andre indlæg og historier om det samme emne, som er blevet indsamlet til sammenligning, systemet kan korrekt afgøre, om de understøtter det eller ej ni ud af 10 gange.

Det er et nyt benchmark for nøjagtighed af forskere ved hjælp af et stort datasæt oprettet til en videnskabelig konkurrence i 2017 kaldet Fake News Challenge.

Mens videnskabsmænd rundt om i verden fortsætter med at arbejde hen imod et fuldt automatiseret system, Waterloo-teknologien kunne bruges som et screeningsværktøj af menneskelige faktatjekkere på sociale medier og nyhedsorganisationer.

"Det udvider deres muligheder og markerer information, der ikke ser helt rigtigt ud til verifikation, " sagde Wong, et stiftende medlem af Waterloo Artificial Intelligence Institute. "Det er ikke designet til at erstatte mennesker, men for at hjælpe dem med at kontrollere fakta hurtigere og mere pålideligt. "

AI-algoritmer i hjertet af systemet blev vist titusindvis af påstande parret med historier, der enten understøttede eller ikke understøttede dem. Over tid, systemet lærte at bestemme støtte eller ikke-støtte sig selv, når der blev vist nye krav-historie-par.

"Vi er nødt til at give journalister mulighed for at afsløre sandheden og holde os informeret, " sagde Chris Dulhanty, en kandidatstuderende, der ledede projektet. "Dette repræsenterer en indsats i et større arbejde for at afbøde spredningen af ​​desinformation."

Et papir om deres arbejde, "At tage stilling til falske nyheder:Mod automatisk vurdering af desinformation via dyb tovejs transformersprogsmodeller til positionsdetektion, "blev præsenteret denne måned på konferencen om systemer til behandling af neurale oplysninger i Vancouver.