Sporing af koordinerede desinformationskampagner online blev lettere med det nye BotSlayer -værktøj

Indiana University's Observatory on Social Media har lanceret et nyt værktøj i kampen mod desinformation online:BotSlayer.

Softwaren, som er gratis og åben for offentligheden, scanner sociale medier i realtid for at opdage tegn på automatiserede Twitter -konti - eller "bots" - skubber beskeder på en koordineret måde, en stadig mere almindelig praksis for at manipulere den offentlige mening ved at skabe det falske indtryk, at mange mennesker taler om et bestemt emne. Metoden er også kendt som "astroturfing", fordi den efterligner legitim politisk græsrodsaktivitet.

Ved at udnytte observatoriets ekspertise og teknologiske infrastruktur, BotSlayer giver grupper og enkeltpersoner af enhver politisk tilknytning magt til at opdage koordinerede desinformationskampagner i realtid - uden forudgående kendskab til disse kampagner. Softwarens udvikling blev understøttet af en gave fra Craig Newmark Philanthropies.

"Vi udviklede BotSlayer for at gøre det lettere for journalister og politiske kampagner at overvåge potentielle nye desinformationskampagner, der forsøger at manipulere den offentlige mening ved hjælp af bots, "sagde Filippo Menczer, professor ved IU School of Informatics, Computing og Engineering og direktør for Observatoriet på sociale medier. "Hvis der er en mistænkelig stigning i trafikken omkring et bestemt emne, BotSlayer giver dig mulighed for at få øje på det meget hurtigt, så du kan undersøge indholdet og dets promotorer og, hvis der ser ud til at være misbrug af platformen, rapporter det eller kommuniker til dine følgere om det. "

Brugen af ​​vildledende bots til at påvirke den offentlige mening er et voksende problem i politik i USA og internationalt, tilføjede Menczer, som også er en del af en gruppe forskere, der fandt udbredt brug af bots i optakten til det amerikanske præsidentvalg i 2016. Andre botkampagner har søgt at påvirke stemmer relateret til den britiske Brexit -bevægelse og valg i Frankrig, Tyskland og Italien.

Under optakten til midtvejsvalget i 2018, for eksempel, Den Demokratiske Kongressens Kampagneudvalg brugte offentligt tilgængelige værktøjer oprettet af observatoriet til at rapportere over 10, 000 bots, der spreder vælgerundertrykkelsesmeddelelser til Twitter, som lukkede regnskabet. De værktøjer, der blev brugt til at informere rapporten, var Botometer, som bruger en algoritme til at tildele en score til Twitter -konti baseret på sandsynligheden for, at de er automatiserede, og Hoaxy, som lader enkeltpersoner søge og visualisere spredningen af ​​bestemte emner på Twitter i realtid. Botometer er et af observatoriets mest populære værktøjer, modtager i øjeblikket over 100, 000 forespørgsler om dagen.

BotSlayer, som kombinerer teknologi fra Hoaxy og Botometer, blev skabt delvist baseret på feedback fra politiske og nyhedsorganisationer, der bad om at gøre observatoriets værktøjer hurtigere, mere kraftfuld og mere brugervenlig. Disse organisationer omfatter The Associated Press, New York Times og CNN.

Systemet bruger en "anomali -detekteringsalgoritme" til hurtigt at rapportere trendaktivitet, hvis pludselige stigning sandsynligvis er drevet af bots, Sagde Menczer.

For eksempel, BotSlayer kunne bruges under en præsidentdebat til ikke kun øjeblikkeligt at opdage, hvornår en kandidats brugernavn eller relaterede hashtags trender, men tildel også automatisk en "bot score" for at angive, om stigningen ser ud til at være relateret til botaktivitet. I erhvervslivet, BotSlayer kunne hjælpe organisationer med at beskytte mod omdømme trusler, der er afhængige af automatiserede konti til at forstærke meddelelser. Inden for journalistik, værktøjet kan bruges til at overvåge mod manipulation af rapportering om populære emner, eller advare offentligheden mod desinformationsangreb.

Udover at opdage tendenser, BotSlayer kan øjeblikkeligt generere et "netværkskort", der illustrerer, hvordan et bestemt emne spredes over tid. En bot score tildeles også til hver bruger i netværket, giver en nem måde at se de mest indflydelsesrige konti - ægte eller falske - i samtalen. Hver trend "enhed" - et hashtag; et brugerhåndtag; et billede, video, gif eller meme; eller et søgeord eller en sætning - tildeles også en procentdel for at angive, hvor hurtigt det stiger. En procentdel på 5, 000 angiver en 50-faldig stigning i omtaler i de sidste fire timer, for eksempel.

For at bruge BotSlayer, brugere kan downloade softwaren via en online form og følge enkle instruktioner for at installere det i skyen eller på deres egen server. Denne proces kan udføres med et par klik, og uden omkostninger. Det lader brugerne tilpasse deres brug af værktøjet og beskytter privatlivets fred. Systemet tilgås via et web -dashboard integreret med observatoriets andre værktøjer.

Hvad de siger

"BotSlayer har potentiale til at være et meget stærkt nyt værktøj i vores globale kamp mod desinformation og desinformation. Under valget i 2018, vi brugte en tidligere version af BotSlayer til at identificere og i sidste ende fjerne ondsindede konti under hele folketingsvalget. Det var meget effektivt og let at bruge. Dette banebrydende arbejde af IU's Observatory on Social Media er en ekstraordinær offentlig service og meget velkommen. Mit håb er, at aktører i demokratier i hele verden drager fordel af det, som vi gjorde ved det sidste valg her i USA. " - Simon Rosenberg, en demokratisk strateg og seniorrådgiver for DCCC under valgcyklussen 2017-18.