Hvordan teknologivirksomheder med succes forstyrrer terrorisme på sociale medier

I juni 2017, Google, Facebook, Twitter og Microsoft annoncerede dannelsen af ​​det globale internetforum til bekæmpelse af terrorisme (GIFCT). Formålet med dette branchestyrede initiativ er at forstyrre terrorudnyttelsen af ​​dets tjenester. For nylig, GIFCT -medlemmer hyldede resultaterne af sit første driftsår. Men, mens denne fremgang skal anerkendes, der er betydelige udfordringer tilbage.

Hvert eneste minut er der i gennemsnit 510, 000 kommentarer og 136, 000 fotos delt på Facebook, 350, 000 tweets sendt på Twitter og 300 timers video uploadet til YouTube.

I betragtning af dette, de største virksomheder stoler i høj grad på kunstig intelligens (AI). Facebooks anvendelser af AI inkluderer billedmatchning. Dette forhindrer brugere i at uploade et foto eller en video, der matcher et andet foto eller en video, der tidligere er blevet identificeret som terrorist. Tilsvarende YouTube rapporterede, at 98% af de videoer, den fjerner for voldelig ekstremisme, også markeres af maskinlæringsalgoritmer.

Fremskridt indtil videre

En vanskelighed de sociale medievirksomheder står over for er, at hvis en terrorgruppe er blokeret fra én platform, den kan simpelthen flytte til en anden. Som svar på dette, GIFCT -medlemmer har oprettet en delt branchedatabase med "hash". En hash er et unikt digitalt fingeraftryk, der kan bruges til at spore digital aktivitet. Når terror-indhold fjernes af et GIFCT-medlem, dets hash deles med de andre deltagende virksomheder for at sætte dem i stand til at blokere indholdet på deres egne platforme.

På sit seneste møde, GAVEN meddelte, at til dato 88, Der er føjet 000 hash til databasen. Så konsortiet er på rette vej til at nå sit mål på 100, 000 hash i slutningen af ​​2018. Især så, nu hvor yderligere ni virksomheder har tilsluttet sig konsortiet, herunder Instagram, Justpaste.it og LinkedIn.

Disse bestræbelser har utvivlsomt forstyrret terroristernes brug af sociale medieplatforme. For eksempel, i de 23 måneder siden 1. august, 2015, Twitter har suspenderet næsten en million konti for at fremme terrorisme. I anden halvdel af 2017, YouTube fjernede 150, 000 videoer til voldelig ekstremisme. Næsten halvdelen af ​​disse blev fjernet inden for to timer efter upload.

Fremtidige udfordringer

Alligevel er der meget mere arbejde tilbage. Som reaktion på afbrydelsen af ​​deres brug af Twitter, tilhængere af den såkaldte Islamiske Stat (IS) har forsøgt at omgå indholdsblokeringsteknologi med det, der kaldes outlinking, ved hjælp af links til andre platforme. Interessant nok, de websteder, der oftest er linket til at omfatte justpaste.it, sendvid.com og archive.org. Dette ser ud til at være en bevidst strategi for at udnytte mindre virksomheders mangel på ressourcer og ekspertise.

IS-tilhængere har også flyttet deres community-building-aktiviteter til andre platforme, især Telegram. Telegram er en skybaseret onlinemeddelelsestjeneste, der tilbyder valgfri ende-til-ende krypteret besked. Denne kryptering stopper meddelelser, der læses af tredjeparter. Og det er blevet brugt i vid udstrækning til at dele indhold produceret af officielle IS -kanaler.

Dette er en del af en bredere bevægelse mod mere skjulte metoder. Andre krypterede beskedtjenester, herunder WhatsApp, er blevet brugt af jihadister til kommunikation og angrebsplanlægning. Websites er også blevet flyttet til Darknet. Darknet er en skjult del af internettet, der er anonym og kun er tilgængelig ved hjælp af specialiseret krypteringssoftware. En rapport fra 2018 advarede om, at Darknet-platforme har potentiale til at fungere som en jihadistisk "virtuel sikker havn."

Ud over, nyere forskning har fundet ud af, at tilhængere af andre jihadistiske grupper end IS oplever betydeligt mindre afbrydelser på Twitter. Tilhængere af disse andre grupper kunne sende seks gange så mange tweets, følg fire gange så mange konti og få 13 gange så mange følgere som pro-IS-konti.

Det er også vigtigt at reagere på andre former for voldelig ekstremisme. Ekstreme højreorienterede grupper har også en betydelig tilstedeværelse på platforme som YouTube og Facebook. Selvom der er taget skridt til at forstyrre deres tilstedeværelse online, såsom Facebooks beslutning om at forbyde Britain First fra sin platform, det ser ud til, at disse grupper også begynder at migrere til Darknet.

Overreach

Ligesom der er et spørgsmål om at nå terrorsociale medier, der er også udfordringer i forbindelse med potentiel overreach. Maskinlæringsalgoritmer kan ikke forventes at identificere terrorindhold med 100% nøjagtighed. Noget indhold vil være forkert identificeret som terrorist og blokeret eller fjernet. Men udfordringerne her går længere end bare at anvende tærsklen korrekt. De angår også, hvor tærsklen skal trækkes i første omgang.

Vanskelighederne med at definere terrorisme er velkendte. Opsummeret af sloganet "En persons terrorist er en andens frihedskæmper", et af de mest kontroversielle definitionsspørgsmål er årsagen. Skal en definition af terrorisme udelukke dem som f.eks. Demokratiske aktivister i et land styret af et undertrykkende og tyrannisk regime? Ifølge mange lande, herunder Storbritannien, svaret er nej. Som en dommer i appelretten udtrykte det:"Terrorisme er terrorisme, uanset gerningsmændenes motiver. "

Hvis sociale medier tager en lignende tilgang, dette kan have nogle betydelige konsekvenser. Ja, der er allerede bekymrende eksempler. I 2017, tusinder af videoer, der dokumenterer grusomheder i Syrien, blev fjernet fra YouTube med ny teknologi rettet mod ekstremistisk propaganda. Disse videoer gav vigtige beviser for krænkelser af menneskerettighederne. Nogle eksisterede kun på YouTube, da ikke alle syriske aktivister og medier har råd til et offline -arkiv. Men alternativet - at søge at skelne mellem retfærdige og uretfærdige årsager - er fyldt med sine egne vanskeligheder.

I en tid, hvor virksomheder på sociale medier står over for et stigende pres for at gøre mere for at tackle terrorudnyttelse af deres platforme, fremskridtene i GIFCT's første år er velkomne. Men det er kun det første trin.

Denne artikel blev oprindeligt offentliggjort på The Conversation. Læs den originale artikel.