Nyt kunstig intelligenssystem udvikler sig automatisk for at undgå internetcensur

Internetcensur fra autoritære regeringer forbyder gratis og åben adgang til information for millioner af mennesker rundt om i verden. Forsøg på at unddrage sig sådan censur er blevet til et løbende eskalerende løb for at følge med i stadigt skiftende, stadig mere sofistikeret internetcensur. Censurregimer har haft fordelen i det løb, fordi forskere manuelt skal søge efter måder at omgå censur på, en proces, der tager lang tid.

Nyt arbejde ledet af University of Maryland computerforskere kunne ændre balancen i censurløbet. Forskerne udviklede et værktøj kaldet Geneva (en forkortelse for Genetic Evasion), som automatisk lærer at omgå censur. Testet i Kina, Indien og Kasakhstan, Genève fandt dusinvis af måder at omgå censur ved at udnytte huller i censorernes logik og finde fejl, som forskerne siger, ville have været praktisk talt umuligt for mennesker at finde manuelt.

Forskerne vil introducere Genève under en peer-reviewed talk på Association for Computing Machinerys 26. konference om computer- og kommunikationssikkerhed i London den 14. november, 2019.

"Med Genève, vi er, for første gang, en stor fordel i censurvåbenkapløbet, "sagde Dave Levin, en assisterende professor i datalogi ved UMD og seniorforfatter af papiret. "Geneve repræsenterer det første skridt mod et helt nyt våbenkapløb, hvor kunstige intelligenssystemer af censorer og unddragere konkurrerer med hinanden. I sidste ende, at vinde dette løb betyder at bringe ytringsfrihed og åben kommunikation til millioner af brugere rundt om i verden, som i øjeblikket ikke har dem."

Alle oplysninger på Internettet brydes i datapakker af afsenderens computer og samles igen af ​​den modtagende computer. En udbredt form for internetcensur, der bruges af autoritære regimer, fungerer ved at overvåge de datapakker, der sendes under en internetsøgning. Censoren blokerer for anmodninger, der enten indeholder markerede søgeord (såsom "Tiananmen-pladsen" i Kina) eller forbudte domænenavne (såsom "Wikipedia" i mange lande).

Når Geneve kører på en computer, der udsender webanmodninger gennem en censor, Genève ændrer, hvordan data opdeles og sendes, så censoren ikke genkender forbudt indhold eller ikke er i stand til at censurere forbindelsen.

Kendt som en genetisk algoritme, Genève er en biologisk inspireret type kunstig intelligens, som Levin og hans team udviklede til at arbejde i baggrunden, mens en bruger surfer på internettet fra en standard internetbrowser. Ligesom biologiske systemer, Genève danner sæt af instruktioner fra genetiske byggesten. Men i stedet for at bruge DNA som byggesten, Genève bruger små stykker kode. Individuelt, kodebitene gør meget lidt, men når de er sammensat til instruktioner, de kan udføre sofistikerede unddragelsesstrategier for at bryde op, arrangere eller sende datapakker.

Genève udvikler sin genetiske kode gennem successive forsøg (eller generationer). Med hver generation, Genève beholder de instruktioner, der fungerer bedst til at undgå censur og sparker resten ud. Genève muterer og krydser sine strategier ved tilfældigt at fjerne instruktioner, tilføje nye instruktioner, eller ved at kombinere vellykkede instruktioner og teste strategien igen. Gennem denne evolutionære proces, Genève er i stand til hurtigt at identificere flere unddragelsesstrategier.

"Dette vender fuldstændig om, hvordan forskere typisk griber problemet med censur, sagde Levin, som har en fælles ansættelse i University of Maryland Institute for Advanced Computer Studies. "Normalt identificerer vi, hvordan en censurstrategi fungerer, og udtænker derefter strategier til at undgå den. Men nu lader vi Genève finde ud af, hvordan man undgår censoren, og så lærer vi, hvilke censurstrategier der bliver brugt ved at se, hvordan Genève besejrede dem."

Holdet testede Genève i laboratoriet mod falske censorer og i den virkelige verden mod rigtige censorer. I laboratoriet, forskerne udviklede censorer, der fungerede som dem, man kender fra tidligere forskning til at blive indsat af autokratiske regimer. Inden for dage, Geneve identificerede stort set alle de pakkemanipulationsstrategier, der var blevet opdaget af tidligere offentliggjort arbejde.

For at demonstrere, at Genève arbejdede i den virkelige verden mod uopdagede censurstrategier, holdet kørte Geneve på en computer i Kina med en umodificeret Google Chrome-browser installeret. Ved at implementere strategier identificeret af Genève, brugeren var i stand til at browse uden søgeordscensur. Forskerne undgik også med succes censur i Indien, som blokerer forbudte URL'er, og Kasakhstan, som aflyttede visse sociale medier på det tidspunkt. I alle tilfælde, Genève omgåede censur med succes.

"I øjeblikket, evade-detect-cyklussen kræver omfattende manuel måling, reverse engineering og kreativitet for at udvikle nye midler til censurunddragelse, " sagde Kevin Bock (B.S. '17, FRK. '18, computer videnskab), en datalogi Ph.D. studerende ved UMD og hovedforfatter af papiret. "Med denne forskning, Genève repræsenterer et vigtigt første skridt i automatiseringen af ​​censurunddragelse. "

Forskerne planlægger at frigive deres data og kode i håb om, at det vil give åben adgang til information i lande, hvor internettet er begrænset. Teamet erkender, at der kan være mange grunde til, at personer, der lever under enevældige regimer, måske ikke vil eller kan installere værktøjet på deres computere. Imidlertid, de forbliver ubekymrede. Forskerne undersøger muligheden for at installere Geneva på computeren, der leverer det blokerede indhold (kendt som serveren) i stedet for på computeren, der søger efter blokeret indhold (kendt som klienten). Det ville betyde, at websteder som Wikipedia eller BBC kunne være tilgængelige for alle i lande, der i øjeblikket blokerer dem, såsom Kina og Iran, uden at kræve, at brugerne skal konfigurere noget på deres computer.

"Hvis Genève kan implementeres på serversiden og fungere lige så godt som på klientsiden, så kunne det potentielt åbne op for kommunikation for millioner af mennesker, "Sagde Levin." Det er en fantastisk mulighed, og det er en retning, vi forfølger. "