At stille retshåndhævende myndigheder til ansvar for elektronisk overvågning

Da FBI i 2016 afgav en retskendelse, der beordrede Apple til at låse San Bernandino -skydens iPhone op, nyhederne skabte overskrifter over hele kloden. Alligevel er der titusinder af andre retsordener, der beder teknologivirksomheder hver dag om at videregive amerikanernes private data. Mange af disse ordrer ser aldrig dagens lys, efterlader et helt privatlivsfølsomt aspekt af regeringens magt immun mod domstols tilsyn og mangler offentlig ansvarlighed.

For at beskytte integriteten af ​​igangværende undersøgelser, disse dataanmodninger kræver noget hemmeligholdelse:virksomheder må normalt ikke informere individuelle brugere om, at de bliver undersøgt, og domstolskendelserne selv er også midlertidigt skjult for offentligheden.

I mange tilfælde, selvom, afgifter bliver faktisk aldrig virkelige, og de forseglede kendelser ender som regel med at blive glemt af de domstole, der udsteder dem, resulterer i et alvorligt ansvarlig underskud.

For at løse dette problem, forskere fra MIT's Computer Science and Artificial Intelligence Laboratory (CSAIL) og Internet Policy Research Initiative (IPRI) har foreslået et nyt kryptografisk system for at forbedre ansvarligheden for regeringens overvågning og samtidig bevare fortrolig nok til, at politiet kan udføre deres job.

"Selvom visse oplysninger muligvis skal forblive hemmelige, for at en undersøgelse kan udføres korrekt, nogle detaljer skal afsløres for at ansvarlighed overhovedet er muligt, "siger CSAIL -kandidatstuderende Jonathan Frankle, en af ​​hovedforfatterne til et nyt papir om systemet, som de har kaldt "AUDIT" ("Accountability of Unreleased Data for Improved Transparency"). "Dette arbejde handler om at bruge moderne kryptografi til at udvikle kreative måder at afbalancere disse modstridende spørgsmål på."

Mange af AUDITs tekniske metoder blev udviklet af en af ​​dets medforfattere, MIT -professor Shafi Goldwasser. AUDIT er designet omkring en offentlig hovedbog, hvor embedsmænd deler oplysninger om dataanmodninger. Når en dommer udsteder en hemmelig retsordre eller et retshåndhævende organ hemmeligt anmoder om data fra et firma, de skal afgive et jernbeklædt løfte om senere at offentliggøre dataanmodningen i form af det, der kaldes en "kryptografisk forpligtelse". Hvis domstolene i sidste ende beslutter at offentliggøre dataene, offentligheden kan være sikker på, at de korrekte dokumenter blev frigivet fuldt ud. Hvis domstolene beslutter ikke at så vil selve afslaget blive gjort bekendt.

AUDIT kan også bruges til at demonstrere, at retshåndhævende myndigheders handlinger er i overensstemmelse med, hvad en retsafgørelse faktisk tillader. For eksempel, hvis en retskendelse fører til, at FBI går til Amazon for at få optegnelser om en bestemt kunde, AUDIT kan bevise, at FBI's anmodning er over bord ved hjælp af en kryptografisk metode kaldet "nul-viden beviser." Først udviklet i 1980'erne af Goldwasser og andre forskere, disse beviser gør det kontraintuitivt muligt at bevise, at overvågningen udføres korrekt uden at afsløre specifikke oplysninger om overvågningen.

AUDITs tilgang bygger på forskning i privatlivets fred i ansvarlige systemer ledet af papirforfatter Daniel J. Weitzner, direktør for IPRI.

"Når mængden af ​​personlige oplysninger udvides, bedre ansvarlighed for, hvordan disse oplysninger bruges, er afgørende for at bevare offentlig tillid, "siger Weitzner." Vi ved, at offentligheden er bekymret for at miste kontrollen over deres personlige data, så opbygning af teknologi, der kan forbedre den faktiske ansvarlighed, vil medvirke til at øge tilliden til internetmiljøet generelt. "

Som en yderligere indsats for at forbedre ansvarligheden, statistiske oplysninger fra dataene kan også aggregeres, så overvågningens omfang kan studeres i større skala. Dette gør det muligt for offentligheden at stille alle mulige hårde spørgsmål om, hvordan deres data deles. Hvilken slags sager vil højst sandsynligt fremkalde domstolsordre? Hvor mange dommere har udstedt mere end 100 kendelser i det forløbne år, eller mere end 10 anmodninger til Facebook i denne måned? Frankle siger, at teamets mål er at etablere et sæt pålidelige, domstolsudstedte gennemsigtighedsrapporter, at supplere de frivillige rapporter, som virksomheder udsender.

"Vi ved, at retssystemet kæmper for at følge med i kompleksiteten i stigende sofistikeret brug af personoplysninger, " says Weitzner. "Systems like AUDIT can help courts keep track of how the police conduct surveillance and assure that they are acting within the scope of the law, without impeding legitimate investigative activity."

Vigtigere, the team developed its aggregation system using an approach called multi-party computation (MPC), which allows courts to disclose relevant information without actually revealing their internal workings or data to one another. The current state-of-the-art MPC would normally be too slow to run on the data of hundreds of federal judges across the entire court system, so the team took advantage of the court system's natural hierarchy of lower and higher courts to design a particular variant of MPC that would scale efficiently for the federal judiciary.

"[AUDIT] represents a plausible way, both legally and technologically, for increasing public accountability through modern cryptographic proofs of integrity, " says Eli Ben-Sasson, a professor in the computer science department at the Technion Israel Institute of Technology.

According to Frankle, AUDIT could be applied to any process in which data must be both kept secret but also subject to public scrutiny. For eksempel, clinical trials of new drugs often involve private information, but also require enough transparency to assure regulators and the public that proper testing protocols are being observed.

"It's completely reasonable for government officials to want some level of secrecy, so that they can perform their duties without fear of interference from those who are under investigation, " Frankle says. "But that secrecy can't be permanent. People have a right to know if their personal data has been accessed, and at a higher level, we as a public have the right to know how much surveillance is going on."

Next the team plans to explore what could be done to AUDIT so that it can handle even more complex data requests—specifically, by looking at tweaking the design via software engineering. They also are exploring the possibility of partnering with specific federal judges to develop a prototype for real-world use.

"My hope is that, once this proof of concept becomes reality, court administrators will embrace the possibility of enhancing public oversight while preserving necessary secrecy, " says Stephen William Smith, a federal magistrate judge who has written extensively about government accountability. "Lessons learned here will undoubtedly smooth the way towards greater accountability for a broader class of secret information processes, which are a hallmark of our digital age."

Frankle co-wrote the paper with Goldwasser, Weitzner, CSAIL Ph.D. graduate Sunoo Park and undergraduate Daniel Shaar, The paper will be presented at the USENIX Security conference in Baltimore August 15 to 17.

IPRI team members will also discuss related surveillance issues in more detail at upcoming workshops for both USENIX and this month's International Cryptography Conference (Crypto 2018) in Santa Barbara.