Højteknologisk overvågning forstærker politiets bias og overreach

Video af politi i optøjer, der støder sammen med ubevæbnede demonstranter i kølvandet på drabet på George Floyd af Minneapolis politibetjent Derek Chauvin, har fyldt sociale mediers feeds. I mellemtiden, politiets overvågning af demonstranter har stort set været ude af syne.

Lokal, statslige og føderale retshåndhævende organisationer bruger en række overvågningsteknologier til at identificere og spore demonstranter, fra ansigtsgenkendelse til droner af militær kvalitet.

Politiets brug af disse overvågningsteknikker i national sikkerhedsstil – berettiget som omkostningseffektive teknikker, der undgår menneskelig skævhed og fejl – er vokset hånd i hånd med den øgede militarisering af retshåndhævelsen. Omfattende forskning, inklusive min egen, har vist, at disse ekspansive og kraftfulde overvågningskapaciteter har forværret snarere end reduceret skævhed, overgreb og misbrug i politiet, og de udgør en voksende trussel mod borgerlige frihedsrettigheder.

Politiets reformbestræbelser ser i stigende grad på retshåndhævende organisationers brug af overvågningsteknologier. I kølvandet på den nuværende uro, IBM, Amazon og Microsoft har bremset politiets brug af virksomhedernes ansigtsgenkendelsesteknologi. Og lovforslag om politireform fremlagt af demokraterne i det amerikanske Repræsentanternes Hus opfordrer til regulering af politiets brug af ansigtsgenkendelsessystemer.

Et årti med big data politiarbejde

Vi har ikke altid levet i en verden af ​​politikameraer, smarte sensorer og prædiktiv analyse. Recession og raseri gav næring til den første stigning i big data polititeknologier. I 2009, over for føderale, statslige og lokale budgetnedskæringer forårsaget af den store recession, politiafdelinger begyndte at lede efter måder at gøre mere med mindre. Teknologivirksomheder skyndte sig at udfylde hullerne, at tilbyde nye former for datadrevet politiarbejde som modeller for effektivitet og omkostningsreduktion.

Derefter, i 2014, politiets drab på Michael Brown i Ferguson, Missouri, vendte allerede flossede politi- og samfundsforhold. Drabene på Michael Brown, Eric Garner, Philando Castilla, Tamir Rice, Walter Scott, Sandra Bland, Freddie Gray og George Floyd udløste alle landsdækkende protester og opfordringer til raceretfærdighed og politireformer. Politiet blev drevet ind i krisetilstand, da samfundets forargelse truede med at delegitimere politiets eksisterende magtstruktur.

Som svar på de to trusler om omkostningspres og samfundskritik, politiafdelinger omfavnede yderligere nystartede teknologivirksomheder, der sælger big data-effektivitet, og håbet om, at noget "datadrevet" ville tillade lokalsamfund at bevæge sig ud over de alt for menneskelige problemer med politiarbejde. Forudsigende analyse og bodycam-videoegenskaber blev solgt som objektive løsninger på racefordomme. I stort omfang, PR-strategien virkede, hvilket har gjort det muligt for retshåndhævelsen at omfavne prædiktiv politiarbejde og øget digital overvågning.

I dag, midt i fornyet forargelse mod strukturel racisme og politibrutalitet, og i skyggen af ​​en endnu dybere økonomisk recession, retshåndhævende organisationer står over for den samme fristelse til at vedtage en teknologibaseret løsning på dybe samfundsproblemer. Politichefer vil sandsynligvis gerne vende siden fra de nuværende niveauer af samfundets vrede og mistillid.

Farerne ved højteknologisk overvågning

I stedet for at gentage fejlene fra de sidste 12 år eller deromkring, samfund har en mulighed for at afvise udvidelsen af ​​big data politi. Farerne er kun blevet større, skaderne tydeliggjort af erfaring.

De små startup-virksomheder, der i første omgang skyndte sig ind i politibranchen, er blevet erstattet af store teknologivirksomheder med dybe lommer og store ambitioner.

Axon udnyttede kravene om politiets ansvarlighed efter protesterne i Ferguson og Baltimore for at blive en multimillion dollar virksomhed, der leverer digitale tjenester til politibårne kropskameraer. Amazon har udvidet partnerskaber med hundredvis af politiafdelinger gennem sine Ring-kameraer og Neighbours-appen. Andre virksomheder som BriefCam, Palantir og Shotspotter tilbyder et væld af videoanalyse, sociale netværksanalyser og andre sensorteknologier med evnen til at sælge teknologi billigt på kort sigt med håb om langsigtet markedsfordel.

Selve teknologien er mere kraftfuld. De algoritmiske modeller, der blev skabt for et årti siden, blegner i forhold til maskinlæringskapaciteter i dag. Videokamerastreams er blevet digitaliseret og udvidet med analyse- og ansigtsgenkendelsesfunktioner, gør statisk overvågning til en virtuel tidsmaskine for at finde mønstre i menneskemængder. Tilføjelse til datafælden er smartphones, smarte hjem og smarte biler, som nu giver politiet mulighed for relativt let at afdække enkeltpersoners digitale spor.

Teknologien hænger mere sammen. En af de naturlige begrænsende faktorer ved første generations big data polititeknologi var det faktum, at den forblev i silo. Databaser kunne ikke kommunikere med hinanden. Data kunne ikke nemt deles. Denne begrænsende faktor er skrumpet, efterhånden som mere aggregerede datasystemer er blevet udviklet inden for regeringen og af private leverandører.

Løftet om objektivitet, upartisk teknologi slog ikke ud. Race bias i politiarbejdet blev ikke rettet ved at tænde et kamera. I stedet skabte teknologien nye problemer, herunder fremhæve manglen på ansvarlighed for højt profilerede tilfælde af politivold.

Lektioner for at tøjle politiets spionage

Skaderne ved big data-politi er gentagne gange blevet afsløret. Programmer, der forsøgte at forudsige enkeltpersoners adfærd i Chicago og Los Angeles, er blevet lukket efter ødelæggende revisioner katalogiserede deres diskriminerende virkning og praktiske fiasko. Stedbaserede forudsigelsessystemer er blevet lukket ned i Los Angeles og andre byer, der oprindeligt havde taget teknologien til sig. Skandaler med ansigtsgenkendelse, sociale netværksanalyseteknologi og storstilet sensorovervågning tjener som en advarsel om, at teknologi ikke kan løse de dybereliggende spørgsmål om race, magt og privatliv, der er kernen i nutidens politiarbejde.

Læren fra den første æra med big data politi er, at spørgsmål om race, gennemsigtighed og forfatningsmæssige rettigheder skal være på forkant med design, regulering og brug. Enhver fejl kan spores til en manglende evne til at se, hvordan overvågningsteknologien passer ind i konteksten af ​​moderne politimagt - en kontekst, der omfatter mangeårige spørgsmål om racisme og social kontrol. Enhver løsning peger på at løse den magtubalance i frontenden, gennem lokalt tilsyn, samfundsengagement og føderal lovgivning, ikke efter at teknologien er taget i brug.

Debatten om definansiering, demilitarisering og genskabelse af eksisterende retshåndhævelsespraksis skal omfatte en diskussion om politiovervågning. Der er et årti af fejltrin at lære af og æra-definerende privatliv og racemæssige retfærdighedsudfordringer forude. Hvordan politiafdelinger reagerer på sirenekaldet fra big data-overvågning vil afsløre, om de er på vej til at gentage de samme fejl.

Denne artikel er genudgivet fra The Conversation under en Creative Commons -licens. Læs den originale artikel.