Forudsigende politiarbejde er plettet af beskidte data, undersøgelse finder

En ny undersøgelse fra New York University School of Law og NYU's AI Now Institute konkluderer, at prædiktive politisystemer risikerer at forværre diskrimination i det strafferetlige system, hvis de er afhængige af "beskidte data".

Retshåndhævelse er blevet undersøgt i de senere år for praksis, der resulterer i uforholdsmæssig aggression mod mindretalsmistænkte, får nogle til at spørge, om teknologi – specifikt, prædiktiv politisoftware – kan mindske diskriminerende handlinger.

Imidlertid, en ny undersøgelse fra New York University School of Law og NYU's AI Now Institute konkluderer, at prædiktive politisystemer, faktisk, risikerer at forværre forskelsbehandlingen i det strafferetlige system, hvis de er afhængige af "beskidte data" – data, der er skabt ud fra fejlbehæftede, racemæssigt partisk, og nogle gange ulovlig praksis.

Forskerne illustrerer dette fænomen med casestudiedata fra Chicago, New Orleans, og Arizonas Maricopa County. Deres papir, "Beskidte data, Dårlige forudsigelser:Hvordan krænkelser af borgerrettigheder påvirker politidata, Forudsigende politisystemer, og retfærdighed, " er tilgængelig på SSRN.

"Vi valgte disse websteder, fordi vi fandt et overlap mellem omfattende dokumenterede beviser for korrupte eller ulovlige politipraksis og betydelig interesse, udvikling, og nuværende eller tidligere brug af prædiktive politisystemer. Dette fik os til at undersøge risikoen for, at den ene ville påvirke den anden, " forklarer Jason Schultz, en professor i klinisk ret og en af ​​artiklens medforfattere.

Forfatterne, som inkluderer Rashida Richardson, direktør for policy research ved AI Now Institute, og Kate Crawford, meddirektør for AI Now Institute, identificeret 13 jurisdiktioner (inklusive de førnævnte casestudier) med dokumenterede tilfælde af ulovlig eller partisk politipraksis, der også har udforsket eller implementeret prædiktive politisystemer i perioder med ulovlig aktivitet.

Chicago Police Department, for eksempel, var under føderal efterforskning for ulovlig politipraksis, da den implementerede et edb-system, der identificerer personer, der risikerer at blive offer eller lovovertrædere i et skyderi eller mord. Undersøgelsen afslørede, at den samme demografiske af beboere, som var blevet identificeret af justitsministeriet som mål for Chicagos politimæssige skævhed, overlappede med dem, der blev identificeret af det prædiktive system.

Andre eksempler viste betydelige risici for overlapning, men fordi regeringens brug af prædiktive politisystemer ofte er hemmeligt og skjult for offentligt tilsyn, omfanget af risiciene er fortsat ukendt, ifølge undersøgelsen.

"I jurisdiktioner, der har veletablerede historier om korrupt politipraksis, der er en væsentlig risiko for, at data genereret fra sådan praksis kan ødelægge forudsigelige beregningssystemer. Under sådanne omstændigheder, robust offentligt tilsyn og ansvarlighed er afgørende, " sagde Schultz.

Hovedforfatter Richardson tilføjede, "Selvom denne undersøgelse var begrænset til jurisdiktioner med veletablerede historier om politiforseelser og diskriminerende politipraksis, vi ved, at disse bekymringer om politipraksis og -politikker ikke er begrænset til disse jurisdiktioner, så større kontrol med hensyn til de data, der bruges i prædiktive polititeknologier, er nødvendig globalt."