Beviser afslører risikovurderingsalgoritmer viser skævhed mod latinamerikansk befolkning

Automatiseret risikovurdering er blevet mere og mere populært i det strafferetlige system, men en ny undersøgelse offentliggjort i American Criminal Law Review vurderet nøjagtigheden, validitet og forudsigelsesevne af et risikovurderingsalgoritmeværktøj til at afsløre algoritmisk uretfærdighed mod latinamerikanere.

Risikovurdering kan være en objektiv måde at reducere fængselsfrekvensen på uden at bringe den offentlige sikkerhed i fare, og strafferetlige embedsmænd er i stigende grad afhængige af algoritmisk behandling for at informere beslutninger om håndtering af lovovertrædere i henhold til deres risikoprofiler. Imidlertid, der er alarmerende beviser, der tyder på, at risikoalgoritmer potentielt er forudindtaget mod minoritetsgrupper.

Reader in Law and Criminal Justice ved University of Surrey Dr. Melissa Hamilton brugte et stort datasæt af tiltalte forud for retssagen, som blev scoret på COMPAS – et udbredt algoritmisk risikovurderingsværktøj – kort efter deres anholdelser til at evaluere virkningen af ​​denne algoritme værktøj specifikt på den latinamerikanske minoritetsgruppe.

Dr. Hamilton sagde:"Der er en misforståelse, at algoritmiske risikovurderingsværktøjer udviklet ved hjælp af big data automatisk repræsenterer en gennemsigtig, konsekvent og logisk metode til klassificering af lovovertrædere. Min forskning tyder på, at risikoværktøjer kan levere ulige resultater for minoritetsgrupper, hvis de undlader at overveje deres kulturelle forskelle. Bias opstår, når risikoværktøjer i vid udstrækning er normeret på én gruppe, for eksempel hvide prøver, da de giver unøjagtige forudsigelser for minoritetsgrupper som resultat.

"Kumulerede beviser viste, at COMPAS konsekvent udviste uretfærdige og partiske algoritmiske resultater for personer af latinamerikansk etnicitet, med statistik, der præsenterer differentiel validitet og differentiel forudsigelsesevne. Værktøjet formår ikke nøjagtigt at forudsige faktiske resultater, efterfølgende overforudsige niveauet af risiko for gentagelse af lovovertrædelser for latinamerikanske tiltalte før retssagen."

Mens der har været imponerende fremskridt inden for adfærdsvidenskab, tilgængeligheden af ​​big data og statistisk modellering, retlige embedsmænd bør være opmærksomme på, at der er behov for større omhu for at sikre, at der udføres korrekte valideringsundersøgelser forud for brugen af ​​et algoritmisk risikoværktøj, for at bekræfte, at det er rimeligt for dens tilsigtede befolkning og subpopulationer.