Kunstig intelligens får sin dag i retten

Sidste september, ACLU indgav en amicus -brief i en sag i Californien, der bringer en kontrovers til syne om brugen af ​​algoritmer og kunstig intelligens i straffeloven.

En DNA -prøve taget fra en større prøve af blandet humant DNA involverede Billy Ray Johnson i indbrud og seksuelle overgreb. Johnson nægtede at begå forbrydelserne, men han fik en livstidsdom uden prøveløsladelse. Anklagere baserede deres sag på resultaterne af et retshåndhævende værktøj, der kører en sofistikeret algoritme kaldet TrueAllele.

Johnsons advokater fik aldrig lov til at undersøge TrueAlleles kildekode, for at se, om det på en eller anden måde havde nogen informationsskævhed. Anklagere argumenterede med succes, at love beskyttet algoritmen som en forretningshemmelighed.

Til Jessica Gabel Cino, lektor for akademiske anliggender og lektor i jura, beslutningen rejste et stort rødt flag.

"Ingen teknologi er idiotsikker, "sagde hun." Teknologi er designet af mennesker og drives af mennesker, så der er helt sikkert plads til menneskelige fejl gennem hele processen. I øvrigt, resultaterne er kun lige så gode som input. "

Cino fortsatte. "Systemer er udviklet til proprietære formål, af private virksomheder, der ønsker at tjene penge. Men vi taler om adgang til information, der påvirker en persons frihed. For at nægte adgang til valideringssekvenser, kildekode eller proprietære data, når det påvirker en persons frihed? Ved at bruge en troldmand, der gemmer sig bag et gardin for at få en overbevisning, fortyndes systemets integritet. "

ACLU's Vera Eidelman, en William J. Brennan -stipendiat i ACLU -talen, Privatliv, og teknologi projekt, forklaret nærmere i september.

"Racemæssig bias sniger sig også ofte ind i algoritmer, både fordi de underliggende data afspejler eksisterende raceforskelle, og fordi unøjagtige resultater for mindre minoritetsgrupper kan være skjult i de samlede resultater, "Eidelman skrev." Og, selvfølgelig, der er mulighed for, at økonomiske incitamenter vil forvrænge målene for virksomheder, der bygger disse algoritmer. I forbindelse med DNA -typning, anklagemyndigheden, støttet af statens betydelige ressourcer, er en virksomheds mest sandsynlige kunde - og den kunde er sandsynligvis mest tilfreds med en algoritme, der leverer et match. Så virksomheder kan bygge programmer til at skæve mod kampe over sandheden. "

Lignende bekymringer opstår vedrørende brugen af ​​AI i kaution og afgørelser om strafudmåling.

Vic Reynolds (J.D. '86), distriktsadvokat for Cobb County, Georgien, har set teknologiens feje i advokatpraksis i sin karriere. Han har været på begge sider af bænken, som dommer, en forsvarsadvokat og i dag, en anklager.

"Vi taler om et lovområde, hvor der er meget lidt præcedens, "Sagde Reynolds." Hvis vi forpligter os til et system, hvor AI bruges til at formulere en kriminel straf, vi har faktisk en etisk forpligtelse til at dele grundlaget for dette system med de mennesker, hvis liv påvirkes. "

Han siger, at der er både fordele og ulemper ved at bruge AI som strafværktøj.

"På den positive side - når som helst vi har det menneskelige element involveret, den bærer menneskelige skrøbeligheder med sig, "sagde han." Dommere er mennesker, så selv gode dommere kan få en rigtig dårlig dag, en dag, hvor der er en kamp med en ægtefælle eller noget andet, der påvirker ham eller hende.

"Brug af et AI -system har potentiale til at fjerne noget af denne menneskelige skrøbelighed, "Sagde Reynolds.

Og ulemperne?

"Efter at have været dommer, Jeg ved, at essensen af ​​denne position er skøn, "Reynolds sagde." Selv de føderale straffeudmålingsretningslinjer er for nylig begyndt at give noget af dette skøn tilbage til domsdommerne.

"Lad os sige, at vi forbinder en persons historie til et kunstigt intelligenssystem. Baseret på tidligere overtrædelser af forbrydelser, systemet anbefaler en 10-års straf. Men med et nærmere kig, vi kan se, at tidligere domfældelser var baseret på en stofmisbrugssituation, og at en bedre langsigtet afgørelse kan være en sætning, der understreger materiel behandling. Til mig, det er her en dommeres skøn ville spille ind.

"Hvis du ikke har det menneskelige element involveret, og du mister elementet af diskretion, der er en chance for fejl. "

Cino citerer en undersøgelse offentliggjort i Videnskab fremskridt om troværdigheden af ​​computerprogrammet COMPAS (Correctional Offender Management Profiling for Alternative Sanctions), som vurderer, om tiltalte skal løslades mod kaution ud fra deres risiko for at fornærme sig igen. Undersøgelsens forfattere fandt ud af, at COMPAS, som er blevet brugt til at vurdere mere end en million tiltalte i hele USA, "er ikke mere præcis eller retfærdig end forudsigelserne af mennesker med ringe eller ingen kriminel ekspertise, der svarede på en online undersøgelse."

"Strafferetssystemet er sulten efter teknologi, der gør beslutningstagning mindre subjektiv, "Cino sagde, "men tidlig adoption uden korrekt validering skaber langsigtede konsekvenser, der er vanskelige at rette op på."

Cino, Reynolds og mange andre i retssystemet vil se Johnson -sagen i Californien. Advokater vil fremlægge mundtlige argumenter i begyndelsen af ​​2018. Cino håber på en beslutning, der understøtter gennemsigtighed.

"Hvis vi skal bruge kunstig intelligens, " hun sagde, "vi forhåbentlig går over til en open source-model, der bevæger os forbi denne kinesiske mur af proprietære forretningshemmeligheder. Enten open source, eller den anklagede får adgang til algoritmen. Der er en grund til, at vi har ret til en retfærdig rettergang. "