AI strafudmålingsværktøjer skal granskes nøje, siger ny undersøgelse

I et papir udgivet af Adfærdsvidenskab og jura tidsskrift, eksperter fra University of Surrey tager et kritisk blik på den voksende brug af algoritmiske risikovurderingsværktøjer, som fungerer som en form for ekspert videnskabeligt bevis i et stigende antal straffesager.

Anmeldelsen hævder, at på grund af flere problemer, såsom udviklernes skævheder og svage statistiske beviser for AI's forudsigelige ydeevne, dommere bør fungere som gatekeepere og nøje undersøge, om sådanne værktøjer overhovedet skal bruges.

Papiret skitserer tre trin, som dommere bør overveje:

• Fitness, dette er for at overveje, om brugen af ​​AI-værktøjet overhovedet er relevant for sagen
• Nøjagtighed, dette er for at forstå, om værktøjet virkelig kan skelne mellem genovertrædere og ikke-genovertrædere
• Pålidelighed, dette ville kræve, at dommerne undersøger troværdigheden af ​​værktøjets resultater i praksis. Denne fase ville ikke være påkrævet, hvis dommeren fandt, at AI mangler i det ene af de to første trin.

Dr. Melissa Hamilton, forfatter til avisen og Reader in Law and Criminal Justice ved University of Surrey's School of Law, sagde:"Disse nye AI-værktøjer har potentialet til at give fordele til dommere i strafudmålingen, men man skal være meget opmærksom på, om de er troværdige. Hvis de bruges skødesløst, vil disse værktøjer gøre en bjørnetjeneste for de tiltalte i den modtagende ende."