Forspændte algoritmer:her er en mere radikal tilgang til at skabe retfærdighed

Vores liv bliver i stigende grad påvirket af algoritmer. Folk kan blive nægtet lån, job, forsikringer, eller endda prøveløsladelse på grundlag af risikoscore, som de producerer.

Alligevel er algoritmer notorisk tilbøjelige til skævheder. For eksempel, Algoritmer, der bruges til at vurdere risikoen for kriminelt recidiv, har ofte højere fejlprocenter i etiske minoritetsgrupper. Som ProPublica fandt, COMPAS-algoritmen – meget brugt til at forudsige gentagelser i det amerikanske strafferetssystem – havde en højere falsk positiv rate hos sorte end hos hvide; sorte mennesker var mere tilbøjelige til at blive fejlagtigt forudsagt at fornærme sig igen.

Fund som disse har fået nogle til at hævde, at algoritmer er uretfærdige eller diskriminerende. Som svar, AI-forskere har forsøgt at producere algoritmer, der undgår, eller i det mindste minimere, uretfærdighed, for eksempel, ved at udligne falske positive rater på tværs af racegrupper. For nylig, en MIT-gruppe rapporterede, at de havde udviklet en ny teknik til at fjerne bias ud af algoritmer uden at gå på kompromis med nøjagtigheden. Men er fiksering af algoritmer den bedste måde at bekæmpe uretfærdigheder på?

Det afhænger af, hvilken slags retfærdighed, vi leder efter. Moralske og politiske filosoffer kontrasterer ofte to typer retfærdighed:proceduremæssig og materiell. En politik, procedure, eller handlingsforløb, er proceduremæssigt rimeligt, når det er rimeligt uafhængigt af de resultater, det forårsager. En fodbolddommers beslutning kan være retfærdig, uanset hvordan det påvirker spillets resultat, blot fordi afgørelsen er truffet på baggrund af en upartisk anvendelse af reglerne. Eller en forælders behandling af sine to børn kan være retfærdig, fordi den ikke viser nogen partiskhed eller favorisering, også selvom det har det resultat, at det ene barns liv går meget bedre end det andets.

Derimod noget, der er indholdsmæssigt retfærdigt, giver retfærdige resultater. Antag, at en fodbolddommer tildeler en blød straf til et hold, der ligger 1-0 nede, fordi hun tror, ​​at det andet holds føring var et resultat af rent held. Som resultat, kampen ender uafgjort 1-1. Denne beslutning virker proceduremæssigt uretfærdig - dommeren anvender reglerne mindre strengt på det ene hold end det andet. Men hvis uafgjort afspejler de to holds relative præstationer, det kan være indholdsmæssigt rimeligt.

Alternativt forestille sig, at en mor og far favoriserer forskellige børn. Hver forælder behandler det dårligt stillede barn uretfærdigt, i proceduremæssig forstand. Men hvis slutresultatet er, at de to børn modtager lige stor kærlighed, så kan deres handlinger være indholdsmæssigt retfærdige.

Hvad er fair?

AI-forskere bekymret for retfærdighed har, for det meste, været fokuseret på at udvikle algoritmer, der er proceduremæssigt retfærdige – fair i kraft af egenskaberne i selve algoritmerne, ikke virkningerne af deres implementering. Men hvad nu hvis det er reel retfærdighed, der virkelig betyder noget?

Der er normalt en spænding mellem proceduremæssig retfærdighed og nøjagtighed – forsøg på at opnå de mest almindeligt anbefalede former for proceduremæssig retfærdighed øger algoritmens samlede fejlrate. Tag COMPAS-algoritmen for eksempel. Hvis vi udlignede de falske positive rater mellem sorte og hvide mennesker ved at ignorere forudsigelserne for recidiv, som havde tendens til at være uforholdsmæssigt besat af sorte mennesker, det sandsynlige resultat ville være et tab i den samlede nøjagtighed, med flere mennesker, der fejlagtigt forudsiges at fornærme sig igen, eller ikke fornærme.

Vi kunne undgå disse vanskeligheder, hvis vi fokuserede på indholdsmæssig snarere end proceduremæssig retfærdighed og blot designede algoritmer for at maksimere nøjagtigheden, samtidig med at de blokerer eller kompenserer for eventuelle indholdsmæssigt uretfærdige virkninger, som disse algoritmer måtte have. For eksempel, i stedet for at forsøge at sikre, at kriminalitetsforudsigelsesfejl påvirker forskellige racegrupper ligeligt – et mål, der under alle omstændigheder kan være uopnåeligt – kunne vi i stedet sikre, at disse algoritmer ikke bliver brugt på måder, der er til ugunst for dem med høj risiko. Vi kunne tilbyde folk, der anses for "højrisiko" rehabiliterende behandlinger i stedet for, sige, udsætte dem for yderligere fængsling.

Alternativt vi kunne tage skridt til at opveje en algoritmes tendens til at tildele højere risiko til nogle grupper end andre – ved at tilbyde risikosænkende rehabiliteringsprogrammer fortrinsvis til sorte mennesker, for eksempel.

At sigte efter væsentlig retfærdighed uden for algoritmens design ville give algoritmedesignere fri til at fokusere på at maksimere nøjagtigheden, med retfærdighed overladt til statslige regulatorer, med ekspert og demokratisk input. Denne tilgang har haft succes på andre områder. Inden for medicin, for eksempel, læger fokuserer på at fremme deres patienters velbefindende, mens sundhedsfinansierere og politiske beslutningstagere fremmer en retfærdig fordeling af sundhedsressourcer på tværs af patienter.

I substans eller procedure

Selvfølgelig, de fleste af os ville være tilbageholdende med helt at opgive proceduremæssig retfærdighed. Hvis en dommer straffer enhver mindre overtrædelse af et hold, mens han lader en anden slippe af sted med store overtrædelser, vi skulle tro, at noget var gået galt – også selvom det rigtige hold vinder. Hvis en dommer ignorerer alt, hvad en sagsøgt siger og lytter opmærksomt til sagsøgeren, vi synes det var uretfærdigt, selv hvis den tiltalte er en jetset-milliardær, som ville selvom fundet skyldig, være langt bedre stillet end en mere fortjent sagsøger.

Vi bekymrer os om proceduremæssig retfærdighed. Alligevel betyder materiell retfærdighed ofte mere – i det mindste, mange af os har intuitioner, der synes at være i overensstemmelse med dette. Nogle af os mener, at præsidenter og monarker bør have skønsbeføjelser til at give benådninger til dømte lovovertrædere, selvom dette gælder juridiske regler inkonsekvent – ​​lader nogle, men ikke andre, ud af kniben. Hvorfor synes dette er berettiget? Måske fordi benådninger er med til at sikre indholdsmæssig retfærdighed, hvor processuelt retfærdige processer resulterer i uretfærdigt barske konsekvenser.

Mange af os mener også, at positiv særbehandling er berettiget, selv når det ser ud, på forsiden af ​​det, at være proceduremæssigt uretfærdig, da det giver nogle grupper større hensyn end andre. Måske tolererer vi denne uretfærdighed, fordi ved at afbøde virkningerne af tidligere undertrykkelse, positiv særbehandling har en tendens til at fremme reel retfærdighed.

Hvis materiell retfærdighed generelt betyder mere end proceduremæssig retfærdighed, at imødegå skæve algoritmer gennem ændringer af algoritmisk design er måske ikke den bedste vej til retfærdighed trods alt.

Denne artikel er genudgivet fra The Conversation under en Creative Commons-licens. Læs den originale artikel.