Definere skyldværdighed for at gøre AI moralsk

Sig 100 mennesker bor tæt på en sø. Hvis mindst 10 af dem overfisker i år, hele fiskebestanden vil dø ud. Hver antager, at mindst 10 andre vil overfiskes, og der vil ikke være noget tilbage at fiske i de kommende år.

Da fisken alligevel vil være væk, de beslutter alle, at de lige så godt kan overfiskes. Alle fisk dør. Fortjener alle mennesker skylden?

Det afhænger af, om de kunne have koordineret med hinanden for at ændre resultatet og omkostningerne ved at gøre det, ifølge ny forskning af Joseph Halpern, Joseph C. Ford professor i teknik, og Meir Friedenberg, en doktorand i datalogi. Med udgangspunkt i Halperns grundlæggende arbejde med kausalitet, de udviklede en matematisk model til at beregne skyldværdighed på en skala fra nul til en.

Forskningen - ligger i skæringspunktet mellem datalogi, filosofi og kognitiv psykologi - potentielt kunne bruges til at styre adfærden hos kunstigt intelligente agenter, såsom førerløse køretøjer, at hjælpe dem med at opføre sig på en "moralsk" måde.

"En af de ting, vi virkelig ville gøre, er at give en ramme, der giver os mulighed for at anvende den slags juridiske og filosofiske forestillinger på autonome systemer, sagde Friedenberg, første forfatter til "Blameworthiness in Multi-Agent Settings, "som blev præsenteret på AAAI -konferencen om kunstig intelligens i februar i februar." Vi tror, ​​at det bliver vigtigt, hvis vi effektivt vil integrere autonome systemer i samfundet. "

I tidligere arbejde, Halpern og kolleger definerede enkeltpersoners skyldværdighed nogenlunde som i hvilket omfang de tror, ​​at deres handlinger kan ændre en begivenheds resultat. For eksempel, hvis du stemte imod en kandidat, som du troede ville tabe med en enkelt stemme, din skyldværdighed ville være én, maksimum; men hvis du troede, at kandidaten ville tabe med tusinder af stemmer, din skyldværdighed ville være langt lavere.

I det seneste papir, Friedenberg og Halpern gav først en definition af en gruppes skyldværdighed - hovedsageligt et mål for i hvilken grad gruppen kunne have koordineret for at få et andet resultat. De skabte derefter en model for at fordele gruppens skyldværdighed til individuelle medlemmer.

"Hvis man ser på gruppen af ​​fiskere, som en gruppe er de ansvarlige - naturligvis hvis de ikke alle fiskede, ville der være rigeligt til det næste år, "Halpern sagde." I hvilket omfang fiskerne er ansvarlige, er i hvilket omfang de kunne koordinere for at få et andet resultat. "

Forskerne fangede dette ved at måle gruppemedlemmernes evne til at arbejde sammen om at ændre resultatet, under hensyntagen til omkostningerne ved at gøre det. Omkostninger er en kritisk faktor i skyldværdighed:En, der vælter en dyr vase, mens han løber fra en løve, er mindre skyldig end en, der bare ikke er opmærksom. Hvis din stemme svinger et valg, du er mindre skyldig, hvis nogen truer med at dræbe dig, medmindre du stemmer på en bestemt måde.

I det fremtidige arbejde, Halpern sagde, at han håber at teste modellen ved at spørge folk, via crowdsourcing, tilskrive skyldværdighed i forskellige scenarier, og sammenligne deres meninger med de numeriske resultater.

Når det kommer til autonome biler, udviklere eller beslutningstagere kunne overveje deres egne definitioner af omkostninger, når de opretter deres algoritmer, Sagde Halpern. For eksempel, hvis en regering beslutter, at ingen risiko er acceptabel, en bil ville være designet til aldrig at passere en anden bil, da det kan øge chancen for en ulykke.

Selvom det kan være svært at afgøre, hvordan maskinlæringsalgoritmer træffer beslutninger, det kan være muligt at udvikle mere gennemsigtige algoritmer, der muliggør en lettere vurdering af skyldværdighed.

"Fordelen ved vores rammer er, at det giver dig en formel måde at tænke på disse ting og modellere dem, og det tvinger dig til at være eksplicit om dine antagelser og hvordan du definerer omkostningerne, "Sagde Halpern." Vores definition forsøger at være kvantitativ, fordi kan man lide det eller klumpe det, skal man lave afvejninger, og denne definition tvinger dig til at tænke over det. Det er et værktøj til at hjælpe folk med at tænke på afvejningerne uden at fortælle dem, hvad afvejningerne skal være. "