Tror mennesker, at computere træffer rimelige beslutninger?

I dag hjælper maskinlæring med at bestemme det lån, vi er kvalificerede til, det job, vi får, og endda hvem der kommer i fængsel. Men når det kommer til disse potentielt livsændrende beslutninger, kan computere så foretage et retfærdigt opkald? I en undersøgelse offentliggjort 29. september i tidsskriftet Patterns , viste forskere fra Tyskland, at med menneskelig overvågning tror folk, at en computers beslutning kan være lige så retfærdig som en beslutning, der primært træffes af mennesker.

"Meget af diskussionen om retfærdighed i maskinlæring har fokuseret på tekniske løsninger, som hvordan man løser unfair algoritmer, og hvordan man gør systemerne retfærdige," siger computational social scientist og medforfatter Ruben Bach fra University of Mannheim, Tyskland. "Men vores spørgsmål er, hvad folk synes er retfærdigt? Det handler ikke kun om at udvikle algoritmer. De skal accepteres af samfundet og opfylde normative overbevisninger i den virkelige verden."

Automatiseret beslutningstagning, hvor en konklusion udelukkende foretages af en computer, udmærker sig ved at analysere store datasæt for at opdage mønstre. Computere betragtes ofte som objektive og neutrale sammenlignet med mennesker, hvis skævheder kan forplumre domme. Alligevel kan bias snige sig ind i computersystemer, når de lærer af data, der afspejler diskriminerende mønstre i vores verden. At forstå retfærdighed i computer- og menneskelige beslutninger er afgørende for at opbygge et mere retfærdigt samfund.

For at forstå, hvad folk anser for retfærdigt i automatiseret beslutningstagning, undersøgte forskerne 3.930 personer i Tyskland. Forskerne gav dem hypotetiske scenarier relateret til bank-, job-, fængsels- og arbejdsløshedssystemer. Inden for scenarierne sammenlignede de yderligere forskellige situationer, herunder om beslutningen fører til et positivt eller negativt resultat, hvor dataene til evaluering kommer fra, og hvem der træffer den endelige beslutning – menneske, computer eller begge dele.

"Som forventet så vi, at fuldstændig automatiseret beslutningstagning ikke blev favoriseret," siger computational social scientist og medforfatter Christoph Kern fra University of Mannheim. "Men det interessante er, at når man har menneskelig overvågning over den automatiserede beslutningstagning, bliver niveauet af opfattet retfærdighed lig med menneskecentreret beslutningstagning." Resultaterne viste, at folk opfatter en beslutning som mere retfærdig, når mennesker er involveret.

Folk var også mere bekymrede over retfærdighed, når beslutninger relateret til det strafferetlige system eller jobudsigter, hvor indsatsen er højere. Muligvis set vægten af ​​tab større end vægten af ​​gevinster, anså deltagerne beslutninger, der kan føre til positive resultater, mere retfærdige end negative. Sammenlignet med systemer, der kun er afhængige af scenarierelaterede data, blev de, der trækker på yderligere ikke-relaterede data fra internettet, betragtet som mindre retfærdige, hvilket bekræfter vigtigheden af ​​datagennemsigtighed og privatliv. Tilsammen viste resultaterne, at konteksten betyder noget. Automatiserede beslutningstagningssystemer skal designes omhyggeligt, når der opstår bekymringer for retfærdighed.

Selvom hypotetiske situationer i undersøgelsen måske ikke fuldt ud oversættes til den virkelige verden, brainstormer teamet allerede næste skridt for bedre at forstå retfærdighed. De planlægger at tage undersøgelsen videre for at forstå, hvordan forskellige mennesker definerer retfærdighed. De ønsker også at bruge lignende undersøgelser til at stille flere spørgsmål om ideer såsom fordelingsretfærdighed, retfærdig ressourceallokering mellem samfundet.

"På en måde håber vi, at folk i branchen kan tage disse resultater som stof til eftertanke og som ting, de bør tjekke, før de udvikler og implementerer et automatiseret beslutningssystem," siger Bach. "Vi skal også sikre, at folk forstår, hvordan data behandles, og hvordan beslutninger træffes på baggrund af dem." + Udforsk yderligere

Moralske illusioner kan ændre vores adfærd