Designtilgang kan hjælpe med at rette bias i kunstig intelligens

Bias i kunstig intelligens (AI) og maskinlæringsprogrammer er veletableret. Forskere fra North Carolina State University og Pennsylvania State University foreslår nu, at softwareudviklere inkorporerer konceptet "feministisk designtænkning" i deres udviklingsproces som en måde at forbedre retfærdigheden på – især i udviklingen af ​​software, der bruges i ansættelsesprocessen.

"Der synes at være utallige historier om måder, hvorpå bias i AI kommer til udtryk, og der er mange tankestykker derude om, hvad der bidrager til denne bias, " siger Fay Payton, professor i informationssystemer/teknologi og universitetsfakultetslærer ved NC State. "Vores mål her var at fremlægge retningslinjer, der kan bruges til at udvikle brugbare løsninger til algoritme-bias mod kvinder, Afroamerikanske og latinske erhverv i it-arbejdsstyrken.

"For mange eksisterende ansættelsesalgoritmer inkorporerer de facto identitetsmarkører, der udelukker kvalificerede kandidater på grund af deres køn, race, etnicitet, alder og så videre, " siger Payton, der er medforfatter på et papir om værket. "Vi leder simpelthen efter retfærdighed - at jobkandidater kan deltage i ansættelsesprocessen på lige fod."

Payton og hendes samarbejdspartnere hævder, at en tilgang kaldet feministisk designtænkning kunne tjene som en værdifuld ramme for udvikling af software, der reducerer algoritmisk bias på en meningsfuld måde. I denne sammenhæng, anvendelsen af ​​feministisk designtænkning ville betyde at inkorporere ideen om retfærdighed i designet af selve algoritmen.

"Sammensætning af virkningerne af algoritmisk bias er den historiske underrepræsentation af kvinder, Black and Latinx software ingeniører til at give ny indsigt om rimelige designmetoder baseret på deres levede oplevelser, " siger Lynette Yarger, co-lead forfatter af papiret og en lektor i informationsvidenskab og teknologi ved Penn State.

"I bund og grund, denne tilgang ville betyde udvikling af algoritmer, der værdsætter inklusion og ligestilling på tværs af køn, race og etnicitet, " siger Payton. "Den praktiske anvendelse af dette er udvikling og implementering af en proces til at skabe algoritmer, hvor designere overvejer et publikum, der inkluderer kvinder, der inkluderer sorte mennesker, det inkluderer Latinx -mennesker. I det væsentlige, udviklere med alle baggrunde ville blive opfordret til aktivt at overveje – og værdsætte – mennesker, der er forskellige fra dem selv.

"For at være klar, det handler ikke kun om at gøre noget, fordi det er moralsk korrekt. Men vi ved, at kvinder, Afroamerikanere og latinamerikanere er underrepræsenteret inden for it-områder. Og der er rigeligt bevis for, at en mangfoldig, inkluderende arbejdsstyrke forbedrer en virksomheds bundlinje, " siger Payton. "Hvis du kan gøre det rigtige og forbedre din fortjenstmargen, hvorfor ville du ikke?"