Biometrisk spejl fremhæver fejl i kunstig intelligens

I en verdensnyhed, University of Melbourne forskere har designet et kunstig intelligens (AI) system til at opdage og vise folks personlighedstræk og fysiske tiltrækningskraft udelukkende baseret på et foto af deres ansigt.

Systemet, kaldet biometrisk spejl, undersøger en persons forståelse af AI og deres reaktion på informationen om deres unikke egenskaber.

Når nogen står foran biometrisk spejl, systemet registrerer en række ansigtskarakteristika på få sekunder. Det sammenligner derefter brugerens data med tusindvis af ansigtsbilleder, som blev evalueret for deres psykometri af en gruppe crowd-sourcede respondere.

Biometrisk spejl viser 14 egenskaber, fra køn, alder og etnicitet til tiltrækningskraft, underlighed og følelsesmæssig stabilitet. Jo længere en person står der, jo mere personlige egenskaber bliver.

Forskningsprojektet, ledet af Dr. Niels Wouters fra Center for Social Natural User Interfaces (SocialNUI) og Science Gallery Melbourne, undersøger de bekymringer, denne teknologi rejser omkring samtykke, datalagring og algoritmisk bias.

"Med fremkomsten af ​​kunstig intelligens og big data, regering og virksomheder vil i stigende grad bruge CCTV-kameraer og interaktiv reklame til at opdage følelser, alder, køn og demografi for forbipasserende, " sagde Dr. Wouters.

"Vores undersøgelse har til formål at fremprovokere udfordrende spørgsmål om grænserne for AI. Det viser brugerne, hvor nemt det er at implementere AI, der diskriminerer på uetiske eller problematiske måder, som kan have samfundsmæssige konsekvenser. Ved at opmuntre til debat om privatliv og masseovervågning, vi håber at bidrage til en bedre forståelse af etikken bag AI."

Biometrisk spejl fremhæver de potentielle konsekvenser i den virkelige verden af ​​algoritmiske bias og antagelser.

"Mens indsamling af personlige oplysninger om dine indkøbspræferencer for at skræddersy en individuel service kan virke harmløs, indfangning af disse oplysninger uden samtykke gør det umuligt at vide, om en forudsigelse er baseret på korrekte data, " sagde Dr. Wouters.

"Brugen af ​​kunstig intelligens er en glidebane, der strækker sig ud over shopping- og reklameområdet. Forestil dig, at du ikke har kontrol over en algoritme, der uretmæssigt anser dig for uegnet til lederstillinger, ikke berettiget til universitetsgrader, eller deler dit billede offentligt uden dit samtykke.

"Et af dine træk er valgt - sig, dit ansvarsniveau - og Biometric Mirror beder dig forestille dig, at denne information nu bliver delt med dit forsikringsselskab eller fremtidige arbejdsgiver, "Dr. Wouters sagde. "Dette projekt er en gennemsigtig demonstration af de potentielle konsekvenser for enkeltpersoner."

Dr. Wouters sagde, at det var vigtigt at bemærke, at biometrisk spejl ikke er et værktøj til psykologisk analyse.

"Biometric Mirror beregner kun den estimerede offentlige opfattelse af ansigtsudseende, " han sagde.

"Det er begrænset af dets unøjagtighed, fordi kun et relativt lille og crowd-sourced datasæt informerede om dets design. Det er upassende at drage meningsfulde konklusioner om psykologiske tilstande fra Biometric Mirror."