Hvordan mangfoldigheden af ​​testpersoner er et teknologisk blindpunkt, og hvad skal man gøre ved det

Mennesker interagerer med maskiner på utallige måder hver dag. I nogle tilfælde styrer de aktivt en enhed, som at køre bil eller bruge en app på en smartphone. Nogle gange interagerer folk passivt med en enhed, som at blive afbildet af en MR-maskine. Og nogle gange interagerer de med maskiner uden samtykke eller endda ved at vide om interaktionen, som at blive scannet af et retshåndhævende ansigtsgenkendelsessystem.

Menneske-maskine interaktion (HMI) er et paraplybegreb, der beskriver den måde, mennesker interagerer med maskiner på. HMI er et nøgleaspekt i at forske, designe og bygge nye teknologier og også studere, hvordan mennesker bruger og påvirkes af teknologier.

Forskere, især dem, der traditionelt er uddannet i ingeniørvidenskab, tager i stigende grad en menneskecentreret tilgang, når de udvikler systemer og enheder. Det betyder, at man stræber efter at lave teknologi, der fungerer som forventet for de mennesker, der vil bruge den, ved at tage hensyn til, hvad man ved om folket, og ved at teste teknologien sammen med dem. Men selvom ingeniørforskere i stigende grad prioriterer disse overvejelser, har nogle på området en blind plet:mangfoldighed.

Som en tværfaglig forsker, der tænker holistisk omkring teknik og design og ekspert i dynamik og smarte materialer med interesser i politik, har vi undersøgt den manglende inddragelse i teknologidesign, de negative konsekvenser og mulige løsninger.

Personer ved hånden

Forskere og udviklere følger typisk en designproces, der involverer test af nøglefunktioner og funktioner, før de frigiver produkter til offentligheden. Udført korrekt kan disse test være en nøglekomponent i medfølende design. Testene kan omfatte interviews og eksperimenter med grupper af mennesker, der stiller op for offentligheden.

I akademiske sammenhænge er størstedelen af ​​studiedeltagerne for eksempel studerende. Nogle forskere forsøger at rekruttere deltagere uden for campus, men disse fællesskaber ligner ofte universitetsbefolkningen. Kaffebarer og andre lokalt ejede virksomheder kan for eksempel tillade, at flyers bliver opslået i deres virksomheder. Imidlertid er kundekredsen af ​​disse institutioner ofte studerende, fakulteter og akademisk personale.

I mange brancher fungerer kollegaer som testdeltagere til tidligt arbejde, fordi det er bekvemt at rekruttere fra en virksomhed. Det kræver en indsats at hente eksterne deltagere, og når de bruges, afspejler de ofte majoritetsbefolkningen. Derfor har mange af de mennesker, der deltager i disse undersøgelser, lignende demografiske karakteristika.

skade fra den virkelige verden

Det er muligt at bruge et homogent udsnit af mennesker til at publicere en forskningsartikel, der tilføjer et felts viden. Og nogle forskere, der udfører undersøgelser på denne måde, anerkender begrænsningerne ved homogene undersøgelsespopulationer. Men når det kommer til at udvikle systemer, der er afhængige af algoritmer, kan sådanne forglemmelser forårsage problemer i den virkelige verden. Algoritmer er kun lige så gode som de data, der bruges til at bygge dem.

Algoritmer er ofte baseret på matematiske modeller, der fanger mønstre og derefter informerer en computer om disse mønstre for at udføre en given opgave. Forestil dig en algoritme designet til at registrere, når farver vises på en klar overflade. Hvis det sæt billeder, der bruges til at træne denne algoritme, hovedsageligt består af røde nuancer, registrerer algoritmen muligvis ikke, hvornår en blå eller gul nuance er til stede.

I praksis har algoritmer ikke kunnet registrere mørkere hudtoner til Googles hudplejeprogram og i automatiske sæbedispensere; nøjagtigt identificere en mistænkt, hvilket førte til den uretmæssige anholdelse af en uskyldig mand i Detroit; og pålideligt identificere farvede kvinder. MIT kunstig intelligens-forsker Joy Buolamwini beskriver dette som algoritmisk bias og har udførligt diskuteret og publiceret arbejde om disse spørgsmål.

Selvom USA bekæmper COVID-19, er manglen på forskelligartede træningsdata blevet tydelig i medicinsk udstyr. Pulsoximetre, som er afgørende for at holde styr på dit helbred derhjemme og for at indikere, hvornår du muligvis har brug for hospitalsindlæggelse, kan være mindre nøjagtige for personer med melaneret hud. Disse designfejl, ligesom dem i algoritmer, er ikke iboende for enheden, men kan spores tilbage til den teknologi, der er designet og testet ved hjælp af populationer, der ikke var forskellige nok til at repræsentere alle potentielle brugere.

Vær inkluderende

Forskere i den akademiske verden er ofte under pres for at offentliggøre forskningsresultater så hurtigt som muligt. Derfor er afhængighed af bekvemmelighedsprøver - det vil sige mennesker, som er nemme at nå og få data fra - meget almindelig.

Selvom der findes institutionelle bedømmelsesudvalg for at sikre, at studiedeltageres rettigheder beskyttes, og at forskere følger korrekt etik i deres arbejde, har de ikke ansvaret for at diktere forskerne, hvem de skal rekruttere. Når forskere er pressede på tid, kan det betyde yderligere forsinkelse at overveje forskellige populationer for forsøgspersoner. Endelig kan nogle forskere simpelthen være uvidende om, hvordan de kan diversificere deres undersøgelses emner tilstrækkeligt.

Der er flere måder, forskere i den akademiske verden og industrien kan øge mangfoldigheden af ​​deres studiedeltagerpuljer på.

Den ene er at få tid til at udføre det ubelejlige og til tider hårde arbejde med at udvikle inkluderende rekrutteringsstrategier. Dette kan kræve kreativ tænkning. En sådan metode er at rekruttere forskellige studerende, der kan fungere som ambassadører for forskellige samfund. De studerende kan få forskningserfaring, samtidig med at de fungerer som bro mellem deres samfund og forskere.

En anden er at give medlemmer af samfundet mulighed for at deltage i forskningen og give samtykke til nye og ukendte teknologier, når det er muligt. For eksempel kan forskerhold danne et rådgivende udvalg bestående af medlemmer fra forskellige samfund. Nogle områder inkluderer ofte et rådgivende udvalg som en del af deres regeringsfinansierede forskningsplaner.

En anden tilgang er at inkludere folk, der ved, hvordan man tænker gennem kulturelle implikationer af teknologier, som medlemmer af forskerholdet. For eksempel udløste New York City Police Departments brug af en robothund i Brooklyn, Queens og Bronx forargelse blandt beboerne. Dette kunne have været undgået, hvis de havde haft kontakt med eksperter inden for samfundsvidenskab eller videnskab og teknologi, eller blot havde rådført sig med samfundsledere.

Endelig handler mangfoldighed ikke kun om race, men også alder, kønsidentitet, kulturel baggrund, uddannelsesniveau, handicap, engelskkundskaber og endda socioøkonomiske niveauer. Lyft er på en mission for at implementere robotakse næste år, og eksperter er begejstrede for mulighederne for at bruge robotakse til at transportere ældre og handicappede. Det er ikke klart, om disse forhåbninger omfatter dem, der bor i mindre velhavende eller lavindkomstsamfund eller mangler den familiestøtte, der kunne hjælpe med at forberede folk til at bruge tjenesten. Før du sender en robotakse til transport af bedstemødre, er det vigtigt at tage højde for, hvordan en bred vifte af mennesker vil opleve teknologien.