Er AI alderdom? Undersøgelse af teknologiens indvirkning på ældre brugere

Forskere fra University of Toronto og University of Cambridge undersøger, hvordan alderisme – fordomme mod individer baseret på alder – kan kodes ind i teknologier såsom kunstig intelligens, som mange af os nu møder dagligt.

Denne aldersrelaterede skævhed i AI, også kaldet "digital alderisme", er udforsket i et nyt papir ledet af Charlene Chu, en tilknyttet videnskabsmand ved Toronto Rehabilitation Institutes KITE-forskningsarm, en del af University Health Network (UHN), og en adjunkt ved Lawrence S. Bloomberg Faculty of Nursing.

Artiklen blev for nylig offentliggjort i The Gerontologist .

"Covid-19-pandemien har øget vores bevidsthed om, hvor afhængigt vores samfund er af teknologi," siger Chu. "Enormt antal ældre voksne henvender sig til teknologi i deres daglige liv, hvilket har skabt en følelse af, at det haster for forskere at forsøge at forstå digital alderisme og de risici og skader, der er forbundet med AI-bias."

Chu og hendes forskerhold bestående af juridiske forskere, dataloger, filosoffer og samfundsforskere inden for bioetik og gerontologi, bemærker, at stereotyper er dybt forankret i AI-algoritmer, med nyere forskning fokuseret på eksempler på race- og kønsbaseret skævhed. Løsninger til at adressere AI-bias er imidlertid ikke enkle, siger Chu. Hun og hendes team antyder, at der er en række "cyklusser af uretfærdighed", der forekommer i teknologiudvikling, fra tidligt design til test og implementering.

"Kumuleret producerer disse cyklusser en implicit bias, der er indbygget i teknologiens funktion, som udelukker ældre voksne på en uforholdsmæssig måde," siger hun.

Bloomberg Nursings Rebecca Biason talte for nylig med Chu om hendes arbejde og konsekvenserne af digital alderisme for ældre voksne.

Hvordan kan teknologi eller apps videreføre den digitale tidsalder?

Der er flere måder, hvorpå AI-drevet teknologi kan påtage sig aldersrelateret skævhed - nogle er mere indlysende end andre. De fleste apps, der er skabt til ældre voksne, har en tendens til at fokusere på kronisk sygdom og sundhedspleje og er sjældent forbundet med fornøjelse eller fritid. I stedet har teknologi skabt til ældre voksne en tendens til at se dem med en biomedicinsk linse, hvilket genererer teknologi, der er fokuseret på et sundhedsrelateret behov.

Denne alderdomsrepræsentation af ældre voksne drypper ind i teknologiens design. Normale aspekter af aldring, såsom forskelle i motorisk funktion eller opfattelse, tages ikke i betragtning. Dette er en af ​​de "cyklusser af uretfærdighed", der fastholder aldersrelateret skævhed beskrevet i mit papir, og som understøtter udelukkelsen af ​​ældre voksnes stemmer og data.

Hvordan bidrager udelukkelse af ældre voksne til digital alderisme?

De data, der bruges til at bygge forskellige modeller og algoritmer, påvirker efterfølgende algoritmens ydeevne. Specifikt for aldersrelateret skævhed er ældre voksne den hurtigst voksende gruppe af individer, der bruger teknologi, men alligevel er meget af de data, der bruges til at bygge AI-systemer, baseret på yngre mennesker. Dette genererer igen apps og teknologier, der ikke er designet til ældre voksne, så de bruger dem ikke.

Dette misforhold i design og teknologi bidrager til mangel på data fra ældre voksne, hvilket forstærker deres udelukkelse gennem hele teknologiskabelsens pipeline.

Alderisme er den mest socialt accepterede bias på trods af, at det er en eventualitet for os alle. Efterhånden som befolkningernes demografi begynder at ændre sig, vil flere og flere ældre voksne vende sig til teknologi, der ikke er designet til dem.

En del af vores fremtidige arbejde er effektivt at illustrere, hvordan indlejret alderisme er inden for kunstig intelligens og teknologiudvikling og foreslå måder at afbøde det på.

Hvad er nogle af dine tidlige anbefalinger til håndtering af digital alderdom for ældre voksne?

Bevidsthed om digital alderisme er det første skridt - og er afgørende for at komme videre. Alder krydser andre dimensioner af sårbarhed og bør behandles. En strukturel anbefaling er at diskutere behovet for tværfagligt co-design – det vil sige at inkludere ældre voksne i teknologidesign fra begyndelsen og ikke til sidst, og datasæt, der er mere repræsentative for ældre voksne.

En ting, mit team gjorde, var at finde ud af The AI ​​Ethics Guidelines Global Inventory, som er et lager, der kompilerer anbefalingsdokumenter om, hvordan AI-systemer kan udføre etisk automatiseret beslutningstagning. Mange af disse retningslinjer fremhævede retfærdighed som et centralt styrende etisk princip, såvel som behovet for en reduktion af bias. Ud af disse næsten 150 dokumenter skabt af etablerede organisationer, regeringer og internationale grupper fandt vi meget lidt omtale af alder, aldersbias eller alderisme sammenlignet med racemæssige eller kønsrelaterede skævheder.

Nu forsøger mit team at bestemme de samfundsmæssige og etiske implikationer, såvel som graden af ​​skade, der i øjeblikket sker med hensyn til digital alderisme. Arbejdet er grundlæggende for at gøre opmærksom på dette problem, da vi satte os for at definere problemet.