Ven eller fjende:Forbedrer onlineanbefalingsværktøjer virkelig beslutningstagningen?

Værktøjer til at anbefale kunstig intelligens (AI) bruges i vid udstrækning af industrier som e-handel, medier, banker og forsyningsselskaber. Værktøjets algoritme bruger webstedsbesøgendes tidligere onlineaktivitet og andre data, både implicitte og eksplicitte, til at forudsige, hvad den besøgende gerne vil se eller købe næste gang, og præsenterer derefter disse muligheder for dem. Dette kan være yderst gavnligt; for kunder kan anbefaleren for eksempel spare dem tid ved at foreslå muligheder skræddersyet til deres smag og behov. Mens det for virksomheder kan tilskynde forbrugerne til at bruge mere via deres hjemmeside og øge kundeloyaliteten:i tilfældet med streaminggiganten Netflix, anslås det, at dens anbefalingsmotor genererer 1 milliard dollars årligt.

En gruppe forskere fra Kina, Finland og Korea satte sig for at afdække de potentielle negative effekter af disse AI-værktøjer. Som medforfatter Sihua Chen, fra Kinas Jiangxi University of Finance and Economics, forklarer, at "hver mønt har to sider, og med indtrængen af ​​AI-anbefalere i vores liv, bliver ulemperne mere tydelige." Forskningen blev første gang offentliggjort online den 10. august 2021 i Journal of Management Science and Engineering , og er planlagt til at blive udgivet på tryk december 2021.

Efter at have gennemgået tidligere forskning om emnet byggede teamet en empirisk model, som afslører, hvordan en kundes præferencer påvirker deres købsbeslutninger, og hvilken rolle AI-anbefaling spiller i denne proces. De var særligt interesserede i at udforske internettets "informationskokon"-fænomenet:Når folk står over for en stor mængde information online, har folk en tendens til kun at se, hvad de vil se.

Forskerne udførte to eksperimenter med Jingdong og Taobao, de to største online shopping platforme i Kina. Ifølge forfatteren Jian Mou, fra Koreas Pusan ​​National University, "fandt de, at AI-anbefaling forstærkede informationskokoneffekten. Med andre ord ser folk, hvad de vil se, og så vælger hjemmesidens AI-anbefalingsalgoritme indhold til dem baseret på disse præferencer. Dette påvirker kvaliteten af ​​kundens købsbeslutninger negativt."

Medforfatter Mikko Siponen, fra Finlands Universitet i Jyväskylä, tilføjer, at "som med mange andre nye teknologier er AI-anbefaling en kilde til utilsigtede konsekvenser. Vores resultater har vigtige konsekvenser for forbrugerne, især i e-handelsindustrien - hvis de vil For at tage uafhængige købsbeslutninger skal de undgå den overvældende indflydelse fra AI-anbefalingsværktøjer."