Hvordan Uber og andre digitale platforme kunne narre os ved at bruge adfærdsvidenskab – medmindre vi handler hurtigt

Ubers forretningsmodel er utrolig enkel:Det er en platform, der letter udvekslinger mellem mennesker. Og Uber har haft utrolig stor succes med det, næsten eliminerer transaktionsomkostningerne ved at drive forretning i alt fra at køre rundt i byen til at levere mad.

Dette er en af ​​grundene til, at Uber snart vil være blandt de mest værdifulde virksomheder i verden, efter dets aktier begyndte at handle på New York Stock Exchange den 10. maj.

Alligevel kan dens forventede markedsværdi på USD 82,4 milliarder blegne i forhold til den rigdom af brugerdata, den akkumulerer. Hvis du bruger Uber – eller måske endda hvis du ikke gør det – kender den en skatkammer af data om dig, inklusive din placering, køn, forbrugshistorie, kontakter, telefonens batteriniveau og endda om du er på vej hjem fra et one-night stand. Det kan snart vide, om du er fuld eller ej.

Selvom det er skræmmende nok, kombinere alle disse data med Ubers ekspertise til at analysere dem gennem adfærdsvidenskabens linse, og du har et farligt potentiale til at udnytte brugere til profit.

Uber er næppe alene. Vores forskning viser de største digitale platforme – Airbnb, Facebook, eBay og andre – indsamler så mange data om, hvordan vi lever, at de allerede har evnen til at manipulere deres brugere i stor skala. De kan forudsige adfærd og påvirke vores beslutninger om, hvor de skal klikke, dele og bruge.

Selvom de fleste platforme ikke bruger alle disse muligheder endnu, manipulation gennem adfærdspsykologiske teknikker kan forekomme stille og roligt og efterlade få spor. Hvis vi ikke opstiller færdselsregler nu, det bliver meget sværere at opdage og stoppe senere.

'Valg arkitektur'

En platform kan være ethvert rum, der letter transaktioner mellem købere og sælgere. Traditionelle eksempler omfatter loppemarkeder og handelsgulve.

En digital platform tjener samme formål, men giver ejeren mulighed for at "formidle" sine brugere, mens de bruger den – og ofte når de ikke gør det. Med det mener vi, at den kan observere og lære en utrolig mængde information om brugeradfærd for at perfektionere, hvad adfærdsforskere kalder "valgarkitekturer, " iøjnefaldende designelementer beregnet til at påvirke menneskelig adfærd gennem, hvordan beslutninger præsenteres.

For eksempel, Uber har eksperimenteret med sine chauffører for at bestemme de mest effektive strategier til at holde dem på vejen så længe som muligt. Disse strategier inkluderer at spille ind i kognitive skævheder såsom tabsaversion og overvurdering af hændelser med lav sandsynlighed, selvom en chauffør knap tjener penge nok til at gøre det umagen værd. Chauffører ender som spillere på et kasino, opfordres til at spille lidt længere trods oddsene.

Uber reagerede ikke umiddelbart på en anmodning om kommentar.

Airbnb eksperimenterer også med sine brugere. Det har brugt adfærdsvidenskab til at få værter til at sænke deres priser og acceptere reservationer uden at screene gæster – hvilket skaber reelle risici for værter, især når de deler deres egen lejlighed.

Selvom disse eksempler virker relativt godartede, de demonstrerer, hvordan digitale platforme er i stand til stille og roligt at designe systemer til at dirigere brugernes handlinger på potentielt manipulerende måder.

Og efterhånden som platforme vokser, de bliver kun bedre valg arkitekter. Med sin børsintroduktions enorme tilstrømning af investorpenge til at finansiere mere data og adfærdsvidenskab, Uber kunne bevæge sig ind i et farligt uetisk territorium - let at forestille sig i betragtning af dets tidligere praksis.

For eksempel, hvis appen genkender, at du er fuld eller i et kvarter, du sjældent rejser til - og et kvarter, som dens data viser, er høj i kriminalitet - kan den opkræve en højere sats, vel vidende, at du næppe vil nægte.

Juridiske udfordringer

Og det er ikke kun spekulationer.

I et forsøg på at bedrage retshåndhævende myndigheder, der forsøger at efterforske virksomheden, Uber fandt faktisk en måde at identificere regeringsmyndigheder, der forsøgte at bruge dens app, og forhindrede dem derefter i at få forlystelser.

Det er en af ​​grundene til, at lovgivere og regulatorer har diskuteret det vanskelige, indbyrdes forbundne roller af adfærdsvidenskab og teknologi i årevis. Og nogle virksomheder, Uber især, er blevet undersøgt for et væld af dårlig forretningspraksis, fra diskrimination til misbrug af brugerdata.

Men det meste af den manipulation, vi har identificeret og bekymrer os om, er ikke udtrykkeligt ulovlig. Og fordi regulatorer ofte ikke er i stand til at holde trit med den stadigt udviklende brug af teknologi og valgarkitektur, det forbliver sandsynligvis sådan.

I betragtning af fraværet af veldefinerede og håndhævede juridiske autoværn, platformvirksomheders tilbøjelighed til at udnytte adfærdsvidenskab på brugernes regning forbliver stort set ukontrolleret.

Et etisk kodeks

En løsning, efter vores opfattelse, etablerer et etisk kodeks, som platformvirksomheder skal følge. Og hvis de ikke adopterer det frivilligt, investorer, medarbejdere og brugere kunne efterspørge det.

Siden midten af ​​det 20. århundrede, skrevne kodekser for etisk adfærd har været en fast bestanddel af amerikanske virksomheder. De juridiske og medicinske erhverv har stolet på dem i årtusinder. Og forskning tyder på, at de er effektive til at opmuntre til etisk adfærd hos virksomheder.

Vi har gennemgået hundredvis af etiske regler, herunder dem, der er målrettet teknologi- og computervirksomheder. Baseret på vores forskning, vi opfordrer digitale platforme til at vedtage fem etiske retningslinjer:

1. Al valgarkitektur, der anvendes på en platform, bør være fuldstændig gennemsigtig. Platforme bør oplyse, hvornår de bruger adfærdsvidenskabens værktøjer til at påvirke brugeradfærd
2. Brugere skal frit og nemt kunne træffe valg på platformen, og valgarkitekter bør begrænse adfærdsmæssige indgreb til påmindelser eller prompter, der er mindst skadelige for brugerens autonomi
3. Platforme bør undgå at "nudge" brugere på måder, der udnytter ubevidst og irrationel beslutningstagning baseret på impulser og følelser. Ny forskning viser, at transparent valgarkitektur kan fungere lige så godt
4. Platforme bør anerkende den magt, de besidder, og passe på ikke at udnytte de markeder, de har skabt, herunder ved at misbruge informationsasymmetrier mellem dem selv og brugerne eller modsætte sig rimelige regler
5. Platforme bør undgå at bruge valgfri arkitektur, der afskrækker brugere fra at handle i deres egne interesser. Som den nobelprisvindende adfærdsøkonom Richard Thaler udtrykte det, vi skal kun "skubbe for godt".

Stor teknologi og adfærdsvidenskab er nu integreret på måder, der gør virksomheder vildt succesfulde, fra summende tandbørster, der får det til at virke givende at rense dine tænder, til at bruge tekster til at presse fattigere mødre til at bruge sundhedspleje.

Selvom resultaterne kan forbedre vores liv markant, det gør det også nemmere end nogensinde for virksomheder at manipulere brugere for at forbedre deres bundlinjer.

Denne artikel er genudgivet fra The Conversation under en Creative Commons-licens. Læs den originale artikel.