AI-genererede profiler? Airbnb-brugere foretrækker et menneskeligt præg

På en online markedsplads som Airbnb, værtsprofiler kan betyde forskellen mellem et booket værelse og et ledigt. For peppet, for langt, for mange udråbstegn? Sproget er afgørende i en brugers søgen efter tillid og autenticitet, afgørende faktorer i enhver online udveksling.

Med så meget på spil, skal Airbnb-værter stole på en algoritme til at skrive deres profiler til dem?

Det kommer an på, ifølge ny forskning fra Cornell og Stanford University. Hvis alle bruger algoritmisk genererede profiler, brugere stoler på dem. Imidlertid, hvis kun nogle værter vælger at uddelegere skriveansvar til kunstig intelligens, der er sandsynligvis mistillid til dem. Forskere kaldte dette "replikanteffekten" - et nik til filmen "Blade Runner".

"Deltagerne ledte efter signaler, der føltes mekaniske versus sprog, der føltes mere menneskelige og følelsesmæssige, " sagde Maurice Jakesch, en doktorand i informationsvidenskab ved Cornell Tech og hovedforfatter af "AI-Mediated Communication:How the Perception that Profile Text was Written by AI Affects Trustworthiness, "som vil blive præsenteret på ACM-konferencen om menneskelige faktorer i computersystemer, 4-9 maj i Glasgow, Skotland.

"De havde deres egne teorier om, hvordan en AI-genereret profil ville se ud, " sagde Jakesch. "Hvis der var alvorlige stavefejl i en profil, de ville sige det er mere menneskeligt, der henviser til, at hvis en persons profil så usammenhængende eller meningsløs ud, de antog, at det var AI."

AI står til at revolutionere naturlige sprogteknologier og hvordan mennesker interagerer med hinanden. Folk oplever allerede noget AI-medieret kommunikation:Gmail scanner indholdet af vores ankommende e-mails og genererer foreslåede, et-klik "smarte svar, " og en ny generation af skrivehjælpemidler retter ikke kun vores stavefejl, men polerer også vores skrivestil.

"Vi begynder at se de første tilfælde af kunstig intelligens fungere som en mægler mellem mennesker, men det er et spørgsmål om:'Vil folk have det?'," sagde Jakesch. "Vi kan løbe ind i en situation, hvor AI-medieret kommunikation er så udbredt, at det bliver en del af, hvordan folk vurderer, hvad de ser online."

I undersøgelsen, forskere søgte at undersøge, om brugerne stoler på algoritmisk optimerede eller genererede repræsentationer, især på online markedspladser. Holdet udførte tre eksperimenter, rekruttere hundredvis af deltagere på Amazon Mechanical Turk for at evaluere reelle, menneskeskabte Airbnb-profiler. I nogle tilfælde, deltagerne blev forledt til at tro, at nogle eller alle profilerne blev genereret gennem et automatiseret AI-system. Deltagerne blev derefter bedt om at give hver profil en troværdighedsscore.

Da de fortalte, at de så enten alle menneskeskabte eller alle AI-genererede profiler, deltagerne så ikke ud til at stole mere på den ene end den anden. De vurderede de menneske- og AI-genererede profiler omtrent det samme.

Men det ændrede sig, da deltagerne blev informeret om, at de så et blandet sæt profiler. Tilbage til at beslutte, om de profiler, de læste, var skrevet af et menneske eller en algoritme, brugere mistroede dem, de mente var maskingenererede.

"Jo flere deltagere troede, at en profil var AI-genereret, jo mindre de havde en tendens til at stole på værten, selvom de profiler, de bedømte, blev skrevet af de faktiske værter, " skrev forfatterne.

Hvad er der så dårligt ved at bruge AI-medieret kommunikation? Som en undersøgelsesdeltager udtrykte det, AI-genererede profiler "kan være praktiske, men også lidt dovne. Hvilket får mig til at stille spørgsmålstegn ved, hvad de ellers vil være dovne om."

Efterhånden som AI bliver mere almindelig og kraftfuld, grundlæggende retningslinjer, etik og praksis bliver afgørende, sagde forskerne. Deres resultater tyder på, at der er måder at designe AI-kommunikationsværktøjer, der forbedrer tilliden til menneskelige brugere. Til at begynde med, Jakesch sagde, virksomheder kunne tilføje et emblem på al tekst produceret af AI, som nogle medier allerede bruger på algoritme-skabt indhold. Design og politiske retningslinjer og normer for brug af AI-medieret kommunikation er værd at undersøge nu, han tilføjede.

"Værdien af ​​disse teknologier vil afhænge af, hvordan de er designet, hvordan de kommunikeres til folk, og om vi er i stand til at etablere et sundt økosystem omkring dem, " sagde han. "Det kommer med en række nye etiske spørgsmål:Er det acceptabelt at få min algoritmiske assistent til at generere en mere veltalende version af mig? Er det okay, at en algoritme fortæller mine børn godnat på mine vegne? Det er spørgsmål, der skal diskuteres«.

Avisen blev skrevet sammen med Mor Naaman, lektor i informationsvidenskab ved Jacobs Technion-Cornell Institute ved Cornell Tech; Xiao Ma, en ph.d.-studerende i informationsvidenskab ved Cornell Tech; og Megan French og Jeffrey T. Hancock fra Stanford.