Folk stoler mere på maskiner end mennesker med deres private oplysninger

Ikke alle frygter vores maskinoverherrer. Faktisk, ifølge forskere fra Penn State, når det kommer til private oplysninger og adgang til finansielle data, folk har en tendens til at stole mere på maskiner end mennesker, hvilket kan føre til både positiv og negativ online adfærd.

I en undersøgelse, mennesker, der stolede på maskiner, var betydeligt mere tilbøjelige til at aflevere deres kreditkortnumre til et computerstyret rejsebureau end et menneskeligt rejsebureau. En bias om, at maskiner er mere troværdige og sikre end mennesker – eller maskinheuristikken – kan ligge bag effekten, sagde S. Shyam Sundar, James P. Jimirro professor i medieeffekter, meddirektør for Media Effects Research Laboratory og tilknyttet Penn State's Institute for CyberScience (ICS).

"Denne tendens til at stole mere på maskinagenten end den menneskelige agent var meget stærkere for folk, der troede højt på maskinheuristikken, "sagde Sundar." For folk, der ikke troede på maskinens heuristik, det gjorde ikke nogen forskel, om rejsebureauet var en maskine eller et menneske."

Dette tyder på, at tilstedeværelsen af ​​en maskinagent på grænsefladen tjente som et signal til at udløse heuristikken eller den indgroede tro på, at maskiner er overlegne, ifølge Sundar, der arbejdede med Jinyoung Kim, tidligere doktorand i massekommunikation og i dag forsker hos Amazon.

At troen på maskiner kan udløses, fordi folk tror, ​​at maskiner ikke sladrer, eller har ulovlige designs på deres private oplysninger. Imidlertid, Sundar sagde, at mens maskiner måske ikke har bagtanker for deres information, de mennesker, der udvikler og kører disse computere, kunne forgribe sig på denne godtroenhed for at udtrække personlige oplysninger fra intetanende brugere, for eksempel, gennem phishing-svindel, som er forsøg fra kriminelle på at få brugernavne, adgangskoder, kreditkortnumre og andre private oplysninger ved at udgive sig for troværdige kilder.

"Denne undersøgelse bør tjene som en advarsel for folk om at være opmærksom på, hvordan de interagerer online, " sagde Sundar. "Folk bør være opmærksomme på, at de kan have en blind tro på maskinens overlegenhed. De bør passe på sig selv, når de engagerer sig online med robotgrænseflader."

På den anden side, fordi nogle mennesker stoler mere på maskiner, udviklere kunne bruge resultaterne til at skabe mere brugervenlige websteder og applikationer, der får folk til at føle sig mere trygge ved at gennemføre transaktioner online, ifølge forskerne, som rapporterer deres resultater i dag (7. maj) på ACM CHI-konferencen om menneskelige faktorer i computersystemer afholdt i Glasgow, Storbritannien.

"En måde vi kan udnytte denne heuristik på, især til design, er, hvis du ønsker at skabe større tillid, og du bygger et automatiseret system, eller en algoritme, at sikre, at du identificerer det som et maskinbaseret system – og der er intet menneske i løkken – kunne faktisk øge tilliden, " sagde Sundar. "Dette gælder især i områder, hvor involvering af mennesker kan føre til uforudsigelige og uønskede resultater."

Sundar tilføjede, at folk med en høj grad af tillid til maskiner kun har brug for subtile designindikationer på, at de interagerer med en maskine.

"I alt dette, en ting jeg gerne vil understrege er, at designerne skal være etiske, " sagde Sundar. "De bør ikke uetisk forsøge at udtrække information fra intetanende forbrugere."

Forskerne rekrutterede 160 deltagere fra Amazon Mechanical Turk, et online crowdsourcing-websted, der ofte bruges i undersøgelser, for studiet. Deltagerne blev bedt om at bruge enten en menneskelig eller en maskinchatsagent til at finde og købe en flybillet online. Efter at agenten havde returneret flyoplysningerne, det bad deltagerne om deres kreditkortoplysninger. Deltagerne rapporterede derefter deres hensigter om at give disse oplysninger. Forskerne målte deltagernes tillid til maskiner ved at bede dem om at svare på en række på fem udsagn om interaktion med maskiner.

Fremtidig forskning vil undersøge maskinens heuristiks rolle i at fremme folks tillid til kunstig intelligens eller AI-systemer, især chatbots, smarte højttalere og robotter.