Tror du, at Facebook kan manipulere dig? Hold øje med virtual reality

Som Facebook-brugere over hele verden er ved at forstå, nogle af deres yndlingsteknologier kan bruges mod dem. Det er ikke kun skandalen over, at det psykologiske profilfirma Cambridge Analytica får adgang til data fra titusinder af Facebook-profiler. Folks filterbobler er fyldt med omhyggeligt skræddersyet information – og misinformation – der ændrer deres adfærd og tankegang, og endda deres stemmer.

Mennesker, både individuelt og som et samfund generelt kæmper for at forstå, hvordan deres nyhedsfeeds vendte sig imod dem. De er ved at indse, præcis hvor omhyggeligt kontrollerede Facebook-feeds er, med meget skræddersyede annoncer. Det sæt problemer, selvom, blegner i forhold til dem, som den næste teknologiske revolution udgør, som allerede er i gang:virtual reality.

På den ene side, virtuelle verdener rummer næsten ubegrænset potentiale. VR-spil kan behandle stofmisbrug og måske hjælpe med at løse opioidepidemien. Fængselsfanger kan bruge VR-simuleringer til at forberede sig på livet efter deres løsladelse. Folk vædder om at komme ind på disse fordybende oplevelser, som har potentiale til at være mere psykologisk kraftfuld end nogen anden teknologi til dato:Det første moderne udstyr, der tilbyder muligheden, blev udsolgt på 14 minutter.

I disse nye verdener, hvert blad, hver sten på den virtuelle grund og hver samtale er omhyggeligt konstrueret. I vores forskning i den nye definition af etik i virtual reality, mine kolleger og jeg interviewede udviklerne og de tidlige brugere af virtual reality for at forstå, hvilke risici der kommer, og hvordan vi kan reducere dem.

Intensiteten vil stige

"VR er en meget personlig, intim situation. Når du bærer et VR-headset ... tror du virkelig på det, det er virkelig fordybende, " siger en af ​​udviklerne, som vi har talt med. Hvis nogen skader dig i VR, du kommer til at mærke det, og hvis nogen manipulerer dig til at tro noget, det kommer til at hænge fast.

Denne fordybelse er, hvad brugerne ønsker:"VR handler i virkeligheden om at blive fordybet ... I modsætning til et tv, hvor jeg konstant kan blive distraheret, " fortalte en bruger os. Den fordybelse er det, der giver VR hidtil uset kraft:"virkelig, det, VR prøver at gøre her, er duplikat af virkeligheden, hvor det snyder dit sind. "

Disse tricks kan være underholdende - så folk kan flyve helikoptere eller rejse tilbage til det gamle Egypten. De kan være behjælpelige, tilbyder smertebehandling eller behandling af psykiske tilstande.

Men de kan også være ondsindede. Selv en fælles prank, som venner spiller på hinanden online – at logge ind og skrive som hinanden – kan få en helt ny dimension. En VR -bruger forklarer, "Nogen kan tage en VR-hovedenhed på og gå ind i en virtuel verden og antage din identitet. Jeg tror, ​​at identitetstyveri, hvis VR bliver mainstream, vil blive udbredt."

Data bliver endnu mere personlige

VR vil være i stand til at indsamle data på et helt nyt niveau. Tilsyneladende harmløse infrarøde sensorer designet til at hjælpe med køresyge og justering kan fange næsten perfekte repræsentationer af brugernes virkelige omgivelser.

Yderligere, de data og interaktioner, der giver VR magten til at behandle og diagnosticere fysiske og mentale helbredstilstande, kan bruges til at hyper-personalisere oplevelser og information til de præcise sårbarheder hos individuelle brugere.

Kombineret, intensiteten af ​​virtual reality-oplevelser og de endnu mere personlige data, de indsamler, præsenterer spøgelsen af ​​falske nyheder, der er meget stærkere end tekstartikler og memes. Hellere, fordybende, personlige oplevelser kan grundigt overbevise folk om helt alternative virkeligheder, som de er helt modtagelige for. Sådanne fordybende VR-reklamer er i horisonten allerede i år.

Opbygning af en virtuel fremtid

En person, der bruger virtual reality er, ofte frivilligt, bliver kontrolleret i langt større omfang, end det nogensinde var muligt før. Alt, hvad en person ser og hører – og måske endda føler eller lugter – er fuldstændig skabt af en anden person. Den overgivelse bringer både løfte og fare med sig. Måske i omhyggeligt konstruerede virtuelle verdener, mennesker kan løse problemer, der har unddraget os i virkeligheden. Men disse virtuelle verdener vil blive bygget inde i en virkelig verden, som ikke kan ignoreres.

Mens teknologer og brugere rydder op i det ondsindede, manipulerende fortid, de bliver nødt til at gå langt ud over at gøre sociale medier sundere. Så omhyggeligt som udviklere selv bygger virtuelle verdener, samfundet som helhed skal bevidst og møjsommeligt konstruere den kultur, hvori disse teknologier eksisterer.

I mange tilfælde, udviklere er de første allierede i denne kamp. Vores forskning viste, at VR-udviklere var mere bekymrede for deres brugeres velbefindende end brugerne selv. Endnu, en udvikler indrømmer, at "sagen er ... Jeg kan regne med fingrene, hvor mange erfarne udviklere jeg faktisk har mødt." Selv eksperter er kun begyndt at undersøge etik, sikkerhed og privatliv i virtual reality-scenarier.

De udviklere, vi har talt med, udtrykte ønske om retningslinjer for, hvor grænserne skal trækkes, og hvordan man forhindrer farligt misbrug af deres platforme. Som et første skridt, vi inviterede VR-udviklere og brugere fra ni online-fællesskaber til at arbejde sammen med os om at skabe et sæt retningslinjer for VR-etik. De kom med forslag om inklusivitet, beskyttelse af brugere mod manipulerende angribere og begrænsninger for dataindsamling.

Som debaclet med Facebook og Cambridge Analytica viser, selvom, folk følger ikke altid retningslinjer, eller endda platforme regler og politikker - og virkningerne kan være endnu værre i denne nye VR -verden. Men, vores første succes med at nå til enighed om VR-retningslinjer tjener som en påmindelse om, at folk kan gå ud over at regne med de teknologier, andre skaber:Vi kan arbejde sammen om at skabe gavnlige teknologier, vi ønsker.

Denne artikel blev oprindeligt publiceret på The Conversation. Læs den originale artikel.