Vil jeg have en altid tændt digital assistent, der lytter med hele tiden?

Markedet for smarte enheder eksploderer. Smart home kits til eftermontering af "ikke-smarte" huse er blevet billigere.Tidligere i år, Apple frigav HomePod-højttaleren, virksomhedens svar på dominerende smartenheder Google Home og Amazon Echo. Amazon, også, udvider sit sortiment. For nylig, det debuterede Amazon Echo Look, lover at gøre brugerne mere stilfulde.

Alle disse smarte enheder er udstyret med en kunstigt intelligent virtuel assistent, som giver brugerne mulighed for at interagere med deres enheder håndfrit. Disse enheder, som løfter om at gøre dit liv lettere, har en anden ting til fælles:De har ofte mikrofoner tændt hele tiden for at lytte efter dine anmodninger.

Som forsker i retorik og teknologi, Jeg studerer, hvordan mennesker får mening i nye teknologiske innovationer. Min forskning skitserer flere grunde til, at folk kan finde disse smarte enheder udstyret med en altid tændt mikrofon både attraktive og foruroligende.

Bekvemmelighed betyder noget

Først, smarte enheder tilbyder enestående bekvemmelighed til en hidtil uset lav pris. Amazon, Æble, Microsoft og Google præsenterer alle deres produkter som måder at gøre brugerne mere effektive ved at outsource opgaver. Det her er ikke nyt. Velhavende mennesker har længe været afhængige af andres arbejde for at styre deres husholdninger og arbejdsområder. Smart home-teknologier lover lignende effekter. De kan automatisere gøremål, inklusive støvsugning, købmand og endda madlavning.

Kunstig intelligens, Algoritmer og automatisering udfører nu opgaver for dem, der har råd til smarte enheder. Som resultat, flere og forskellige mennesker kan drage fordel af en digital assistent, end de ville bruge, eller havde råd, en menneskelig assistent.

Øget autonomi

For eksempel, Håndfri teknologier kan øge selvstændigheden for ældre og personer med handicap. Forskere undersøger, hvordan smarte enheder kan understøtte "universelt design, "en måde at gøre rum og aktiviteter tilgængelige og bekvemme for mennesker med alle evner. Smarte hjemmesystemer kan hjælpe mennesker med fysiske eller kognitive funktionsnedsættelser ved at automatisere vigtige aktiviteter og tjenester, såsom at åbne og lukke døre, eller kontakte læger.

Sådanne systemer kan give folk øget autonomi i deres hjem. For eksempel, i Boulder, Colorado, Forestille! Smart Homes er udstyret med smart home-systemer, så mennesker med kognitive handicap "kan forblive i mere uafhængige og naturlige omgivelser." Interviews med ældre brugere tyder på, at teknologier, der overvåger en persons helbred og bevægelse rundt i hjemmet, kan hjælpe folk med at "ælde på stedet."

Allestedsnærværende overvågning og sikkerhedsproblemer

Mens smart home-teknologier kan give en følelse af komfort og sikkerhed for nogle brugere, der kan også være sikkerhedsrisici forbundet med en mikrofon, der altid er tændt.

Smart home-systemer er en del af en større suite af enheder, apps, websteder og rum, der samler, samle og analysere personlige data om brugere. Forskere kalder dette "allestedsnærværende overvågning, " hvilket betyder "det bliver stadig sværere at undslippe ... dataindsamling, opbevaring, og sortering. "

Smarte enheder kræver data – dine og andres – for at tjene dig godt. For at få de fulde fordele ved smarte hjemmesystemer, brugere skal dele deres placeringer, rutiner, smag i musik, shopping historie og så videre. På den ene side, en velforbundet enhed kan styre dit digitale liv ganske godt.

På den anden side, at give så mange personlige oplysninger gavner virksomheder som Amazon. Efterhånden som de får adgang til brugernes personlige oplysninger, de kan tjene penge på det i form af målrettede annoncer eller indsamle og sælge dine personlige egenskaber, selvom det er adskilt fra dit navn eller din adresse. Måske er det derfor, Wired magazine siger:"Amazons næste store virksomhed sælger dig." Ikke alle virksomheder har de samme privatlivspolitikker. Apple siger, at det ikke vil sælge sine brugeres personlige oplysninger til andre. Stadig, potentielle brugere bør beslutte, hvor meget af deres intime liv de er villige til at dele.

Smarte hjem kommer med større sikkerhedsproblemer. Usikrede enheder forbundet til "tingenes internet" kan være mål for hackere. Adgang til smarte enheder kan give hackere en kilde til nyttige data, herunder oplysninger om, hvornår brugerne er hjemme – eller ej. Derudover smarte objekter kan bruges i det skjulte til uhyggelige formål. I 2016 Mirai-botnettet kommanderede intetanende brugeres IoT-enheder til brug i et distribueret denial-of-service-angreb.

Der er en anden, måske mindre spændende, risiko:Enheder med altid tændte mikrofoner kan ikke altid se, hvem der taler. For nylig, Alexa-brugere rapporterede, at deres børn bestilte uønskede varer fra Amazon. Andre bemærkede, at baggrundslyde, som fjernsynet, foranlediget uautoriserede køb. Disse vokaludløsere - kaldet "falske positiver", når de beder enheder om at gøre noget uventet eller uønsket - har ført til, at brugerne ubevidst har delt private samtaler med andre.

I begyndelsen af ​​2018 Amazon Echo-brugere blev tvunget til at konfrontere disse sikkerhedsrisici, da Alexa begyndte at grine, tilsyneladende uopfordret. Selvom Amazon senere sagde, at grinet var et uheldigt falsk positivt svar på samtaler i nærheden, latteren fik nogle brugere til at genoverveje at lukke Alexa ind i deres mest intime rum.

Objekter som mennesker

Bortset fra potentielle overvågnings- og sikkerhedsproblemer, brugere skal overveje konsekvenserne af menneskelignende virtuelle assistenter i smarte enheder. Det er ikke tilfældigt, at Siri, Alexa, Cortana og nu Erica, Bank of Americas digitale assistent, er kønsbestemt feminine – og ikke kun deres stemmer. Historisk set, kvinder blev tildelt opgaver i forbindelse med deres roller som mor eller kone. Efterhånden som kvinder kom ind på arbejdsstyrken, de fortsatte med at udføre disse roller i "pink collar jobs."

Siri og Alexa udfører lignende opgaver, tage sig af brugerne og samtidig tilbyde administrativ support. Nogle anser endda Alexa for at være en medforælder.

Min forskning viser, at kønsbestemmelse af virtuelle assistenter inviterer brugerne til at engagere sig med smarte enheder, fordi de er velkendte og komfortable. Nogle brugere kan være villige til at dele mere intime detaljer om sig selv på trods af sikkerheds- eller overvågningsrisici. Ultimativt, folk kan blive afhængige af enheder, som styrker dem, der ejer dataene, der er indsamlet fra enheder, der altid er tændt i hjemmet.

Brugere af smartenheder skal afveje de betydelige bekvemmeligheder ved en enhed med en mikrofon, der altid er tændt, mod de væsentlige bekymringer. Nogle af disse bekymringer - sikkerhed og overvågning - er pragmatiske. Andre – om hvorvidt enheder skal have et køn – er afgjort mere filosofiske. Den nederste linje er denne:Når folk beder enheder om at handle for dem, de skal være villige til at leve med det – eller hvem – der er på den anden side.

Denne artikel blev oprindeligt publiceret på The Conversation. Læs den originale artikel.