Den mørke side af Alexa, Siri og andre personlige digitale assistenter

For et par korte år siden, personlige digitale assistenter som Amazons Alexa, Apples Siri og Google Assistant lød futuristisk. Nu, fremtiden er her, og denne fremtid er indlejret, forstærket og allestedsnærværende.

Digitale assistenter kan findes på dit kontor, hjem, bil, Hotel, telefon og mange andre steder. De har for nylig gennemgået massiv transformation og kørt på operativsystemer, der er drevet af kunstig intelligens (AI). De observerer og indsamler data i realtid og har evnen til at hente oplysninger fra forskellige kilder som f.eks. Smarte enheder og cloud-tjenester og sætte oplysningerne i kontekst ved hjælp af AI for at give mening om situationen. Selvom vi er nået langt i design og udførelse af disse AI -teknologier, der er stadig mere arbejde på denne arena.

Mange af de data, som disse digitale assistenter indsamler og bruger, omfatter personlige, potentielt identificerbare og muligvis følsomme oplysninger. Kan Alexa eller andre personlige digitale assistenter krænke vores datas privatliv og sikkerhed? Eventuelt. Der er en mørk side ved disse virtuelle assistenter.

Min ekspertise er inden for databeskyttelse, datastyring og kunstig intelligens. Jeg var tidligere informations- og fortrolighedsofficer hos Ontario Information and Privacy Commissioner's Office.

Indbydende service

Forestil dig følgende situation.

Du venter nogle gæster forbi. Din første gæst ankommer, og det udendørs sikkerhedskamera på din veranda fanger hende gående op til dit hjem. En høflig stemme byder hende velkommen og låser døren op. Når hun er inde, din digitale assistent forklarer din gæst, at du er på vej og snart er hjemme. Gennem dit hjemmelydsystem, din digitale assistent spiller et udvalg af din gæsts yndlingssange (fra dit Spotify -vennens netværk). Din digitale assistent spørger din gæst, om græskarkrydderi stadig er hendes foretrukne kaffesmag, eller om hun foretrækker andre:fransk vanilje eller colombiansk. Kort efter, din gæst henter kaffen fra den digitale kaffemaskine. Velkomstopgaverne nu afsluttet, din digitale assistent bliver tavs, og mens jeg venter på dig, din gæst foretager et par telefonopkald.

Det er fascinerende, hvordan en digital assistent nøjagtigt og autonomt kan validere identiteten af ​​din gæst, vælg hendes yndlingssange, husk hendes foretrukne kaffesmag og administrer de smarte apparater i dit hus.

Værtsassistenter

Men bekymrer din digitale assistents adfærd dig?

Digitale assistenter kan optage vores samtaler, billeder og mange andre følsomme personlige oplysninger, herunder placering via vores smartphones. De bruger vores data til maskinlæring til at forbedre sig selv over tid. Deres software er udviklet og vedligeholdt af virksomheder, der konstant tænker på nye måder at indsamle og bruge vores data på.

Ligesom andre computerprogrammer, det grundlæggende problem med disse digitale assistenter er, at de er sårbare over for tekniske og procesfejl. Digitale assistenter kan også blive hacket eksternt, resulterer i brud på brugernes privatliv.

For eksempel, et par fra Oregon måtte tage deres Alexa -enhed ud af stikkontakten, Amazons virtuelle assistent, da deres private samtale blev optaget og sendt til en af ​​deres venner på deres kontaktliste.

I en anden hændelse, en tysk mand ved et uheld fik adgang til 1, 700 Alexa -lydfiler tilhørende en fuldstændig fremmed. Filerne afslørede personens navn, vaner, job og andre følsomme oplysninger.

Bevidsthedsrettigheder

Stigende popularitet og tilgængelighed af personlige digitale assistenter har resulteret i en udvidelse af det såkaldte digitale skel. Det interessante paradoks er, at personer, der er bevidste om og følsomme over for spørgsmål om privatlivets fred, typisk begrænser deres brug af digitale værktøjer, mens brugere, der er mindre tilbøjelige til at beskytte deres privatliv i vid udstrækning, inkorporerer personlige assistenter i deres digitale liv.

Digitale assistenter registrerer enten data kontinuerligt eller venter på, at et ord "vågner" eller bliver aktiveret. De begrænser ikke dataindsamling til ejernes eller autoriserede brugeres oplysninger. Personlige digitale assistenter kan indsamle og behandle ikke -godkendte brugeres personlige data, som deres stemmer.

I det digitalt opdelte samfund, en person, der er fortrolig med fortrolighed, ikke ville invitere sådant udstyr ind i deres liv, mens andre kan acceptere eller rationalisere sådan adfærd.

Respekt for andres privatliv

I denne tidsalder med allestedsnærværende enheder og internetadgang, hvordan skal vi håndtere dette paradoks og respektere hinandens rum og valg?

Lad os besøge vores imaginære personlige digitale assistent igen. Det skulle behandle forskellige informationskilder om gæsten for at fungere som en smart vært. Brugte den digitale assistent alle disse data til at fodre algoritmerne eller til at invadere gæstens privatliv? Afhængigt af hvem du spørger, svaret vil være anderledes.

Vores etikettebevidste opvækst fortæller os, at vi har et socialt og etisk ansvar for at respektere hinandens værdier, når det kommer til digitale teknologier. Men konsekvenserne og væksten af ​​disse teknologier har været så betydelige og hurtige, at vi endnu ikke har været i stand til at redefinere vores sociale normer og forventninger.

For eksempel, som vært, har vi en etisk forpligtelse over for vores gæster til at informere dem om vores personlige digitale assistent? Er det høfligt for en hjemmebesøgende at bede værten om at slukke for deres digitale værktøjer? Skal vi spørge om tilstedeværelsen af ​​smarte værktøjer og digitale assistenter, inden vi ankommer til en vens hus, et hotel eller en AirBnB?

Svaret på disse spørgsmål er ja, ifølge etikettekspert Daniel Post Senning. Senning forklarer, at etikette er mest kraftfuld, når du bruger den som et værktøj til selvvurdering. Vil vi gerne blive informeret om, at vi bliver optaget i et forretningsmøde eller en privat sammenkomst? Eller hvordan foretrækker vi at blive bedt om at slukke digitale værktøjer, hvis vi er vært? Etikettereglerne er universelle:at være hensynsfuld, ærlig og venlig.

Informer dine kolleger og gæster om, at dine digitale enheder kan optage deres stemmer, billeder eller andre oplysninger. Bed din vært om at slukke for digitale assistenter, hvis du ikke er tryg ved at have dem i nærheden. Men vær hensynsfuld. Du vil måske ikke bede din vært om at slukke digitale assistenter i nærvær af en, der er ældre eller har et handicap og er afhængig af disse værktøjer.

Bevarelse af vores kollektive privatliv

Fortrolighed er en social norm, som vi skal samarbejde om at opretholde. Først og fremmest, vi er nødt til at uddanne os selv om cybersikkerhed og potentielle risici ved digitale teknologier. Vi bør også være proaktive med at holde os ajour med de seneste nyheder om teknologier og tage handlinger, når det er påkrævet.

Regeringens rolle i dette komplekse paradigme er kritisk. Vi har brug for stærkere fortrolighedslove for at løse problemer med fortrolighed i forbindelse med personlige digitale assistenter. Lige nu, virksomheder som Amazon, Google og Apple laver reglerne.

Andre jurisdiktioner har udviklet og implementeret regler såsom Europas generelle databeskyttelsesforordning (GDPR), der sørger for tilsyn med dataindsamling for en lang række forskellige husholdningsapparater. Canada burde følge trop.

Denne artikel er genudgivet fra The Conversation under en Creative Commons -licens. Læs den originale artikel.