Ligesom HAL, din stemmeassistent virker ikke for dig, selvom det føles som om det er det

Af alle de fiktive virtuelle assistenter, vi kender fra popkulturen, få står op til originalen og måske mest berømte:HAL 9000 fra Stanley Kubrick -filmen fra 1968 2001:A Space Odyssey.

Det skal vi nok være taknemmelige for. Trods alt, Alexa kan slukke dine lys, men hun vil ikke vende sig mod dig og ødelægge dit liv. Eller vil hun?

Amazon Alexa, Samsung Bixby, Google Assistant, Apple Siri, Microsofts Cortana, IBM Watson og andre virtuelle assistenter annonceres som en krydsning mellem din ven, din tjener, din hjælpsomme ledsager og sidemand.

HAL præsenterer os noget mere uhyggeligt, men måske mere realistisk. Mens teknologivirksomheder skubber virtuelle assistenter som en integreret del til et bedre, lettere liv, 2001:En Space Odyssey spørger:til hvilken pris?

Filmen illustrerer, at de teknologiske økosystemvirksomheder virkelig konkurrerer om at eje - en hvor vi handler med vores privatliv for små bekvemmeligheder.

'Jeg vil gerne hjælpe dig' – HAL

I 2001:A Space Odyssey, HAL introduceres for besætningen på et rumskib som en af ​​dem. Men med kognitive evner langt ud over hans menneskelige ledsagere, HAL er allestedsnærværende – og indlejret i teknologien, der holder besætningen i live.

Besætningen stoler på HAL, undgår privatlivets fred af hensyn til hans hjælp til at kontrollere hele skibet. Det går ikke op for dem, at de mennesker, der designede HAL, måske ikke havde haft besætningens bedste interesser på hjerte. Eller at HAL's loyalitet er til Mission Control og, udover det, hans programmering.

Ligeledes, selvom det er klart, at funktionen af ​​moderne virtuelle assistenter er drevet af profit, det er ikke indlysende for den gennemsnitlige forbruger, præcis hvordan deres tilstedeværelse bliver tjent med penge. Forbrugerne er måske mere uddannede om deres online privatliv i disse dage, men konsekvenserne af den virtuelle verden, der trænger sig ind i det fysiske, har ikke korrekt gennemsyret den offentlige bevidsthed.

At lade en maskine registrere dig 24/7 i bytte for bekvemmelighed er en høj pris at betale. Det ser måske ikke sådan ud, fordi virtuelle assistenter bærer den glorie af tillid, der er tjent med de andre tjenester, de er kendt for - Googles søgning er uden sidestykke, og Amazons detailoplevelse fører den globale markedsplads.

Ligesom HAL, disse maskiner behandler utrolige mængder data. Så meget, at selv deres skabere ikke er helt sikre på deres evner, eller hvordan de vil nå deres mål. Den kommercielle fordel ved virtuelle assistenter ligger i deres evne til at forudsige din adfærd gennem det, de fanger, og skabe muligheder for transaktioner. Minedrift af store data til forudsigelig analyse er alt raseri i erhvervslivet.

Så, mens virksomheder markedsfører virtuelle assistenter som din "assistent", de er faktisk din "analytiker".

'Jeg kunne se dine læber bevæge sig' - HAL

I 2001:A Space Odyssey, besætningen har tydeligvis aldrig læst HAL "Quick Start Guide". De vidste ikke, at han kunne lyve, og de var også uvidende om, at han kunne læse læber. Når besætningen træder ud af skibet for at have et øjeblik med privatliv, HALs kameraer kunne stadig se dem og fik kernen i deres ikke-så-private samtale. Så kom skub for at skubbe ... og godt, til sidst endte besætningen med at få skub.

En utilsigtet konsekvens af at have en virtuel assistent ved vores vink og opkald er, at den altid lytter, og det kan også være optagelse. Ingen overraskelse, det er præcis, hvad Amazon har gjort. Hvis virksomheder optager dig i dit hjem, slip ups som at sende optagelser til den forkerte person, utilsigtet frigivelse af oplysninger, eller ved et uheld at tillade nogen at lytte ind er uundgåeligt.

Åh, og hvis du mener, at du er beskyttet af vilkårene og betingelserne, du tager sandsynligvis fejl. Men det er OK – ligesom 2001:A Space Odyssey-besætningen, du forstår eller læser dem sikkert ikke alligevel.

'Jeg er bange for, at jeg ikke kan gøre det, Dave ' - HAL

Kubrick brugte 2001 til at illustrere teknologiske, fysisk og psykologisk slaveri. HAL kontrollerer først det fysiske miljø og forsøger derefter at udøve sin kontrol over det psykologiske. Hvis vi genforstiller 2001:A Space Odyssey med HAL som helten, så har han helt ret i at dræbe besætningen. Trods alt, disse irriterende mennesker er uforudsigelige, fordi de sandsynligvis vil lade deres følelser ødelægge missionen.

Hvis vi forestiller os vores liv igen med Google som helten, så er vi "assistenten", hjælpe Google med at få de data, den har brug for, for bedre at kunne overvåge og forudsige din adfærd - for aktionærer.

Heldigvis menneskeheden har stadig tid til at tilpasse sig, før maskinerne fuldt ud overtager vores liv på vegne af tech -virksomheder. Så længe folk stadig har deres papegøjer, der bestiller mad fra Amazon, vil det være klart for offentligheden, at tillid til den maskine måske ikke er en så god idé.

Stadig, kunstig intelligens forbedres i et hurtigt tempo. Til sidst bliver vi nødt til at beslutte, om forbrugernes privatliv skal sejre, og blæse den konstante overvågning ud af en luftsluse.

Denne artikel er genudgivet fra The Conversation under en Creative Commons-licens. Læs den originale artikel.