Fortrolighed i fortrolighedsspørgsmål kaster sky over digitale assistenter

En række fejl i privatlivets fred i de seneste måneder har givet anledning til nye bekymringer over fremtiden for stemmestyrede digitale assistenter, et marked i vækst set af nogle som den næste grænse inden for computing.

Nylige hændelser, der involverede Google, Apple og Amazon -enheder understreger, at trods stærk vækst på markedet for smarte højttalere og enheder, mere arbejde er nødvendigt for at forsikre forbrugerne om, at deres data er beskyttet, når de bruger teknologien.

Apple sagde i denne uge, at det suspenderede sit "Siri -gradering" -program, hvor folk lytter til uddrag af samtaler for at forbedre stemmegenkendelsesteknologien, efter at den britiske avis Guardian rapporterede, at entreprenørerne hørte fortrolige medicinske oplysninger, kriminelle handlinger og endda seksuelle møder.

"Vi er forpligtet til at levere en fantastisk Siri -oplevelse og samtidig beskytte brugerens privatliv, "Apple sagde i en erklæring, tilføjer, at det ville give forbrugerne mulighed for at tilmelde sig denne funktion i en fremtidig softwareopdatering.

Google sagde i mellemtiden, at det ville stoppe med at lytte til og transskribere samtaler i EU fra sin Google Assistant i kølvandet på en privatlivsundersøgelse i Tyskland.

Amazon, som også har erkendt, at den bruger menneskelige assistenter til at forbedre den kunstige intelligens af sine Alexa-drevne enheder, for nylig annonceret en ny funktion, der gør det lettere at slette alle registrerede data.

De seneste sager kan give forbrugerne indtryk af, at nogen "lytter" til deres samtaler, selvom det sjældent er sandt.

"Fra et teknologisk perspektiv er det ikke overraskende, at disse virksomheder bruger mennesker til at kommentere disse data, fordi maskinen ikke er god nok til at forstå alt, "sagde Florian Schaub, en professor ved University of Michigan med speciale i interaktion mellem mennesker og computere, som har forsket i digitale assistenter.

"Problemet er, at folk ikke forventer det, og det kommunikeres ikke gennemsigtigt."

Carolina Milanesi, en teknologianalytiker med Creative Strategies, enige om, at mennesker er nødvendige for at forbedre teknologien.

"Folk har en lidt urealistisk forventning om, at disse assistenter ved magi bare bliver bedre i sidste ende, at de kan lave maskinlæring og blive bedre på egen hånd, men lige nu er vi stadig i begyndelsen af ​​AI, og menneskelig indgriben er stadig vigtig, " hun sagde.

Ifølge forskningsfirmaet eMarketer, næsten 112 millioner mennesker-en tredjedel af den amerikanske befolkning-vil bruge en stemmeassistent mindst månedligt på enhver enhed, med mange, der bruger AI-drevne enheder til søgninger, musik og nyheder eller information.

En Microsoft -undersøgelse i år af forbrugere i fem lande viste, at 80 procent var tilfredse med deres erfaring med digitale assistenter. Men 41 procent af de adspurgte sagde, at de havde bekymringer om privatlivets fred, tillid og passiv lytning.

Ubegrundet frygt?

Nogle af fortrolighedsfrygtene omkring smarte højttalere er baseret på falske antagelser, analytikere bemærker.

Enhederne registrerer eller sender ikke oplysninger, før de er "aktiveret" med et søgeord eller en sætning som f.eks. "Hey, Siri "eller" Alexa ".

Men "der er altid en risiko for falsk aktivering, "Bemærkede Schaub.

"Du er nødt til at stole på enheden og det firma, der fremstiller enheden, som mikrofonen kun behandler lokalt, indtil aktiveringsordet høres."

Ryan Calo, fakultets meddirektør for University of Washington Tech Policy Lab, sagde, at mens enhederne ikke lytter, der er stadig bekymringer om adgang til samtaler.

"Hvis medarbejdere hører ting, de ikke burde have adgang til, det er virkelig et rødt flag, det er en dårlig praksis, "Sagde Calo.

Kogning af frøen

Calo sagde, at bekymringerne om privatlivets fred omkring digitale assistenter sandsynligvis vil vokse, når enhederne udvider deres muligheder.

"Jeg bekymrer mig om en tendens, hvor disse systemer begynder at lytte efter mere end bare din bekræftende kommando - det kan lytte efter glasskader eller tegn på nød, eller en baby græder. Pludselig lytter systemet efter alle slags ting, og frøen koges ved trinvis opvarmning af vandet, " han sagde.

Calo udtrykte også bekymring for, at enheder kan tændes eksternt, en potentiel trussel mod borgerlige rettigheder.

"Hvis lovhåndhævelse får en kendelse, det kan gøre dit ekko til en lytteenhed, " han sagde.

Schaub sagde, at forbrugerne også er bekymrede over, at data fra enhederne kan bruges til annoncemålretning.

"Folk vil have disse fordele, men uden at deres data skal bruges mod dem, " han sagde.

Stadig, lokket af digitale assistenter vil betyde, at markedet sandsynligvis vil fortsætte med at vokse.

Schaub sagde, at en måde at forsikre forbrugerne på ville være at bygge privatlivsfunktioner direkte ind i stemmekommandoer, så brugerne kan forstå, hvordan deres data bruges og træffe bedre valg.

"Virksomheder bør se dette som en mulighed for at interagere med kunderne om, hvordan de beskytter dem, " han sagde.

© 2019 AFP