Menneskeklart Google Assistant fremkalder etiske spørgsmål

Den nye Google digitale assistent konverterer så naturligt, at det kan virke som en rigtig person.

Afsløringen af ​​den naturligt klingende robo-assistent af techgiganten i denne uge begejstrede nogle observatører, men efterlod andre bekymrede over etikken i, hvordan den menneskelige software kunne bruges.

Google -chef Sundar Pichai spillede en optagelse af Google Assistant, der uafhængigt ringede til en frisørsalon og en restaurant for at foretage bookinger - interagere med personale, der åbenbart ikke var klar over, at de havde at gøre med software til kunstig intelligens, frem for en rigtig kunde.

Bed Google Assistant om at bestille bord til fire kl. 18.00, det har en tendens til telefonopkaldet med en menneskelydende stemme komplet med "taleforstyrrelser" såsom "ums" og "uhs."

"Det er, hvad folk ofte gør, når de samler deres tanker, "Google -ingeniører Yaniv Leviathan og Yossi Matias sagde i et Duplex -blogindlæg.

Google Assistant kunstig intelligens forbedret med "Duplex" -teknologi, der lader den engagere sig som en rigtig person i telefonen, var en overraskelse og, for nogle foruroligende, stjerne på internetgigantens årlige udviklerkonference i denne uge i hjembyen Mountain View, Californien.

Den digitale assistent var også programmeret til at forstå, hvornår man hurtigt skulle reagere, f.eks. efter at nogen sagde "hej, "versus at holde pause som en person måske, før han besvarer komplekse spørgsmål.

Google fremhævede den forbedrede assistent som en potentiel velsignelse for travle mennesker og små virksomheder, der mangler websteder, som kunder kan bruge til at lave aftaler.

"Vores vision for vores assistent er at hjælpe dig med at få tingene gjort, "Pichai fortalte de cirka 7, 000 udviklere ved Google I/O -konferencen, sammen med et online publikum, der så hans streamede præsentation tirsdag.

Google tester forbedringen af ​​digital assistent i de kommende måneder.

Realistiske robocallers

Duplex-demonstrationen blev hurtigt fulgt op af debat om, hvorvidt folk, der svarer på telefoner, skal fortælle, når de taler til software, der lyder fra mennesker, og hvordan teknologien kan blive misbrugt i form af mere overbevisende "robocalls" af marketingfolk eller politiske kampagner.

"Google Duplex er den mest utrolige, frygtindgydende ting ud af #IO18 indtil nu, "tweetede Chris Messina, en produktdesigner, hvis CV indeholder Google og bringer ideen om hashtagget til Twitter.

Google Duplex er en vigtig udvikling og signalerer et presserende behov for at finde ud af korrekt styring af maskiner, der kan narre folk til at tro, at de er mennesker, ifølge Kay Firth-Butterfield, leder af AI og machine learning -projektet ved World Economic Forums Center for den Fjerde Industrielle Revolution.

"Disse maskiner kunne kalde på politiske partiers vegne og komme med stadig mere overbevisende anbefalinger til afstemning, "Firth-Butterfield ræsonnerede.

"Vil børn være i stand til at bruge disse agenter og modtage opkald fra dem?"

Digitale assistenter, der arrangerer mennesker, rejser også spørgsmålet om, hvem der er ansvarlig for fejl, såsom et udeblivelses- eller afbestillingsgebyr for en aftale, der er indstillet til det forkerte tidspunkt.

I en tid med øget bekymring for online privatliv, der blev også udtrykt bekymringer om, hvilken slags data digitale assistenter måtte indsamle, og hvem der får adgang til det.

"Min fornemmelse er, at mennesker generelt ikke har noget imod at tale med maskiner, så længe de ved, at de gør det, "læs et indlæg krediteret Lauren Weinstein i et chatforum under Duplex -blogindlægget.

En række kommentarer på Twitter hævdede, at der var et etisk brud på ikke at lade folk vide, at de talte med software.

"Hvis du er vokset op med at se 'Star Trek TNG' som mig, har du sandsynligvis betragtet naturlige stemmeinteraktioner med computere som en ting i fremtiden, "læs et indlæg af Andreas Schafer i blogchatforummet.

"Godt, det ser ud til, at fremtiden er her. "

© 2018 AFP