Hvad sker der, når robotterne lyder for meget som mennesker?

Kunstig intelligens har en ny udfordring:Om og hvordan man advarer folk, der måske ikke ved, at de taler med en robot.

På tirsdag, Google viste en computerassistent frem, der foretager overbevisende menneskeklingende telefonopkald, i hvert fald i sin forudindspillede demonstration. Men de rigtige mennesker i disse opkald syntes ikke at være klar over, at de talte til en maskine. Det kan give vanskelige problemer for den fremtidige brug af kunstig intelligens.

Blandt dem:Er det fair – eller endda lovligt – at narre folk til at tale med et AI-system, der effektivt optager alle dets samtaler? Og mens Googles demonstration fremhævede den godartede brug af samtalerobotter, hvad sker der, når spammere og svindlere får fat i dem?

Googles administrerende direktør Sundar Pichai vakte jubel i tirsdags, da han demonstrerede den nye teknologi, kaldet Duplex, under virksomhedens årlige konference for softwareudviklere. Assistenten tilføjede pauser, "ums" og "mmm-hmms" til sin tale for at lyde mere menneskelig, da den talte med rigtige medarbejdere på en frisørsalon og en restaurant.

"Det er meget imponerende, men det kan klart føre til mere uhyggelig brug af denne type teknologi, " sagde Matthew Fenech, der forsker i de politiske implikationer af AI for den London-baserede organisation Future Advocacy. "Evnen til at opfange nuancer, den menneskelige brug af yderligere små sætninger - disse slags signaler er meget menneskelige, og tydeligvis vidste personen i den anden ende det ikke."

Fenech sagde, at det ikke er svært at forestille sig slem brug af lignende chatbots, såsom spamvirksomheder, at snyde seniorer eller foretage ondsindede opkald ved at bruge stemmer fra politiske eller personlige fjender.

"Du kan have potentielt meget destabiliserende situationer, hvor folk bliver rapporteret som at sige noget, de aldrig har sagt, " han sagde.

Pichai og andre Google-ledere forsøgte at understrege, at teknologien stadig er eksperimentel, og vil blive rullet ud forsigtigt. Den er endnu ikke tilgængelig på forbrugerenheder.

"Det er vigtigt for os, at brugere og virksomheder får en god oplevelse med denne service, og gennemsigtighed er en vigtig del af det, " Googles ingeniører Yaniv Leviathan og Yossi Matias, som hjalp med at designe den nye teknologi, skrev i et tirsdags blogindlæg. "Vi ønsker at være tydelige omkring hensigten med opkaldet, så virksomheder forstår konteksten. Vi vil eksperimentere med den rigtige tilgang i løbet af de kommende måneder."

Det er uklart, hvordan virksomheden vil navigere i eksisterende telekommunikationslove, som kan variere fra stat eller land. Google returnerede ikke umiddelbart en anmodning om kommentar onsdag om, hvordan det planlægger at søge samtykke fra folk, der ringes til af sine bots.

En medejer af en frisørsalon i San Francisco Bay Area, der var nedladende for nogle Google-medarbejdere, var lidt skræmt over konsekvenserne af privatlivets fred.

"Det virker som noget, der ville være nyttigt for vores kunder, " sagde Katherine Esperanza, medejer af Slick &Dagger barbershop i Oakland, Californien. Esperanza, imidlertid, spekulerede på, om butikken ville være i stand til at blokere opkaldene, og sagde, at det "skaber spørgsmålet om, hvorvidt samtalen er optaget, og om modtageren af ​​disse automatiske opkald kan være klar over, at de bliver optaget."

Anti-aflytningslove i Californien og flere andre stater gør det allerede ulovligt at optage telefonopkald uden samtykke fra både den, der ringer op og den person, der bliver ringet op. Federal Communications Commission har også kæmpet med regler for robocalls, de uopfordrede og automatiske opkald foretaget af telefonsælgere.

Sådanne opkald er typisk forudindspillede monologer, men flere virksomheder og organisationer anvender maskinlæringsteknikker til at besvare en persons spørgsmål med en naturligt klingende samtale, i håb om, at de vil være mindre tilbøjelige til at lægge på.

© 2018 The Associated Press. Alle rettigheder forbeholdes.