Googles Duplex skal have en advarsel, siger ekspert i kunstig intelligens

Googles demonstration af kunstig intelligens var morsom, men rejste et vigtigt spørgsmål:har du ret til at vide, at du taler til en maskine?

Google overraskede os alle i denne uge med introduktionen af ​​sit nye kunstige intelligenssystem, Google Duplex.

I modsætning til Siri, Alexa og andre AI-assistenter, systemet taler som et overbevisende menneske. Hvad mere er, det er designet til at foretage telefonopkald på dine vegne, såsom at bestille bord på en restaurant eller en aftale i en frisørsalon.

"Jeg synes, AI Duplex er en fed teknologi, " UNSW Canberra kunstig intelligens ekspert og SEIT professor Hussein Abbass siger.

"Jeg vil bestemt ikke spilde min tid på at ringe for at bestille en restaurant eller en frisør."

En samtale med Duplex flows, "ums" og "mmm-hmms" er smidt ind for en god ordens skyld, og det er sandsynligt, at personen i den modtagende ende ikke aner, at de taler til en maskine.

Og for mange udgør dette en etisk bekymring. Skal Duplex præsentere sig selv som en robot?

Professor Abbass siger, det burde.

"Nøglepunktet her er, at det skal identificere sig selv, " siger professor Abbass.

"I videoen, AI Duplex sagde, at det ringer på vegne af en klient. Mennesket på den anden side af linjen bad det aldrig om at identificere sig selv. Hvis AI Duplex bruger et menneskenavn for at vinde menneskelig tillid, så er der helt klart et element af bedrag, og AI'en ville handle uetisk.

"Hvis AI Duplex identificerer sig selv som en automatiseret robot eller lignende, så vil det være op til mennesket at beslutte, om han/hun ønsker at fortsætte samtalen."

Professor Abbass siger, at AI Duplex indsamler menneskelige stemmesignaturer, der fortsat træner robotten, og selv dens egen stemme ser ud til at være en syntese af en eller flere menneskelige stemmer.

"Disse mennesker skal være mere bevidste om, hvordan deres data bliver brugt, og de skal give udtrykkeligt samtykke til indsamling af data og til den påtænkte brug af dataene, " han siger.

Hvis vi kan stole på, at Duplex laver vores frisøraftaler, kan vi også stole på, at den foretager et nødopkald? Professor Abbass siger, at dette kan have sine fordele og ulemper.

"En bilassistent kunne ringe til ambulancen i tilfælde af en nødsituation som en ulykke, og i dette tilfælde, det er en livreddende teknologi, " han siger.

"Hvis det bliver misbrugt, så som enhver teknologi, når det misbruges, er det en upassende handling - som endda kunne være ulovlig."

Professor Abbass siger, at teknologien har en lang vej at gå, før den er i stand til at opretholde lange menneskelige diskussioner.

"Alligevel, denne teknologi er et glimrende eksempel på, hvorfor teknologien skal være etisk bevidst. Hvis et menneske beder om hjælp til at foretage et upassende opkald, AI Duplex burde sige "nej", " tilføjer han.