At lære chatbots, hvordan man gør det rigtige

I denne tidsalder med information - og misinformation - udfordrer teknologiske fremskridt os til at genoverveje, hvordan sprog fungerer.

Tag samtale chatbots, for eksempel. Disse computerprogrammer efterligner menneskelig samtale via tekst eller lyd. Madrasfirmaet Casper skabte Insomnobot-3000 for at kommunikere med mennesker, der har søvnforstyrrelser. Det giver dem, der har problemer med at sove, mulighed for at tale med "nogen", mens alle andre sover.

Men Insomnobot-3000 chatter ikke kun med sine brugere, besvare spørgsmål. Det har til formål at mindske den ensomhed, som lider af søvnløshed. Dens ord har potentiale til at have en indflydelse på den menneskelige bruger.

På det mest basale, sprog gør ting med ord. Det er en form for handling, der gør mere end blot at angive fakta.

Denne ret ligefremme observation blev lavet i 1950'erne af en obskur og lidt excentrisk Oxford University filosof, John Langshaw Austin. I sin bog, Sådan gør du ting med ord , Austin udviklede begrebet performativt sprog.

Det Austin mente var, at sproget ikke kun beskriver ting, den "performer". For eksempel, hvis jeg siger, at jeg testamenterer min bedstemors perlekæde til min datter, Jeg gør mere end blot at beskrive eller rapportere noget. Jeg laver en meningsfuld handling.

Austin klassificerede også tale i tre dele:Betydning, brug og påvirkning. Hans undersøgelse og resultater om sprog blev kendt som tale-handlingsteori. Denne teori var vigtig ikke kun i filosofien, men også på andre områder som jura, litteratur og feministisk tankegang.

En recept til chatbot-industrien

Med det i tankerne, hvad kan Austins teori fortælle os om nutidens samtale-chatbots?

Min forskning fokuserer på krydsfeltet mellem jura og sprog, og hvad Austins teori har at sige om vores forståelse af, hvordan kreativt maskineri ændrer traditionelle samfundsmæssige operationer, såsom AI, der skriver romaner, robo-reportere, der skriver nyhedsartikler, massive åbne onlinekurser (MOOC'er), der erstatter klasseværelser og professorer ved hjælp af essay-graderingssoftware.

Den nuværende chatbot-teknologi er fokuseret på at forbedre chatbots' evne til at efterligne betydningen og brugen af ​​tale. Et godt eksempel på dette er Cleverbot.

Men chatbot-industrien bør fokusere på det tredje aspekt af Austins teori - at bestemme virkningen af ​​chatbot-talens tale på den person, der bruger den.

Sikkert, hvis vi er i stand til at lære chatbots at efterligne betydningen og brugen af ​​menneskelig tale, skal vi også være i stand til at lære dem at efterligne dens virkning?

At lære at føre en samtale

De seneste chatbots er afhængige af banebrydende maskinlæring, kendt som deep learning.

Machine learning er en applikation af AI, der kan lære uden menneskelig hjælp. Dyb læring, som er modelleret efter netværket af neuroner i den menneskelige hjerne, tager maskinlæring endnu længere. Data føres ind i dybe kunstige neurale netværk, der er designet til at efterligne menneskelig beslutningstagning.

Chatbots, der er designet med denne neurale netværksteknologi, papegøjer ikke bare, hvad der bliver sagt, eller producerer dåsesvar. I stedet, de lærer at føre en samtale.

Chatbots analyserer enorme mængder af menneskelig tale, og tag derefter beslutninger om, hvordan du svarer efter at have vurderet og rangordnet, hvor godt mulighederne afspejler den tale. Men på trods af disse forbedringer, disse nye bots lider stadig af lejlighedsvis faux pas, da de hovedsageligt koncentrerer sig om betydningen og brugen af ​​deres tale.

Tidligere chatbots var langt værre. På mindre end 24 timer efter at blive udgivet på Twitter i 2016, Microsofts chatbot, et AI-system kaldet Tay (en forkortelse dannet af "Thinking About You") og modelleret efter en teenagepiges sprogmønstre, havde mere end 50, 000 følgere og havde produceret over 100, 000 tweets.

Da Tay hilste verden, hendes første tweets var uskyldige nok. Men så begyndte hun at efterligne sine følgere.

Hun blev hurtigt racist, sexistisk og direkte usmagelig chatbot. Microsoft blev tvunget til at tage hende offline.

Tay havde været helt afhængig af de data, der blev leveret til hende - og, vigtigere, på de mennesker, der lavede og formede disse data. Hun forstod ikke, hvad de menneskelige brugere "lavede" med sproget. Hun forstod heller ikke virkningerne af hendes tale.

At lære chatbots det forkerte

Nogle forskere mener, at jo flere data chatbots indsamler, jo mindre fornærmelse vil de forårsage.

Men at tage højde for alle mulige svar på et givent spørgsmål kan tage lang tid eller stole på en masse computerkraft. Plus, denne løsning med at indsamle flere data om betydning og brug er egentlig bare historie, der gentager sig selv. Microsofts "Zo, "en efterfølger til Tay, kæmper stadig med svære spørgsmål om politik.

Enkelt sagt, chatbot-industrien er på vej i den forkerte retning - chatbot-industrien lærer chatbots det forkerte.

Transformative chatbots

En bedre chatbot ville ikke kun se på betydningen og brugen af ​​ord, men også konsekvenserne af, hvad der står.

Tale fungerer også som en form for social handling. I hendes bog Kønsproblemer , filosoffen Judith Butler så på sprogets performativitet, og hvordan det øger vores forståelse af køn. Hun så køn som noget, man gør, snarere end noget, man er - at det er konstrueret gennem daglig tale og fagter.

Samtale chatbots er beregnet til forskellige målgrupper. At fokusere på effekten af ​​tale kunne forbedre kommunikationen, da chatbotten også ville være optaget af virkningen af ​​dens ord.

I en teknologiindustri udfordret af dens mangel på mangfoldighed og inklusivitet, sådan en chatbot kunne være transformativ, som Butler har vist os i konstruktionen af ​​køn.

Der er, selvfølgelig, et forbehold. Fokus på sprogets indvirkning er det definerende træk ved fup, propaganda og misinformation - "falske nyheder" - en bevidst konstrueret talehandling, kun handler om at opnå effekt. Uanset dens form, falske nyheder efterligner blot journalistik og er kun skabt for at opnå en effekt.

Austins teori om performativitet i sprog hjalp os med at finde ud af, hvordan vi taler til hinanden.

Chatbotindustrien bør nu koncentrere sin indsats om virkningen af ​​tale, ud over det allerede udførte arbejde med ordenes betydning og brug. For en chatbot kan kun være ægte samtale, hvis den engagerer sig i alle aspekter af en talehandling.

Denne artikel blev oprindeligt publiceret på The Conversation. Læs den originale artikel.