Ironimaskine:Hvorfor lærer AI-forskere computere at genkende ironi?

Hvad var din første reaktion, da du hørte om Blake Lemoine, Google-ingeniøren, der i sidste måned annoncerede, at AI-programmet, han arbejdede på, havde udviklet bevidsthed?

Hvis du ligesom mig er instinktivt mistænksom, kan det have været noget i retning af:Er denne fyr seriøs? Tror han ærligt på, hvad han siger? Eller er dette en omfattende fup?

Læg svarene på disse spørgsmål til side. Fokuser i stedet på selve spørgsmålene. Er det ikke sandt, at selv at spørge dem er at forudsætte noget afgørende ved Blake Lemoine:specifikt, han er ved bevidsthed?

Med andre ord kan vi alle forestille os, at Blake Lemoine er bedragerisk.

Og vi kan gøre det, fordi vi antager, at der er en forskel mellem hans indre overbevisning - hvad han virkelig tror - og hans ydre udtryk:hvad han hævder at tro.

Er den forskel ikke bevidsthedens mærke? Ville vi nogensinde antage det samme om en computer?

Bevidsthed:'Det svære problem'

Det er ikke for ingenting, filosoffer har taget til at kalde bevidsthed "det svære problem." Det er notorisk svært at definere.

Men for øjeblikket, lad os sige, at et bevidst væsen er et væsen, der er i stand til at have en tanke og ikke røbe den.

Dette betyder, at bevidsthed ville være forudsætningen for ironi, eller at sige én ting, mens man mente det modsatte. Jeg ved, at du er ironisk, når jeg indser, at dine ord ikke svarer til dine tanker.

At de fleste af os har denne kapacitet – og de fleste af os rutinemæssigt formidler vores uudtalte betydninger på denne måde – er noget, som jeg tror, ​​burde overraske os oftere, end det gør.

Det virker næsten diskret menneskeligt.

Dyr kan bestemt være sjove - men ikke med vilje.

Hvad med maskiner? Kan de bedrage? Kan de holde på hemmeligheder? Kan de være ironiske?

AI og ironi

Det er en sandhed, der er universelt anerkendt (i hvert fald blandt akademikere), at ethvert forskningsspørgsmål, du måtte lave med bogstaverne "AI" i, allerede bliver studeret et eller andet sted af en hær af uanstændigt ressourcestærke computerforskere - ofte, hvis ikke altid, finansieret af det amerikanske militær.

Dette er bestemt tilfældet med spørgsmålet om kunstig intelligens og ironi, som for nylig har tiltrukket en betydelig mængde forskningsinteresse.

I betragtning af at ironi involverer at sige én ting, mens man mener det modsatte, er det ikke nogen enkel opgave at skabe en maskine, der kan registrere det, endsige generere det.

Men hvis vi kunne skabe sådan en maskine, ville den have et væld af praktiske anvendelser, nogle mere skumle end andre.

I en tidsalder med online anmeldelser, for eksempel, er detailhandlere blevet meget opsatte på såkaldt "opinion mining" og "sentiment analyse", som bruger AI til at kortlægge ikke blot indholdet, men stemningen i anmelderens kommentarer.

At vide, om dit produkt bliver rost eller bliver spøgens numse, er værdifuld information.

Eller overvej moderering af indhold på sociale medier. Hvis vi ønsker at begrænse onlinemisbrug og samtidig beskytte ytringsfriheden, ville det så ikke være nyttigt at vide, hvornår nogen er seriøse, og hvornår de laver sjov?

Eller hvad hvis nogen tweeter, at de lige har sluttet sig til deres lokale terrorcelle, eller de pakker en bombe i deres kuffert og er på vej mod lufthavnen? (Du skal i øvrigt aldrig tweete det.) Tænk, hvis vi med det samme kunne afgøre, om de er seriøse, eller om de bare er "ironiske".

I betragtning af ironiens nærhed til at lyve, er det faktisk ikke svært at forestille sig, hvordan hele det skyggefulde maskineri af regerings- og virksomhedsovervågning, der er vokset op omkring nye kommunikationsteknologier, ville finde udsigten til en ironi-detektor ekstremt interessant.

Og det er en lang vej til at forklare den voksende litteratur om emnet.

AI, fra Clippy til ansigtsgenkendelse

For at forstå den nuværende forskning i AI og ironi er det nyttigt at vide lidt om AI's historie mere generelt.

Den historie er typisk opdelt i to perioder.

Indtil 1990'erne søgte forskere at programmere computere med et sæt håndlavede formelle regler for, hvordan man opfører sig i foruddefinerede situationer.

Hvis du brugte Microsoft Word i 1990'erne, husker du måske den irriterende kontorassistent Clippy, der uendeligt dukkede op for at give uønskede råd.

Siden århundredeskiftet er den model blevet erstattet af datadrevet maskinlæring og neurale netværk.

Her er enorme caches af eksempler på et givet fænomen oversat til numeriske værdier, hvorpå computere kan udføre komplekse matematiske operationer for at bestemme mønstre, som intet menneske nogensinde kunne opdage.

Desuden anvender computeren ikke kun en regel. Det lærer snarere af erfaring og udvikler nye operationer uafhængigt af menneskelig indgriben.

Forskellen mellem de to tilgange er forskellen mellem Clippy og f.eks. ansigtsgenkendelsesteknologi.

Forsker i sarkasme

For at opbygge et neuralt netværk med evnen til at opdage ironi, fokuserer forskere i begyndelsen på, hvad nogle ville betragte som dens enkleste form:sarkasme.

Forskerne begynder med data fjernet fra sociale medier.

For eksempel kan de indsamle alle tweets mærket #sarkasme eller Reddit-indlæg mærket /s, en stenografi, som Reddit-brugere bruger for at indikere, at de ikke er seriøse.

Pointen er ikke at lære computeren at genkende de to separate betydninger af et givet sarkastisk indlæg. Betydning er faktisk helt uden relevans.

I stedet bliver computeren instrueret i at søge efter tilbagevendende mønstre, eller hvad en forsker kalder "syntaktiske fingeraftryk" – ord, sætninger, emojis, tegnsætning, fejl, sammenhænge og så videre.

Oven i det bliver datasættet styrket ved at tilføje flere strømme af eksempler - andre indlæg i de samme tråde, for eksempel, eller fra den samme konto.

Hvert nyt individuelt eksempel køres derefter gennem et batteri af beregninger, indtil vi når frem til en enkelt bestemmelse:sarkastisk eller ikke sarkastisk.

Endelig kan en bot programmeres til at svare på hver original plakat og spørge, om de var sarkastiske. Ethvert svar kan føjes til computerens voksende bjerg af erfaring.

Succesraten for de seneste sarkasmedetektorer nærmer sig forbløffende 90 % - større, formoder jeg, end mange mennesker kunne opnå.

Så hvis man antager, at AI vil fortsætte med at udvikle sig med den hastighed, der tog os fra Clippy til ansigtsgenkendelsesteknologi på mindre end to årtier, kan ironiske androider være langt væk?

Hvad er ironi?

Men er der ikke en kvalitativ forskel mellem at sortere gennem ironiens "syntaktiske fingeraftryk" og faktisk forstå det?

Nogle vil foreslå ikke. Hvis en computer kan læres at opføre sig nøjagtigt som et menneske, så er det ligegyldigt, om en rig indre verden af ​​mening lurer under dens adfærd.

Men ironi er uden tvivl et unikt tilfælde:den er afhængig af skelnen mellem ekstern adfærd og indre overbevisning.

Her kan det være værd at huske på, at mens computerforskere først for nylig er blevet interesseret i ironi, har filosoffer og litteraturkritikere tænkt over det i meget lang tid.

Og måske ville en udforskning af den tradition kaste gammelt lys, som det var, på et nyt problem.

Af de mange navne, man kunne påberåbe sig i denne sammenhæng, er to uundværlige:den tyske romantiske filosof Friedrich Schlegel; og den post-strukturalistiske litteraturteoretiker Paul de Man.

For Schlegel medfører ironi ikke blot en falsk, ydre mening og en sand, indre. Snarere, i ironi, præsenteres to modsatte betydninger som lige sande. Og den resulterende ubestemmelighed har ødelæggende implikationer for logikken, især loven om ikke-modsigelse, som hævder, at et udsagn ikke samtidigt kan være sandt og falsk.

De Man følger Schlegel på dette partitur og universaliserer på en måde hans indsigt. Han bemærker, at enhver bestræbelse på at definere et ironibegreb er bundet til at være inficeret af de fænomener, det foregiver at forklare.

De Man mener faktisk, at alt sprog er inficeret af ironi og involverer det, han kalder "permanent parabasis". Fordi mennesker har magten til at skjule deres tanker for hinanden, vil det altid være muligt – permanent muligt – at de ikke mener, hvad de siger.

Ironi er med andre ord ikke én slags sprog blandt mange. Det strukturerer – eller bedre, hjemsøger – enhver brug af sprog og enhver interaktion.

Og i denne forstand overstiger det rækkefølgen af ​​bevis og beregning. Spørgsmålet er, om det samme gør sig gældende for mennesker generelt.