Udtalelse:AI som HAL 9000 kan aldrig eksistere, fordi virkelige følelser ikke kan programmeres

HAL 9000 er en af ​​de mest kendte kunstige intelligensfigurer i moderne film. Denne overlegne form for følsom computer tager på mission til Jupiter, sammen med et menneskeligt besætning, i Stanley Kubricks ikoniske film 2001:A Space Odyssey, som i øjeblikket fejrer sit 50. år siden udgivelsen.

HAL er i stand til taleproduktion og forståelse, ansigtsgenkendelse, læbe læsning - og spille skak. Dens overlegne beregningsevne forstærkes af unikke menneskelige træk, også. Det kan fortolke følelsesmæssig adfærd, fornuft og værdsætter kunst.

Ved at give HAL følelser, forfatter Arthur C. Clarke og filmskaber Stanley Kubrick gjorde det til en af ​​de mest menneskelignende fiktive teknologier, der nogensinde er skabt. I en af ​​de smukkeste scener i sci-fi-historien, den siger, at den er "bange", når missionschef Dr. David Bowman begynder at afbryde sine hukommelsesmoduler efter en række morderiske begivenheder.

HAL er programmeret til at levere optimal assistance til besætningen på rumskibet Discovery. Det har kontrol over hele fartøjet, og svimlende intelligens for at hjælpe den med sin opgave. Alligevel kort efter vi stiftede bekendtskab med HAL, vi kan ikke lade være med at føle, at den er bekymret - den hævder endda, at den oplever frygt - og at den har en evne til at føle, dog lille. Men selvom der ikke er noget til hinder for ide at sådan en følelsesmæssig AI kunne se dagens lys, hvis en sådan dybde af følelser skulle indgå i virkelighedens teknologi, de skulle være helt falske.

En 'perfekt' AI

Hvornår, under filmen, Bowman begynder manuelt at tilsidesætte HALs funktioner, det beder ham om at stoppe, og efter vi er vidne til en fascinerende udslettelse af HALs "mentale" evner, AI prøver tilsyneladende at trøste sig selv ved at synge Daisy Bell - angiveligt den første sang nogensinde produceret af en computer.

Faktisk, seerne begynder at føle, at Bowman dræber HAL. Afbrydelsen føles som en hævnfuld opsigelse, efter at have været vidne til filmens tidligere begivenheder. Men selvom HAL kommer med følelsesmæssige udsagn, en virkelig verden AI ville helt sikkert være begrænset til kun at have evnen til at ræsonnere, og træffe beslutninger. Kulden, den hårde sandhed er, at - på trods af hvad computerforskere siger - vil vi aldrig være i stand til at programmere følelser på den måde, HALs fiktive skabere gjorde, fordi vi ikke forstår dem. Psykologer og neurovidenskabsfolk forsøger bestemt at lære, hvordan følelser interagerer med erkendelse, men stadig er de et mysterium.

Tag vores egen forskning, for eksempel. I en undersøgelse foretaget med kinesisk-engelske tosprogede, vi undersøgte, hvordan ords følelsesmæssige værdi kan ændre ubevidst mental drift. Da vi præsenterede vores deltagere for positive og neutrale ord, f.eks. "ferie" eller "træ", de hentede ubevidst disse ordformer på kinesisk. Men da ordene havde en negativ betydning, såsom "mord" eller "voldtægt", deres hjerne blokerede adgangen til deres modersmål - uden deres viden.

Fornuft og følelser

På den anden side, vi ved meget om ræsonnement. Vi kan beskrive, hvordan vi kommer til rationelle beslutninger, skrive regler og gøre disse regler til proces og kode. Alligevel er følelser en mystisk evolutionær arv. Deres kilde er kilden til alt, og ikke blot en sindets egenskab, der kan implementeres ved design. For at programmere noget, du behøver ikke kun at vide, hvordan det fungerer, du skal vide, hvad formålet er. Fornuften har mål, følelser gør det ikke.

I et forsøg udført i 2015, vi var i stand til at afprøve dette. Vi bad indfødte talere af mandarin -kinesisk, der studerede ved Bangor University, om at spille et hasardspil for penge. I hver runde, de måtte tage eller efterlade et foreslået væddemål vist på skærmen - f.eks. 50% chance for at vinde 20 point, og 50% chance for at miste 100 point.

Vi antog, at det ville være mere følelsesmæssigt for dem at give dem feedback på deres modersmål og dermed få dem til at opføre sig anderledes, sammenlignet med da de modtog feedback på deres andet sprog, Engelsk. Ja, da de modtog positiv feedback på indfødt kinesisk, de var 10% mere tilbøjelige til at tage et væddemål i den næste runde, uanset risiko. Dette viser, at følelser påvirker ræsonnement.

Tilbage til AI, da følelser ikke virkelig kan implementeres i et program - uanset hvor sofistikeret det måtte være - kan computerens ræsonnement aldrig ændres af dets følelser.

En mulig fortolkning af HAL's mærkelige "følelsesmæssige" adfærd er, at den var programmeret til at simulere følelser i ekstreme situationer, hvor det skulle være nødvendigt at manipulere mennesker ikke på grundlag af ræsonnementer, men ved at påkalde deres følelsesmæssige selv, når menneskelig fornuft svigter. Dette er den eneste måde, jeg kan se, at den virkelige verdens AI på overbevisende vis kunne simulere følelser under sådanne omstændigheder.

Efter min mening, vi vil ikke, nogensinde, bygge en maskine, der føles, håber, er bange, eller glad. Og fordi det er en absolut forudsætning for enhver påstand om, at vi har skabt kunstig generel intelligens, vi vil aldrig skabe et kunstigt sind uden for livet.

Det er netop her magien i 2001:A Space Odyssey ligger. I et øjeblik, vi bliver ført til at tro på det umulige, at ren science fiction kan tilsidesætte fakta i den verden, vi lever i.

Denne artikel blev oprindeligt offentliggjort på The Conversation. Læs den originale artikel.