Den talende AI-historie siden 2001: A Space Odyssey

Næsten alle kender historien om HAL 9000, den dræbende supercomputer i Stanley Kubricks skelsættende film 2001:A Space Odyssey , hvis 50 års jubilæum vil blive fejret den 12. maj, 2018 ved den 71. filmfestival i Cannes. I et spændende planlægningssammenfald, IBM, Kubricks partner under optagelserne af En Space Odyssey , og Airbus har netop afsløret projektet CIMON (Crew Interactive Mobile Companion), en "intelligent, mobilt og interaktivt astronautassistancesystem", der vil slutte sig til den internationale rumstation.

Disse to begivenheder driver os ind i en debat om de risici, der er skabt af udviklingen af ​​superintelligens, der kan eliminere job i massiv skala eller, værre endnu, udslette den menneskelige art af planetens ansigt - og rejse spørgsmålet om, hvordan man vurderer en sådan trussel.

Til dato, vi har ingen erfaring med ulykker eller katastrofer på grund af defekt eller ondsindet AI. Imidlertid, kunstneres og videnskabsmænds fantasi er en skatkammer af materiale, der fortæller historien om superintelligens frigjort fra enhver menneskelig kontrol.

En historie om AI, der går galt

2001:A Space Odyssey er en forløber for nutidige kontroverser. Den fortæller historien om kampen og den endelige erobring af et menneske, den eneste overlevende fra et metodisk udryddelsesprogram ledet af en sansende supercomputer.

Ombord på rumskibet Discovery One , kun supercomputeren HAL 9000 er blevet informeret af sine skabere om formålet med missionen:at nå Jupiter og søge efter tegn på udenjordisk intelligens. Selvom det anses for at være ufejlbarligt, HAL laver en fejl. Maskinen nægter at indrømme dette, og, fanget ud, den hævder, at fejlen skyldes "menneskelige fejl". I princippet er mennesker computerens designere, men hvis man skal tro det, kan det i virkeligheden være selve computeren? Ved at tage denne tankegang, maskinen giver sig selv en status, som besætningsmedlemmerne ikke kunne forestille sig – en levende, sansende og tænkende væsen.

For besætningen, HAL's fejl er uacceptabel. Der er ikke plads til tilgivelse eller næstekærlighed:fejl kan være menneskelige, men det er ikke maskine. Der er ingen appel:HAL skal tages ud af drift. Supercomputeren, allestedsnærværende og alvidende, opdager straks projektet designet til at afslutte dets liv. For at overleve og fuldføre sin mission, den beslutter sig for at eliminere besætningen. Kun ét menneske overlever, Astronaut David Bowman, og han genoptager, med endnu mere beslutsomhed, den digitale drabsmission.

Bowman lykkes med at trænge ind i kernen af ​​enheden og derefter mekanisk, afbryder følelsesløst og næsten ceremonielt, en efter en, maskinens hukommelseskredsløb fra deres hus. Som et barn fanget med hånden i kagedåsen, computeren prøver, ved at tale om sig selv, at afspore lobotomien. I et sidste forsøg, den synger en sang, den lærte i sine første timer af "livet", men intet virker og til sidst forsvinder dens stemme.

AI, der kan tale om sig selv

Meget mere end historien om en kamp til døden, en af ​​filmens skatte er, at den betragter den narrative dimension af AI. Det er ikke kun i stand til at finde på historier om sig selv, men kan også fejle på grund af omstændigheder og egne fejl. Dermed, elimineringen af ​​besætningen er ikke resultatet af, at HAL 9000 er blevet autonom, men fra en "dårlig historie", som maskinen fortæller sig selv, det at tro, at besætningen kunne kompromittere missionen.

Kubricks arbejde gør det således muligt at forestille sig risici forårsaget af superintelligens ikke i form af teknisk dominans, men som konstruktionen af ​​en uperfekt fortællende identitet. Selvom virkeligheden stadig er langt fra at indhente fiktionen, nogle indledende resultater på dette område er værd at tænke over.

I 2016 en roman med titlen Den dag en computer skriver en roman ... Næsten vandt en japansk litteraturpris, Nikkei Hoshi Shinichi. Det blev forskrevet af et AI-forskerhold fra University of Hakodate, hvis arbejde oprindeligt bestod i at udvælge ord og sætninger, derefter definere parametre, der gjorde det muligt for et program at "skrive" romanen. Af mere end 1, 450 bidrag til prisen, 11 var skrevet, i hvert fald delvist, af et ikke-menneske. Selvfølgelig, juryen vidste intet om "forfatterne".

Det følgende år, i samme ånd, men uden en digital medforfatter, Zack Thoutt, en fan af tv-serien Game of Thrones , brugte et neuralt netværk fodret med over 5, 000 siders tekst fra de bøger, som den var baseret på for at forudsige, hvad der kunne ske næste gang i historien. Resultatet er langt fra lig forfatteren George R. Martins arbejde, men teksten er, for det meste, forståelige, og forudsigelserne ligner nogle af de teorier, der er populære blandt fans af serien.

For nylig, et program designet af MIT's Media Lab - døbt "Shelley" efter Mary Shelley, forfatteren af Frankenstein; eller, Den moderne Prometheus – skabte skræmmende fortællinger, designet til at skræmme. Den første fase var at træne programmet med historier skrevet af mennesker taget fra en database med over 140, 000 referencer. I anden fase, computeren genererede sine egne værker, som den forbedrede ved at samarbejde med mennesker, der svarede på dens beskeder via Twitter.

Og på området for at læse og forstå historier, Google har netop lanceret sin "Tal til bog"-tjeneste, der giver brugerne mulighed for at samtale på naturligt sprog med en automatisk indlæringsalgoritme, der skal hjælpe dem i deres fremtidige læsevalg.

Historier, der fremkalder risiciene ved AI

Hvis, som HAL 9000, AI-computere forsøger at skrive historier, de er stadig langt fra at nå de standarder, der er fastsat af menneskelige forfattere. Selvom ingen med sikkerhed kan forudsige, hvordan kunstig superintelligens kan se ud, det er fortsat muligt at forestille sig det ved at producere historier, der stimulerer vores tænkning.

Historikeren Yuval Noah Harari påtog sig opgaven, forestille sig en fremtid, hvor automatisering af maskiner ville medføre, at størstedelen af ​​arbejdspladserne forsvinder. Han argumenterede for, at mennesker risikerer at miste deres økonomiske værdi, fordi intelligens vil blive afkoblet fra bevidsthed. Mens intelligens er nødvendig for at køre bil eller diagnosticere en sygdom, bevidsthed og subjektive menneskelige oplevelser er ikke obligatoriske.

Endnu mere alarmerende, Filosoffen Nick Bostrom fremsætter ideen om, at mennesker sandsynligvis ikke vil have mulighed for at opleve denne katastrofale revolution, fordi det er sandsynligt, at de vil blive udryddet, så snart kunstig superintelligens dukker op.

Både Harari og Bostrom baserer deres konklusioner på en reduktion af handling til dens funktionelle dimension, udelukkende vurderet ud fra effektivitet. Men sådan en vision negligerer hele områder af den menneskelige eksistens. For at afhjælpe dette, neurovidenskabsmanden Antonio Damasio hævder, at livet repræsenterer en kompleks handling, hvor følelser er udtryk for en permanent kamp for at opnå en balance, der understøtter den menneskelige eksistens. For Damasio, uden subjektivitet er der ingen kreativitet, og uden de følelser, der er manifesteret i forholdet mellem kroppen og hjernen for at opfatte virkeligheden, der er ingen menneskelighed.

Ved at acceptere dette henvises Kubrick til rang af et geni, hvis profeti, omend poetisk, er urealistisk. Det betyder også at indrømme, at en AI-computer aldrig vil være i stand til at omdefinere sin egen mission på bekostning af dens skabere. Og endelig, vi må tage tanken meget alvorligt om, at den største risiko for menneskeheden er en cyberkrig initieret af mennesker selv – en konflikt befolket af droner og dræberrobotter understøttet af sværme af computervirus, der alle er smartere end de andre.

Denne artikel blev oprindeligt publiceret på The Conversation. Læs den originale artikel.