Stephen Hawking advarede om farerne ved kunstig intelligens – alligevel gav AI ham en stemme

Afdøde Stephen Hawking var en vigtig stemme i debatten om, hvordan menneskeheden kan drage fordel af kunstig intelligens. Hawking lagde ikke skjul på sin frygt for, at tænkende maskiner en dag kunne tage ansvaret. Han gik så langt som at forudsige, at fremtidige udviklinger inden for kunstig intelligens "kunne betyde enden på den menneskelige race."

Men Hawkings forhold til AI var langt mere komplekst end denne ofte citerede soundbite. De dybe bekymringer, han udtrykte, handlede om overmenneskelig AI, det punkt, hvor AI -systemer ikke kun replikerer menneskelige intelligensprocesser, men også blive ved med at udvide dem, uden vores støtte – en fase, der i bedste fald er årtier væk, hvis det overhovedet sker. Og alligevel er Hawkings evne til at kommunikere den frygt, og alle hans andre ideer, kom til at afhænge af grundlæggende AI -teknologi.

Hawkings konfliktfyldte forhold til AI

På centrene for intellektuel ejendomsret og sundhedsret på DePaul University, mine kolleger og jeg studerer virkningerne af nye teknologier som dem, Stephen Hawking bekymrede sig om. I sin kerne, begrebet AI involverer beregningsteknologi designet til at få maskiner til at fungere med fremsyn, der efterligner, og i sidste ende overgår, menneskelige tankeprocesser.

Hawking advarede mod en ekstrem form for AI, hvor tænkende maskiner ville "starte" af sig selv, ændre sig selv og selvstændigt designe og bygge stadigt mere dygtige systemer. mennesker, bundet af den langsomme biologiske udvikling, ville blive tragisk overlistet.

AI som en trussel mod menneskeheden?

Godt inden det kommer til det punkt med overmenneskelig teknologi, AI kan bruges til frygtelige anvendelser. Allerede, Forskere og kommentatorer bekymrer sig om, at selvflyvende droner kan være forløbere for dødelige autonome robotter.

Dagens tidlige AI-stadie rejser flere andre etiske og praktiske problemer, også. AI-systemer er i vid udstrækning baseret på uigennemsigtige algoritmer, der træffer beslutninger, som selv deres egne designere ikke er i stand til at forklare. De underliggende matematiske modeller kan være forudindtagne, og beregningsfejl kan forekomme. AI kan gradvist fortrænge menneskelige færdigheder og øge arbejdsløsheden. Og begrænset adgang til kunstig intelligens kan øge den globale ulighed.

Et hundrede års undersøgelse om kunstig intelligens, lanceret af Stanford University i 2014, fremhævede nogle af disse bekymringer. Men indtil videre har den ikke identificeret noget bevis for, at AI vil udgøre nogen "overhængende trussel" for menneskeheden, som Hawking frygtede.

Stadig, Hawkings syn på kunstig intelligens er noget mindre alarmerende og mere nuanceret, end han normalt får æren for. I deres hjerte, de beskriver behovet for at forstå og regulere nye teknologier. Han opfordrede gentagne gange til mere forskning i fordelene og farerne ved AI. Og han mente, at selv ikke-overmenneskelige AI-systemer kunne hjælpe med at udrydde krig, fattigdom og sygdom.

Hawking taler

Denne tilsyneladende selvmodsigelse – en frygt for at menneskeheden til sidst bliver overhalet af AI, men optimisme om fordelene i mellemtiden – kan være kommet fra hans eget liv:Hawking var kommet til at stole på AI for at interagere med verden.

Kunne ikke tale siden 1985, han brugte en række forskellige kommunikationssystemer, der hjalp ham med at tale og skrive, kulminerende i den nu legendariske computer, der betjenes af en muskel i hans højre kind.

Den første iteration af computerprogrammet var irriterende langsom og tilbøjelig til fejl. Meget grundlæggende AI ændrede det. Et open source-program gjorde hans ordvalg betydeligt hurtigere. Vigtigere, den brugte kunstig intelligens til at analysere Hawkings egne ord, og brugte derefter den information til at hjælpe ham med at udtrykke nye ideer. Ved at behandle Hawkings bøger, artikler og foredragsmanuskripter, systemet blev så godt, at han ikke engang behøvede at skrive det udtryk, folk mest forbinder med ham, "det sorte hul." Da han valgte "den, " "sort" ville automatisk blive foreslået at følge den, og "sort" ville bede "hul" på skærmen.

AI forbedrer folks sundhed

Stephen Hawkings erfaring med en så grundlæggende form for AI illustrerer, hvordan ikke-overmenneskelig AI faktisk kan ændre folks liv til det bedre. Taleforudsigelse hjalp ham med at klare en ødelæggende neurologisk sygdom. Andre AI-baserede systemer hjælper allerede med at forhindre, bekæmpe og mindske sygdomsbyrden.

For eksempel, AI kan analysere medicinske sensorer og andre sundhedsdata for at forudsige, hvor sandsynligt det er, at en patient udvikler en alvorlig blodinfektion. I undersøgelser var det væsentligt mere nøjagtigt – og gav meget mere forhåndsadvarsel – end andre metoder.

En anden gruppe forskere skabte et AI-program til at gennemsøge elektroniske sundhedsjournaler på 700, 000 patienter. Programmet, kaldet "Dyb Patient, "afgravede forbindelser, der ikke havde været synlige for læger, identificering af nye risikomønstre for visse kræftformer, diabetes og psykiatriske lidelser.

AI har endda drevet et robotkirurgisystem, der udkonkurrerede menneskelige kirurger i en procedure på grise, der minder meget om én type operation på menneskelige patienter.

Der er så meget løfte for AI for at forbedre folks sundhed, at indsamling af medicinske data er blevet en hjørnesten i både softwareudvikling og folkesundhedspolitik i USA. Obamas Hvide Hus lancerede en forskningsindsats, der forsøgte at indsamle DNA fra mindst en million amerikanere. Dataene vil blive gjort tilgængelige for AI-systemer til at analysere, når man studerer nye medicinske behandlinger, potentielt forbedre både diagnoser og patienters helbredelse.

Alle disse fordele fra AI er tilgængelige lige nu, og flere er på vej. De antyder, at overmenneskelige AI-systemer kan være ekstremt kraftfulde, men trods advarsler fra Hawking og andre teknologivisionære Elon Musk kommer den dag måske aldrig. I mellemtiden, som Hawking vidste, der er meget at hente. AI gav ham en bedre og mere effektiv stemme, end hans krop var i stand til at levere, hvormed han opfordrede til både forskning og tilbageholdenhed.

Denne artikel blev oprindeligt publiceret på The Conversation. Læs den originale artikel.