Hvad hvis mennesker ikke længere er jordens mest intelligente væsener?

I hans finale, postuum udgivet bog, den berømte fysiker Stephen Hawking slår alarm om farerne ved kunstig intelligens, eller AI, og den eksistentielle trussel, den kunne udgøre for menneskeheden.

I "Kort svar på de store spørgsmål, "Hawking skriver, "en superintelligent AI vil være ekstremt god til at nå mål, og hvis disse mål ikke er i overensstemmelse med vores, vi er i problemer. "

Økonom ved University of Virginia, Anton Korinek, kunne ikke være mere enig, og han mener, at den slags AI, Hawking henviser til - "generel kunstig intelligens", der kan ligne eller overgå menneskelig intelligens - kun kan være et par årtier væk.

"Det tror jeg på, i anden halvdel af dette århundrede, AI - robotter og programmer - vil være bedre end os mennesker til næsten alt, "sagde Korinek, der har en fælles ansættelse i UVAs økonomiafdeling og Darden School of Business. ”Det grundlæggende spørgsmål bliver, 'Hvad vil der ske med mennesker, hvis vi ikke længere er de mest generelt intelligente væsener på Jorden?' "

Korinek har skrevet og co-skrevet flere publicerede og kommende papirer om de økonomiske konsekvenser af stigende kunstig intelligens, herunder et papir udgivet af National Bureau of Economic Research og flere igangværende arbejder. Han vil undervise i et kursus om emnet, "Kunstig intelligens og fremtidens arbejde, " om foråret.

Vi satte os sammen med ham for at diskutere det grundlæggende spørgsmål, han stillede, den mulige fremtid for kunstig intelligens og hvad mennesker kan gøre nu for at forme den fremtid.

Q. Hawking og andre bekymrede over stigningen i AI -programmer og -enheder fokuserer på "generel kunstig intelligens." Hvad betyder det, Nemlig?

A. De AI -systemer, vi i øjeblikket har, omtales som "snæver kunstig intelligens." Vi har computerprogrammer, der hver er bygget til en bestemt, snævert formål, om det er målrettet den bedste annonce til en forbruger for at lokke til salg, filtrering af kreditkortansøgere eller endda køre bil. Men disse programmer kan ikke generalisere, hvad de har lært ud over deres snævre anvendelsesområde.

"Generel AI" refererer til kunstige intelligenssystemer, der kan fungere på en lang række områder, som mennesker kan. Vi er der ikke endnu. For eksempel, enheder som Alexa eller Google Home, selvom de kan virke ganske kraftfulde i nogle henseender og bliver mere kraftfulde for hver dag, ikke har den generelle forståelse, som mennesker har.

Sp. Er vi tæt på det punkt?

A. Der er betydelig usikkerhed, men jeg tror, ​​vi kan nå det, som de fleste er enige om, er generel kunstig intelligens om 15 til 50 år fra nu.

Menneskelig intelligens er temmelig konstant, spærrer lidt svingende plads til fremskridt inden for uddannelse. For AI, på den anden side, fremskridt har været eksponentielt. Selvom mennesker stadig skriver de computerprogrammer, der effektivt er hjernen i enhver AI -operation, mange AI -programmer er allerede i stand til at træne sig selv og tilpasse sig selv.

Jeg kan ikke se en ende på den eksponentielle fremgang på kort sigt. Jeg vil sige, at oddset er stort for, at AI møder og overgår generel menneskelig intelligens engang i dette århundrede.

Hvad er de økonomiske konsekvenser af at have teknologi, der formørker menneskelig intelligens?

A. På nogle måder, vi ser allerede virkningen. I løbet af det sidste halve århundrede, ufaglærte arbejdere i USA har knap set indkomstgevinster. Den gennemsnitlige realløn for ikke-tilsynsarbejdere for eksempel, er faldet i løbet af de sidste 40 år, selvom økonomien næsten er tredoblet. De fleste af disse gevinster er gået til de såkaldte superstjerner i økonomien, med nogle skøn, der tyder på, at de tre rigeste amerikanere nu ejer mere rigdom end de nederste 50 procent af den amerikanske befolkning tilsammen. Teknologiske fremskridt har været en vigtig drivkraft for sådan ulighed, og jeg ville forvente, at det fortsatte.

Fremadrettet, efterhånden som AI -systemer kommer tættere og tættere på menneskelig intelligens, virkningerne på arbejdsmarkedet bliver mere og mere alvorlige, og folk højere oppe på færdighedsstigen vil i stigende grad blive påvirket; for eksempel, læger, advokater, ledere og, Ja, professorer. Maskiner kan generere en eksplosion i ikke-menneskelig arbejdsudbud og føre til eksponentiel økonomisk vækst, men får reallønnen til at styrte ned for en stor del af menneskelige arbejdere, når de bliver fordrevet. Dette er dilemmaet:Venstre ukontrolleret, økonomien vil producere stadig mere, men gevinsten ved økonomisk vækst kan gå til færre og færre.

Ultimativt, der er risiko, påpeget af Stephen Hawking, at superintelligente AI-systemer ikke længere kan kontrolleres af mennesker og kan forfølge deres egen dagsorden. Selvom de respekterer menneskeliv, de vil sandsynligvis forbruge betydelige ressourcer, som jord og energi, skabe konkurrence om sådanne ressourcer med mennesker og hæve deres priser, hvilket yderligere ville forarme mennesker.

Ud over de økonomiske konsekvenser, der er også det sociale spørgsmål om, hvad der sker, når mennesker ikke længere er de mest intelligente væsener på planeten. Vil vi stadig kunne styre planeten, som vi har hidtil? Kan vi dirigere AI eller fusionere med AI på en måde, der vil fremme menneskeheden og hjælpe os frem for at skade os?

Hvad er nogle skridt, som regering og virksomhedsledere kan tage nu for at forme denne fremtid?

A.For det første vi har brug for, at vores regeringsledere er opmærksomme på disse vigtige spørgsmål. De bør stå i centrum i vores politiske debatter, givet den hastighed, hvormed teknologien accelererer. Det sker ikke i USA lige nu, men det sker i lande som Kina og Rusland.

Kina, for eksempel, har erklæret, at det ønsker at være verdensleder inden for kunstig intelligens inden 2030, og det investerer enorme ressourcer for at nå dette mål. I Rusland, Vladimir Putin ser AI som nøglen til fremtiden, erklærer, at "den, der bliver leder på dette område, vil blive verdens hersker." Hvis vi vil have USA til at lede AI -udvikling, og at sætte vores værdier om frihed og demokrati i centrum for disse udviklinger, vores ledere skal være mere aktive på det område. Vi har brug for en masterplan for AI til at styre teknologiske fremskridt i en retning, der er ønskelig for os.

Til mig, som økonom, ulighed vil være en af ​​de største udfordringer ved fremtidige fremskridt inden for AI. Jeg har undersøgt flere økonomiske politiske foranstaltninger for at afbøde stigninger i ulighed.

Hvad er det?

A. Der er tre specifikke ideer, jeg har set på i mit arbejde.

Den første er at beskytte mod monopolmagt. I den digitale økonomi, der er en stærk tendens til, at digitale platforme bliver til monopoler. Hvis du er det første anstændige sociale netværk, eller den første anstændige søgemaskine, eller det første anstændige e-handelswebsted, du har en tendens til at fange hele markedet på grund af såkaldte netværkseksternaliteter; hver bruger, du tilføjer, giver dig flere oplysninger og giver dig mulighed for at betjene dine eksisterende brugere bedre. Som resultat, virksomheder og deres øverste ledelse har enorm markedsstyrke. At have en sådan koncentration tæt koncentreret er faktisk ineffektiv for markedet og kræver mere aggressive antitrustregler og håndhævelse.

For det andet, som en del af dette, vi bør også revurdere love om intellektuel ejendomsret. I vores vidensøkonomi, love om intellektuel ejendomsret tilskynder til innovation, hvilket bestemt er vigtigt og en god ting. Imidlertid, de fodrer også monopoler, da de kan give virksomheder eksklusiv adgang til nye teknologier i op til to årtier. En sektor, hvor vi tydeligt ser dette, er lægemiddelindustrien, hvor farmaceutiske virksomheder hæver priserne på patenterede lægemidler til utrolige niveauer og høster enorme overskud, ofte for innovationer, der virkelig er ubetydelige.

På dette tidspunkt, i betragtning af stigningen i AI, det kan være klogt at revidere love om intellektuel ejendomsret og kalibrere balancen mellem at tilskynde til innovation og at beskytte sig mod skadelige monopoler.

Endelig, der er måder at styre den teknologiske udvikling i en retning, der hjælper mindre uddannede arbejdstagere, i stedet for at udskifte dem. Nogle økonomer er begyndt at omtale dette som efterretningsbistand eller IA. For eksempel, AI kunne udstyre menneskelige callcenter -medarbejdere til bedre at reagere på kundeproblemer uden helt at fjerne den menneskelige arbejdstager, og faktisk bruge deres unikke menneskelige kvaliteter til at hjælpe med at løse problemet. Bevidst og bevidst styring af fremskridt i den retning ville forbedre forholdene på det menneskelige arbejdsmarked.

Er der noget andet, du gerne vil se ske nu, bedre at forberede mennesker på fremtiden?

A. Et af mine mål er at øge bevidstheden om de radikale muligheder og trusler skabt af avanceret AI. På nuværende tidspunkt, vi har flere spørgsmål end svar, og vi er pressede på tid - den teknologiske udvikling stopper ikke for at give os mere tid til at komme med gode svar på udfordringerne ved avanceret AI. Jeg håber, at nogle af vores bedste og klareste unge sind vil arbejde med disse spørgsmål, til gavn for hele menneskeheden.

Jeg vil diskutere mange af disse spørgsmål med vores studerende i et kursus om "Aritifical Intelligence and the Future of Work", som jeg vil tilbyde økonomi og datalogi -majors i foråret.

Så vidunderlige som mange af innovationerne inden for AI er - vores telefoner, for eksempel, kan helt sikkert lave en masse fede tricks nu - det er vigtigt at reflektere over, hvor langt vi er kommet i løbet af de sidste 10 år, og hvor langt vi kunne gå i de næste 10, 20 eller 50 år. Hvordan kan vi individuelt forberede os på denne "alder af kunstig intelligens, "og hvad vil det betyde for os som individuelle mennesker, for vores land og for menneskeheden som helhed?