Sådan er man en gud:Vi kan en dag skabe virtuelle verdener med karakterer lige så intelligente som os selv

Det meste af forskningen i kunstig intelligens (AI) etik vedrører dens brug til våben, transport eller profilering. Selvom farerne fra en autonom, racistisk tank ikke kan undervurderes, er der et andet aspekt ved alt dette. Hvad med vores ansvar over for de AI'er, vi skaber?

Massivt multiplayer online-rollespil (såsom World of Warcraft) er lommerealiteter, der hovedsageligt er befolket af ikke-spillerfigurer. I øjeblikket er disse karakterer ikke specielt smarte, men giv det 50 år, og det bliver de.

Undskyld? 50 år vil ikke være nok? Tag 500. Tag 5.000.000. Vi har resten af ​​evigheden til at opnå dette.

Vil du have computere i planetstørrelse? Du kan få dem. Vil du have computere lavet af menneskelig hjernevæv? Du kan få dem. Til sidst tror jeg, at vi vil har virtuelle verdener, der indeholder karakterer så smarte som vi er – hvis ikke klogere – og i fuld besiddelse af fri vilje. Hvad vil vores ansvar over for disse væsener være? Vi vil trods alt være de bogstavelige guder for de realiteter, hvori de bor, og kontrollerer fysikken i deres verdener. Vi kan gøre alt, hvad vi har lyst til ved dem.

Så ved alt det...skal vi det?

Etiske vanskeligheder med fri vilje

Som jeg har udforsket i min seneste bog, når "bør" er involveret, træder etikken ind og tager over – selv for videospil. Det første spørgsmål, der skal stilles, er, om fremtidens spilkarakterer er værdige til at blive betragtet som moralske entiteter eller blot er bits i en database. Hvis det sidste, behøver vi ikke bekymre vores samvittighed med dem mere, end vi ville gøre med tegn i et tekstbehandlingsprogram.

Spørgsmålet er dog reelt set. Hvis vi skaber vores karakterer til at være fritænkende væsener, så må vi behandle dem, som om de er sådan – uanset hvordan de kan se ud for en ekstern iagttager.

Når det er tilfældet, kan vi så slukke for vores virtuelle verdener? At gøre det kan være at dømme milliarder af intelligente skabninger til ikke-eksistens. Ville det ikke desto mindre være OK, hvis vi gemte en kopi af deres verden i det øjeblik, vi afsluttede den? Betyder den teoretiske mulighed for, at vi kan tænde deres verden igen, præcis som den var, at vi ikke faktisk er myrde dem? Hvad hvis vi ikke har den originale spilsoftware?

Kan vi legitimt forårsage lidelse for disse karakterer? Vi implementerer selv selve konceptet, så det er ikke så meget et spørgsmål om, hvorvidt det er OK at plage dem, som det handler om, hvorvidt det overhovedet er en ting at plage dem. I moderne samfund er standardpositionen, at det er umoralsk at få fritænkende individer til at lide, medmindre enten de går med til det, eller det er for at redde dem (eller en anden) fra noget værre. Vi kan ikke bede vores karakterer om at give samtykke til at blive født ind i en verden af ​​lidelse – de vil ikke eksistere, når vi skaber spillet.

Så hvad med "noget værre" alternativ? Hvis du besidder en fri vilje, skal du være sapient, så du skal derfor selv være et moralsk væsen. Det betyder, at du skal have udviklet moral, så det må være muligt for dig at ske dårlige ting. Ellers kunne du ikke have reflekteret over, hvad der er rigtigt eller forkert for at udvikle din moral. Sagt på en anden måde, medmindre der sker dårlige ting, er der ingen fri vilje. At fjerne den frie vilje fra et væsen er ensbetydende med at ødelægge det væsen, det var tidligere, derfor ja, vi er nødt til at tillade lidelse, ellers er begrebet sapient karakter en oxymoron.

Efterlivet?

Når vi accepterer, at fremtidens karakterer er fritænkende væsener, hvor ville de så passe ind i et hierarki af betydning? I almindelighed, givet et direkte valg mellem at redde et sapient væsen (såsom et lille barn) eller et blot sansende (såsom en hund), ville folk vælge førstnævnte frem for sidstnævnte. Givet et lignende valg mellem at redde en rigtig hund eller en virtuel helgen, hvad ville sejre?

Husk på, at hvis dine karakterer opfatter sig selv som moralske væsener, men du ikke opfatter dem som sådan, vil de tro, at du er en idiot. Som Alphinaud Leveilleur, en karakter i Final Fantasy XIV , pænt formuleret (spoiler:lige efter at have opdaget, at hans verden blev skabt af handlinger fra væsener, der som følge heraf ikke betragter ham som ordentligt levende):"Vi definere vores værd, ikke omstændighederne omkring vores skabelse!"

Vil vi tillade vores karakterer at dø? Det er ekstra arbejde at implementere konceptet. Hvis de lever evigt, gør vi dem så usårlige eller forhindrer vi dem i at dø? Livet ville trods alt ikke være særlig sjovt efter at være faldet i en blender. Hvis de dør, flytter vi dem så til spillehimlen (eller helvede) eller sletter vi dem så?

Det er ikke de eneste spørgsmål, vi kan stille. Kan vi indsætte ideer i deres hoveder? Kan vi ændre deres verden for at rode med dem? Påtvinger vi dem vores moral eller lader vi dem udvikle deres egen (som vi kan være uenige i)? Der er mange flere.

I sidste ende er det største spørgsmål:skal vi skabe sapient karakterer i første omgang?

Nu har du bemærket, at jeg har stillet en masse spørgsmål her. Du kan godt undre dig over, hvad svarene er.

Nå, det er jeg også! Det er meningen med denne øvelse. Menneskeheden har endnu ikke en etisk ramme for skabelsen af ​​virkeligheder, som vi er guder af. Der eksisterer endnu ikke noget system af meta-etik til at hjælpe os. Vi skal finde ud af dette før vi bygger verdener befolket af væsener med fri vilje, hvad enten det er 50, 500, 5.000.000 år fra nu eller i morgen. Dette er spørgsmål til dig at svare.

Vær dog forsigtig med, hvordan du gør det. Du kan skabe præcedens.

Vi er selv virkelighedens ikke-spillerfigurer.