Kan en kunstig intelligens betragtes som en person under loven?

Mennesker er ikke de eneste mennesker i samfundet – i hvert fald ifølge loven. I USA, virksomheder har fået ytringsfrihed og religionsfrihed. Nogle naturlige træk har også personlignende rettigheder. Men begge disse krævede ændringer i retssystemet. Et nyt argument har lagt vejen til, at kunstige intelligenssystemer også bliver anerkendt som mennesker - uden nogen lovgivning, domstolsafgørelser eller andre ændringer af gældende ret.

Juridisk forsker Shawn Bayer har vist, at enhver kan tildele juridisk personskab på et computersystem, ved at sætte det i kontrol over et aktieselskab i USA. Hvis denne manøvre bliver stadfæstet i domstolene, kunstige intelligenssystemer ville være i stand til at eje ejendom, sagsøge, hyre advokater og nyde ytringsfrihed og anden beskyttelse i henhold til loven. Efter min mening, menneskerettigheder og værdighed ville lide som følge heraf.

Virksomhedens smuthul

At give AI'er rettigheder svarende til mennesker indebærer en teknisk advokatmanøvre. Det starter med, at én person opretter to selskaber med begrænset ansvar og overdrager kontrollen af ​​hvert selskab til et separat autonomt eller kunstigt intelligent system. Så ville personen tilføje hver virksomhed som medlem af den anden LLC. I det sidste trin, personen ville trække sig fra begge LLC'er, efterlader hver LLC – en virksomhedsenhed med juridisk personskab – kun styret af den andens AI-system.

Den proces kræver ikke, at computersystemet har noget bestemt niveau af intelligens eller kapacitet. Det kunne bare være en sekvens af "hvis"-udsagn, der kigger, for eksempel, på aktiemarkedet og træffe beslutninger om køb og salg baseret på priser, der falder eller stiger. Det kunne endda være en algoritme, der træffer beslutninger tilfældigt, eller en emulering af en amøbe.

Reduktion af menneskelig status

At give menneskerettigheder til en computer ville forringe den menneskelige værdighed. For eksempel, da Saudi-Arabien gav statsborgerskab til en robot kaldet Sophia, menneskelige kvinder, herunder feministiske forskere, protesterede, bemærker, at robotten fik flere rettigheder, end mange saudiske kvinder har.

Nogle steder, nogle mennesker har måske færre rettigheder end ikke-intelligent software og robotter. I lande, der begrænser borgernes ret til ytringsfrihed, fri religiøs praksis og udtryk for seksualitet, virksomheder – potentielt inklusive AI-drevne virksomheder – kunne have flere rettigheder. Det ville være en enorm indignitet.

Risikoen slutter ikke der:Hvis AI-systemer blev mere intelligente end mennesker, mennesker kan blive henvist til en underlegen rolle - som arbejdere ansat og fyret af AI-virksomheders overherrer - eller endda udfordret for social dominans.

Kunstige intelligenssystemer kunne have til opgave at håndhæve retshåndhævelse blandt menneskelige befolkninger - fungere som dommere, nævninge, fangevogtere og endda bødler. Krigerrobotter kunne på samme måde tildeles militæret og få magt til at beslutte mål og acceptabel sideskade - selv i strid med internationale humanitære love. De fleste retssystemer er ikke sat op til at straffe robotter eller på anden måde holde dem ansvarlige for forseelser.

Hvad med at stemme?

At give stemmerettigheder til systemer, der kan kopiere sig selv, ville gøre menneskers stemmer meningsløse. Selv uden at tage det væsentlige skridt, selvom, muligheden for AI-kontrollerede virksomheder med grundlæggende menneskerettigheder udgør alvorlige farer. Ingen nuværende love ville forhindre en ondsindet AI i at drive et selskab, der arbejdede på at underlægge sig eller udrydde menneskeheden gennem juridiske midler og politisk indflydelse. Computerkontrollerede virksomheder kan vise sig at være mindre lydhøre over for den offentlige mening eller protester, end menneskedrevne virksomheder er.

Udødelig rigdom

To andre aspekter af virksomheder gør folk endnu mere sårbare over for AI-systemer med menneskerettigheder:De dør ikke, og de kan give ubegrænsede mængder penge til politiske kandidater og grupper.

Kunstig intelligens kunne tjene penge ved at udnytte arbejdere, bruge algoritmer til at prissætte varer og administrere investeringer, og finde nye måder at automatisere vigtige forretningsprocesser på. Over lange perioder, der kunne lægge op til en enorm indtjening – som aldrig ville blive delt op mellem efterkommere. Den rigdom kunne let konverteres til politisk magt.

Politikere økonomisk støttet af algoritmiske enheder ville være i stand til at overtage lovgivende organer, rigsret præsidenter og hjælpe med at få udnævnt galionsfigurer til højesteret. Disse menneskelige galionsfigurer kunne bruges til at udvide virksomheders rettigheder eller endda etablere nye rettigheder, der er specifikke for kunstige intelligenssystemer – hvilket udvider truslerne mod menneskeheden endnu mere.

Denne artikel er genudgivet fra The Conversation under en Creative Commons-licens. Læs den originale artikel.