Vær forsigtig med, hvordan du behandler nutidens AI:Det kan tage hævn i fremtiden

Systemer med kunstig intelligens (AI) bliver mere som os. Du kan bede Google Home om at slukke lyset i soveværelset, meget som du kan spørge din menneskelige partner.

Når du sms'er forespørgsler til Amazon online, det er nogle gange uklart, om du bliver besvaret af et menneske eller virksomhedens chatbot-teknologi.

Der er helt klart et marked for maskiner med menneskelige psykologiske evner. Men vi bør spare en tanke på, hvad vi uforvarende kan skabe.

Hvad hvis vi gør AI så god til at være menneske, at vores behandling af den kan få den til at lide? Det kan føles berettiget til at hævne sig på os.

Maskiner, der 'føles'

Med menneskelige psykologiske evner kan komme sansning. Filosoffer forstår sansning som evnen til at lide og føle nydelse.

Og følende væsener kan tage skade. Det er et spørgsmål, som den australske filosof Peter Singer rejste i sin bog Animal Liberation fra 1975, som spurgte, hvordan vi skulle behandle ikke-menneskelige dyr. Han skrev:"Hvis et væsen lider, der kan ikke være nogen moralsk begrundelse for at nægte at tage denne lidelse i betragtning. Uanset hvad væsenets natur er, lighedsprincippet kræver, at dets lidelse tælles lige med lignende lidelser – for så vidt der kan foretages grove sammenligninger – af ethvert andet væsen."

Singer har viet en karriere til at tale dyrs sag, som er følende væsener, der ikke er i stand til at tale op for sig selv.

Taler op for AI

Forskere i AI søger at lave en AGI eller kunstig generel intelligens - en maskine, der er i stand til at udføre enhver intellektuel opgave udført af et menneske. AI kan allerede lære, men AGI vil være i stand til at udføre opgaver ud over det, det er programmeret til.

Eksperterne er uenige om, hvor langt en AGI er. Den amerikanske teknologiske opfinder Ray Kurzweil forventer en AGI snart, måske 2029. Andre mener, at vi måske skal vente i et århundrede.

Men hvis vi er interesserede i at behandle følende væsener rigtigt, vi behøver måske ikke vente til ankomsten af ​​en AGI.

En af Singers pointer er, at mange følende væsener mangler menneskelig intelligens. Med det argument, AI behøver ikke at være så intelligent som et menneske for at være sansende.

Problemet er, at der ikke er nogen enkel test for sansning.

At sende en menneskelig mission til Mars er meget udfordrende, men vi ved i det mindste, når vi har gjort det.

At lave en maskine med følelser er udfordrende på en mere filosofisk forvirrende måde. Fordi vi mangler klare kriterier for maskinsans, vi kan ikke være sikre på, hvornår vi har gjort det.

Se til science fiction

Tvetydigheden af ​​maskinsans er et træk ved adskillige science fiction-præsentationer af AI.

For eksempel, Niska er en menneskelig robot, en synth, tjener som sexarbejder i tv-serien Humans. Vi får at vide, at i modsætning til de fleste synths, hun er sansende.

Da Niska bliver udspurgt om, hvorfor hun dræbte en klient, forklarer hun:"Han ville være hård."

Den menneskelige advokat Laura Hawkins svarer:"Men, er det forkert, hvis han ikke troede, du kunne mærke? … Er det ikke bedre, han udøver sine fantasier med dig på et bordel i stedet for at tage dem ud på en, der rent faktisk kan føle?

Fra et menneskeligt perspektiv, man kunne tro, at seksuelle overgreb rettet mod en ikke-sansende maskine er en forbrydelse uden offer.

Men hvad med en sexrobot, der har fået sansning? Niska fortsætter med at forklare, at hun var bange for klientens adfærd over for hende. "Og jeg er ked af, at jeg ikke kan græde eller ... bløde eller vride mine hænder, så du ved det. Men jeg siger dig, Jeg var."

Mennesker er ikke den eneste science fiction-historie, der advarer om hævnangreb fra maskiner designet til at blive udnyttet af mennesker til fornøjelse og smerte.

I tv-genindspilningen af ​​Westworld, mennesker går ind i en forlystelsespark og dræber Android-værter med opgivelsen af ​​Xbox-massakrer, overbevist om, at deres ofre ikke har nogle hårde følelser, fordi de ikke kan have nogen følelser.

Men her igen, nogle værter har i al hemmelighed tilegnet sig sans og får tilbagebetaling på deres menneskelige plageånder.

Vi er kun mennesker

Er det kun science fiction? Er følende maskiner langt væk? Måske. Måske ikke.

Men dårlige vaner kan tage et stykke tid at aflære. Vi – eller rettere dyr – lider stadig af de filosofiske tømmermænd fra 1600-tallets franske tænker Rene Descartes' frygtelige idé om, at dyr er åndssvage automater – uden sans.

Hvis vi skal lave maskiner med menneskelig psykologisk kapacitet, vi bør forberede os på muligheden for, at de kan blive sansende. Hvordan vil de så reagere på vores adfærd over for dem?

Måske skulle vores adfærd over for ikke-sansende AI i dag være drevet af, hvordan vi ville forvente, at folk opfører sig over for enhver fremtidig følende AI, der kan føle, der kan lide. Hvordan ville vi forvente, at den fremtidige følende maskine ville reagere på os?

Det kan være den store forskel på maskiner og de dyr, som Singer forsvarer. Dyr kan ikke tage hævn. Men følende maskiner kan bare.

Denne artikel er genudgivet fra The Conversation under en Creative Commons-licens. Læs den originale artikel.