Et principbaseret paradigme for at fremme etisk adfærd i autonome maskiner

Et team af forskere ved University of Hartford, University of Connecticut, og Max Planck Institute for Intelligent Systems har for nylig foreslået en case-understøttet, principbaseret adfærdsparadigme mod at sikre autonome maskiners etiske adfærd. Deres papir, udgivet i Procedurer for IEEE , hævder, at etisk signifikant adfærd i autonome systemer bør styres af eksplicitte etiske principper, bestemt via enighed af etikister.

”I år er det 50 års jubilæum for filmen 2001:A Space Odyssey , "Michael Anderson, en af ​​forskerne, der gennemførte undersøgelsen, fortalte TechXplore. "Under læsning The Making of 2001:A Space Odyssey ved århundredeskiftet, det slog mig, at meget af HALs evne havde mistet sin science fiction -aura og var på vej til at blive realiseret. Det slog mig også, at de havde fået etik så forkert:Hvis HAL var rundt om hjørnet, det var på tide at få etikken til at passe. "

Anderson og hans kolleger har arbejdet på at opdage etiske principper, der kan legemliggøres i autonomt fungerende maskiner, som en del af et projekt kaldet Machine Ethics. De mener, at kunstig intelligens adfærd bør styres af etiske principper. Disse principper, bestemt af enighed blandt etikere, bør ikke kun bidrage til at sikre den etiske adfærd i komplekse og dynamiske systemer, men også tjene som grundlag for at retfærdiggøre denne adfærd.

Forskerne udviklede en udvidelig, generelt case-understøttet og principbaseret adfærdsparadigme kaldet CPB. I dette paradigme, et autonomt system beslutter sin næste handling ved hjælp af et princip, der er abstraheret fra sager, som etikere har aftalt den korrekte handling at foretage.

"CPB bruger maskinlæring til at abstrahere et princip om etisk præference fra etisk relevante træk ved særlige tilfælde af etiske dilemmaer, hvor det etisk foretrukne valg er klart, "Forklarede Anderson." Et system kan bruge dette princip til at bestemme den etisk foretrukne handling på et givet tidspunkt. "

Paradigmet repræsenterer eksplicit disse principper, så de også kan hjælpe med at retfærdiggøre et autonomt systems handlinger. Med andre ord, CPB kan hjælpe med at opnå en bedre forståelse af en robots adfærd, giver logiske forklaringer på, hvorfor den valgte at handle på en bestemt måde.

"Da vi forsøgte at bestemme, hvordan robotten ville vide, at den var i en situation, hvor dens etik skulle sparke ind, vi indså, at det altid var i sådan en tilstand:etik handler ikke bare om ikke at vælge forkerte handlinger, det handler om at vælge, hvilken af ​​alle dens handlinger, der er etisk foretrukket i den givne situation, "Sagde Anderson." I betragtning af dette, CPB er forpligtet til at bestemme etisk foretrukne handlinger uanset situationen, og gør det, når situationen ændrer sig. "

Undersøgelsens endelige mål var at bestemme etisk relevante træk og pligter inden for ældrepleje, identificere principper, der kan styre adfærden hos ældreplejerobotter. Imidlertid, det samme paradigme kan også anvendes på robotter, der opererer i andre domæner. I fremtiden, det kan også give etisk vejledning til andre systemer end robotter, såsom virtuelle sundhedsagenter.

"Vi går ind for en umiddelbar tilgang til etik, hvor enhver pligt kan tilsidesætte en anden afhængigt af situationen, "Sagde Anderson." Med andre ord, der er ikke noget strengt hierarki, som der er, sige, i Asimovs love. I fremtiden, vi mener, at vores funktion/pligtrepræsentationsordning vil være nyttig til at fange essensen af ​​alle etiske dilemmaer. "

Vincent Berenz bidrag til projektet, Legende, for nylig udgivet i IEEE Robotics &Automation , tillader reaktiv og afbrydelig adfærd i robotter. Sådan adfærd er kritisk, hvis robotten skal reagere ordentligt på konstant skiftende etiske bekymringer.

"Vi tror på, at der er en ekspertise, som etikere får, når man tænker længe på etik, "Sagde Anderson." Vi siger ikke, at de nødvendigvis selv opfører sig bedre, at være etisk er svært for alle, men at de har en bedre forståelse af, hvad der skal gøres og er bedre i stand til at forsvare disse domme end lægfolk. En sådan omhyggelig tænkning, der anvendes på simple sager, kan være nyttig til at træffe afgørelser om vanskeligere sager, der udviser de samme etisk relevante træk. "

I fremtiden, paradigmer som CPB kunne sikre, at robotter og intelligente maskiner træffer konsekvent etiske beslutninger, samtidig med at mennesker tillades bedre at forstå deres valg. Forskerne arbejder nu på at udvide omfanget af deres arbejde, for at løse en bredere række etiske problemer.

"Vi planlægger at udvide vores forskning, tilføjer flere handlinger og overvejer mere etisk relevante funktioner til afslutningen på at udvikle et etisk princip, der kan bruges til at styre adfærden for alle fremtidige ældreplejerobotter, "Sagde Anderson." Vi vil teste disse nye ideer på en PAL Robotics TIAGo -robot. "

© 2018 Science X Network