Nye matematiske idéer tøjler AI bias mod at træffe uetiske og dyre kommercielle valg

Forskere fra University of Warwick, Imperial College London, EPFL (Lausanne) og Sciteb Ltd har fundet et matematisk middel til at hjælpe tilsynsmyndigheder og virksomheder med at administrere og overvåge kunstige intelligenssystemers skævheder mod at gøre uetiske, og potentielt meget dyre og skadelige kommercielle valg – et etisk øje på kunstig intelligens.

Kunstig intelligens (AI) anvendes i stigende grad i kommercielle situationer. Overvej for eksempel at bruge AI til at fastsætte priser på forsikringsprodukter, der skal sælges til en bestemt kunde. Der er legitime grunde til at sætte forskellige priser for forskellige mennesker, men det kan også være rentabelt at 'spille' deres psykologi eller vilje til at shoppe rundt.

AI har et stort antal potentielle strategier at vælge imellem, men nogle er uetiske og vil pådrage sig ikke kun moralske omkostninger, men en betydelig potentiel økonomisk straf, da interessenter vil pålægge en vis straf, hvis de finder ud af, at en sådan strategi er blevet brugt - regulatorer kan pålægge betydelige bøder på milliarder af dollars, Pund eller Euro og kunder kan boykotte dig – eller begge dele.

Så i et miljø, hvor beslutninger i stigende grad træffes uden menneskelig indgriben, der er derfor et meget stærkt incitament til at vide, under hvilke omstændigheder AI-systemer kan vedtage en uetisk strategi og reducere denne risiko eller helt eliminere, hvis det er muligt.

Matematikere og statistikere fra University of Warwick, Kejserlig, EPFL og Sciteb Ltd er gået sammen for at hjælpe virksomheder og regulatorer med at skabe et nyt "uetisk optimeringsprincip" og give en simpel formel til at estimere dens virkning. De har udstukket de fulde detaljer i et papir, der bærer navnet "Et uetisk optimeringsprincip", udgivet i Royal Society Open Science onsdag den 1. juli 2020.

De fire forfattere af papiret er Nicholas Beale fra Sciteb Ltd; Heather Battey fra Institut for Matematik, Imperial College London; Anthony C. Davison fra Institute of Mathematics, Ecole Polytechnique Fédérale de Lausanne; og professor Robert MacKay fra Mathematics Institute ved University of Warwick.

Professor Robert MacKay fra Mathematics Institute ved University of Warwick sagde:

"Vores foreslåede 'uetiske optimeringsprincip' kan bruges til at hjælpe regulatorer, compliance-medarbejdere og andre for at finde problematiske strategier, der kan være skjult i et stort strategirum. Optimering kan forventes at vælge uforholdsmæssigt mange uetiske strategier, inspektion af hvilke skulle vise, hvor der sandsynligvis vil opstå problemer og dermed foreslå, hvordan AI-søgealgoritmen skal modificeres for at undgå dem i fremtiden.

"Princippet antyder også, at det kan være nødvendigt at genoverveje den måde, AI fungerer på i meget store strategiområder, så uetiske resultater udtrykkeligt afvises i optimering/læringsprocessen."