Eksperter går ind for ansvarlig og gennemsigtig brug af algoritmer i regeringen

Brugen af ​​algoritmer i regeringen ændrer måden bureaukrater arbejder og træffer beslutninger på på forskellige områder, såsom sundhedsvæsen eller strafferet. Eksperter adresserer gennemsigtighedsudfordringerne ved at bruge algoritmer i beslutningsprocedurer på makro-, meso-, og mikroniveauer i dette specialnummer af Informationspolitik .

Maskinlæringsalgoritmer rummer et enormt potentiale til at gøre offentlige tjenester mere retfærdige og mere effektive og har potentialet til at "frigøre" beslutningstagning fra menneskelig subjektivitet, ifølge nyere forskning. Algoritmer bruges i mange public service sammenhænge. For eksempel, Inden for det juridiske system er det blevet påvist, at algoritmer kan forudsige recidiv bedre end straffedommere. På samme tid, kritikere fremhæver flere farer ved algoritmisk beslutningstagning, såsom racemæssig skævhed og mangel på gennemsigtighed.

Nogle forskere har hævdet, at indførelsen af ​​algoritmer i beslutningsprocedurer kan forårsage dybe skift i den måde, bureaukrater træffer beslutninger på, og at algoritmer kan påvirke bredere organisatoriske rutiner og strukturer. Dette specialnummer om algoritmegennemsigtighed præsenterer seks bidrag til at skærpe vores konceptuelle og empiriske forståelse af brugen af ​​algoritmer i regeringen.

"Der har været en stigning i kritik mod den 'sorte boks' af algoritmisk beslutningstagning i regeringen, " forklarer gæsteredaktørerne Sarah Giest (Leiden University) og Stephan Grimmelikhuijsen (Utrecht University). "I denne specialudgavesamling, vi viser, at det ikke er nok at udpakke de tekniske detaljer i algoritmer, men se også på institutionelle, organisatorisk, og individuel kontekst, inden for hvilken disse algoritmer fungerer for virkelig at forstå, hvordan vi kan opnå gennemsigtige og ansvarlige algoritmer i regeringen. For eksempel, forordninger kan muliggøre gennemsigtighedsmekanismer, alligevel skaber organisationer nye politikker for, hvordan algoritmer skal bruges, og enkelte offentligt ansatte skaber nye faglige repertoirer. Alle disse niveauer interagerer og påvirker algoritmisk gennemsigtighed i offentlige organisationer."

Gennemsigtighedsudfordringerne for brugen af ​​algoritmer overskrider forskellige regeringsniveauer – fra europæisk niveau til individuelle offentlige bureaukrater. Disse udfordringer kan også antage forskellige former; gennemsigtighed kan aktiveres eller begrænses af tekniske værktøjer såvel som regulatoriske retningslinjer eller organisatoriske politikker. Artikler i dette nummer omhandler gennemsigtighedsudfordringer ved algoritmebrug på makro-, meso-, og mikroniveau. Makroniveauet beskriver fænomener fra et institutionelt perspektiv - hvilke nationale systemer, regler og kulturer spiller en rolle i algoritmisk beslutningstagning. Meso-niveauet er primært opmærksom på organisations- og teamniveau, mens mikroniveauet fokuserer på individuelle egenskaber, såsom tro, motivering, interaktioner, og adfærd.

"Opfordringer til at 'holde mennesker i løkken' kan være omstridte spørgsmål, hvis vi ikke forstår, hvordan algoritmer påvirker menneskelig beslutningstagning, og hvordan algoritmisk design påvirker de praktiske muligheder for gennemsigtighed og menneskelig skøn, " bemærker Rik Peeters, forskningsprofessor i offentlig administration ved Center for Forskning og Undervisning i Økonomi (CIDE) i Mexico City. I en gennemgang af nyere akademisk litteratur om dynamikken på mikroniveau i algoritmiske systemer, han diskuterer tre designvariable, der bestemmer forudsætningerne for menneskelig gennemsigtighed og diskretion og identificerer fire hovedkilder til variation i "menneske-algoritme-interaktion."

Artiklen drager to hovedkonklusioner:For det første, menneskelige agenter er sjældent helt "ude af løkken, " og niveauer af tilsyn og tilsidesættelse designet i algoritmer skal forstås som et kontinuum. Det andet vedrører afgrænset rationalitet, tilfredsstillende adfærd, automatisering bias, og frontline mestringsmekanismer, der spiller en afgørende rolle i den måde, mennesker bruger algoritmer på i beslutningsprocesser.

Til fremtidig forskning foreslår Dr. Peeters at se nærmere på adfærdsmekanismerne i kombination med at identificere relevante færdigheder hos bureaukrater i at håndtere algoritmer. "Uden en grundlæggende forståelse af de algoritmer, som bureaukrater på skærm- og gadeniveau skal arbejde med, det er svært at forestille sig, hvordan de korrekt kan bruge deres skøn og kritisk vurdere algoritmiske procedurer og resultater. Fagfolk bør have tilstrækkelig uddannelse til at overvåge de algoritmer, de arbejder med."

På makroniveau, Algoritmer kan være et vigtigt værktøj til at muliggøre institutionel gennemsigtighed, skriver Alex Ingrams, Ph.D., Governance og globale anliggender, Institut for Offentlig Administration, Leiden Universitet, Leiden, Holland. Denne undersøgelse evaluerer en maskinlæringstilgang til at åbne offentlige kommentarer til politikudformning for at øge den institutionelle gennemsigtighed af offentlige kommentarer i en lovgivningsproces i USA. Artiklen anvender en uovervåget maskinlæringsanalyse af tusindvis af offentlige kommentarer indsendt til den amerikanske transportsikkerhedsadministration om en foreslået regulering fra 2013 for brugen af ​​nye helkropsscannere i lufthavne. Algoritmen fremhæver iøjnefaldende emneklynger i de offentlige kommentarer, der kan hjælpe politikere med at forstå åbne offentlige kommentarprocesser. "Algorithmer bør ikke kun være underlagt gennemsigtighed, men kan også bruges som redskab til gennemsigtighed i regeringens beslutningstagning, " kommenterer Dr. Ingrams.

"Regulativ sikkerhed i kombination med organisatorisk og ledelsesmæssig kapacitet vil drive den måde, teknologien udvikles og bruges på, og hvilke gennemsigtighedsmekanismer der er på plads for hvert trin, " Bemærk gæsteredaktørerne. "Det er i sig selv større problemer at tage fat på i form af udvikling og vedtagelse af love eller uddannelse og vejledning til offentlige ledere og bureaukrater. Det faktum, at de er forbundet, komplicerer denne proces yderligere. At fremhæve disse sammenhænge er et første skridt i retning af at se det større billede af, hvorfor gennemsigtighedsmekanismer er på plads i nogle scenarier og ikke i andre, og åbner døren til sammenlignende analyser for fremtidig forskning og ny indsigt for politiske beslutningstagere. At gå ind for ansvarlig og gennemsigtig brug af algoritmer, fremtidig forskning bør se på samspillet mellem mikro-, meso-, og dynamik på makroniveau."

"Vi er stolte af at præsentere dette særlige nummer, nummer 100 af Informationspolitik . Dets fokus på forvaltningen af ​​AI viser vores fortsatte ønske om at tackle nutidige spørgsmål inden for e-forvaltning og vigtigheden af ​​at fremvise fremragende forskning og den indsigt, som informationspolitiske perspektiver tilbyder, "tilføj professor Albert Meijer (Utrecht University) og professor William Webster (University of Stirling), Chefredaktører.