Algorithmer kan bestemme dine karakterer, dine arbejdsudsigter og din økonomiske sikkerhed. Hvordan ved du, at de er fair?

Algoritmer er ved at blive almindelige. De kan bestemme beskæftigelsesmuligheder, økonomisk sikkerhed og meget mere. Brugen af ​​algoritmer kan være kontroversiel - for eksempel robodebt, da den australske regerings mangelfulde online-velfærdsoverholdelsessystem blev kendt.

Algoritmer bliver i stigende grad brugt til at træffe beslutninger, der har en varig indvirkning på vores nuværende og fremtidige liv.

Nogle af de største virkninger af algoritmisk beslutningstagning er i uddannelse. Hvis du har noget at gøre med en australsk skole eller et universitet, vil en algoritme på et tidspunkt træffe en beslutning, der betyder noget for dig.

Så hvilken slags beslutninger kan involvere algoritmer? Nogle beslutninger vil involvere det næste spørgsmål, som skoleelever skal besvare på en test, såsom online-levering af NAPLAN. Nogle algoritmer understøtter menneskelig beslutningstagning på universiteter, såsom at identificere studerende, der risikerer at bestå et fag. Andre tager mennesket ud af løkken, som nogle former for online eksamenssupervision.

Hvordan fungerer algoritmer?

På trods af deres omfattende indvirkning på vores liv, er det ofte svært at forstå, hvordan algoritmer fungerer, hvorfor de er blevet designet, og hvorfor de bruges. Da algoritmer bliver en vigtig del af beslutningstagning inden for uddannelse – og mange andre aspekter af vores liv – skal folk vide to ting:

1. hvordan algoritmer fungerer
2. den slags afvejninger, der foretages i beslutningstagning ved hjælp af algoritmer.

I forskning for at udforske disse to problemstillinger udviklede vi et algoritmespil ved hjælp af deltagende metoder til at involvere forskellige interessenter i forskningen. Processen bliver en form for kollektiv eksperimentering for at tilskynde til nye perspektiver og indsigt i en problemstilling.

Vores algoritmespil er baseret på den britiske eksamenskontrovers i 2020. Under COVID-19-lockdowns blev en algoritme brugt til at bestemme karakterer for studerende, der ønsker at gå på universitetet. Algoritmen forudsagde karakterer for nogle elever, der var langt lavere end forventet. I lyset af protester blev algoritmen til sidst skrottet.

Latterligt blame game:blame the human not the algoritme—" Premierminister Boris Johnson bebrejder "mutant algorithm" for britisk high school eksamen fiasko " https://t.co/6z49scUYHd cc @zeynep @soizicpenicaud @HenriVerdier

— Martin Tisné (@martintisne) 26. august 2020

Vores tværfaglige team co-designede det britiske eksamensalgoritmespil over en række af to workshops og flere møder i år. Vores workshops omfattede studerende, dataforskere, etikere og samfundsforskere. Sådanne tværfaglige perspektiver er afgørende for at forstå rækken af ​​sociale, etiske og tekniske implikationer af algoritmer i uddannelse.

Algorithmer foretager afvejninger, så gennemsigtighed er nødvendig

Det britiske eksempel fremhæver nøgleproblemer med brug af algoritmer i samfundet, herunder spørgsmål om gennemsigtighed og bias i data. Disse spørgsmål er vigtige overalt, inklusive Australien.

Vi designede algoritmespillet for at hjælpe folk med at udvikle værktøjerne til at have mere indflydelse på at forme den verden, algoritmer skaber. Algoritme-"spil" inviterer folk til at lege med og lære om parametrene for, hvordan en algoritme fungerer. Eksempler omfatter spil, der viser folk, hvordan algoritmer bruges i straffeafsoning, eller som kan hjælpe med at forudsige brandrisiko i bygninger

Der er en voksende offentlig bevidsthed om, at algoritmer, især dem, der bruges i former for kunstig intelligens, skal forstås som at rejse spørgsmål om retfærdighed. Men selvom alle kan have en sproglig forståelse af, hvad der er retfærdigt eller uretfærdigt, er der adskillige afvejninger involveret, når der bruges algoritmer.

I vores algoritmespil tager vi folk igennem en række problemer, hvor løsningen på et retfærdighedsproblem blot introducerer et nyt. For eksempel fungerede den britiske algoritme ikke særlig godt til at forudsige karaktererne for elever på skoler, hvor et mindre antal elever tog bestemte fag. Dette var uretfærdigt for disse elever.

Løsningen betød, at algoritmen ikke blev brugt til disse ofte meget privilegerede skoler. Disse elever fik derefter karakterer forudsagt af deres lærere. Men disse karakterer var for det meste højere end de algoritme-genererede karakterer modtaget af elever i større skoler, som oftere var offentlige grundskoler. Så dette betød, at beslutningen var retfærdig for elever på små skoler, uretfærdig for dem på større skoler, som havde karakterer tildelt af algoritmen.

Hvad vi forsøger at vise i vores spil, at det ikke er muligt at få et perfekt resultat. Og at hverken mennesker eller algoritmer vil træffe et sæt valg, der er retfærdige for alle. Det betyder, at vi skal træffe beslutninger om, hvilke værdier der betyder noget, når vi bruger algoritmer.

Offentligheden skal have indflydelse på balancen mellem EdTechs magt

Mens vores algoritmespil fokuserer på brugen af ​​en algoritme udviklet af en regering, introduceres algoritmer i uddannelse almindeligvis som en del af uddannelsesteknologi. EdTech-industrien ekspanderer hurtigt i Australien. Virksomheder søger at dominere alle uddannelsestrin:indskrivning, læringsdesign, læringserfaring og livslang læring.

Sideløbende med denne udvikling har COVID-19 fremskyndet brugen af ​​algoritmisk beslutningstagning i uddannelse og videre.

Selvom disse innovationer åbner op for fantastiske muligheder, bringer algoritmer også en række udfordringer med sig, vi skal stå over for som samfund. Eksempler som den britiske eksamensalgoritme udsætter os for, hvordan sådanne algoritmer fungerer, og den slags beslutninger, der skal træffes, når de designes. Vi er så tvunget til at svare på dybe spørgsmål om, hvilke værdier vi vil vælge at prioritere, og hvilken køreplan for forskning vi tager videre.

Vores valg vil forme vores fremtid og fremtiden for kommende generationer.