Indlejring af etik i datalogi pensum

Barbara Grosz har en fantasi om, at hver gang en datalog logger på for at skrive en algoritme eller bygge et system, en besked vil blinke hen over skærmen, der spørger, "Har du tænkt over de etiske implikationer af det, du laver?"

Indtil den dag kommer, Grosz, Higgins professor i naturvidenskab ved Harvard John A. Paulson School of Engineering and Applied Sciences (SEAS), arbejder på at indgyde den næste generation af dataloger en tankegang, der tager hensyn til den samfundsmæssige virkning af deres arbejde, og de etiske ræsonnementer og kommunikationsevner til at gøre det.

"Etikken gennemsyrer designet af næsten alle computersystemer eller algoritmer, der kommer ud i verden, " sagde Grosz. "Vi ønsker at uddanne vores elever til ikke kun at tænke på, hvilke systemer de kunne bygge, men om de skal bygge disse systemer, og hvordan de skal designe disse systemer."

I en tid, hvor datalogiske afdelinger rundt om i landet kæmper med, hvordan man får kandidater, der forstår etik såvel som algoritmer, Harvard har en ny tilgang.

I 2015 Grosz designede et nyt kursus kaldet "Intelligente Systems:Design and Ethical Challenges." En ekspert i kunstig intelligens og en pioner inden for naturlig sprogbehandling, Grosz henvendte sig til kolleger fra Harvards filosofiafdeling for at være med til at undervise i kurset. De indblandet i kursets tekniske indhold en række etiske gåder fra det virkelige liv og de relevante filosofiske teorier, der var nødvendige for at evaluere dem. Dette tvang eleverne til at konfrontere spørgsmål, som i modsætning til de fleste computervidenskabelige problemer, har ikke noget åbenlyst korrekt svar.

Eleverne svarede. Kurset tiltrak hurtigt en tilhængerskare, og i det andet år konkurrerede 140 personer om 30 pladser. Der var efterspørgsel efter flere sådanne kurser, ikke kun fra elevernes side, men også af Grosz' datalogiske fakultetskolleger.

"Fakultetet syntes, det var interessant og vigtigt, men de havde ikke ekspertise i etik til at undervise i det selv, " hun sagde.

Som svar, Grosz og samarbejdspartner Alison Simmons, Samuel H. Wolcott professor i filosofi, udviklet en model, der trækker på filosofiafdelingens ekspertise og integrerer den i en voksende liste med mere end et dusin datalogikurser, fra introduktionsprogrammering til teori på kandidatniveau.

Under initiativet kaldet Embedded Ethics, filosofi kandidatstuderende er parret med datalogi fakultet medlemmer. Sammen, de gennemgår kursusmaterialet og beslutter sig for et etisk rigt emne, der naturligt vil udspringe af indholdet. En kandidatstuderende identificerer aflæsninger og udvikler et casestudie, aktiviteter, og opgaver, der skal forstærke materialet. Datalogi- og filosofiinstruktørerne underviser side om side, når Embedded EthiCS-materialet bringes til klasseværelset.

Grosz og hendes filosofikolleger er i centrum for en bevægelse, som de håber vil brede sig til datalogi-programmer rundt om i landet. Harvards "distribuerede pædagogik"-tilgang er forskellig fra mange universitetsprogrammer, der behandler etik ved at tilføje et selvstændigt kursus, dvs. oftere end ikke, blot et valgfag for datalogi hovedfag.

"Fristående kurser kan være fantastisk, men de kan sende beskeden om, at etik er noget, du tænker over, efter du har udført dit 'rigtige' datalogiarbejde, " sagde Simmons. "Vi ønsker at sende budskabet om, at etisk ræsonnement er en del af det, du gør som datalog."

Indlejring af etik på tværs af læseplanen hjælper datalogistuderende med at se, hvordan etiske spørgsmål kan opstå fra mange sammenhænge, spørgsmål lige fra den måde, sociale netværk letter spredningen af ​​falsk information til censur til maskinlæringsteknikker, der styrker statistiske slutninger i beskæftigelse og i det strafferetlige system.

Kurser i kunstig intelligens og maskinlæring er oplagte områder for etiske diskussioner, men Embedded EthiCS har også indbyggede moduler til mindre indlysende parringer, såsom anvendt algebra.

"Vi vil virkelig gerne vænne eleverne til at tænke:Hvordan kan et etisk problem opstå i denne eller hin sammenhæng?" sagde Simmons.

David Parkes, George F. Colony professor i datalogi, underviser i en bred bachelorklasse om emner inden for algoritmisk økonomi. "Uden dette initiativ, Jeg ville have kæmpet for at udforme de rigtige etiske spørgsmål relateret til regler for matching af markeder, eller valg af mål for anbefalingssystemer, " sagde han. "Det har været en øjenåbnende oplevelse at få eleverne til at tænke grundigt over etiske spørgsmål."

Grosz erkendte, at det kan være en udfordring for datalogifakultetet og deres studerende at vikle hovedet rundt om ofte uigennemsigtige etiske dilemmaer.

"Computerforskere er vant til, at der er måder at bevise, at problemsættets svar er korrekte eller algoritmer effektive på, " sagde hun. "At ende i en situation, hvor forskellige værdier fører til, at der er afvejninger og måder at understøtte forskellige 'rigtige konklusioner' på, er et udfordrende tankeskifte. Men at få disse normative spørgsmål ind i computersystemdesignerens sind er afgørende for samfundet lige nu."

Jeffrey Behrends, i øjeblikket en fellow-in-residence på Harvard's Edmond J. Safra Center for Ethics, har undervist i design- og etikkurset sammen med Grosz. Behrends sagde, at oplevelsen afslørede større harmoni mellem de to felter, end man kunne forvente.

"Når elever, der ikke er fortrolige med filosofi, bliver introduceret til det, de indser, at det ikke er en mystisk virksomhed, der er fuldstændig uafhængig af andre måder at tænke verden på, " sagde han. "Mange studerende, der er tiltrukket af datalogi, er også tiltrukket af nogle af filosofiens metoder, fordi vi lægger vægt på streng tænkning. Vi lægger vægt på en metode til at løse problemer, der ikke ser for ulig ud fra nogle af metoderne til at løse problemer i datalogi."

Embedded EthiCS-modellen har tiltrukket sig interesse fra universiteter – og virksomheder – rundt om i landet. For nylig, eksperter fra mere end 20 institutioner var samlet på Harvard til en workshop om udfordringer og bedste praksis for at integrere etik i datalogi læseplaner. Mary Grey, en seniorforsker ved Microsoft Research (og en fellow ved Harvards Berkman Klein Center for Internet and Society), som hjalp med at indkalde forsamlingen, sagde, at ud over upåklagelige tekniske koteletter, Arbejdsgivere leder i stigende grad efter folk, der forstår behovet for at skabe teknologi, der er tilgængelig og socialt ansvarlig.

"Vores udfordring i industrien er at hjælpe forskere og praktikere til ikke at se etik som en boks, der skal tjekkes til sidst, men snarere at tænke på disse ting fra begyndelsen af ​​et projekt, " sagde Gray.

Disse bekymringer inspirerede for nylig Association for Computing Machinery (ACM), verdens største videnskabelige og uddannelsesmæssige computersamfund, at opdatere sit etiske kodeks for første gang siden 1992.

I håbet om at sprede Embedded EthiCS-konceptet bredt over det computervidenskabelige landskab, Grosz og kolleger har skrevet et papir, der skal publiceres i tidsskriftet Kommunikation af ACM og lancerede et websted, der skal fungere som et open source-lager for deres mest succesfulde kursusmoduler.

De forestiller sig et kulturskifte, der fører til en ny generation af etisk tænkende datalogi-udøvere.

"I vores drømmeverden, succes vil føre til bedre informerede beslutningstagere og nye virksomhedsmodeller for organisation, der indbygger etik i alle faser af design og virksomhedsledelse, " siger Behrends.

Eksperimentet har også ført til interessante samtaler ud over datalogiens område.

"Vi har gjort dette i forbindelse med teknologi, men at indlejre etik på denne måde er vigtigt for enhver videnskabelig disciplin, der lægger ting ud i verden, " sagde Grosz. "For at gøre det, vi bliver nødt til at vokse en generation af filosoffer, som vil tænke over måder, hvorpå de kan tage filosofisk etik og normativ tænkning, og bringe det til hele videnskab og teknologi."

Omhyggeligt designede kursusmoduler

I hjertet af Embedded EthiCS-programmet er omhyggeligt designet, kursusspecifikke moduler, i samarbejde udviklet af fakultetet fra datalogi og filosofi.

Et modul skabt til et kursus undervist af professor Finale Doshi-Velez beder eleverne om at kæmpe med spørgsmål om, hvordan maskinlæringsmodeller kan være diskriminerende, og hvordan den forskelsbehandling kan reduceres. Et indledende foredrag udstikker en filosofisk ramme for, hvad diskrimination er, herunder begreberne uensartet behandling og påvirkning. Studerende lærer, hvordan eliminering af diskrimination i maskinlæring kræver mere end blot at reducere bias i teknisk forstand. Selv at stille en socialt god opgave er måske ikke nok til at reducere diskrimination, da maskinlæring er afhængig af forudsigelig nyttige korrelationer, og disse korrelationer resulterer nogle gange i øget ulighed mellem grupper.

Modulet belyser konsekvenserne og potentielle begrænsninger ved at bruge en forskellig påvirkningsdefinition til at identificere diskrimination. Den introducerer også teknisk datalogisk arbejde om diskrimination – statistiske retfærdighedskriterier. En øvelse i klassen fokuserer på et tilfælde, hvor en algoritme, der forudsiger jobansøgeres succes til salgsstillinger hos en større detailhandler, resulterer i, at færre afroamerikanere bliver anbefalet til stillinger end hvide ansøgere.

En opgave uden for klassen beder eleverne om at trække på dette grundlag for at løse et konkret etisk problem, som arbejdende dataloger står over for (dvs. softwareingeniører, der arbejder for Department of Labor). Opgaven giver eleverne en mulighed for at anvende materialet på et problem i den virkelige verden af ​​den slags, de kan stå over for i deres karriere, og beder dem om at formulere og forsvare deres tilgang til at løse problemet.