Dataetik er mere end bare det, vi gør med data, det handler også om hvem der gør det

Hvis den seneste Cambridge Analytica -dataskandale har lært os noget, det er, at de største etiske virksomheders etiske kulturer har brug for strengere granskning.

Men moralske spørgsmål om, hvilke data der skal indsamles, og hvordan de skal bruges, er kun begyndelsen. De rejser bredere spørgsmål om, hvem der i første omgang skal træffe disse beslutninger.

Vi har i øjeblikket et system, hvor magten over den fornuftige og etiske brug af data er overvældende koncentreret blandt hvide mænd. Forskning viser, at de ubevidste fordomme, der kommer fra en persons opvækst og oplevelser, kan bages i teknologi, med negative konsekvenser for minoritetsgrupper.

Disse fordomme er svære at afvise, hvilket gør mangfoldighed på arbejdspladsen til et kraftfuldt og nødvendigt redskab til at fange uanede skævheder, før det har en chance for at forårsage skade. Efterhånden som virkningen af ​​datadrevne algoritmer og beslutninger vokser mere dybtgående, vi er nødt til at spørge:hvordan kommer dette til at ændre sig i fremtiden?

Desværre, indikatorerne tyder på, at svaret er:ikke meget.

Hvilke konsekvenser taler vi om?

Algoritmisk skævhed er nu et bredt undersøgt problem, der refererer til, hvordan menneskelige skævheder sniger sig ind i de beslutninger, computere træffer.

Problemet har ført til kønssprogede oversættelser, partisk anbefaling om strafferetlig dom, og racemæssigt skæve ansigtsgenkendelsessystemer.

For eksempel, Når et automatiseret oversættelsesværktøj som Google Translate er påkrævet for at oversætte et kønsneutralt sprog (f.eks. tyrkisk) til et kønsspecifikt sprog (f.eks. engelsk), gætter det på, hvilket køn der skal tildeles den oversatte tekst.

Folk lagde mærke til, at Google Oversæt viste en tendens til at tildele feminine kønspronominer til bestemte job og maskuline pronomen til andre - "hun er en babysitter" eller "han er en læge" - på en måde, der stinker af sexisme. Google Translate baserer sin beslutning om, hvilket køn der skal tildeles et bestemt job, på de træningsdata, det lærer af. I dette tilfælde, det er at opfange den kønsforstyrrelse, der allerede findes i verden, og give det tilbage til os.

Hvis vi vil sikre, at algoritmer ikke vedvarer og forstærker eksisterende skævheder, vi skal være forsigtige med de data, vi bruger til at træne algoritmer. Men hvis vi har den opfattelse, at kvinder er mere tilbøjelige til at være babysittere og mænd er mere tilbøjelige til at være læger, så bemærker vi måske ikke engang - og korrigerer - forudindtastede data i de værktøjer, vi bygger.

Så det er vigtigt, hvem der skriver koden, fordi koden definerer algoritmen, som træffer afgørelsen på grundlag af dataene.

Hvem har magten?

For kun ti år siden satte de første smartphones deres præg. I dag er nogle af de mest magtfulde mennesker på planeten dem, der kontrollerer data indsamlet via mobile teknologier.

Data er centrale for den moderne verdens funktion. Og magt over erhvervslivet, demokrati og uddannelse vil sandsynligvis fortsat ligge med data og dataafhængige værktøjer, såsom maskinlæring og kunstig intelligens.

I øjeblikket, de mennesker, der har magt til at træffe etiske beslutninger om brugen af ​​data, er typisk hvide mænd fra højtlønnede, veluddannede familier.

Et forskningsfirma, Åben MIC, der beskriver sig selv som "at investere i racemæssig mangfoldighed i tech -verdenen", gennemgået data fra nogle af de største teknologivirksomheder og fundet et konsekvent mønster:uforholdsmæssige procentdele af hvide medarbejdere sammenlignet med den bredere arbejdende befolkning.

Adobes arbejdsstyrke er 69% hvid, Apples er 56% hvid, Google er 59% hvid, og Microsoft er 58% hvid. Listen fortsætter:"Sorte mennesker, Latinoer, og indianere er underrepræsenteret inden for teknologi med 16 til 18 procentpoint sammenlignet med deres tilstedeværelse i den amerikanske arbejdsstyrke generelt. "

Dette gøres langt værre af en lammende mangel på kønsmangfoldighed.

I en Microsoft -rapport fra 2017, en undersøgelse blandt britiske it- og tech -ledere fandt ud af, at i gennemsnit kønsblandingen blandt deres hold var 80% mænd og 20% ​​kvinder. En svimlende 35% af respondenterne havde ingen planer om at ændre denne ubalance.

Tallene er ens i Australien, ifølge en undersøgelse af australske professionelle profiler på det sociale netværk LinkedIn.

Det afslørede, at kun 14% af lederrollerne i den lokale tech -industri var besat af kvinder. Af de 435, 000 mennesker inden for it, der er opført på LinkedIn i Australien, kun 31% var kvinder. Selv disse tal kan være optimistiske, ifølge Australiens chefforsker, Alan Finkel, der bemærkede, at kvinder udgør mindre end en femtedel af australierne, der er kvalificerede inden for videnskab, teknologi, teknik og matematik.

Vil dette ændre sig?

De, der sandsynligvis har ansvaret for at udvikle fremtidens algoritmer, er dem, der studerer datalogi og matematiske videnskaber lige nu. Desværre, grupperne, der dominerer disse fag på skoler og universiteter, afspejler stort set den nuværende arbejdsstyrke.

Australske indenlandske studerende tilmeldt informationsteknologi på tertiært niveau faldt fra et højdepunkt på 46, 945 i 2002 til 27, 547 i 2013. Selvom antallet er forbedret en smule ifølge AEN University Rankings, kvinder inden for teknik og it repræsenterer stadig mindre end hver femte studerende.

I mellemtiden, antallet af piger på gymnasialt niveau, der tager de avancerede computer- og matematikfag, der er nødvendige for at komme ind i disse roller, forbliver resolut lavt.

Dette skib tager lang tid at vende om.

Hvad kan vi gøre ved det?

Hvis fremtidens kodere er nutidens middelklasse-drenge, hvordan forbereder vi dem til at foretage objektive etiske valg, når de bliver morgendagens Zuckerbergs? Og hvordan kan vi styre skibet, så den rigdom og magt, der fortsat vil strømme fra beherskelse af sådanne tekniske færdigheder, ikke nægtes dem, der ikke er hvide og mandlige?

Vores uddannelsessystem tillader ubevidst drenge at uddanne sig til tekniske mennesker uden færdigheder til at sætte deres arbejde i en social kontekst, og lade piger gøre det modsatte.

Ja, mens mange af de klogeste unge kvinder vælger at gå ind i medicin eller jura, disse erhverv er sårbare over for kunstig intelligens - advokater, radiologer, og dem, der stiller foreløbige diagnoser.

Vi er i en struktur, hvor de samme gamle ubalancer styrkes og ser ud til at vedvare. Men det er ikke sådan det skal være. Medmindre vi konfronterer kulturen gennem store skift i uddannelsestendenser, intet vil ændre sig.

Denne artikel blev oprindeligt offentliggjort på The Conversation. Læs den originale artikel.