AI bias:Hvordan teknologi bestemmer, om du får job, få et lån eller havne i fængsel

Virksomheder på tværs af næsten alle brancher implementerer kunstig intelligens for at gøre jobs lettere for personalet og opgaver nemmere for forbrugerne.

Computersoftware lærer kundeserviceagenter at være mere medfølende, skoler bruger maskinlæring til at scanne efter våben og masseskydere på campus, og læger bruger kunstig intelligens til at kortlægge årsagen til sygdomme.

Sektorer som cybersikkerhed, online underholdning og detailhandlen bruger teknologien i kombination med brede dele af kundedata på revolutionerende måder til at strømline tjenester.

Selvom disse applikationer kan virke harmløse, måske endda nyttigt, AI'en er kun så god som den information, der er indført i den, hvilket kan have alvorlige konsekvenser.

Du er måske ikke klar over det, men AI hjælper med at afgøre, om du er kvalificeret til et lån i nogle tilfælde. Der er produkter i pipelinen, som kunne få politibetjente til at stoppe dig, fordi software identificerede dig som en anden.

Tænk, hvis folk på gaden kunne tage et billede af dig, så scannede en computer en database for at fortælle dem alt om dig, eller hvis en lufthavns sikkerhedskamera markerede dit ansigt, mens en dårlig fyr gik rent gennem TSA.

Det er muligheder i den virkelige verden, når den teknologi, der skal styrke bekvemmeligheden, har menneskelig fordomme bagt ind i rammen.

"Kunstig intelligens er et superkraftigt værktøj, og som ethvert virkelig kraftfuldt værktøj, det kan bruges til at gøre en masse ting - hvoraf nogle er gode, og nogle af dem kan være problematiske, " sagde Eric Sydell, Executive Vice President for innovation hos Shaker International, som udvikler AI-aktiveret software.

"I de tidlige stadier af enhver ny teknologi som denne, du ser mange virksomheder, der prøver at finde ud af, hvordan de kan bringe det ind i deres forretning, " sagde Sydell, "og nogle gør det bedre end andre."

Kunstig intelligens har en tendens til at være et samlebegreb til at beskrive opgaver udført af en computer, som normalt ville kræve et menneske, såsom talegenkendelse og beslutningstagning.

Uanset om det er bevidst eller ej, mennesker træffer domme, der kan smitte af på den kode, der er skabt til AI at følge. Det betyder AI kan indeholde implicit race, køn og ideologiske skævheder, hvilket foranledigede en række føderale og statslige reguleringsindsatser.

Strafferet

I juni, rep. Don Beyer, D-Va., tilbød to ændringsforslag til et lovforslag om husbevillinger, der ville forhindre føderale fonde i at dække ansigtsgenkendelsesteknologi af retshåndhævelse og kræve, at National Science Foundation rapporterer til Kongressen om de sociale konsekvenser af AI.

"Jeg tror ikke, vi skal forbyde alle føderale dollars fra at udføre al AI. Vi skal bare gøre det med omtanke, "Beyer fortalte U.S. TODAY. Han sagde, at computerlæring og ansigtsgenkendelsessoftware kunne gøre det muligt for politiet at fejlagtigt identificere nogen, får en betjent til at række ud efter en pistol i ekstreme tilfælde.

"Jeg tror, ​​at vi meget snart vil bede om at forbyde brugen af ​​ansigtsgenkendelsesteknologi på kropskameraer på grund af bekymringerne i realtid, " sagde Beyer. "Når data er unøjagtige, det kan få en situation til at komme ud af kontrol."

AI bruges i prædiktiv analyse, hvor en computer afslører, hvor sandsynligt en person er til at begå en forbrydelse. Selvom det ikke er helt i omfanget af "precrime" politienhederne i Tom Cruise sci-fi-hittet "Minority Report, "Teknikken har været udsat for granskning af, om den forbedrer sikkerheden eller blot fastholder uligheder.

Amerikanere har givet udtryk for blandet støtte til AI-applikationer, og flertallet (82%) er enige om, at det bør reguleres, ifølge en undersøgelse i år fra Center for Governance of AI og Oxford University's Future of Humanity Institute.

Når det kommer til ansigtsgenkendelse specifikt, Amerikanerne siger, at retshåndhævende myndigheder vil bruge teknologien til god brug.

Jobs

Talrige undersøgelser tyder på, at automatisering vil ødelægge arbejdspladser for mennesker. For eksempel, Oxford-akademikerne Carl Benedikt Frey og Michael Osborne anslog, at 47% af de amerikanske job er i høj risiko for automatisering i midten af ​​2030'erne.

Mens arbejdere bekymrer sig om at blive fordrevet af computere, andre er ansat takket være AI-aktiveret software.

Teknologien kan matche medarbejdere, der har de ideelle færdigheder til et specifikt arbejdsmiljø, med arbejdsgivere, der måske har for travlt til at få mennesker til at screene kandidater.

Shaker International bruger data indsamlet fra test, lydinterviews og CV'er for at forudsige, hvordan en person kan opføre sig på jobbet.

"Meningsfulde bidder" af information omfatter "hvordan en person vil arbejde, hvor længe bliver de, vil de være en topsalgsmedarbejder eller en højkvalitetsarbejder, " sagde Sydell.

Ved hjælp af AI, "vi kan slippe af med processer, der ikke fungerer godt eller er overflødige. Og vi kan give kandidater en bedre oplevelse ved at give dem feedback i realtid gennem hele processen, " sagde Sydell.

Han sagde, at hvis AI er dårligt implementeret, det kan gøre arbejdsmiljøet værre, men hvis det er gjort med omtanke, det kan føre til mere retfærdige arbejdspladser.

Finansiere

På godt og ondt, kunstig intelligens påvirker de økonomiske beslutninger, folk træffer, og det har den gjort i årevis. Det spiller en stadig større rolle i, hvordan handlende investerer, og det er særligt effektivt til at forhindre svindel med kreditkort, sagde eksperter.

Hvor tingene bliver tvivlsomme er, når teknologien bruges til at afgøre, om du er værdig til at låne penge fra en bank.

"Når du ansøger om et lån, der kan være AI til at finde ud af, om det lån skal gives eller ej, " sagde Kunal Verma, medstifter af AppZen, en kunstig intelligens-platform for finansteams med kunder, herunder WeWork og Amazon.

Teknologien bliver ofte udråbt som en hurtigere og mere præcis vurdering af en potentiel låntager, da den kan gennemsøge tonsvis af data på få sekunder. Imidlertid, der er plads til fejl.

Hvis oplysningerne i en algoritme viser, at du bor i et område, hvor mange mennesker har misligholdt deres lån, systemet kan afgøre, at du ikke er pålidelig, sagde Verma.

"Det kan også ske, at området kan have en masse mennesker af visse minoriteter eller andre karakteristika, der kan føre til en skævhed i algoritmen, " sagde Verma.

Løsninger på bias

Bias kan snige sig ind på næsten alle stadier af den dybe læringsproces; imidlertid, Algoritmer kan også hjælpe med at reducere uligheder forårsaget af dårlig menneskelig dømmekraft.

En type løsning involverer ændring af følsomme attributter i et datasæt for at udligne resultatet. En anden er forhåndsscreening af data for at bevare nøjagtigheden. På den ene eller anden måde, jo flere data en virksomhed har, jo mere fair AI kan være, sagde Sydell.

"Der er en grund til, at Google, Facebook og Amazon er førende inden for kunstig intelligens, " sagde Sydell. "Det er fordi de har tonsvis af data, der skal knuses. Andre virksomheder har adgang til samme type AI-teknologi, men de har måske ikke enorme mængder data at bruge og anvende dem på. Det er anstødssten."

Beyer, politikeren, der ønsker at regulere AI, går ind for at få mennesker til at dobbelttjekke beslutninger truffet af computere "indtil teknologien er perfekt, hvis det nogensinde er."

Han sagde, at det kunne være det værd at stille spørgsmålstegn ved, om kunstig intelligens skulle være løsningen på ethvert problem. herunder om nogen kommer i fængsel.

"Og når det er perfekt, vi skal begynde at tænke på privatlivets fred. Synes godt om, er det rimeligt at tage et billede af nogen og køre det gennem en database?" sagde Beyer. "Hvis AI kan læse et røntgenbillede meget hurtigere, meget mere præcist og med mindre bias end et menneske, det er fantastisk. Hvis vi giver AI evnen til at erklære krig, vi er i store problemer."

(c)2019 USA i dag
Distribueret af Tribune Content Agency, LLC.