Kunstig intelligens har et racemæssigt partisk problem. Google finansierer sommerlejre for at forsøge at ændre det

Gennem forbindelser skabt på sommerlejren, gymnasieelever Aarzu Gupta og Lili Sun brugte kunstig intelligens til at skabe et droneprogram, der har til formål at opdage skovbrande, før de spredes for langt.

Rebekka Agwunobi, en stigende high school senior, lært nok til at komme i praktik på Massachusetts Institute of Technology's Media Lab, arbejder på at bruge kunstig intelligens til at evaluere retssystemet, herunder indsamling af data om, hvordan dommere sætter kaution.

Begge projekter stammede fra Oakland, Californien-baseret nonprofit AI4All, som vil udvide sin udbredelse til unge underrepræsenterede minoriteter og kvinder med en bevilling på 1 million USD fra Google.org, teknologigigantens filantropiske arm annoncerede fredag.

Kunstig intelligens bliver mere og mere almindeligt i dagligdagen, findes i alt fra Facebooks ansigtsgenkendelsesfunktion til billeder til Apples iPhone X ansigtsgenkendelse.

Det er også en af ​​de mere omstridte dele af teknologien. Den afdøde astrofysiker Stephen Hawking og Tesla CEO Elon Musk har advaret om, at den menneskelige civilisation er i fare på grund af den uhindrede udvikling af kunstig intelligens, som kan føre til autonome terrorvåben. En sådan frygt fik personalet hos Google til tidligere på året at presse virksomheden til at stoppe en dronekontrakt med Pentagon.

Teknologien, stadig i de tidlige stadier, er også blevet fordømt for indbygget racemæssig bias, der kan forstærke eksisterende stereotyper. Det er især bekymrende, da flere virksomheder bruger det til beslutninger som ansættelser og politiet udnytter kunstig intelligens-drevet software til at identificere mistænkte. MIT Media Lab-forsker Joy Buolamwini, hvem er sort, fandt, at ansigtsgenkendelsessoftware lettere kunne identificere hendes ansigt, når hun bar en hvid maske, et resultat af algoritmer, der baserede sig på datasæt med hovedsageligt hvide ansigter.

Tre år siden, Google undskyldte, efter at deres billedidentifikationssoftware fejlmærkede sorte mennesker som gorillaer. Microsoft gjorde det samme, efter at brugerne hurtigt fandt en måde at få en kunstig intelligens-drevet social chatbot til at udsyde racemæssige besværgelser.

Tess Posner, direktør for nonprofitorganisationen AI4All, sagde, at problemet bliver værre af, at minoritetsgrupper som kvinder og farvede mennesker historisk set er blevet udeladt af tech -industrien, især i AI.

"Vi skal have folk inkluderet, som vil blive påvirket af disse teknologier, og vi har også brug for inklusion for at sikre, at de udvikles ansvarligt, " sagde Posner. "(Bias) sker, når vi ikke har folk, der stiller de rigtige spørgsmål fra begyndelsen."

På trods af erklærede bestræbelser på at tiltrække flere kvinder og flere farvede, Google, Facebook og andre store teknologigiganter har været langsomme til at diversificere deres personale, og de har undladt at ansætte mange farvede kvinder. Afroamerikanske og latinamerikanske kvinder udgør ikke mere end én procent af hele Silicon Valleys arbejdsstyrke.

Posners organisation mener, at techindustrien skal begynde at inkludere kvinder og farvede på et meget tidligere tidspunkt. De arbejder på at lukke det hul gennem sommerlejre rettet mod gymnasieelever.

AI4All, lanceret i 2017, er baseret på et to-ugers sommerlejrprogram fra Stanford University.

Siden da, AI4Alls ressourcer er udvidet over hele landet. I sit første år, der var kun to sommerlejre på Stanford University og UC Berkeley. I år blev der tilføjet fire mere på Carnegie Mellon, Princeton, Boston University og Simon Fraser University.

Alle lejrene er rettet mod gymnasieelever, der er kvinder, mennesker med farve eller lav indkomst.

En del af Google.orgs bevilling vil gå til at åbne flere AI4All-lejre. Det ultimative mål er at bruge pengene til at skabe en gratis, online AI curriculum kursus, der vil være tilgængeligt for alle i verden. Et kursus er allerede i gang.

"Vi har virkelig brug for, at AI bliver lavet af forskellige skabere, og det starter med, at folk har adgang til læringsmulighederne for at forstå, hvad AI er, og hvordan det kan anvendes, " Google.orgs AI4All-partnerskabsleder Hannah Peter sagde.

Ud over at tilbyde sommerlejre, AI4All tilbyder også tre måneders stipendier, hvor studerende kan udvikle deres egne projekter og stille dem til AI-eksperter i branchen, samt midler til, at deres studerende kan iværksætte selvstændige initiativer.

Et sådant initiativ var AI4All alumnus Ananya Karthiks værksted, skabe, som bruger kunstig intelligens til at skabe kunstværker. Karthik samlede et par dusin piger en solrig mandag eftermiddag i Oaklands Kapor Center for at vise dem, hvordan man bruger Deep Dream Generator-programmet til at smelte billeder sammen til et unikt kunstværk.

Andre AI4All-studerende, hvoraf de fleste stadig går i gymnasiet, har vendt deres nyerhvervede tekniske færdigheder mod aktuelle presserende spørgsmål, ligesom et brandfyrprojekt udviklet af Gupta og Sun, fra AI4Alls 2017 og 2016 klasse, henholdsvis. De to mødtes under et af AI4Alls tre måneders stipendier i år. Denne idé kom ud af brandene i Napa og Sonoma County, der plagede det nordlige Californien i slutningen af ​​sidste år.

Lejrene bekræftede deres interesse for STEM-karrierer. De værdsatte også lejrens samtaler med virkelige eksempler på minoritetskvinder, der var i stand til at lykkes i branchen.

"Jeg vil starte forandring ved hjælp af kunstig intelligens, " sagde Sun. "Jeg vil ikke bare arbejde på en iPhone eller sådan noget... (AI4All) gav mig rigtige eksempler på folk, der har haft succes, hvilket er ret fedt. Jeg vidste, at jeg kunne gøre det."

På grund af hendes oplevelser, Gupta sagde, hun ser frem til at udforske en karriere inden for kunstig intelligens, især i dets anvendelser til sundhed og medicin. Hun sætter allerede den interesse i at arbejde med sit praktikophold denne sommer på UC San Francisco, hvor laboratoriet, hun arbejder på, forsker i de øgede risikofaktorer for kvinder i at udvikle Alzheimers sygdom.

Amy Jin, en AI4All 2015-alumne og en stigende nybegynder på Harvard University i efteråret, sagde, at programmet åbnede hendes øjne for alle mulighederne ved AI som et værktøj til at løse problemer i den virkelige verden.

Ved hjælp af operationsvideoer fra UCSF, Jin, sammen med en af ​​hendes AI4All mentorer, udviklet et program, der kan spore en kirurgs værktøjer, bevægelser og håndplacering for at give feedback på, hvordan man kan forbedre deres teknik.

For Agwunobi, AI4All var medvirkende til at vise hende, hvordan hun kunne kombinere sin passion for aktivisme og social retfærdighed med sin interesse for teknologi.

På hendes MIT-praktik, Agwunobi tog data indsamlet under forudgående retssagen for at evaluere, hvordan nøglefigurer som dommere opfører sig, mens de sætter kaution. Målet er at bevæbne aktivister med disse data, når de presser på for en reform af kaution og nedbringer massefængslingen.

"Du kan arbejde med teknologi og stadig være ansvarlig for samfundsløsninger, "Sagde Agwunobi." (AI4All) bekræftede mit ønske om at løse interessante problemer, der faktisk hjalp samfund, jeg var ansvarlig over for, i stedet for at få mig til at føle, at jeg solgte ud ... jeg tror, ​​det er sådan, jeg vil gribe løsningen af ​​humanitære problemer an i fremtiden."

©2018 USA Today
Distribueret af Tribune Content Agency, LLC.