Computerforsker har til formål at beskytte mennesker i en alder af kunstig intelligens

Mens datadrevne teknologier transformerer verden, og kunstig intelligens rejser spørgsmål om bias, privatliv og gennemsigtighed, tilbyder Suresh Venkatasubramanian sin ekspertise til at hjælpe med at skabe autoværn for at sikre, at teknologier udvikles og implementeres ansvarligt.

"Vi er nødt til at beskytte det amerikanske folk og sikre, at teknologi bruges på måder, der styrker vores højeste værdier," sagde Venkatasubramanian, professor i datalogi og datavidenskab ved Brown University.

I hælene på en nyligt afsluttet 15-måneders ansættelse som rådgiver for Det Hvide Hus Office of Science and Technology Policy, vendte Venkatasubramanian tilbage til Washington, D.C. tirsdag den 4. oktober for afsløringen af ​​"A Blueprint for an AI Bill" of Rights:Making Automated Systems Work for the American People," under en ceremoni i Det Hvide Hus.

Venkatasubramanian sagde, at planen repræsenterer kulminationen på 14 måneders forskning og samarbejde ledet af Office of Science and Technology Policy med partnere på tværs af den føderale regering, den akademiske verden, civilsamfundet, den private sektor og samfund rundt om i landet. Dette samarbejde informerede udviklingen af ​​den første nationale vejledning nogensinde med fokus på brug og implementering af automatiserede teknologier, der har potentialet til at påvirke folks rettigheder, muligheder og adgang til tjenester.

"Som en nation har vi gjort dette før med forbrugernes privatliv og patientens Bill of Rights, for eksempel," sagde Venkatasubramanian. "Borgerrettigheder og borgerlige frihedsrettigheder er en hellig institution i vores land... Alle større lande og landeblokke i verden tænker på, hvad der skal til for at styre automatiserede systemer og tage højde for bias, men USA har ikke, så det er noget, der var længe undervejs."

Venkatasubramanian er en forsker og underviser fordybet i udviklingen og virkningen af ​​teknologi og kunstig intelligens. Muligheden for at rådgive nationalt stemte ikke kun med hans ekspertise, men også hans bekymringer om den etiske brug af teknologi og bias indlejret i designet af nogle AI-værktøjer, som kan indgyde tidligere fordomme og fastholde diskrimination.

I anledning af annonceringen af ​​AI Bill of Rights delte Venkatasubramanian, som er vicedirektør for Browns Data Science Initiative, indsigt og perspektiver på hans ophold i Det Hvide Hus, hans humanistiske tilgang til datalogi, og hvad han ser frem til at udrette kl. Brun i de kommende år.

Sp:Hvorfor er "værn" omkring udvikling og brug af kunstig intelligens et spørgsmål af national betydning?

Vi erkender, at der er mange potentielle fordele ved automatisering og datadrevet teknologi – alle disse løfter om, hvad der kunne være. Men vi ser også, at løfterne ofte har en tendens til ikke at betale sig. For eksempel kan vi forsøge at bygge et AI-system for at sikre, at vi ikke kan diskriminere i det strafferetlige system, men systemer, der suger data op fra tidligere anholdelser, er uigenkaldeligt plettet af historien om racemæssig uretfærdighed i strafferetssystemet. Og derefter implementeret i stor skala, spredes denne lugt. Alle data, der føres ind i et system, vil blot forstærke skævheder i dataene, medmindre der er strenge og omhyggeligt designede autoværn.

Disse teknologiske systemer påvirker vores borgerrettigheder og borgerlige frihedsrettigheder med hensyn til alt:kredit, muligheden for at blive godkendt til et realkreditlån og egen jord, børns velfærd, adgang til ydelser, at blive ansat til job – alle muligheder for avancement. Hvor vi sætter disse systemer på plads, skal vi sikre os, at de er i overensstemmelse med de værdier, vi mener, de bør have, og at de er bygget på måder, der er gennemsigtige og ansvarlige over for offentligheden. Det er ikke noget, vi kan smække på efterhånden.

Spørgsmål:Hvorfor er du som datalog bekymret over teknologiens indvirkning på samfundet?

Jeg har studeret disse spørgsmål i næsten et årti og tænkt over, hvad der kommer næste gang, og hvordan verden vil se ud, når algoritmer er allestedsnærværende. For ti år siden var en bekymring, jeg troede, vi sandsynligvis ville have, om vi kan stole på, at disse systemer fungerer, som de skal, og hvordan vi ved, at disse systemer er ansvarlige over for offentligheden og vores repræsentanter.

Uanset om du kan lide det eller ej, er teknologien her, og den påvirker allerede alt, hvad der former dig. Du er – uden din viden – ved at tilpasse, hvordan du lever og fungerer for at gøre dig selv mere læsbar for teknologi. Du gør dig selv maskinlæsbar i stedet for at gøre maskiner menneskelæselige. Hvis vi ikke er opmærksomme på dette, vil teknologien være drivkraften for, hvordan vi lever som et samfund snarere end samfundet, der laver teknologi, der hjælper os med at blomstre og være vores sande jeg. Jeg kan ikke lide at skræmme folk, men det er sandt – og det er vigtigt.

Sp:Er AI en god eller en dårlig ting?

Heller ikke, egentlig. Det er ikke teknologien, der er god eller dårlig, AI eller ej. Det er virkningen – skaderne – vi bør være bekymrede over. Et Excel-regneark, der producerer en score, der begrænser nogen til tilbageholdelse, før de står for retten, er lige så slemt som et sofistikeret AI-system, der gør det samme. Og en dyb læringsalgoritme, der kan hjælpe med at forbedre afgrødeudbyttet, er fantastisk og vidunderlig. Det er derfor, AI Bill of Rights fokuserer på indflydelse – på menneskers rettigheder, muligheder og adgang til tjenester – frem for selve teknologien, som ændrer sig og udvikler sig hurtigt.

Sp:Hvad vil Blueprint for en AI Bill of Rights gøre?

Tænk for eksempel på receptpligtig medicin. Du behøver ikke bekymre dig om, at det lægemiddel, du tager, ikke er blevet testet, for FDA vil ikke lade det komme på markedet, før det er gennemgået strenge tests. På samme måde er vi overbeviste om, at vores biler vil fungere, og at der sker regelmæssige tilbagekaldelser, hver gang National Highway Traffic Safety Administration opdager et problem; og vi er overbeviste om, at vores fly virker, og at enhver ny type jetfly gennemgår strenge tests, før de bliver fløjet. Vi har mange eksempler at trække på, hvor vi ikke lader ny teknologi blive brugt på mennesker uden at tjekke det først. Vi kan se på det som en guide til, hvad vi synes er vigtigt, og teknologi påvirker alle.

Denne AI Bill of Rights er en plan, der går ud over principperne. Det giver brugbar rådgivning til udviklere, til civilsamfundet, til fortalere, til virksomheder, til lokale regeringer og til statslige regeringer. Der er forskellige løftestænger til at fremme det:regulering, industripraksis, vejledning om, hvad regeringer vil eller ikke vil bygge. Her er ingen sølvkugle, men alle håndtag er inden for rækkevidde. Det vil tage hele samfundet at fremme dette arbejde.

Sp:Hvordan påvirkede din oplevelse som rådgiver i Det Hvide Hus dig?

Det var livsændrende. Min hjerne fungerer nu på måder, jeg ikke kan – og ikke vil – fortryde. Jeg tænker konstant på broen mellem forskning og innovation, samfund og politik. Som land og som forskere er vi stadig ved at finde ud af dette. I lang tid har vi tænkt på teknologi som en ting, vi bruger til at gøre livet bedre. Men vi er ikke så fortrolige med teknologi som noget, der ændrer vores verden. At forsøge at lave politik for et helt land – og på nogle måder hele verden, fordi USA er en leder – er udfordrende, fordi der er så mange konkurrerende interesser, som du skal balancere.

I min tid i regeringen var jeg imponeret over, hvor komplekse og subtile disse spørgsmål udfolder sig på forskellige domæner – hvad der giver mening, når man tænker på sundhedsdiagnostiske værktøjer ikke rigtig virker, hvis man tænker på værktøjer, der bruges i retssalen. Jeg har en dybere forståelse for, hvor mange dedikerede mennesker, der er i regeringen, som ønsker at gøre en forskel og har brug for hjælp og båndbredde til at gøre det.

En ting, som jeg har indset i de år, jeg har arbejdet i politiske områder, er, at det er afgørende at hjælpe politikere med at forstå, at teknologi ikke er en sort boks – den er formbar og udviklende, og den hjælper med at forme politik på måder, som vi måske ikke forventer. Valg af teknologidesign er politiske valg på så mange måder. At komme overens med, hvordan teknologi og politik påvirker hinanden, kræver en masse uddannelse – både for teknologer og for politiske beslutningstagere. + Udforsk yderligere

Det Hvide Hus afslører kunstig intelligens 'Bill of Rights'