Demokraterne ønsker, at feds skal målrette den sorte kasse med AI -bias

Kongressen begynder at vise interesse for at lure den "sorte boks" for tech -virksomheders kunstige intelligens op med tilsyn, der sideløbende med, hvordan den føderale regering kontrollerer under bilkapper og reviderer banker.

Et forslag blev indført onsdag og co-sponsoreret af en demokratisk præsidentkandidat, Senator Cory Booker, ville kræve, at store virksomheder tester "algoritmisk ansvarlighed" for deres højrisiko AI-systemer, såsom teknologi, der registrerer ansigter eller træffer vigtige beslutninger baseret på dine mest følsomme personlige data.

"Computere er i stigende grad involveret i så mange af de vigtigste beslutninger, amerikanerne træffer med hensyn til deres daglige liv - om nogen kan købe et hus, få et job eller endda gå i fængsel, "Senator Ron Wyden sagde i et interview med Associated Press. Oregon-demokraten er medsponsor for lovforslaget.

"Når virksomhederne virkelig går ind i dette, de vil lede efter bias i deres systemer, "Sagde Wyden." Jeg tror, ​​de kommer til at finde meget. "

Demokraternes forslag er det første af sin art, og kan stå over for en opadgående kamp i det republikansk-ledede senat. Men det afspejler en voksende - og toparts - undersøgelse af den stort set uregulerede dataøkonomi - alt fra feeds på sociale medier, online datamægler, finansielle algoritmer og selvkørende software, der i stigende grad påvirker dagligdagen. Et todelt senatforslag, der blev indført i sidste måned, ville kræve, at virksomheder underretter folk, før de bruger ansigtsgenkendelsessoftware på dem, samtidig med at det også kræver tredjepartstestning for at kontrollere for bias-problemer.

Akademiske undersøgelser og eksempler fra det virkelige liv har opdaget ansigtsgenkendelsessystemer, der fejlagtigt identificerer kvinder med mørkere hud, edb -låneværktøjer, der opkræver højere renter til latinoer og sorte låntagere, og jobrekrutteringsværktøjer, der favoriserer mænd i brancher, hvor de allerede dominerer.

"Der er denne myte om, at algoritmer er disse neutrale, objektive ting, "sagde Aaron Rieke, administrerende direktør hos advocacy group Upturn. "Maskinlæring opfanger mønstre i samfundet - hvem gør hvad, hvem køber hvad, eller hvem har hvilket job. Det er mønstre formet af spørgsmål, vi har kæmpet med i årtier. "

Præsident Donald Trumps administration tager også hensyn og har gjort udviklingen af ​​"sikre og troværdige" algoritmer til et vigtigt mål for Det Hvide Hus nye AI -initiativ. Men det ville gøre det mest ved at styrke en eksisterende branchedrevet proces med at skabe teknologiske standarder.

"Der er behov for større gennemsigtighed og sammenlignelighed af data, "og til at opdage og reducere bias i disse systemer, sagde handelssekretær Walter Copan, der leder National Institute of Standards and Technology. "Forbrugerne er i det væsentlige flyvende blinde."

Snesevis af ansigtsgenkendelsesudviklere, herunder mærkenavnvirksomheder som Microsoft, sidste år indsendte deres proprietære algoritmer til Copans bureau, så de kunne evalueres og sammenlignes med hinanden. Resultaterne viste betydelige gevinster i nøjagtighed i forhold til tidligere år.

Men Wyden sagde, at de frivillige standarder ikke er nok.

"Selvregulering har klart mislykkedes her, " han sagde.

I et dristigere træk fra Trump -administrationen, det føderale ministerium for bolig og byudvikling har anklaget Facebook for at tillade udlejere og ejendomsmæglere systematisk at udelukke grupper som ikke-kristne, immigranter og minoriteter fra at se annoncer for huse og lejligheder.

Booker, i en erklæring om hans regning, sagde, at mens HUDs Facebook -handling er et vigtigt skridt, det er nødvendigt at grave dybere for at håndtere de "skadelige måder" diskrimination fungerer på tekniske platforme, nogle gange utilsigtet.

Booker sagde, at partiske algoritmer forårsager den samme slags diskriminerende ejendomspraksis, som forsøgte at styre hans forældre i New Jersey og andre sorte par væk fra visse amerikanske kvarterer i slutningen af ​​1960'erne. Denne gang, han sagde, det er sværere at opdage og kæmpe.

Det lovforslag, han og Wyden har fremlagt, ville sætte Federal Trade Commission i stand til at fastsætte og håndhæve nye regler for virksomheder for at kontrollere, om de er korrekte, bias og potentielle fortroligheds- eller sikkerhedsproblemer i deres automatiserede systemer, og rette dem, hvis der findes problemer. Det undtager mindre virksomheder, der tjener mindre end $ 50 millioner om året, medmindre de er datamæglere med oplysninger om mindst 1 million forbrugere.

New York Demokratiske Rep. Yvette Clarke, der fremlægger en ledsagerregning i huset, sagde, at målet er at løse problemer, ikke bare for at vurdere dem. Hun sagde, at det giver mening at give FTC myndighed til regelmæssigt at overvåge, hvordan disse systemer fungerer, fordi det "har fingeren på pulsen på, hvad der sker med forbrugerne."

© 2019 Associated Press. Alle rettigheder forbeholdes.