Apples medstifter siger, at Goldmans Apple Card algo diskriminerer

Apple Inc. og Goldman Sachs Group Inc., to af de mest genkendelige virksomheder inden for teknologi og finansiering, er fanget i en voksende debat om, hvorvidt långivere utilsigtet diskriminerer, når de bruger komplekse modeller til at bestemme, hvordan amerikanere låner penge.

På lørdag, Bloomberg rapporterede, at en Wall Street -regulator havde åbnet en undersøgelse af Goldmans kreditkortpraksis, efter at et viralt tweet fra en tech -iværksætter påstod, at Apple Card's algoritmer diskriminerede sin kone.

Nu opfordrer en anden højt profileret bruger af Apple Card-Apple-medstifter Steve Wozniak-til at regeringen bliver involveret, med henvisning til overdreven virksomheds afhængighed af mystisk teknologi.

"Den slags uretfærdigheder generer mig og går imod sandhedsprincippet. Vi har ikke gennemsigtighed om, hvordan disse virksomheder indretter disse ting og fungerer, "Wozniak sagde i et interview søndag." Vores regering er ikke stærk nok i reguleringsspørgsmål. Forbrugerne kan kun repræsenteres af regeringen, fordi de store virksomheder kun repræsenterer sig selv. "

Wozniak sagde, at han kan låne 10 gange så meget som sin kone på deres Apple Cards, selvom de deler bank- og andre kreditkortkonti, og at andre långivere behandler dem lige.

"Algos har tydeligvis fejl, ”Sagde Wozniak.” Et stort antal mennesker ville sige, "Vi elsker vores teknologi, men vi har ikke længere kontrol." Jeg tror, ​​at det er tilfældet. "

Virale tweets

Långivere har promoveret modellerne, fordi de skal udjævne spillereglerne blandt forskellige låntagere ved at fjerne menneskelige fejl og kun fokusere på data.

"Vores kreditbeslutninger er baseret på en kundes kreditværdighed og ikke på faktorer som køn, race, alder, seksuel orientering eller ethvert andet grundlag, der er forbudt ved lov, "sagde talsmand for Goldman, Andrew Williams, efter at New York Department of Financial Services åbnede en undersøgelse af bankens kortpraksis.

Undersøgelsen blev iværksat som reaktion på en række Twitter -indlæg fra David Heinemeier Hansson, der skyllede mod Apple -kortet for at have givet ham 20 gange den kreditgrænse, som hans kone fik. Tweets, hvoraf mange indeholder bandeord, straks vundet indpas online - og et svar på Twitter fra Wozniak.

Hansson afslørede ingen specifikke indkomstrelaterede oplysninger for parret, men sagde, at de indgav fælles selvangivelser, og at hans kone har en bedre kreditværdighed, end han gør. Wozniak sagde, at han og hans kone også indsender fælles afkast og deler kreditkort og bankkonti.

"Afdelingen foretager en undersøgelse for at afgøre, om loven i New York er overtrådt og sikre, at alle forbrugere behandles ens uanset køn, "sagde en talsmand for Linda Lacewell, forstander for NY DFS. "Enhver algoritme, der forsætligt eller ikke resulterer i diskriminerende behandling af kvinder eller andre beskyttede klasser af mennesker, overtræder New York -loven."

Det er den anden sådan handling i de seneste uger fra regulatoren, som åbnede en sonde mod sundhedsgiganten UnitedHealth Group Inc. efter en undersøgelse fandt en algoritme favoriseret hvide patienter frem for sorte patienter.

"Nye teknologier kan ikke efterlade visse forbrugere eller forankre diskrimination, "Lacewell sagde i en erklæring søndag. Hun anmodede også om klager fra forurettede forbrugere på Twitter.

Traditionelle långivere øger deres brug af maskiner til at bestemme, hvem der får, hvor meget kredit som en del af en strategi for at reducere omkostninger og øge låneansøgninger. I mellemtiden, teknologivirksomheder bevæger sig ind på finansservicesektorens græsbane, med virksomheder som Amazon, Æble, Facebook og Google truer bankernes lukrative forretningslinjer ved at tilbyde lån og betalingsmuligheder.

Kongressens undersøgelse

Algoritmerne har trukket kontrol i kongressen. I juni, House Financial Services Committee hørte om eksempler på algoritmisk beslutningstagning, hvor forskere har fundet tilfælde af bias rettet mod bestemte grupper, selvom der ikke var hensigt om at diskriminere.

Nogle lovgivere kræver allerede et føderalt svar. Senator Elizabeth Warren, en Massachusetts -demokrat og en kandidat til at udfordre præsident Donald Trump ved valget i 2020, fortalte føderale tilsynsmyndigheder i juni, at regeringen "bliver nødt til at tage skridt til at sikre, at love mod diskrimination holder trit med innovation."

For Goldman, dens voksende ambitioner for Main Street bringer øget kontrol og et nyt sæt udfordringer, det ikke tidligere har stået over for. Apple Card er et joint venture mellem Apple og den bank i New York, som er ansvarlig for alle kreditbeslutninger på kortet. Det blev rullet ud tidligere på året - tech -giganten markedsfører det som "skabt af Apple, ikke en bank " - og ledere i begge virksomheder hyldede det som den mest succesrige lancering nogensinde.

Hansson sagde, at Goldman ikke behandler utilsigtet skævhed seriøst.

"Så snart dette blev et PR -spørgsmål, de stødte straks hendes kreditgrænse uden at bede om yderligere dokumentation, "sagde han om sin kone i et interview lørdag." Jeg tror ikke på, at der var en uærlig person, der ville diskriminere. Men det gør ikke noget. Hvordan ved du, at der ikke er et problem med maskinlæring, når ingen kan forklare, hvordan denne beslutning blev truffet? "

© 2019 Bloomberg News
Distribueret af Tribune Content Agency, LLC.