DuckDuckGos Gabe Weinberg om, hvordan store internetvirksomheder tramper vores privatliv online

DuckDuckGo -grundlægger Gabriel Weinberg er blandt de digitale profeter, der advarer os om, hvordan Google, Goliath han har udfordret i 10 år med sin Paoli-baserede ikke-sporende søgemaskine, og andre giganter af information klemmer personligt privatliv og uafhængigt indhold:"Hvis folk indtager alle spørgerens ting gratis på Facebook eller Google, det er et tabende forslag for dig. "

Se, hvad der er sket med FunnyOrDie.com, han sagde, som "lige har annonceret fyringer for halvdelen af ​​personalet. Facebook har taget deres indhold og, med det, deres publikum, tvinger dem til at betale for at placere deres egne nye videoer. Og de bliver ved med at øge prisen; det er uoverkommeligt dyrt. Dit indhold bliver viralt, og du tjener ingen penge."

Men klager ikke over, at internettet er en enhed til at berige techmoguler på offentlig regning som at gøre indsigelse mod fremskridt? Er internetalgoritmerne ikke, der fortæller os, hvilke YouTube-videoer vi skal se, hvilke gamle klassekammerater skal venner på Facebook, og hvilke berømtheder bærer køligere tøj på Instragram, baseret på matematik, demografi og logik?

Det er værre end "skrald i, skrald ud, " siger Weinberg. Han fortæller, hvordan nogle af hans helte - undersøgende journalister, arbejder for gamle og nye nyhedsorganisationer-har fundet "betydelig skævhed i algoritmerne."

Se Kashmir Hills arbejde for Gizmodo - hendes fjernelse af "Internet of Things, "som viser, hvordan virksomheder indsamler og fortolker dine data fra enheder og tjenester, du betaler for, i "The House that Spied on Me"; og hvordan Google bruger sin magt til at ophæve ideer, den ikke kan lide.

Regeringen er ikke klar til at beskytte os, Weinberg siger:Kongressen tillod, at det gamle forbud mod, at din internetudbyder sælger din browserhistorik, udløb sidste år. Så Verizon, Comcast og andre "ISP'er kan nu indsamle og sælge dine data, hvor du besøger. Meget af det viser sig at være ukrypteret. Hulu-shows er blevet ukrypteret." Dine præferencer er nemmere at spore, liste og sælge.

Så det er ekstra bekymrende, hvordan selv offentlige myndigheder sætter personlige data i arbejde, uanset nøjagtigheden og privatlivets fred.

Sådan fungerer det:IT-entreprenører/konsulenter kommer ind til offentlige myndigheder "og siger, 'Dit gamle system er ikke godt. Vi laver en bedre til dig, " siger Weinberg. "Algoritmerne er ofte ikke komplicerede. Men de kan stadig være iboende forudindtaget. Og hver gang er der utilsigtede konsekvenser."

Er offentlige ansøgninger om personoplysninger ikke offentlige? Nej:"Fordi de får algoritmen fra en virksomhed, det er 'proprietært'. Men der er et argument for, at de skal gøres tilgængelige for offentligheden, under gennemsigtighedslovgivningen. Så nyhedsorganisationer og pro bono -advokater sagsøger for at få algoritmerne, " fortalte Weinberg mig.

Eller bureauet vil retfærdiggøre en kostbar ny ansøgning om behandling af persondata, ordsprog, "'Dette er kunstig intelligens'." Som om det alene er en grund til at bruge det nye værktøj. Men det er et værktøj, som nogen har sat sammen ved hjælp af begrænset information, sandsynligvis i hemmelighed, med utilsigtede, men betydelige konsekvenser, stille nogle mennesker dårligere, og skæve resultater. Dette bør være offentligt. "Når du hører om det, du burde sige til dig selv, "Måske kan jeg få det afsløret!" "

Weinberg beundrer, hvordan nonprofitorganisationen ProPublica brugte lovanmodninger om informationsfrihed (også kendt som ret til at vide) for at vise, hvordan dommere i New York State "købte en algoritme til at hjælpe med forslag til strafudmåling", som havde den virkning at koncentrere den opfattede bias, i stedet for at gøre strafudmålingen lidenskabsløs. Weinberg siger, at offentlige finansieringsprogrammer, der bruger lignende algoritmer, på samme måde kan forankre kvarterernes økonomiske karakter. (For mere om, hvordan dårlig datavidenskab gør dårlig offentlig politik, Weinberg anbefaler Cathy O'Neils bog "Weapons of Math Destruction.")

Jeg spurgte om NeoGov, det digitale ansættelsessystem, som Pennsylvania og 25 andre stater formodes at bruge til at erstatte det gamle system med statslige jobeksamener. "Det lyder meget værd at tjekke for utilsigtet bias, "Siger Weinberg.

Eller overvej den politiske virkning af YouTube:"Dets mål er at få brugere til at blive ved med at se 'relaterede' videoer. Disse har tendens til at være ekstreme, og skandaløst og for at skubbe seerne mod ekstremt oprørende positioner. Selv hvis det ikke er meningen." Som Wired bemærker her. Se også den nylige Guardian-artikel med tidligere Google-ingeniør Guillame Cashlots observationer om "hvordan YouTubes algoritme forvrænger sandheden."

Hvordan slapper vi af på sociale medier for at finde det, den gamle fremtidsforsker Vance Packard kaldte "skjulte overtalere" og Columbia Law-professor Tim Wu kalder Attention Merchants? "Julia Angwin var banebrydende inden for dette journalistikområde, "fra Wall Street Journal og videre til ProPublica, siger Weinberg. (Se Angwins undersøgelse, der sporer Googles informationsindsamling under Chrome-browserens formodede inkognitotilstand.)

Se også Angwins arbejde for Wall Street Journal, hjulpet af Weinberg, der har givet tilskud til journalister til at hyre programmeringshjælp. "Vi fandt en masse 'skræddersy', der skete i inkognitosøgninger, omkring emner, herunder våbenkontrol, abort, klima forandring. Der var 'magiske søgeord', der ville tilføje yderligere nyhedsartikler, som Google sagde, du 'tidligere søgte efter'.

"Det viste sig, at 'Obama' var et magisk nøgleord, og 'Romney' var det ikke. Der var millioner af ekstra Romney-ideer og -genstande. Det var det omvendte af, hvad der skete i Trump/Clinton-valget, "da Trump-videoer fik meget mere opmærksomhed end Clinton-videoer, fordi de var dristigere og tiltrak flere seere, sikre, at flere Trump-videoer blev serveret til seerne. "Utilsigtet? Men effektiv."

Angwin viste også, hvordan "Amazon promoverede deres egne produkter frem for andre, selvom prisen ikke er lavere." Se også hendes ProPublica-serie om "machine bias." Angwins rapportering, Weinberg siger, "har sat gang i mere af dette i andre organisationer." Lignende metoder kan/har været brugt til at vise, for eksempel, hvad der ligner racemæssig skævhed i forsikringer citeret online. "Der er også denne idé om at opkræve folk forskellige priser baseret på deres data eller placering." Hvilke baser gør bilforsikringer, rejsesider, banker og detailhandlere bruger til at citere nogle læsere højere priser, nogle lavere? Er det noget så groft som et postnummer, lige så spinkel som en besøgshistorie på et indkøbssted?

Det er filterboblen, som den venstreorienterede web-watcher Eli Pariser kaldte fænomenet i sin bog fra 2011. "Det er ikke afbalanceret, " siger Weinberg. "Du kan anvende dette på Netflix, Twitter, Youtube, Facebook, i forhold til den individualiserede filterboble og hvad de generelt promoverer. Undersøg søgeresultater. Sammenlign brugere på forskellige steder og i forskellige situationer. Spørg:Falder søgeresultaterne, ikke retfærdigt, på tværs af politiske og racemæssige linjer?"

Det kræver arbejde, men det er ikke kompliceret, tilføjer Weinberg. "Det er gentagelige undersøgelser. Den tekniske side af dette er ikke for kompliceret. Når du læser en, kontrollere de offentliggjorte metoder. De laver en 'automatiseret crawl'. En undergraduate praktikant kunne køre tallene, enhver programmør. Måske vil de foregive, at de er forbrugere, der udfylder et online ansøgningsskema, og få tilbud."

Jeg bemærkede, hvordan professionelle nyhedsorganisationer typisk forhindrer journalister i at lyve om deres identitet. Men, "hvad er der galt med at teste forskellige potentielle boliger eller indkomster?" spurgte han.

"Nogen kan altid få dataene. Den sværeste del er at analysere dataene og sikre, at du ikke drager en falsk konklusion. Når du først ved, hvad du leder efter, det er ikke så svært. Der er mange værktøjer til rådighed. Det er interessant, det er vigtigt, at gentage undersøgelser; det er ligesom videnskab, det kan anvendes på mange områder." Det, der virker ved at analysere Amazon, vil fungere med din lokale forhandler, også. Og med store finansielle virksomheder - Allstate og Nationwide, Fidelity og BlackRock, Fanatikere vs. Dick's.

Weinberg søger at sponsorere mere professionel rapportering, herunder Philly-centreret arbejde. "Jeg er interesseret i, at nogen kalder disse ting til opgaven. Jeg er interesseret i dette område, Jeg bor her. Jeg er interesseret i enhver rapportering omkring dyb analyse af, hvad teknologivirksomheder laver. Relateret til hvad vi laver (hos DuckDuckGo) eller ej. Jeg tror, ​​det er skadeligt for alle. "

© 2018 The Philadelphia Inquirer
Distribueret af Tribune Content Agency, LLC.