Stor teknisk overvågning kan skade demokratiet

Data kaldes ofte det 21. århundredes olie.

Jo flere teknologivirksomheder kender til deres brugere, jo mere effektivt de kan lede dem til varer og tjenester, som de sandsynligvis vil købe. Jo flere virksomheder ved om deres brugere, jo mere konkurrencedygtige de er på markedet.

Skræddersyet kapitalisme er det, der har gjort Google, Facebook, Amazon og andre de rigeste virksomheder i verden. Dette profitincitament har gjort big tech til et konkurrencedygtigt område for indsamling af masseintelligens. Jo bedre og mere omfattende data, den højere fortjeneste vil være.

Men denne forretningsmodel - hvad jeg betragter som spionagemaskiner - har et enormt potentiale for at krænke borgerlige rettigheder. Big tech bruges allerede i udlandet til at øge styrken af ​​undertrykkende regimer, som mit arbejde og andre har vist.

Selvom det i øjeblikket ikke er en direkte trussel mod det amerikanske demokrati, Jeg er bekymret for, at potentialet for fremtidige overgreb eksisterer, så længe big tech stort set ikke er reguleret.

Big techs spionmaskiner

Aktuelle nyheder er fyldt med eksempler på datamisbrug. I april, NBC News brød en historie, der beskriver, hvordan Facebooks CEO Mark Zuckerberg havde brugt data indsamlet af platformen til at støtte sine venner og besejre sine rivaler.

Dette er ikke Facebooks første privatliv -PR mareridt. I 2018, datafirmaet Cambridge Analytica brugte en Facebook -app til at indsamle dataprofiler for over 87 millioner mennesker, som senere blev brugt til at distribuere målrettet politisk reklame under valg.

Facebook er ikke alene om dataindsamlingsboomen. I maj, det blev afsløret, at Snapchat -medarbejdere brugte appens data til at indhente placeringsdata, billeder og e -mail -adresser uden brugernes samtykke. En ny bog af den tidligere Harvard -erhvervsprofessor Shoshana Zuboff går i detaljer i praksis med det, hun kalder "overvågningskapitalisme". Zuboff skriver, "Når vi søgte på Google. Nu, Google søger efter os. "

Øvelsen går ud over nogens smag i musik eller hvad de køber på Amazon. Apps, der er skabt til at hjælpe mennesker gennem psykisk sygdom eller holde op med at ryge, sælger data til store tech -virksomheder. Disse brugere kan være potentielle mål for social stigmatisering eller målrettet reklame, der forværrer hede -problemer frem for at løse dem.

I december, det New York Times offentliggjort en redegørelse for, hvad man kan lære om nogen, der bruger deres samlede data fra apps og smartphones. Ved at blande placeringssporing med anden online adfærd, forskere var i stand til at sammensætte et detaljeret portræt af de mest intime detaljer om brugernes liv, såsom hvor deres børn går i skole, eller hvem der snydede med deres kost. De kunne endda fortælle, hvilket område af et atomkraftværk en person arbejdede i - oplysninger, der typisk er klassificeret.

På grund af disse afsløringer, data, som big tech indsamler, udgør et nationalt sikkerhedsproblem. En open source -forsker brugte data fra Strava, en fitness -app, at kortlægge amerikanske militærbaser rundt om i verden, da soldater fulgte deres løb. Vores enheder fortæller konstant virksomheder, hvor vi er, og hvad vi laver. Det er ikke altid en god ting.

For de værst tænkelige scenarier, kigge til udlandet

Big tech er en meget ureguleret sektor i økonomien. Eksisterende regler har kæmpet for at følge med i en hurtigt innovativ teknologisektor. I nogle scenarier, big tech's muligheder bliver brugt af diktatorer til at skabe en dystopisk digital virkelighed.

Autokratiske regeringer rundt om i verden er allerede begyndt at bruge ny teknologi til at krænke menneskerettighederne. Kina er et godt eksempel. Kina integrerer AI, biometriske data og online aktivitet til at spore og overvåge dissidenter og medlemmer af etniske minoritetssamfund, som derefter sendes til genopdragelseslejre.

Fra min tid har jeg undersøgt, hvordan Rusland bruger disse platforme til at true demokratiet, Jeg kender de værst tænkelige scenarier for big tech's muligheder. Fordi platformenes succes er baseret på at få information til at blive viral, det mest succesrige indhold kan også være noget af det mest splittende. Rusland mener, at ved at sprede nok falske oplysninger om de mest inflammatoriske områder i amerikansk politik, det kan så kaos i systemet. Big tech er den perfekte indgangsport til sådanne kampagner.

Hvis russiske angreb på sociale medier kombineres med AI -teknologi, informationsangreb kan blive præcisionsstyrede. Nefarious aktører kunne samle de omfattende profiler, som overvågningskapitalismen har samlet gennem årene. Falske nyheder ville så ikke længere tale til spørgsmål, men til enkeltpersoner, appellerer til, hvad der får brugeren til at skifte mening.

Hvis et monopolistisk tech -firma besluttede sig for fuldt ud at omfavne sin evne til at spionere på sine brugere og udnytte disse data til en personlig eller politisk ende, konsekvenserne for demokratiet kan være katastrofale. Amerikanerne fik en forsmag på, hvordan et indflydelsesangreb ser ud under det amerikanske præsidentvalg i 2016. Så længe big tech stort set forbliver ureguleret, fremtidige påvirkningsangreb på amerikanske valg bliver kun mere potente.

Big tech går ikke nogen steder

En løsning på overfladeniveau til dette privatlivsdilemma ville være, at folk koblede deres online liv fra disse virksomheder.

For eksempel, DuckDuckGo er en alternativ søgemaskine, der ikke udarbejder brugerdata og lover total fortrolighed. En ny browser, Modig, har lovet at betale brugerne tilbage for at sælge data til annoncører.

Imidlertid, disse produkter er ikke nær så nyttige for en afslappet internetbruger end Google. Blot at vælge ikke at bruge Google er ikke så enkelt.

Selvom der er mange forskellige virksomheder, der er tale om, de har alle næsten monopolistisk kontrol over deres hjørne af markedet. Amazon dominerer online shopping. Facebook dominerer interaktion med venner og årsager. Google dominerer webbrowsing.

Enkeltpersoner står således over for et valg:Ændrer deres livsstil radikalt, og hvordan de interagerer med verden, eller fortsat være målet for big techs spionmaskiner.

Tilsyn og regulering kan virke dramatisk og anti-vækst i øjeblikket, men jeg mener, at det er en nødvendig kontrol af big tech - før det værste af dets potentialer går i opfyldelse.

Denne artikel er genudgivet fra The Conversation under en Creative Commons -licens. Læs den originale artikel.