Et kup des gens er i gang - og levede i stigende grad under algoritmens regime

Jeg deltog for nylig i et stort fakultetsmøde for at diskutere kandidatstuderendes evaluering, rekruttering og fastholdelse.

"Lad dataene drive dine mål, "gentog en af ​​talerne, mantra-lignende-med ægte entusiasme og overbevisning-og jeg kunne ikke lade være med at græde.

Sloganet virkede på mig som symptomatisk for, hvad socialpsykolog Shoshana Zuboff har kaldt et "kup des gens".

Hvis et statskup betegner ulovlig udskiftning af et politisk system med et andet, et coup des gens - "gens", der betyder "folk" på fransk - er kendetegnet ved tvungen udskiftning af mennesker med abstrakte informationssystemer.

I min seneste bog, "Terminal -selvet, "Jeg viser, hvordan vi i stigende grad tvinges til at interagere med computerteknologi i alle aspekter af vores daglige liv. Blandt mange andre effekter, denne tvungne interaktion tvinger os til at synkronisere vores kognitive funktioner til computerens logik og fodre den med endeløse datastrømme, gør os modne til konstant overvågning og udnyttelse.

Håndtering af strømmen af ​​'den nye olie'

Data bruges nu af virksomheder til at hjælpe dem med at evaluere, rang, vælge eller afvise potentielle kunder. Det kan bruges til at måle medicinsk risiko, kreditværdighed, psykologisk sundhed, arbejdspræstation, forbrugsvaner, mad præferencer, stemninger, dating præferencer og politiske synspunkter.

Som den europæiske forbrugerkommissær Meglena Kuneva udtrykte det, "personlige data er internetets nye olie og den nye valuta i den digitale verden."

Den høje værdi, der lægges på data, har indvarslet, hvad den franske sociolog Paul Virilio kalder en "informationsfundamentalisme" - en ideologi, der ophøjer digital information som den ultimative gode og øverste magt, som alle må overgive deres vilje til, tid og sund fornuft.

For at fungere effektivt, de fleste institutioner skal intelligent styre disse svulmende datastrømme. Imidlertid, den teknologiske kapacitet til at håndtere store datamængder fører ikke nødvendigvis til intelligent analyse.

Tværtimod, bemærker mediefaglærer Mark Andrejevic, "Vi er blevet intelligensanalytikere, der sorterer flere data, end vi kan absorbere." Enkeltpersoner har simpelthen ikke hjernekraft til at sile gennem de konstant voksende informationsstrømme, de skal bearbejde og mine for at træffe intelligente beslutninger.

En stigende del af vores daglige liv kræver ikke bare at behandle "informationsbomberne"-e-mails, Beskeder, nyheder og meddelelser - der tilfældigt detonerer i vores daglige liv. Det kræver også, at vi konstant indtaster information i systemet.

Tænk på det stigende antal vidensarbejdere og fagfolk inden for forskellige sektorer af økonomien, der i det væsentlige er blevet dataindtastningsassistenter. Deres job består primært i at fodre altid mere information til en stadig mere hungrig digital organisme, af grunde, der virker indlysende, men som sjældent stilles spørgsmålstegn ved.

Vi ser det i data på granulatniveau, der forventes, at mange folkeskolelærere nu kommer ind på alle aspekter af deres elevers læring. Vi ser det i det uendelige, og ofte mangelfuld, undersøgelser fagfolk fra alle striber bliver bedt om at fuldføre deres daglige opgaver, fremskridt og "tilfredshed".

Dette tankevækkende dataindtastningsarbejde skræmmer vidensarbejdere, fremmedgør dem og forråder en tragisk dårlig forvaltning af menneskelig kapital.

Den digitale trojanske hest

Hvis pligten til at indtaste oplysninger åbent håndhæves på arbejdspladsen, det er skjult fremkaldt derhjemme. Når vi roligt surfer på internettet, rådgivning af websteder, ved at klikke på links eller dele vores billeder, politik og præferencer, vi producerer også - ufrivilligt og ubevidst - gigantiske mængder information. Usynlige andre høster derefter grådigt, butik, organisere og sælge disse data med henblik på social kontrol, overtalelse og adfærdsændring.

"På Google, du er hvad du klikker på. På Facebook, du er hvad du deler, "skriver Upworthy CEO Eli Pariser.

Denne udtrækning af digital information kan påvirke virkelige menneskeliv. I sin omfattende analyse af virksomhedernes overvågning i hverdagen, digital kulturforsker Wolfe Christl advarer om, at dataminingfirmaer bruger personlige data til automatisk at træffe beslutninger om mennesker, der kan forværre eksisterende uligheder.

For eksempel, Christl viser, hvordan sundhedsanalytiske virksomheder som GNS Healthcare indsamler enorme mængder data fra genomics, medicinske journaler, laboratoriedata og mobile sundhedsenheder til at give oplysninger om brugere til sundhedsforsikringsselskaber. Disse virksomheder kan derefter i betydelig grad manipulere udgifterne til sygesikring for forskellige kategorier af ansøgere.

Tilsvarende han påpeger, at data indsamlet om nogens følelsesmæssige stabilitet, lykke og sandsynlighed for at få en baby kan påvirke, om de bliver ansat, beholdt eller forfremmet.

Med algoritmer, der i stigende grad fortrænger mennesker i denne form for beslutningstagning, borgernes skæbne bestemmes i stigende grad af informationssystemer. Som Zuboff forklarer, det er en tendens, der reducerer mennesker til kilder til dataudtrækning og mål for udnyttelse.

Det mest forvirrende aspekt af denne situation er ikke selve overvågningskapaciteten, så skræmmende som de er. Det er vores stiltiende underkastelse af et regime med konstant og fjernovervågning, der - undtagen i spionfilm eller paranoide vrangforestillinger - ville have været betragtet som latterligt for et par årtier siden.

Mere bekymrende, i et interview fra 2017 om "60 minutter, "tidligere Google marketingchef Tristan Harris forklarede de lumske motiver til dataopsamling:Tekniske virksomheder forsøger ikke bare at finde oplysninger om brugere til at sælge det til virksomheder, der ønsker at skubbe varer. De konkurrerer om at skabe den bedste" hjernehacking "programmer, der indsamler de mest nøjagtige oplysninger om, hvad der får brugerne til at krydsse følelsesmæssigt, og hvad der griber deres opmærksomhed.

Målet er at manipulere brugernes følelsesmæssige reaktioner - eksternt og på neuralt niveau. I de forkerte hænder, denne form for manipulation kan bruges ikke kun til at sælge ting til mennesker, men også at påvirke deres politiske beslutninger. Ifølge statsforsker Collin Bennett, dette projekt er godt i gang.

Adgang nægtet

For at tilføre fornærmelse mod skade, det er næsten umuligt for brugerne at opdage, hvilke oplysninger om dem der indsamles, hvem samler det og hvad gør de med det.

Hvert stryg på en smartphone -skærm og hver besked, der er skrevet, registreres som "signaler", der hjælper med at få indsigt i en brugers personlighed, interesser, humør og økonomisk sundhed. Kreditresultaterne for en brugers Facebook-venner kan endda bruges til at beregne deres egen kreditværdighed. På grund af den fuldstændige anonymitet hos de agenturer, der indsamler og bruger disse data, det er urealistisk at håbe, at man kunne rette - og afværge konsekvenserne af - de fejl, der uundgåeligt opstår i nogens "profil".

Det er foruroligende at føle sig ensidig overvåget, magtesløs og uinformeret. Ifølge en undersøgelse, dem, der indser, at deres privatliv er blevet afsløret uden deres samtykke, oplever "følelsesmæssige, psykoanalytiske og kropslige reaktioner, som undertiden er stultificerende dybtgående. "

Men denne overvågning er også en form for udnyttelse.

Trods alt, det er os, der producerer disse oplysninger. Vi ofrer i stigende grad vores tid til at læse retningslinjer for websteder, se instruktionsvideoer, udfylde digitale formularer, videregive oplysninger, opretholde digitale sociale netværk og generere værdifuld information om os selv, som andre kan bruge.

Skulle de, der genererer denne værdi, ikke have mere kontrol over betingelserne for dens produktion, salg, formidling og brug? Og hvis denne ret ikke kan tildeles på grund af uløselige teknologiske vanskeligheder, burde det samme niveau af gennemsigtighed ikke pålægges dem, der indsamler, sælge og bruge det?

Algoritmens regime

Den voksende afhængighed af information, normalisering af overvågning og den stigende brug af informationssystemer til at træffe vigtige beslutninger om borgernes liv udgør et "kup des gens".

Imidlertid, demokrati kræver privatliv, og frihed indebærer beskyttelse mod invasion, hvad enten det er fysisk eller digitalt. I sin berømte afhandling om det fjerde ændringsforslag, Højesteretsdommer Brandeis hævdede, at "retten til at lade være alene" er "den ret, der værdsættes mest af civiliserede mænd" og er "grundlæggende for et frit og civilt samfund."

Voksne borgere i et demokratisk samfund bør have ret til at bestemme, hvilken slags information der indsamles om dem, hvem kan bruge disse oplysninger, og hvordan de kan bruge dem. De bør have ret til at kontrollere, at disse oplysninger er korrekte og, når det ikke er, at rette det. De burde have ret - og ansvaret - til at sætte spørgsmålstegn ved denne bulimiske afhængighed af data og dets endelige formål.

Som Dave Eggers skriver i sin roman "The Circle, "" Den uophørlige jagt på data for at kvantificere værdien af ​​enhver indsats er katastrofal for sand forståelse. "

Denne artikel er genudgivet fra The Conversation under en Creative Commons -licens. Læs den originale artikel.