Indledte 2018 en snigende teknologisk dystopi?

Vi husker måske 2018 som året, hvor teknologiens dystopiske potentiale blev klart, fra Facebooks rolle, der muliggør indsamling af vores personlige data til valgindblanding, til en tilsyneladende uendelig række af afsløringer om den mørke side af Silicon Valleys etos "connect-everything".

Listen er lang:Højteknologiske værktøjer til immigrationsreaktioner. Frygt for smartphone-afhængighed. YouTube-algoritmer, der styrer unge ind i ekstremisme. Et eksperiment med genredigerede babyer.

Dørklokker og koncertsteder, der kan lokalisere individuelle ansigter og alarmere politiet. Genbrug af slægtsforskningswebsteder til at jage efter mistænkte for kriminalitet baseret på en pårørendes DNA. Automatiserede systemer, der holder øje med arbejdernes bevægelser og vaner. Elbiler i Shanghai sender alle deres bevægelser til regeringen.

Det har været nok til at udmatte selv de mest fantasifulde sci-fi-visionærer.

"Det føles ikke så meget, som om vi lever i fremtiden nu, som at vi lever i en retro-fremtid, " skrev romanforfatteren William Gibson denne måned på Twitter. "En mørk, fjollet retro-fremtid fra 90'erne."

Mere venter os i 2019, efterhånden som indsatsen for overvågning og dataindsamling øges, og kunstige intelligenssystemer begynder at lyde mere menneskelige, at læse ansigtsudtryk og generere falske videobilleder så realistiske, at det bliver sværere at opdage ondsindede fordrejninger af sandheden.

Men der er også modforanstaltninger på vej i Kongressen og delstatsregeringen – og endda blandt ansatte i teknologivirksomheder, der er mere aktive for at sikre, at deres arbejde bliver sat til en positiv ende.

"Noget, der var opmuntrende i år, var, at der ledsagede denne parade af skandaler var en voksende offentlig bevidsthed om, at der er en ansvarlighedskrise i teknologien, " sagde Meredith Whittaker, en medstifter af New York Universitys AI Now Institute for at studere de sociale implikationer af kunstig intelligens.

Gruppen har samlet en lang liste over, hvad der gjorde 2018 så ildevarslende, selvom mange er eksempler på, at offentligheden simpelthen er blevet nybevidst om problemer, der har bygget sig op i årevis. Blandt de mest bekymrende sager var afsløringen i marts om, at det politiske dataminefirma Cambridge Analytica fejede personlige oplysninger op om millioner af Facebook-brugere med det formål at manipulere nationale valg.

"Det hjalp virkelig med at vække folk til det faktum, at disse systemer faktisk rører ved kernen af ​​vores liv og former vores sociale institutioner, " sagde Whittaker.

Det var oven på andre Facebook-katastrofer, herunder dets rolle i at opmuntre til vold i Myanmar, større databrud og igangværende bekymringer om dets hosting af falske konti til russisk propaganda.

Det var ikke kun Facebook. Google tiltrak bekymring over sin kontinuerlige overvågning af brugere, efter at The Associated Press rapporterede, at det sporede folks bevægelser, uanset om de kan lide det eller ej.

Det stod også over for intern uenighed om sit samarbejde med det amerikanske militær om at skabe droner med "computervision" for at hjælpe med at finde slagmarksmål og et hemmeligt forslag om at starte en censureret søgemaskine i Kina. Og den afslørede en bemærkelsesværdig menneskelignende stemmeassistent, der lyder så ægte, at folk i den anden ende af telefonen ikke vidste, at de talte til en computer.

Disse og andre bekymringer boblede op i december, da lovgiverne grillede Googles administrerende direktør Sundar Pichai ved en kongreshøring - en efterfølger til lignende offentlige regnskaber i år med Facebooks administrerende direktør Mark Zuckerberg og andre tech-chefer.

"Det var nødvendigt at indkalde til denne høring på grund af den voksende mistillid mellem teknologivirksomheder og det amerikanske folk, " sagde det republikanske husflertalsleder Kevin McCarthy.

Internet-pioneren Vint Cerf sagde, at han og andre ingeniører aldrig havde forestillet sig, at deres vision om et verdensomspændende netværk af tilsluttede computere ville forvandle sig 45 år senere til et overvågningssystem, der indsamler personlige oplysninger eller en propagandamaskine, der kunne påvirke valg.

"Vi prøvede bare at få det til at virke, " erindrede Cerf, som nu er Googles øverste internetevangelist. "Men nu hvor det er i hænderne på den brede offentlighed, der er mennesker, der ... vil have det til at virke på en måde, der åbenbart skader, eller fordele sig selv, eller forstyrrer det politiske system. Så det bliver vi nødt til at forholde os til."

I modsætning til futuristisk frygt for "superintelligente" robotter, der tager kontrol, de reelle farer ved vores teknologiske æra har sneget sig mere prosaisk ind - ofte i form af teknologiske innovationer, vi hilste velkommen for at gøre livet mere bekvemt.

En del af eksperternes bekymring over springet til at forbinde enhver hjemmeenhed til internettet og lade computere gøre vores arbejde er, at teknologien stadig er buggy og påvirket af menneskelige fejl og fordomme. Uber og Tesla blev undersøgt for fatale selvkørende bilulykker i marts, IBM kom under lup for at arbejde sammen med New Yorks politi om at bygge et ansigtsgenkendelsessystem, der kan registrere etnicitet, og Amazon tog varme for at levere sin egen mangelfulde ansigtsgenkendelsestjeneste til retshåndhævende myndigheder.

I nogle tilfælde, modstand mod teknologiindustriens hastværk med at anvende sine nyeste innovationer til tvivlsomme kommercielle formål er kommet fra dens egne ansatte. Google-medarbejdere hjalp med at forkaste virksomhedens Pentagon-dronekontrakt, og arbejdere hos Amazon, Microsoft og Salesforce forsøgte at annullere deres virksomheders kontrakter om at levere tekniske tjenester til immigrationsmyndigheder.

"Det blev tydeligt for mange mennesker, at retorikken om at gøre godt og gavne samfundet og 'Don't be evil' ikke var, hvad disse virksomheder rent faktisk levede op til, " sagde Whittaker, som også er forsker hos Google, som grundlagde sin Open Research-gruppe.

På samme tid, selv nogle titaner af teknologi har slået alarmer. Fremtrædende ingeniører og designere har i stigende grad talt om at beskytte børn mod de vanedannende teknologiske produkter, de var med til at skabe.

Og så er der Microsofts præsident Brad Smith, som i december opfordrede til at regulere ansigtsgenkendelsesteknologien, så "året 2024 ikke ligner en side" fra George Orwells "1984".

I et blogindlæg og en tale i Washington, Smith malede en dyster vision af altseende regeringsovervågningssystemer, der tvinger dissidenter til at gemme sig i mørke rum "for at trykke ind kode med håndsignaler på hinandens arme."

For at undgå et sådant orwellsk scenarie, Smith går ind for at regulere teknologien, så enhver, der er ved at udsætte sig selv for overvågning, får ordentlig besked. Men privatlivsforkæmpere hævder, at det ikke er nok.

Sådanne debatter finder allerede sted i stater som Illinois, hvor en streng lov om ansigtsgenkendelse har stået over for udfordringer i teknologibranchen, og Californien, som i 2018 vedtog landets mest vidtrækkende lov for at give forbrugerne mere kontrol over deres personlige data. Den træder i kraft i 2020.

Spørgsmålet kan finde ny opmærksomhed i Kongressen næste år, efterhånden som flere republikanere varmer op til ideen om grundlæggende online-privatlivsbestemmelser, og det kommende Demokratiske Hus flertal tager en mere skeptisk tilgang til teknologivirksomheder, som mange liberale politikere engang så som allierede - og produktive kampagnedonorer .

"Lad dem være i fred"-tilgangen fra den tidlige internet-æra virker ikke længere, sagde rep. David Cicilline, en Rhode Island-demokrat, der er klar til at overtage roret i Parlamentets antitrust-underudvalg.

"Vi ser nu nogle af konsekvenserne af de misbrug, der kan forekomme på disse platforme, hvis de forbliver uregulerede uden meningsfuldt tilsyn eller håndhævelse, " sagde Cicilline.

For meget regulering kan medføre sine egne uønskede bivirkninger, Cerf advarede.

"Det er sjovt på en måde, fordi dette online miljø skulle fjerne friktion fra vores evne til at handle, " sagde han. "Hvis i vores ønske, hvis ikke iver, for at beskytte folks privatliv kaster vi sand i gearene på alting, vi kan ende med et meget sikkert system, der ikke fungerer særlig godt."

© 2018 The Associated Press. Alle rettigheder forbeholdes.