Kom med teknologiforbud

I midten af ​​juli 2019, Oakland, Californien, blev den tredje amerikanske by til at forbyde kommunale afdelinger at bruge ansigtsgenkendelsesteknologi. I mellemtiden Kongressen indledte høringer om, hvorvidt og hvordan man kan regulere det på nationalt plan. I et overraskende øjeblik med bipartisk konsensus, det eneste lovgivere kæmpede om var, hvor omfattende restriktioner burde være.

Dette svar på en kraftfuld, potentielt invasiv teknologi er et tegn på, hvordan offentligheden og politiske beslutningstagere kan reagere på fremtidige teknologiske udviklinger – især dem, der bruger kunstig intelligens. Ikke kun gør ansigtsgenkendelse det muligt for Facebook at automatisere tagging af mennesker på billeder, men det øger også retshåndhævelsens evne til at opspore mistænkte for kriminalitet. Der er masser af etiske spørgsmål. Som Georgetown's Center for Privacy and Technology udtrykte det, ansigtsgenkendelse kan føre til "en verden, hvor, når du sætter din fod udenfor, regeringen kan spore alle dine bevægelser." Og det er kun begyndelsen.

I horisonten er en strøm af digitale innovationer, der kunne være mindst lige så kraftfulde, vidtrækkende og kontroversielle:"deepfake" videoer, der viser folk, der gør ting, de aldrig har gjort, "tingenes internet", der konstant overvåger private hjem, manipulerende virtuel virkelighed, selvkørende biler overvældende samfund og mere.

Jeg er en forsker, der studerer digital teknologis samfundsmæssige virkninger, og det er mit job at holde mig orienteret om kommende teknologier og projektere fremtidige resultater. Men, med mere og mere innovation, der er mindre og mindre tid til at reflektere over konsekvenserne. Mange af mine kolleger føler det samme.

For at tæmme denne brusende tidevand, samfundet har brug for dæmninger og diger. Ligesom det er begyndt at ske med ansigtsgenkendelse, det er på tide at overveje lovlige forbud og moratorier for andre nye teknologier. Disse behøver ikke at være permanente eller absolutte, men innovation er ikke et ubetinget gode. Jo mere kraftfuld en teknologi er, jo mere pleje kræver det for at fungere sikkert.

Lidt hastende

Der er ikke et presserende behov for de fleste nye digitale teknologier. Nogle innovationer, selvfølgelig, er næsten fuldstændig positive:anæstesi, elektrisk lys, radio, vacciner. Men nutidens samfund fejrer ofte innovation for sin egen skyld, selv når fordelene er tvivlsomme – og flere og flere, fordelene er faktisk tvivlsomme.

Er det virkelig et overfyldt værd, summende himmel fyldt med droner for at få en times levering af forbrugsvarer, i stedet for levering inden for 24 timer, eller endda to dage? Er virtual reality så stor, at børn bør, effektivt, vokse op med øjnene klistret til videoskærme? Når regeringer kan udføre svære at spore attentater med drone, er nogen virkelig sikker? Scanning af lister over mulige fremtidige teknologier kan vække mere frygt end håb.

Disse former for innovationer formår gentagne gange ikke at levere overordnede forbedringer på virkelig meningsfulde måder, som hvor højt folk elsker hinanden, hvor medfølende mennesker bekymrer sig, hvor godt samfundet støtter de mindre privilegerede, eller hvor klogt mennesker styrer planeten. Hvis noget, teknologien ser ud til at forstærke menneskers moralske svagheder ved at forvirre mennesker med forbrugerkomfort og ekkokamre. Det sidste halve århundrede har oplevet en guldalder for digital innovation, alligevel er fattigdomsraten stagneret, uligheden er steget kraftigt, og bæredygtighed synes længere ude af rækkevidde.

De fleste af de teknologiske fremskridt i værkerne i dag vil ikke løse disse problemer; de vil tackle mindre irritationer, som der simpelthen ikke er travlt med at lindre.

Skader næsten sikkert, men uklart

Nye teknologier har altid utilsigtede konsekvenser – ofte negative – og innovatører undervurderer altid, hvor dårlige de vil være. Pesticider har forårsaget folkesundhed. Plastflasker har forurenet havene. Smartphones bidrager til en psykisk krise i teenageårene.

Overvej, hvad et kunstig intelligens-system kan gøre, hvis det bliver bedt om at gøre noget indlysende – som at maksimere profitten, bruge alle de oplysninger og værktøjer, den råder over. Det kan indeholde pinlige personlige oplysninger til løsesum for at tvinge brugere til at købe varer, eller afpresse kriminelle handlinger fra mennesker med mørkere hemmeligheder.

Intet har endnu stoppet netbutikkernes algoritmer fra at lyve for at øge salget, og begrænsede heller ikke Facebooks faktiske evne til at manipulere brugernes humør. Tekniske virksomheder behandler rutinemæssigt deres kunder som eksperimentelle marsvin, og anvender allerede kunstige intelligenssystemer til en række formål.

Hvis det kun er de kendte virkninger af teknologivirksomheder; bestræbelser og innovationer, forestille sig, hvilke utilsigtede konsekvenser der kan lure. Forudsætningen for det populære spil "Universal Paperclips" er, at en AI med fokus på at optimere en virksomhed ender med at ødelægge det kendte univers. Science fiction er hurtigt ved at blive science fact.

Svært at gå baglæns

Når først sluppet løs, digitale teknologier er særligt vanskelige genier at lægge tilbage i flasken. I denne henseende, de adskiller sig fra andre avancerede teknologier. Kort efter anden verdenskrig, aktivister begyndte at opfordre til forbud mod atomvåben, kulminerende med ikke-spredningstraktaten i 1970. Traktaten har været effektiv til at holde en 80 år gammel teknologi begrænset til kun otte eller ni lande – det er en imponerende bedrift, især på tværs af global politiks forrevne historie.

Atom våben, imidlertid, kræver betydelige ressourcer til at designe, bygge, test og implementer. Derimod, digitale teknologier er lette at dele, gør dem endnu sværere at kontrollere. Avancerede hackingsværktøjer er blevet stjålet og delt online:Teknikker udviklet af U.S.National Security Agency er blevet brugt i globale cyberangreb af Kina, Rusland og Nordkorea. Deres software er nu tilgængelig for alle med en internetforbindelse.

En magtubalance

Teknologivirksomheder, der presser deres fremskridt, har penge, indflydelse og tid på deres side. De millioner af lobby-dollar, de bruger, er lommepenge sammenlignet med deres overskud på flere milliarder dollars, og de kan holde finansieringen i gang i det uendelige, afventer nyhedscyklusser og aktivistisk energi.

Efter min mening, usikkerhed om, hvordan nye teknologier vil påvirke samfundet overordnet betyder, at skeptiske kræfter fortjener mere støtte. Forbud og moratorier ville betyde, at rige, magtfulde enheder skulle søge juridisk og samfundsmæssig tilladelse, før de frigjorde deres potentielle monstre på markedet. Det virker ikke som for meget at forlange.

Der er mange grunde til at fortsætte med at bygge nye teknologier - for at forblive globalt konkurrencedygtige, at fremme menneskelig viden og forberede sig på potentielle fremtidige kriser. Teknologi har sine fordele. Men at bremse tempoet i dets fremskridt ville give samfundet mere tid til at tænke over konsekvenserne og debattere, hvilke aspekter af nye teknologier der er ønskelige, og som burde forbydes.

Denne artikel er genudgivet fra The Conversation under en Creative Commons -licens. Læs den originale artikel.