Hvorfor teknologi sætter menneskerettighederne i fare

Film som f.eks 2001:A Space Odyssey , Blade Runner og Terminatoren bragte useriøse robotter og computersystemer til vores biograflærreder. Men i disse dage, sådanne klassiske science fiction-briller virker ikke så fjernt fra virkeligheden.

I stigende grad, vi lever, arbejde og lege med beregningsteknologier, der er autonome og intelligente. Disse systemer omfatter software og hardware med kapacitet til uafhængig ræsonnement og beslutningstagning. De arbejder for os på fabriksgulvet; de bestemmer, om vi kan få et realkreditlån; de sporer og måler vores aktivitets- og fitnessniveau; de renser vores stuegulve og klipper vores græsplæner.

Autonome og intelligente systemer har potentialet til at påvirke næsten alle aspekter af vores sociale, økonomisk, politiske og private liv, herunder dagligdags aspekter. Meget af dette virker uskyldigt, men der er grund til bekymring. Beregningsteknologier påvirker enhver menneskerettighed, fra retten til liv til retten til privatliv, ytringsfrihed for sociale og økonomiske rettigheder. Så hvordan kan vi forsvare menneskerettighederne i et teknologisk landskab, der i stigende grad er formet af robotteknologi og kunstig intelligens (AI)?

AI og menneskerettigheder

Først, der er en reel frygt for, at øget maskinautonomi vil underminere menneskers status. Denne frygt forstærkes af en mangel på klarhed over, hvem der vil blive holdt til ansvar, hvad enten det er i juridisk eller moralsk forstand, når intelligente maskiner gør skade. Men jeg er ikke sikker på, at fokus for vores bekymring for menneskerettigheder virkelig burde ligge hos useriøse robotter, som det ser ud til i øjeblikket. Hellere, vi bør bekymre os om den menneskelige brug af robotter og kunstig intelligens og deres indsættelse i uretfærdige og ulige politiske, militær, økonomiske og sociale sammenhænge.

Denne bekymring er særlig relevant med hensyn til dødelige autonome våbensystemer (LAWS), ofte beskrevet som dræberrobotter. Når vi bevæger os mod et AI-våbenkapløb, menneskerettighedsforskere og forkæmpere som Christof Heyns, den tidligere FN -særordfører for udenretslige, summariske eller vilkårlige henrettelser, frygt for, at brugen af ​​LOVE vil sætte autonome robotsystemer til at styre beslutninger om liv og død, med begrænset eller ingen menneskelig kontrol.

AI revolutionerer også forbindelsen mellem krigsførelse og overvågningspraksis. Grupper såsom International Committee for Robot Arms Control (ICRAC) udtrykte for nylig deres modstand mod Googles deltagelse i Project Maven, et militært program, der bruger maskinlæring til at analysere droneovervågningsoptagelser, som kan bruges til udenretslige drab. ICRAC appellerede til Google om at sikre, at de data, den indsamler om sine brugere, aldrig bliver brugt til militære formål, deltage i protester fra Google-medarbejdere over virksomhedens involvering i projektet. Google meddelte for nylig, at det ikke vil forny sin kontrakt.

I 2013 omfanget af overvågningspraksis blev fremhævet af Edward Snowden-afsløringerne. Disse lærte os meget om truslen mod retten til privatliv og deling af data mellem efterretningstjenester, offentlige myndigheder og private virksomheder. Den seneste kontrovers omkring Cambridge Analyticas indsamling af personoplysninger via brug af sociale medieplatforme som Facebook fortsætter med at forårsage alvorlig bekymring, denne gang over manipulation og indblanding i demokratiske valg, der skader retten til ytringsfrihed.

I mellemtiden kritiske dataanalytikere udfordrer diskriminerende praksis forbundet med det, de kalder AI's "white guy problem". Dette er bekymringen for, at AI-systemer trænet på eksisterende data replikerer eksisterende race- og kønsstereotyper, der fastholder diskriminerende praksis inden for områder som politiarbejde, retsafgørelser eller ansættelse.

Tvetydige bots

Den potentielle trussel fra computerteknologier mod menneskerettigheder og fysiske, politisk og digital sikkerhed blev fremhævet i en nylig offentliggjort undersøgelse om The Malicious Use of Artificial Intelligence. De bekymringer, der er udtrykt i denne rapport fra University of Cambridge, skal tages alvorligt. Men hvordan skal vi håndtere disse trusler? Er menneskerettighederne klar til robotteknologiens og kunstig intelligensens æra?

Der er løbende bestræbelser på at opdatere eksisterende menneskerettighedsprincipper for denne æra. Disse omfatter FN's ramme- og vejledende principper for erhvervslivet og menneskerettigheder, forsøger at skrive en Magna Carta for den digitale tidsalder og Future of Life Institute's Asilomar AI-principper, som identificerer retningslinjer for etisk forskning, overholdelse af værdier og en forpligtelse til den langsigtede gavnlige udvikling af AI.

Disse bestræbelser er prisværdige, men ikke tilstrækkelige. Regeringer og offentlige myndigheder, politiske partier og private virksomheder, især de førende teknologivirksomheder, skal forpligte sig til den etiske anvendelse af kunstig intelligens. Vi har også brug for effektiv og håndhæver lovgivningsmæssig kontrol.

Uanset hvilke nye tiltag vi indfører, det er vigtigt at erkende, at vores liv i stigende grad er viklet sammen med autonome maskiner og intelligente systemer. Denne sammenfiltring forbedrer menneskers velvære inden for områder som medicinsk forskning og behandling, i vores transportsystem, i sociale plejemiljøer og i bestræbelserne på at beskytte miljøet.

Men på andre områder giver denne sammenfiltring bekymrende udsigter. Beregningsteknologier bruges til at se og spore vores handlinger og adfærd, spore vores trin, vores placering, vores helbred, vores smag og vores venskaber. Disse systemer former menneskelig adfærd og skubber os i retning af selvovervågningspraksis, der indskrænker vores frihed og underminerer ideerne og idealerne om menneskerettigheder.

Og heri ligger kernen:kapaciteten til dobbelt brug af beregningsteknologier udvisker grænsen mellem gavnlig og ondsindet praksis. Hvad mere er, computingsteknologier er dybt impliceret i de ulige magtforhold mellem individuelle borgere, staten og dens agenturer, og private virksomheder. Hvis det er uafhængigt af effektive nationale og internationale systemer for kontrol og balance, de udgør en reel og bekymrende trussel mod vores menneskerettigheder.

Denne artikel blev oprindeligt publiceret på The Conversation. Læs den originale artikel.